Assistants API (v2) – GYIK

Mi az Assistants API?

Az Assistants API lehetővé teszi a fejlesztők számára, hogy könnyedén nagy teljesítményű MI-asszisztenseket építsenek alkalmazásaikba. Ez az API megszünteti a beszélgetési előzmények kezelésének szükségességét, és hozzáférést ad az OpenAI által hosztolt eszközökhöz, mint a kódértelmező és a File Search. Az API emellett támogatja a jobb funkcióhívást külső eszközökhöz.

Továbbra is használhatom az Assistants API v1 bétát?

Nem. 2024. december 18. óta a felhasználók már nem férnek hozzá az Assistants API béta v1 verziójához. Jelenleg csak a v2-t támogatjuk. Kérjük, tekintsd meg ezt az migrációs útmutatót, hogy API-hívásaidat v1-ről v2-re alakítsd át

Hogyan férhetek hozzá?

Az Assistants API mindenki számára elérhető, aki rendelkezik OpenAI API-fiókkal. El is indulhatsz az Assistants Playground felületén keresztül.

Mi az az Assistant?

Az assistant egy célra szabott MI, amely az OpenAI modelljeit használja, és hozzáférhet fájlokhoz, képes tartós szálakat fenntartani, valamint eszközöket hívhat meg.

Mi az a Thread?

A thread egy beszélgetési munkamenet egy assistant és egy felhasználó között. A threadek egyszerűsítik az alkalmazásfejlesztést azáltal, hogy tárolják az üzenetelőzményeket, és lerövidítik azokat, amikor a beszélgetés túl hosszúvá válik a modell kontextushosszához.

Mi a File Search eszköz?

A file_search eszköz alapértelmezetten több bevált visszakeresési gyakorlatot valósít meg, hogy segítsen a megfelelő adatokat kinyerni a fájljaidból a modell válaszainak kiegészítéséhez. További információért olvasd el fejlesztői dokumentációnkat.

Alapértelmezés szerint a file_search eszköz a következő beállításokat használja:

• Chunkméret: 800 token

• Chunkátfedés: 400 token

• Beágyazási modell: text-embedding-3-large, 256 dimenzióval

• A kontextushoz hozzáadott chunkszakaszok maximális száma: 20

Milyen korlátozások vannak a fájlfeltöltésnél?

A fájl feltöltésére vonatkozó korlátozások a következők:

• 512 MB fájlonként

• 5M token fájlonként

• 10k fájl vector store-onként

• 1 vector store assistantonként

• 1 vector store threadenként

Egy szervezeten belül az egyes projektek teljes tárhelykorlátja 100 GB.

Milyen korlátai vannak a File Search eszköznek?

Van néhány ismert korlátozás, amelyek támogatásán a következő hónapokban dolgozunk:

1. Jelenleg nincs lehetőség a chunkolási, beágyazási vagy visszakeresési beállítások módosítására.

2. Nem támogatjuk a dokumentumokon belüli képek feldolgozását.

3. Nem támogatjuk a visszakeresést strukturált fájlformátumokon (például .csv vagy .jsonl fájlokon). Lásd a támogatott fájltípusokat.

Mik az Assistants API sebességkorlátai?

Az Assistants API sebességkorlátai nem kapcsolódnak a használati szinthez és modellhez. Ehelyett kérésenkénti alapértelmezett korlátok vannak, néhány kivétellel:

• GET: 1000 RPM

• POST: 300 RPM

  • POST ide: /v1/threads/<thread_id>/runs: 200 RPM

  • POST ide: /v1/threads/runs: 200 RPM

• DELETE: 300 kérés percenként

Hogyan történik a kódértelmező árazása az API-ban?

A kódértelmező ára $0.03 / munkamenet. Ha az assistant egyszerre két különböző threadben hívja meg a kódértelmezőt, akkor ez két kódértelmező-munkamenetet hoz létre (2 * $0.03). Minden munkamenet alapértelmezetten egy órán át aktív, ami azt jelenti, hogy ezt a díjat csak egyszer kell megfizetned, ha a felhasználó ugyanabban a threadben legfeljebb egy órán át továbbra is utasításokat ad a kódértelmezőnek.

Hogyan történik a File Search árazása az API-ban?

A File Search ára napi $0.10/GB a vector store tárhelyért (az első 1 GB tárhely ingyenes). A vector store mérete a fájl feldolgozása, darabolása és beágyazása utáni eredő méreten alapul.

A 2024. április 17. előtt létrehozott vector store-ok 2024 végéig ingyenesek maradnak, ezt követően pedig:

• az aktuális díjszabás szerint lesznek számlázva (jelenleg $0.10/GB/nap), ha legalább egyszer használták őket egy 2024. április 17. után létrehozott Runban.

• törlésre kerülnek, ha 2024. április 17. és 2024. december 31. között egyetlen Run sem használta őket — ezzel elkerülhető, hogy olyan vector store-okért számlázzunk, amelyeket esetleg még az árképzési változás bejelentése előtt hoztál létre, de soha nem használtál.

Van korlátja annak, hogy hány assistantot hozhatok létre?

Nincs korlátja annak, hogy egy szervezet hány assistantot hozhat létre.

Elérhető a streaming az API-ban?

Igen, a streaming elérhető az Assistants API-ban.

Elérhető a JSON mód az Assistants API-ban?

Igen, a JSON mód elérhető az Assistants API-ban a response_format paraméteren keresztül az Assistants vagy a Run objektumokon.

Az Assistants API kezeli a külső funkcióhívásokhoz tartozó kéréseket is?

Nem. Bár a funkcióhívás lehetővé teszi, hogy a modell kiválassza az eszközöket és formázza a hozzájuk tartozó kéréseket, a külső eszközökre irányuló hívások végrehajtását nem az OpenAI kezeli.

Hogyan kezelik az OpenAI-nak küldött adataimat?

Platformunk többi részéhez hasonlóan az OpenAI API-n keresztül továbbított adatokat és fájlokat soha nem használjuk modelljeink betanítására, és adataidat bármikor törölheted, amikor szükséges. Az Assistants API-ba feltöltött adatokat a rendszer korlátlan ideig tárolja, amíg a felhasználó manuálisan nem törli azokat.

Elérhető a DALL-E az Assistants API-n keresztül?

Jelenleg a DALL-E nem érhető el.

Van felhasználói felület az Assistants API-hoz?

Megnézheted az Assistants API-hoz tartozó Playground felületet. Győződj meg róla, hogy a bal oldali oldalsávban az Assistants nézetben vagy, és olyan modellt használsz, amely kompatibilis a bekapcsolni kívánt eszközökkel.

Mekkora a karakterkorlát az assistant-utasításoknál az Assistants API-ban?

Az assistant által használt rendszerutasítások maximális hossza 256 000 karakter.

Olyan hibaüzenetet kapok, mint „A szerver hibát észlelt a kérés feldolgozása közben. Elnézést kérünk! Megpróbálhatod újra a kérésedet, vagy kapcsolatba léphetsz velünk a help.openai.com címen található Súgóközpontunkon keresztül, ha a hiba továbbra is fennáll. “ Mit tegyek?

Ha ezt a hibát kapod, az azt jelentheti, hogy az utasításod nincs megfelelően beállítva. Ha továbbra is újrapróbálod a kérést, és az sikertelen, próbáld meg a következőket:

1. alakítsd át az utasításodat úgy, hogy a függvényszerű parancsokat függvényként kezelje

2. add hozzá az utasításodban szereplő parancsokat függvényként a tools mezőhöz

Miért nem működik jól a File Search eszközöm?

A File Search eszköz használatakor azt javasoljuk, hogy a max_prompt_tokens értéket legalább 20 000-re állítsd. Hosszabb beszélgetések vagy több File Search-interakció esetén érdemes ezt a korlátot 50 000-re emelni, vagy ideális esetben teljesen eltávolítani a max_prompt_tokens korlátot a legjobb minőségű eredmények érdekében. További információ itt.

Hogyan adhatok visszajelzést?

Örömmel vesszük visszajelzésedet a Developer Forumon, a help.openai.com címen elérhető Súgóközponton keresztül, vagy Twitteren a @OpenAIDevs oldalon.