Assistants API (v2) – GYIK

Mi az Assistants API?

Az Assistants API lehetővé teszi a fejlesztőknek, hogy könnyen építsenek hatékony AI-asszisztenseket az alkalmazásaikba. Ez az API megszünteti a beszélgetési előzmények kezelésének szükségességét, és hozzáférést ad az OpenAI által hosztolt eszközökhöz, például a kódértelmezőhöz és a File Search-höz. Az API továbbfejlesztett funkcióhívást is támogat harmadik féltől származó eszközökhöz.

Használhatom még az Assistants API v1 bétát?

Nem. 2024. december 18. óta a felhasználók már nem férnek hozzá az Assistant API béta v1 verziójához. Jelenleg csak a v2-t támogatjuk. Tekintse meg ezt a migrációs útmutatót, hogy API-hívásait v1-ről v2-re alakítsa át

Hogyan férhetek hozzá?

Az Assistants API minden OpenAI API-fiókkal rendelkező felhasználó számára elérhető, de kivezetés alatt áll, és 2026 augusztusában eltávolítjuk. Új projektekhez helyette a Responses API-t használja. Ha már használja az Assistants API-t, tervezze meg az átállást a Responses API-ra. A meglévő asszisztensekhez továbbra is hozzáférhet az Assistants Playgroundban, amíg az API elérhető marad.

Mi az az asszisztens?

Az asszisztens egy célra szabott AI-t jelent, amely az OpenAI modelljeit használja, és hozzáférhet fájlokhoz, tartós szálakat tarthat fenn, valamint eszközöket hívhat meg.

Mi az a szál?

A szál egy beszélgetési munkamenet egy asszisztens és egy felhasználó között. A szálak leegyszerűsítik az alkalmazásfejlesztést az üzenetelőzmények tárolásával és azok csonkításával, amikor a beszélgetés túl hosszúvá válik a modell kontextushosszához képest.

Mi az a File Search eszköz?

A `file_search` eszköz alapértelmezés szerint számos bevált lekérési gyakorlatot valósít meg, hogy segítsen a megfelelő adatok kinyerésében a fájljaiból a modell válaszainak kiegészítéséhez. További információért olvassa el fejlesztői dokumentációnkat.

Alapértelmezés szerint a file_search eszköz a következő beállításokat használja:

• Részletméret: 800 token

• Részletek átfedése: 400 token

• Beágyazási modell: `text-embedding-3-large` 256 dimenzióval

• A kontextushoz hozzáadott részletek maximális száma: 20

Milyen korlátozások vonatkoznak a fájlfeltöltésre?

A fájl feltöltésére vonatkozó korlátozások:

• 512 MB fájlonként

• 5 millió token fájlonként

• 10 ezer fájl vektortárolónként

• 1 vektortároló asszisztensenként

• 1 vektortároló szálanként

Egy szervezetben minden projekt teljes tárhelykorlátja 100 GB.

Mik a File Search eszköz korlátai?

Van néhány ismert korlátozás, amelyek támogatásán a következő hónapokban dolgozunk:

1. Jelenleg nincs mód a darabolási, beágyazási vagy lekérési beállítások módosítására.

2. Nem támogatjuk a dokumentumokon belüli képek feldolgozását.

3. Nem támogatjuk a strukturált fájlformátumokból történő lekérést (például .csv vagy .jsonl fájlokból). Lásd a támogatott fájltípusokat.

Mik az Assistants API használati korlátai?

Az Assistants API használati korlátai nem kötődnek a használati szinthez és modellhez. Ehelyett kéréstípusonként vannak alapértelmezett korlátok, néhány kivétellel:

• GET: 1000 RPM

• POST: 300 RPM

• DELETE: 300 kérés percenként

Hogyan árazódik a kódértelmező az API-ban?

A kódértelmező ára munkamenetenként $0.03. Ha az asszisztense egyszerre két különböző szálban hívja meg a kódértelmezőt, az két kódértelmező-munkamenetet hoz létre (2 * $0.03). Alapértelmezés szerint minden munkamenet egy óráig aktív, ami azt jelenti, hogy ezt a díjat csak egyszer kell megfizetnie, ha a felhasználója legfeljebb egy órán át ugyanabban a szálban ad utasításokat a kódértelmezőnek.

Hogyan árazódik a File Search az API-ban?

A File Search ára napi $0.10/GB vektortároló-tárhelyenként (az első GB tárhely ingyenes). A vektortároló mérete azon a végső méreten alapul, amely a fájl feldolgozása, darabolása és beágyazása után jön létre.

A 2024. április 17. előtt létrehozott vektortárolók 2024 végéig ingyenesek lesznek, ezt követően pedig vagy:

• Az aktuális díjak szerint számlázzuk őket (jelenleg $0.10/GB/nap), ha legalább egyszer használták őket egy 2024. április 17. után létrehozott Run során.

• Törlésre kerülnek, ha egyetlen Run során sem használták őket 2024. április 17. és 2024. december 31. között — ezzel elkerüljük, hogy olyan vektortárolókért számlázzunk Önnek, amelyeket esetleg az árváltozás bejelentése előtt hozott létre, de soha nem használt.

Van korlátja annak, hogy hány asszisztenst hozhatok létre?

Nincs korlátja annak, hogy egy szervezet hány asszisztenst hozhat létre.

Elérhető a streaming az API-ban?

Igen, a streaming elérhető az Assistants API-ban.

Elérhető a JSON mód az Assistants API-ban?

Igen, a JSON mód elérhető az Assistants API-ban az Assistants vagy Run objektumok response_format paraméterén keresztül.

Az Assistants API kezeli a harmadik féltől származó funkcióhívások kéréseit is?

Nem. Bár a funkcióhívás lehetővé teszi a modell számára, hogy eszközöket válasszon ki és kéréseket formázzon hozzájuk, a harmadik féltől származó eszközök hívásainak végrehajtását nem az OpenAI kezeli.

Hogyan kezeljük az OpenAI-nak küldött adataimat?

Platformunk többi részéhez hasonlóan az OpenAI API-nak átadott adatokat és fájlokat soha nem használjuk modelljeink betanítására, és adatait bármikor törölheti, amikor szüksége van rá. Az Assistants API-ba feltöltött adatokat határozatlan ideig tároljuk, amíg a felhasználó manuálisan nem törli őket.

Elérhető a DALL-E az Assistants API-n keresztül?

Jelenleg a DALL-E nem érhető el.

Van felhasználói felület az Assistants API-hoz?

Megtekintheti az Assistants API-hoz tartozó Playgroundot. Győződjön meg róla, hogy a bal oldalsáv Assistants nézetében van, és olyan modellt használ, amely kompatibilis a bekapcsolni kívánt Tools funkciókkal.

Mekkora az asszisztensi utasítások karakterkorlátja az Assistants API-ban?

Az asszisztensi utasítások mező maximális hossza 256 000 karakter.

Hibaüzenetet kapok, például: „A szerveren hiba történt a kérés feldolgozása közben. Elnézést kérünk! Újrapróbálhatja a kérést, vagy ha a hiba továbbra is fennáll, lépjen kapcsolatba velünk a Súgóközponton keresztül a help.openai.com címen. ” Mit tegyek?

Ha ezt a hibát kapja, az azt jelentheti, hogy az utasítása nincs megfelelően beállítva. Ha továbbra is újrapróbálja a kérést, és az sikertelen, próbálja ki a következőket:

1. alakítsa át az utasítását úgy, hogy a függvényszerű parancsokat függvényként kezelje

2. adja hozzá az utasításában szereplő parancsokat függvényként a tools-hoz

Miért nem működik jól a File Search eszközöm?

A File Search eszköz használatakor azt javasoljuk, hogy a max_prompt_tokens értékét legalább 20 000-re állítsa. Hosszabb beszélgetések vagy a File Search-csel végzett több interakció esetén érdemes ezt a korlátot 50 000-re növelni, vagy ideális esetben teljesen eltávolítani a max_prompt_tokens-korlátokat a legjobb minőségű eredmények érdekében. További információ itt.

Hogyan adhatok visszajelzést?

Örömmel fogadjuk visszajelzését a Fejlesztői fórumunkon, a Súgóközponton keresztül a help.openai.com címen, vagy Twitteren: @OpenAIDevs.