Časté otázky k Assistants API (v2)

Čo je Assistants API?

Rozhranie Assistants API umožňuje vývojárom jednoducho vytvárať výkonných AI asistentov v ich aplikáciách. Toto API odstraňuje potrebu spravovať históriu konverzácií a pridáva prístup k nástrojom hostovaným OpenAI, ako sú Code Interpreter a File Search. API podporuje aj vylepšené volanie funkcie pre nástroje tretích strán.

Môžem ešte používať Assistants API v1 beta?

Nie. Od 18. decembra 2024 už používatelia nemajú prístup k verzii v1 beta rozhrania Assistant API. Momentálne podporujeme iba v2. Pozrite si túto príručku migrácie, aby ste svoje volania API previedli z v1 na v2

Ako k nemu získam prístup?

Assistants API je dostupné každému s účtom OpenAI API, ale je zastarané a bude odstránené v auguste 2026. Pre nové projekty namiesto neho používajte Responses API. Ak už používate Assistants API, naplánujte si migráciu na Responses API. K existujúcim asistentom môžete naďalej pristupovať v Assistants Playground, kým bude API dostupné.

Čo je asistent?

Asistent predstavuje účelovo vytvorenú AI, ktorá používa modely OpenAI a môže pristupovať k súborom, udržiavať trvalé vlákna a volať nástroje.

Čo je vlákno?

Vlákno je konverzačná relácia medzi asistentom a používateľom. Vlákna zjednodušujú vývoj aplikácií tým, že ukladajú históriu správ a skracujú ju, keď je konverzácia príliš dlhá pre dĺžku kontextu modelu.

Čo je nástroj File Search?

Nástroj `file_search` implementuje niekoľko osvedčených postupov vyhľadávania hneď po vybalení, aby vám pomohol získať správne údaje zo súborov a rozšíriť odpovede modelu. Ďalšie informácie nájdete v našej dokumentácii pre vývojárov.

Nástroj file_search predvolene používa tieto nastavenia:

• Veľkosť časti: 800 tokenov

• Prekrytie častí: 400 tokenov

• Embeddingový model: `text-embedding-3-large` s 256 rozmermi

• Maximálny počet častí pridaných do kontextu: 20

Aké sú obmedzenia pre nahrávanie súborov?

Obmedzenia pre nahrávanie súboru sú:

• 512 MB na súbor

• 5 mil. tokenov na súbor

• 10 tis. súborov na vektorové úložisko

• 1 vektorové úložisko na asistenta

• 1 vektorové úložisko na vlákno

Celkový limit úložiska pre každý projekt v organizácii je 100 GB.

Aké sú obmedzenia nástroja File Search?

Máme niekoľko známych obmedzení, pre ktoré pracujeme na doplnení podpory v nadchádzajúcich mesiacoch:

1. Momentálne nie je možné upraviť nastavenia rozdeľovania na časti, embeddingov ani vyhľadávania.

2. Nepodporujeme analýzu obrázkov v dokumentoch.

3. Nepodporujeme vyhľadávanie v štruktúrovaných formátoch súborov (napríklad v súboroch .csv alebo .jsonl). Pozrite si podporované typy súborov.

Aké sú limity požiadaviek pre Assistants API?

Limity požiadaviek pre Assistants API nie sú viazané na úroveň používania a model. Namiesto toho existujú predvolené limity podľa typu požiadavky, s niekoľkými výnimkami:

• GET: 1000 RPM

• POST: 300 RPM

• DELETE: 300 požiadaviek za minútu

Ako je účtovaný Code Interpreter v API?

Code Interpreter je účtovaný sadzbou 0,03 USD za reláciu. Ak váš asistent volá Code Interpreter súčasne v dvoch rôznych vláknach, vytvoria sa dve relácie Code Interpreter (2 * 0,03 USD). Každá relácia je predvolene aktívna jednu hodinu, čo znamená, že tento poplatok zaplatíte iba raz, ak váš používateľ bude ďalej posielať pokyny Code Interpreter v rovnakom vlákne až jednu hodinu.

Ako je účtovaný File Search v API?

File Search je účtovaný sadzbou 0,10 USD/GB úložiska vektorového úložiska za deň (prvý GB úložiska je zadarmo). Veľkosť vektorového úložiska vychádza z výslednej veľkosti vektorového úložiska po analýze, rozdelení na časti a vložení embeddingov vášho súboru.

Všetky vektorové úložiská vytvorené pred 17. aprílom 2024 budú bezplatné do konca roka 2024, potom budú buď:

• Účtované podľa aktuálnych sadzieb (aktuálne 0,10 USD/GB/deň), ak boli aspoň raz použité v behu Run vytvorenom po 17. apríli 2024.

• Odstránené, ak neboli použité v žiadnom behu Run medzi 17. aprílom 2024 a 31. decembrom 2024 — aby ste neplatili za vektorové úložiská, ktoré ste mohli vytvoriť pred oznámením tejto zmeny cien, ale nikdy ste ich nepoužili.

Existuje limit, koľko asistentov môžem vytvoriť?

Počet asistentov, ktoré môže organizácia vytvoriť, nie je obmedzený.

Je v API dostupné streamovanie?

Áno, streamovanie je dostupné v Assistants API.

Je režim JSON dostupný v Assistants API?

Áno, režim JSON je dostupný v Assistants API prostredníctvom parametra response_format v objektoch Assistants alebo Run.

Bude Assistants API spravovať aj požiadavky na volania funkcií tretích strán?

Nie. Hoci volanie funkcie umožňuje modelu vyberať nástroje a formátovať pre ne požiadavky, vykonávanie volaní nástrojov tretích strán nespravuje OpenAI.

Ako sa zaobchádza s údajmi, ktoré posielam do OpenAI?

Rovnako ako na zvyšku našej platformy, údaje a súbory odoslané do OpenAI API sa nikdy nepoužívajú na trénovanie našich modelov a svoje údaje môžete kedykoľvek podľa potreby odstrániť. Údaje nahrané do Assistants API sa ukladajú neobmedzene, kým ich používateľ manuálne neodstráni.

Je DALL-E dostupný cez Assistants API?

V súčasnosti DALL-E nie je dostupný.

Existuje používateľské rozhranie pre Assistants API?

Pre Assistants API si môžete vyskúšať Playground. Uistite sa, že ste v zobrazení Assistants na ľavom bočnom paneli a používate model kompatibilný s nástrojmi, ktoré chcete zapnúť.

Aký je znakový limit pre pokyny asistenta v Assistants API?

Pole s pokynmi asistenta má maximálnu dĺžku 256 000 znakov.

Zobrazuje sa mi chyba, napríklad „Server mal pri spracovaní vašej požiadavky chybu. Ospravedlňujeme sa! Svoju požiadavku môžete skúsiť znova alebo nás kontaktovať cez naše Centrum pomoci na help.openai.com, ak chyba pretrváva. “ Čo mám robiť?

Ak sa vám zobrazuje táto chyba, môže to znamenať, že váš príkaz nie je správne nastavený. Ak požiadavku opakovane skúšate znova a stále zlyháva, skúste toto:

1. uistite sa, že svoj príkaz preštruktúrujete tak, aby sa všetky príkazy podobné funkciám považovali za funkcie

2. pridajte všetky príkazy vo svojom príkaze ako funkciu do tools

Prečo môj nástroj File Search nefunguje dobre?

Pri používaní nástroja File Search odporúčame nastaviť max_prompt_tokens najmenej na 20 000. Pri dlhších konverzáciách alebo viacerých interakciách s File Search zvážte zvýšenie tohto limitu na 50 000 alebo ideálne úplné odstránenie limitov max_prompt_tokens, aby ste dosiahli najkvalitnejšie výsledky. Prečítajte si viac tu.

Ako môžem poskytnúť spätnú väzbu?

Radi si vypočujeme vašu spätnú väzbu na našom fóre pre vývojárov, cez Centrum pomoci na help.openai.com alebo na Twitteri @OpenAIDevs.