Časté otázky k Assistants API (v2)

Čo je Assistants API?

Rozhranie Assistants API umožňuje vývojárom jednoducho vytvárať výkonných AI asistentov v ich aplikáciách. Toto API odstraňuje potrebu spravovať históriu konverzácií a pridáva prístup k nástrojom hostovaným OpenAI, ako sú Code Interpreter a File Search. API podporuje aj vylepšené volanie funkcie pre nástroje tretích strán.

Môžem naďalej používať beta verziu v1 rozhrania Assistants API?

Nie. Od 18. decembra 2024 už používatelia nemajú prístup k beta verzii v1 rozhrania Assistants API. V súčasnosti podporujeme iba verziu v2. Informácie o zmene volaní API z verzie v1 na v2 nájdete v tejto príručke k migrácii.

Ako k nemu získam prístup?

Assistants API je dostupné každému s účtom OpenAI API, ale je zastarané a bude odstránené v auguste 2026. Pre nové projekty namiesto neho používajte Responses API. Ak už používate Assistants API, naplánujte si migráciu na Responses API. K existujúcim asistentom môžete naďalej pristupovať v Assistants Playground, kým bude API dostupné.

Čo je asistent?

Asistent predstavuje účelovo vytvorenú AI, ktorá používa modely OpenAI a môže pristupovať k súborom, udržiavať trvalé vlákna a volať nástroje.

Čo je vlákno?

Vlákno je konverzačná relácia medzi asistentom a používateľom. Vlákna zjednodušujú vývoj aplikácií tým, že ukladajú históriu správ a skracujú ju, keď je konverzácia príliš dlhá pre dĺžku kontextu modelu.

Čo je nástroj File Search?

Nástroj file_search má predvolene implementovaných niekoľko osvedčených postupov vyhľadávania, ktoré vám pomôžu získať zo súborov správne údaje a obohatiť nimi odpovede modelu. Ďalšie informácie nájdete v našej dokumentácii pre vývojárov.

Nástroj file_search predvolene používa tieto nastavenia:

• Veľkosť úseku: 800 tokenov

• Prekrytie úsekov: 400 tokenov

• Model embeddingov: text-embedding-3-large s 256 rozmermi

• Maximálny počet úsekov pridaných do kontextu: 20

Aké sú obmedzenia pre nahrávanie súborov?

Obmedzenia pre nahrávanie súboru sú:

• 512 MB na súbor

• 5 mil. tokenov na súbor

• 10 tis. súborov na vektorové úložisko

• 1 vektorové úložisko na asistenta

• 1 vektorové úložisko na vlákno

Celkový limit úložiska pre každý projekt v organizácii je 100 GB.

Aké sú obmedzenia nástroja File Search?

Máme niekoľko známych obmedzení, pre ktoré pracujeme na doplnení podpory v nadchádzajúcich mesiacoch:

1. Momentálne nie je možné upraviť nastavenia rozdeľovania na časti, embeddingov ani vyhľadávania.

2. Nepodporujeme analýzu obrázkov v dokumentoch.

3. Nepodporujeme vyhľadávanie v štruktúrovaných formátoch súborov (napríklad v súboroch .csv alebo .jsonl). Pozrite si podporované typy súborov.

Aké sú limity požiadaviek pre Assistants API?

Limity požiadaviek pre Assistants API nie sú viazané na úroveň používania a model. Namiesto toho existujú predvolené limity podľa typu požiadavky, s niekoľkými výnimkami:

• GET: 1000 RPM

• POST: 300 RPM

• DELETE: 300 požiadaviek za minútu

Ako je účtovaný Code Interpreter v API?

Code Interpreter je účtovaný sadzbou 0,03 USD za reláciu. Ak váš asistent volá Code Interpreter súčasne v dvoch rôznych vláknach, vytvoria sa dve relácie Code Interpreter (2 * 0,03 USD). Každá relácia je predvolene aktívna jednu hodinu, čo znamená, že tento poplatok zaplatíte iba raz, ak váš používateľ bude ďalej posielať pokyny Code Interpreter v rovnakom vlákne až jednu hodinu.

Ako je účtovaný File Search v API?

File Search je účtovaný sadzbou 0,10 USD/GB úložiska vektorového úložiska za deň (prvý GB úložiska je zadarmo). Veľkosť vektorového úložiska vychádza z výslednej veľkosti vektorového úložiska po analýze, rozdelení na časti a vložení embeddingov vášho súboru.

Všetky vektorové úložiská vytvorené pred 17. aprílom 2024 budú bezplatné do konca roka 2024, potom budú buď:

• Účtované podľa aktuálnych sadzieb (aktuálne 0,10 USD/GB/deň), ak boli aspoň raz použité v behu Run vytvorenom po 17. apríli 2024.

• Odstránené, ak neboli použité v žiadnom behu Run medzi 17. aprílom 2024 a 31. decembrom 2024 — aby ste neplatili za vektorové úložiská, ktoré ste mohli vytvoriť pred oznámením tejto zmeny cien, ale nikdy ste ich nepoužili.

Existuje limit, koľko asistentov môžem vytvoriť?

Počet asistentov, ktoré môže organizácia vytvoriť, nie je obmedzený.

Je v API dostupné streamovanie?

Áno, streamovanie je dostupné v Assistants API.

Je režim JSON dostupný v rozhraní Assistants API?

Áno, režim JSON je v rozhraní Assistants API dostupný prostredníctvom parametra response_format v objektoch Assistant alebo Run.

Bude Assistants API spravovať aj požiadavky na volania funkcií tretích strán?

Nie. Hoci volanie funkcie umožňuje modelu vyberať nástroje a formátovať pre ne požiadavky, vykonávanie volaní nástrojov tretích strán nespravuje OpenAI.

Ako sa zaobchádza s údajmi, ktoré posielam do OpenAI?

Rovnako ako na zvyšku našej platformy, údaje a súbory odoslané do OpenAI API sa nikdy nepoužívajú na trénovanie našich modelov a svoje údaje môžete kedykoľvek podľa potreby odstrániť. Údaje nahrané do Assistants API sa ukladajú neobmedzene, kým ich používateľ manuálne neodstráni.

Je DALL-E dostupný cez Assistants API?

V súčasnosti DALL-E nie je dostupný.

Existuje používateľské rozhranie pre Assistants API?

Pre Assistants API si môžete vyskúšať Playground. Uistite sa, že ste v zobrazení Assistants na ľavom bočnom paneli a používate model kompatibilný s nástrojmi, ktoré chcete zapnúť.

Aký je znakový limit pre pokyny asistenta v Assistants API?

Pole s pokynmi asistenta má maximálnu dĺžku 256 000 znakov.

Zobrazuje sa mi chyba, napríklad: „Pri spracovaní vašej požiadavky sa na serveri vyskytla chyba. Ospravedlňujeme sa! Požiadavku môžete zopakovať. Ak chyba pretrváva, obráťte sa na nás prostredníctvom nášho centra pomoci na adrese help.openai.com. “ Čo mám robiť?

Táto chyba môže znamenať, že váš príkaz nie je správne nastavený. Ak požiadavku opakovane odosielate a stále zlyháva, vyskúšajte toto:

1. upravte štruktúru príkazu tak, aby sa so všetkými príkazmi podobnými funkciám zaobchádzalo ako s funkciami

2. všetky príkazy vo svojom príkaze pridajte do tools ako funkcie

Prečo môj nástroj File Search nefunguje dobre?

Pri používaní nástroja File Search odporúčame nastaviť max_prompt_tokens najmenej na 20 000. Pri dlhších konverzáciách alebo viacerých interakciách s File Search zvážte zvýšenie tohto limitu na 50 000 alebo ideálne úplné odstránenie limitov max_prompt_tokens, aby ste dosiahli najkvalitnejšie výsledky. Prečítajte si viac tu.

Ako môžem poskytnúť spätnú väzbu?

Radi si vypočujeme vašu spätnú väzbu na našom fóre pre vývojárov, cez Centrum pomoci na help.openai.com alebo na Twitteri @OpenAIDevs.