ČPP za Assistants API (v2)

Šta je Assistants API?

Assistants API omogućava developerima da lako izgrade moćne AI asistente unutar svojih aplikacija. Ovaj API uklanja potrebu za upravljanjem historijom razgovora i dodaje pristup alatima koje hostuje OpenAI, kao što su Tumač koda i File Search. API također podržava poboljšano pozivanje funkcija za alate trećih strana.

Mogu li i dalje koristiti Assistants API v1 beta?

Ne. Od 18. decembra 2024. korisnici više nemaju pristup verziji v1 beta Assistant API-ja. Trenutno podržavamo samo v2. Pogledajte ovaj vodič za migraciju da pretvorite svoje API pozive iz v1 u v2

Kako mu mogu pristupiti?

Assistants API je dostupan svima s OpenAI API računom, ali je zastario i bit će uklonjen u augustu 2026. Za nove projekte umjesto njega koristite Responses API. Ako već koristite Assistants API, planirajte migraciju na Responses API. I dalje možete pristupati postojećim asistentima u Assistants Playgroundu dok je API dostupan.

Šta je asistent?

Asistent predstavlja namjenski izrađenu AI koja koristi OpenAI-jeve modele i može pristupati datotekama, održavati trajne niti i pozivati alate.

Šta je nit?

Nit je sesija razgovora između asistenta i korisnika. Niti pojednostavljuju razvoj aplikacija pohranjivanjem historije poruka i skraćivanjem kada razgovor postane predug za dužinu konteksta modela.

Šta je alat File Search?

Alat `file_search` odmah primjenjuje nekoliko najboljih praksi za preuzimanje kako bi vam pomogao da iz svojih datoteka izvučete prave podatke i obogatite odgovore modela. Za više informacija pročitajte našu dokumentaciju za developere.

Podrazumijevano, alat file_search koristi sljedeće postavke:

• Veličina komada: 800 tokena

• Preklapanje komada: 400 tokena

• Model ugrađivanja: `text-embedding-3-large` na 256 dimenzija

• Maksimalan broj komada dodanih u kontekst: 20

Koja su ograničenja za otpremanje datoteka?

Ograničenja za otpremanje datoteke su:

• 512 MB po datoteci

• 5M tokena po datoteci

• 10k datoteka po vektorskom spremištu

• 1 vektorsko spremište po asistentu

• 1 vektorsko spremište po niti

Ukupno ograničenje pohrane za svaki projekt u organizaciji iznosi 100 GB.

Koja su ograničenja alata File Search?

Imamo nekoliko poznatih ograničenja za koja radimo na dodavanju podrške u narednim mjesecima:

1. Trenutno ne postoji način za izmjenu postavki dijeljenja na komade, ugrađivanja ili preuzimanja.

2. Ne podržavamo raščlanjivanje slika unutar dokumenata.

3. Ne podržavamo preuzimanja nad strukturiranim formatima datoteka (kao što su .csv ili .jsonl datoteke). Pogledajte podržane vrste datoteka.

Koja su ograničenja brzine za Assistants API?

Ograničenja brzine za Assistants API nisu vezana za nivo korištenja i model. Umjesto toga, postoje podrazumijevana ograničenja prema vrsti zahtjeva, uz nekoliko izuzetaka:

• GET: 1000 RPM

• POST: 300 RPM

• DELETE: 300 zahtjeva po minuti

Kako se naplaćuje Tumač koda u API-ju?

Tumač koda se naplaćuje $0.03 po sesiji. Ako vaš asistent istovremeno pozove Tumač koda u dvije različite niti, to bi kreiralo dvije sesije Tumača koda (2 * $0.03). Svaka sesija je podrazumijevano aktivna jedan sat, što znači da biste ovu naknadu platili samo jednom ako vaš korisnik nastavi davati upute Tumaču koda u istoj niti do jednog sata.

Kako se naplaćuje File Search u API-ju?

File Search se naplaćuje $0.10/GB pohrane vektorskog spremišta po danu (prvi GB pohrane je besplatan). Veličina vektorskog spremišta zasniva se na rezultirajućoj veličini vektorskog spremišta nakon što se vaša datoteka raščlani, podijeli na komade i ugradi.

Sva vektorska spremišta kreirana prije 17. aprila 2024. bit će besplatna do kraja 2024, nakon čega će biti ili:

• Naplaćena po trenutnim cijenama (trenutno $0.10/GB/dan) ako su korištena barem jednom u Run-u kreiranom nakon 17. aprila 2024.

• Izbrisana ako nisu korištena ni u jednom Run-u između 17. aprila 2024. i 31. decembra 2024. — ovo je da se izbjegne naplata za vektorska spremišta koja ste možda kreirali prije objave ove promjene cijena, ali ih nikada niste koristili.

Postoji li ograničenje broja asistenata koje mogu kreirati?

Ne postoji ograničenje broja asistenata koje organizacija može kreirati.

Je li streaming dostupan u API-ju?

Da, streaming je dostupan u Assistants API-ju.

Je li JSON način rada dostupan u Assistants API-ju?

Da, JSON način rada dostupan je u Assistants API-ju putem parametra response_format na objektima Assistants ili Run.

Hoće li Assistants API također upravljati zahtjevima za pozive funkcija trećih strana?

Ne. Iako pozivanje funkcija omogućava modelu da odabere alate i formatira zahtjeve za njih, OpenAI ne upravlja izvršavanjem poziva prema alatima trećih strana.

Kako se postupa s podacima koje šaljem OpenAI-ju?

Kao i s ostatkom naše platforme, podaci i datoteke proslijeđeni OpenAI API-ju nikada se ne koriste za treniranje naših modela i svoje podatke možete izbrisati kad god vam je potrebno. Podaci otpremljeni u Assistants API pohranjuju se neograničeno dok ih korisnik ručno ne izbriše.

Je li DALL-E dostupan putem Assistants API-ja?

Trenutno DALL-E nije dostupan.

Postoji li UI za Assistants API?

Možete pogledati Playground za Assistants API. Provjerite da ste u prikazu Assistants na lijevoj bočnoj traci i da koristite model kompatibilan s alatima koje želite uključiti.

Koje je ograničenje broja znakova za upute asistentu u Assistants API-ju?

Polje za upute asistentu ima maksimalnu dužinu od 256.000 znakova.

Dobijam grešku poput „Server je imao grešku tokom obrade vašeg zahtjeva. Žao nam je zbog toga! Možete ponovo pokušati sa zahtjevom ili nas kontaktirati putem našeg centra za pomoć na help.openai.com ako se greška nastavi. “ Šta da radim?

Ako dobijate ovu grešku, to može značiti da vaš upit nije pravilno postavljen. Ako stalno ponavljate zahtjev i on ne uspijeva, evo nekoliko stvari koje možete pokušati:

1. pobrinite se da prestrukturirate svoj upit tako da sve naredbe nalik funkcijama tretira kao funkcije

2. dodajte sve naredbe iz svog upita kao funkciju u tools

Zašto moj alat File Search ne radi dobro?

Kada koristite alat File Search, preporučujemo da max_prompt_tokens postavite na najmanje 20.000. Za duže razgovore ili više interakcija s File Searchom, razmislite o povećanju ovog ograničenja na 50.000 ili, idealno, o potpunom uklanjanju ograničenja max_prompt_tokens kako biste dobili rezultate najvišeg kvaliteta. Pročitajte više ovdje.

Kako mogu dati povratne informacije?

Voljeli bismo čuti vaše povratne informacije na našem Forumu za developere, putem Centra za pomoć na help.openai.com ili na Twitteru @OpenAIDevs.