FAQ ng Assistants API (v2)

Ano ang Assistants API?

Binibigyang-daan ng Assistants API ang mga developer na madaling bumuo ng malalakas na AI assistant sa loob ng kanilang mga app. Inaalis ng API na ito ang pangangailangang pamahalaan ang history ng pag-uusap at nagdaragdag ng access sa mga tool na hosted ng OpenAI tulad ng Code Interpreter at File Search. Sinusuportahan din ng API ang pinahusay na pagtawag ng function para sa mga 3rd party tool.

Magagamit ko pa rin ba ang Assistants API v1 beta?

Hindi. Simula noong Disyembre 18, 2024, wala nang access ang mga user sa bersyong v1 ng Assistant API beta. Sa kasalukuyan, v2 lang ang sinusuportahan namin. Pakitingnan ang gabay sa migration na ito para i-convert ang iyong mga API call mula v1 papuntang v2

Paano ko ito maa-access?

Available ang Assistants API sa sinumang may OpenAI API account, ngunit deprecated na ito at aalisin sa Agosto 2026. Para sa mga bagong proyekto, gamitin na lang ang Responses API. Kung ginagamit mo na ang Assistants API, planuhin ang iyong migration sa Responses API. Maa-access mo pa rin ang mga kasalukuyang assistant sa Assistants Playground habang available pa ang API.

Ano ang Assistant?

Ang assistant ay kumakatawan sa isang purpose-built na AI na gumagamit ng mga modelo ng OpenAI at maaaring mag-access ng mga file, magpanatili ng persistent threads, at tumawag ng tools.

Ano ang Thread?

Ang thread ay isang session ng pag-uusap sa pagitan ng assistant at user. Pinapasimple ng threads ang pag-develop ng application sa pamamagitan ng pag-store ng history ng mensahe at pag-truncate nito kapag masyado nang mahaba ang pag-uusap para sa context length ng modelo.

Ano ang File Search tool?

Ipinapatupad ng `file_search` tool ang ilang best practice sa retrieval out of the box para tulungan kang kunin ang tamang data mula sa iyong mga file upang mapahusay ang mga tugon ng modelo. Para sa higit pang impormasyon, pakibasa ang aming dokumentasyon para sa developer.

Bilang default, ginagamit ng file_search tool ang mga sumusunod na setting:

• Laki ng chunk: 800 token

• Overlap ng chunk: 400 token

• Embedding model: `text-embedding-3-large` sa 256 na dimension

• Maximum na bilang ng mga chunk na idinaragdag sa context: 20

Ano ang mga paghihigpit para sa pag-upload ng File?

Ang mga paghihigpit para sa pag-upload ng File ay:

• 512 MB bawat file

• 5M token bawat file

• 10k file bawat vector store

• 1 vector store bawat assistant

• 1 vector store bawat thread

Ang kabuuang limitasyon sa storage para sa bawat proyekto sa isang organisasyon ay 100 GB.

Ano ang mga limitasyon ng File Search tool?

May ilan kaming kilalang limitasyon na pinagsisikapan naming suportahan sa mga darating na buwan:

1. Sa kasalukuyan, walang paraan para baguhin ang mga setting ng chunking, embedding, o retrieval.

2. Hindi namin sinusuportahan ang pag-parse ng mga larawan sa loob ng mga dokumento.

3. Hindi namin sinusuportahan ang retrieval sa mga structured file format (tulad ng mga .csv o .jsonl file). Tingnan ang mga sinusuportahang uri ng file.

Ano ang mga rate limit para sa Assistants API?

Ang mga rate limit para sa Assistants API ay hindi nakatali sa usage tier at modelo. Sa halip, may mga default na limitasyon ayon sa uri ng request, na may ilang exception:

• GET: 1000 RPM

• POST: 300 RPM

• DELETE: 300 request kada minuto

Paano pinipresyuhan ang Code Interpreter sa API?

Ang Code Interpreter ay may presyong $0.03 / session. Kung sabay na tatawagin ng assistant mo ang Code Interpreter sa dalawang magkaibang thread, gagawa ito ng dalawang session ng Code Interpreter (2 * $0.03). Aktibo ang bawat session nang isang oras bilang default, ibig sabihin isang beses mo lang babayaran ang fee na ito kung patuloy na nagbibigay ng mga tagubilin ang user mo sa Code Interpreter sa parehong thread nang hanggang isang oras.

Paano pinipresyuhan ang File Search sa API?

Ang File Search ay may presyong $0.10/GB ng vector store storage kada araw (libre ang unang GB ng storage). Nakabatay ang laki ng vector store sa magiging laki ng vector store matapos ma-parse, ma-chunk, at ma-embed ang file mo.

Ang anumang vector stores na ginawa bago ang Abril 17, 2024 ay magiging libre hanggang sa katapusan ng 2024, at pagkatapos nito ay alinman sa:

• Sisingilin sa kasalukuyang rates (sa ngayon ay $0.10/GB/araw) kung nagamit ang mga ito kahit isang beses sa isang Run na ginawa pagkatapos ng Abril 17, 2024.

• Ide-delete kung hindi nagamit ang mga ito sa kahit isang Run sa pagitan ng Abril 17, 2024 at Disyembre 31, 2024 — ito ay para maiwasang masingil ka para sa mga vector store na maaaring nagawa mo bago inanunsyo ang pagbabago sa pricing na ito pero hindi kailanman nagamit.

May limitasyon ba sa dami ng assistants na maaari kong gawin?

Walang limitasyon sa dami ng assistants na maaaring gawin ng isang org.

Available ba ang streaming sa API?

Oo, available ang streaming sa Assistants API.

Available ba ang JSON mode sa Assistants API?

Oo, available ang JSON mode sa Assistants API sa pamamagitan ng parameter na response_format sa mga Assistants o Run object.

Pamamahalaan din ba ng Assistants API ang mga request para sa mga 3rd party function call?

Hindi. Bagama’t pinapahintulutan ng pagtawag ng function ang modelo na pumili ng tools at i-format ang mga request para sa mga ito, hindi pinamamahalaan ng OpenAI ang pagpapatupad ng mga call sa mga 3rd party tool.

Paano pinangangasiwaan ang data na ipinapadala ko sa OpenAI?

Tulad ng iba pang bahagi ng aming platform, ang data at mga file na ipinapasa sa OpenAI API ay hindi kailanman ginagamit para i-train ang aming mga modelo at maaari mong i-delete ang iyong data kailanman mo kailangan. Ang data na ina-upload sa Assistants API ay naka-store nang walang takdang panahon hanggang manual itong i-delete ng user.

Available ba ang DALL-E sa pamamagitan ng Assistants API?

Sa ngayon, hindi available ang DALL-E.

May UI ba para sa Assistants API?

Maaari mong tingnan ang Playground para sa Assistants API. Tiyaking nasa view na Assistants ka sa kaliwang sidebar at gumagamit ng modelong compatible sa Tools na gusto mong i-toggle on.

Ano ang character limit para sa mga tagubilin ng assistant sa Assistants API?

Ang field ng mga tagubilin ng assistant ay may maximum na haba na 256,000 Tauhan.

Nakakatanggap ako ng error gaya ng “Nagkaroon ng error ang server habang pinoproseso ang iyong request. Paumanhin tungkol diyan! Maaari mong subukang muli ang iyong request, o makipag-ugnayan sa amin sa pamamagitan ng aming Help Center sa help.openai.com kung magpapatuloy ang error. ” Ano ang dapat kong gawin?

Kung natatanggap mo ang error na ito, maaaring ibig sabihin nito ay hindi tama ang pagkaka-set up ng iyong prompt. Kung patuloy mong sinusubukang muli ang request at nabibigo ito, narito ang ilang bagay na susubukan:

1. tiyaking i-restructure ang iyong prompt para ituring ang anumang command na parang function bilang mga function

2. idagdag ang anumang command sa iyong prompt bilang function sa tools

Bakit hindi maayos gumana ang File Search tool ko?

Kapag gumagamit ng File Search tool, inirerekomenda naming itakda ang max_prompt_tokens sa hindi bababa sa 20,000. Para sa mas mahahabang pag-uusap o maraming interaction sa File Search, pag-isipang taasan ang limitasyong ito sa 50,000, o mas mainam, alisin nang buo ang mga limitasyon sa max_prompt_tokens para makuha ang pinakamataas na kalidad ng mga resulta. Magbasa pa rito.

Paano ako makakapagbigay ng feedback?

Gusto naming marinig ang iyong feedback sa aming Developer Forum, sa pamamagitan ng Help Center sa help.openai.com, o sa Twitter @OpenAIDevs.