Utangulizi wa vikomo vya maombi

Vikomo vya maombi ni vizuizi ambavyo API yetu huweka kwa idadi ya mara ambazo mtumiaji au mteja anaweza kufikia huduma zetu ndani ya kipindi maalum cha muda.

Vikomo vya maombi vinaweza kupimwa kwa vipindi vidogo, kumaanisha vinatekelezwa katika vipindi vifupi zaidi vya muda (k.m. maombi 60,000/dakika yanaweza kutekelezwa kama maombi 1,000/sekunde). Kutuma makundi mafupi ya maombi au miktadha (prompts+max_completion_tokens) ambayo ni mirefu kupita kiasi kunaweza kusababisha hitilafu za kikomo cha maombi, hata wakati kimsingi uko chini ya kikomo cha maombi kwa dakika.

Mbinu bora za kuzuia hitilafu za vikomo vya maombi

Shirika chaguomsingi

Ikiwa uko katika mashirika kadhaa yenye mipango tofauti ya malipo na viwango vya matumizi, hakikisha shirika lako chaguomsingi limewekwa kuwa shirika linalofaa ili kudhibiti shirika linalotumiwa kwa chaguomsingi unapofanya maombi kwa funguo zako za API.

Ucheleweshaji wa kipeo

Jumuisha mantiki ya ucheleweshaji wa kipeo katika msimbo wako. Hii itanasa na kujaribu tena maombi yaliyoshindwa.

Vikomo vya tokeni

Punguza max_completion_tokens ili ilingane na ukubwa wa ukamilishaji wako. Mahitaji ya matumizi hukadiriwa kutokana na thamani hii, kwa hivyo kuipunguza kutapunguza uwezekano wa kupokea bila kutarajia hitilafu ya kikomo cha maombi. Kwa mfano, ikiwa dokeza lako linaunda ukamilishaji wa takriban tokeni 400, thamani ya max_tokens inapaswa kuwa takriban ukubwa huo huo.


Boresha madokeza yako. Unaweza kufanya hivi kwa kufupisha maagizo yako, kuondoa maneno ya ziada, na kuondoa mifano ya ziada. Huenda ukahitaji kurekebisha dokeza lako na kulijaribu baada ya mabadiliko haya ili kuhakikisha bado linafanya kazi vizuri. Faida ya ziada ya dokeza fupi zaidi ni kupunguza gharama kwako. Ikiwa unahitaji msaada, tujulishe.

Kiwango cha matumizi

Ikiwa umetekeleza mbinu hizi bora lakini bado unakumbana na hitilafu za vikomo vya maombi, unaweza kuongeza vikomo vyako vya maombi kwa kuongeza kiwango chako cha matumizi. Unaweza kuona vikomo vyako vya sasa vya maombi, kiwango chako cha sasa cha matumizi, na jinsi ya kuongeza kiwango/vikomo vyako vya matumizi katika sehemu ya Vikomo ya mipangilio ya akaunti yako.

Usomaji zaidi

Pitia hati zetu kamili kuhusu viwango vya matumizi na vikomo vya maombi hapa.