Frá og með 11. mars 2025 höfum við gefið út byggingareiningar nýja fulltrúavettvangsins okkar. Nánari upplýsingar er að finna í API-skjölunum okkar fyrir Responses API, verkfæri á borð við Vefleit, Skráaleit og Tölvunotkun, og SDK fulltrúa okkar með rakningu.
Kvaðningartókar eru tókarnir sem þú slærð inn í líkanið. Þetta er fjöldi tóka í kvaðningunni þinni.
Úttakstókar eru allir tókar sem líkanið býr til sem svar við inntakinu þínu. Fyrir venjulega beiðni er þetta fjöldi tóka í úttakinu.
Flest líkön sem við bjóðum hafa bæði takmörk á fjölda tóka sem þau geta tekið við (kvaðningartókar) og fjölda tóka sem þau geta skilað (úttaks- eða sýnistókar).
Þetta nær einnig yfir alla tóka sem eru myndaðir þegar hærra gildi er notað fyrir best_of eða n. Ef þú býrð til dæmis til þrjú möguleg úttök með best_of = 3 verður fjöldi úrtakstóka í mesta lagi 3 * max_tokens.
Nánari upplýsingar um stjórnun tóka er að finna í leiðbeiningum okkar um textagerð.
