OpenAI
Kaca iki diterjemahake nganggo mesin. Deleng artikel asli basa Inggris.

Ngatur dawa tanggapan model OpenAI

Sinau nyetel wates output kanggo model OpenAI nganggo setelan token, prompt cetha, conto, lan urutan stop.

Pembaruan: 15 days ago

Ringkesan

Ngatur dawane respons model migunani amarga sawetara sebab: mbantu ngatur biaya (amarga sampeyan mbayar saben token), ningkatake latensi/kinerja (respons luwih cekak bali luwih cepet), lan njaga relevansi kanthi ngindhari output sing kakehan dawa utawa kakehan rinci.

Iki bisa ditindakake nganggo wates token, setelan nalar lan verbosity, instruksi sing cetha, conto, lan urutan stop. Kanggo rincian sing paling anyar lan lengkap, tansah delengen referensi API resmi ing platform.openai.com.

Setel dawa output maksimal

Responses API

Digunakake kanggo model GPT-5 lan umume model o-series: gunakake max_output_tokens kanggo matesi jumlah token sing bakal digawe model. Kanggo panjaluk compaction_trigger, aja lebokake max_output_tokens utawa setel paling ora 20000; nilai sing luwih cilik bakal ditolak. Responses API ora ndhukung completion ganda (n).

chat completions API

Digunakake kanggo GPT-3.5 lawas, GPT-4o, lan kadhang o-series.

  • Kanggo model nalar kayata o3 lan o4-mini, gunakake max_completion_tokens (alias saka max_tokens)

  • Kanggo model sadurunge utawa non-nalar, max_tokens isih bisa digunakake

  • Ndhukung stop lan n (pirang-pirang completion).

Cathetan: Ora ana setelan “token minimal”. Yen sampeyan butuh dawa minimal, jelasna ing prompt sampeyan.

Wates token miturut klompok model

Kanggo wates token, ukuran konteks, lan wates output paling anyar, delengen dokumentasi model tartamtu.

Tuladha cepet

Responses API

{ "model": "gpt-5", "input": "Ringkes temuan iki ing ~80 tembung.", "max_output_tokens": 120 }

Chat Completions (model nalar)

{ "model": "o3-mini", "messages": [{"role": "user", "content": "Write five one-line options."}], "max_completion_tokens": 100 }

Kontrol khusus kanggo model GPT-5: verbosity lan reasoning.effort

Kontrol iki mung kasedhiya ing model GPT-5 (gpt-5.2, gpt-5.2-chat-latest, gpt-5.2 pro, lsp.). Model O-series lan model warisan ora ndhukung kontrol iki.

`verbosity` nampa "low", "medium" (gawan), utawa "high". Iki mengaruhi tingkat rincian, nanging dudu wates ketat.

{ "model": "gpt-5", "input": "Jelasna PageRank ing tingkat dhuwur.", "text": { "verbosity": "low" }, "max_output_tokens": 200 }

`reasoning.effort` ngontrol pira token nalar sing digawe sadurunge ngasilake jawaban. GPT-5.2 ndhukung none,low, medium, high,and xhigh. gpt-5.2-pro mung ndhukung medium, high,and xhigh. Model nalar sadurunge mung ndhukung low, medium, lan high.

{ "model": "gpt-5", "input": "Pira emas sing dibutuhake kanggo nglapisi Patung Liberty nganggo lapisan 1mm?", "reasoning": { "effort": "minimal" } }

Sampeyan bisa nyetel `reasoning.effort` dadi none supaya model tumindak kaya model non-nalar kanggo kasus panggunaan sing sensitif marang latensi.

Wenehana instruksi sing spesifik

Jaluk dawa utawa wujud persis sing dikarepake. Tuladha:

  • “Dhaptarna persis lima pilihan.”

  • “Tulisen ringkesan 50 tembung.”

  • “Ora luwih saka 100 token. Yen butuh luwih akeh, tulisen ‘Butuh ruang luwih akeh.’”

Gunakake conto kanthi dawa sing konsisten

Conto sithik sing dawane cocog karo sing dikarepake mbantu model nerusake pola.

Gunakake urutan stop kanthi strategis

Gunakake stop kanggo mandhegake proses ngasilake teks nalika model tekan delimiter utawa wates dhaptar bernomor.

{ "stop": ["
###", "6."] }

Pirang-pirang kandidat

  • Chat Completions: n ngasilake pirang-pirang completion sajrone siji panggilan.

  • Responses API: n ora didhukung; gawe pirang-pirang panggilan yen sampeyan butuh luwih saka siji output.

Apa artikel iki migunani kanggo sampeyan?