Преглед
Контролирањето на должината на одговорот на моделот е корисно од неколку причини: помага да се управува со трошокот (бидејќи плаќате по токен), ја подобрува латентноста/перформансите (пократките одговори се враќаат побрзо) и ја обезбедува релевантноста со избегнување предолги или преопширни резултати.
Тоа можете да го постигнете со ограничувања на токени, поставки за расудување и опширност, јасни инструкции, примери и секвенци за запирање. За најактуелни и најцелосни детали, секогаш погледнете ја официјалната API-референца на platform.openai.com.
Поставете максимална должина на излезот
API за одговори
Се користи за моделите GPT-5 и за повеќето модели од серијата o: користете max_output_tokens за да го ограничите бројот на токени што ќе ги генерира моделот. За барањата со compaction_trigger, изоставете го max_output_tokens или поставете го на најмалку 20000; помалите вредности се одбиваат. API за одговори не поддржува повеќе завршувања (n).
API за завршување на разговори
Се користи за постарите GPT-3.5 и GPT-4o, а понекогаш и за серијата o.
За модели со расудување како o3 и o4-mini, користете max_completion_tokens (алијас на max_tokens)
За претходните модели и моделите без расудување, max_tokens сè уште функционира
Ги поддржува stop и n (повеќе завршувања).
Забелешка: Нема поставка за „минимум токени“. Ако ви треба минимална должина, наведете го тоа во вашиот промпт.
Ограничувања на токени според група модели
За најнови ограничувања на токени, големини на контекст и ограничувања на излезот, погледнете ја документацијата за конкретниот модел.
Брзи примери
API за одговори
{ "model": "gpt-5", "input": "Сумирај ги наодите во околу 80 зборови.", "max_output_tokens": 120 }Завршувања на разговори (модел со расудување)
{ "model": "o3-mini", "messages": [{"role": "user", "content": "Write five one-line options."}], "max_completion_tokens": 100 }Специфични контроли за моделите GPT-5: verbosity и reasoning.effort
Овие контроли се достапни само кај моделите GPT-5 (gpt-5.2, gpt-5.2-chat-latest, gpt-5.2 pro итн.). Моделите од серијата O и постарите модели не ги поддржуваат.
verbosity ги прифаќа вредностите "low", "medium" (стандардно) или "high". Влијае врз нивото на детали, но не и врз строгите ограничувања.
{ "model": "gpt-5", "input": "Објасни го PageRank на високо ниво.", "text": { "verbosity": "low" }, "max_output_tokens": 200 }reasoning.effort одредува колку токени за расудување ќе се генерираат пред да се создаде одговор. GPT-5.2 ги поддржува none, low, medium, high и xhigh. gpt-5.2-pro ги поддржува само medium, high и xhigh. Претходните модели со расудување ги поддржуваат само low, medium и high.
{ "model": "gpt-5", "input": "Колку злато би било потребно за да се обложи Статуата на слободата со слој од 1 mm?", "reasoning": { "effort": "minimal" } }Може да го поставите reasoning.effort на none за моделот да се однесува како модел без расудување во случаи чувствителни на доцнење.
Дајте конкретни инструкции
Побарајте ја точната должина или форма што ја сакате. Примери:
„Наведете точно пет опции.“
„Напишете резиме од 50 зборови.“
„Не повеќе од 100 токени. Ако ти треба уште простор, кажи: ‘Треба повеќе простор.’“
Користете примери со доследна должина
Примерите за промпт со мал број примери што се со саканата должина му помагаат на моделот да го продолжи шаблонот.
Стратешки применувајте секвенци за запирање
Користете stop за да го запрете генерирањето кога моделот ќе стигне до разделувач или до границата на нумериран список.
{ "stop": ["
###", "6."] }Повеќе кандидати
Завршувања на разговори: n враќа повеќе завршувања со еден повик.
API за одговори: n не е поддржано; ако ви треба повеќе од еден излез, направете повеќе повици.