OpenAI
Тази страница е машинно преведена. Вижте оригиналната статия на английски език.

Контролиране на дължината на отговорите на моделите на OpenAI

Научете как да задавате ограничения за изхода на моделите на OpenAI чрез настройки за токени, ясни подкани, примери и стоп последователности.

Актуализирано: 19 days ago

Общ преглед

Контролирането на дължината на отговора на модела е полезно по няколко причини: помага за управление на разходите (тъй като плащате на токен), подобрява латентността/производителността (по-кратките отговори се връщат по-бързо) и осигурява релевантност, като избягва прекалено дълги или многословни изходи.

Можете да постигнете това чрез лимити за токени, настройки за структурирано анализиране и подробност, ясни инструкции, примери и стоп последователности. За най-актуалните и пълни подробности винаги се обръщайте към официалната API справка на platform.openai.com.

Задайте максимална дължина на изхода

API Responses

Използва се за моделите GPT-5 и повечето модели от o-серията: използвайте max_output_tokens, за да ограничите броя на токените, които моделът ще генерира. При заявки с compaction_trigger пропуснете max_output_tokens или задайте стойност поне 20000; по-малките стойности се отхвърлят. API Responses не поддържа множество завършвания (n).

API за завършване на чат

Използва се за по-старите GPT-3.5 и GPT-4o, а понякога и за o-серията.

  • За модели със структурирано анализиране като o3 и o4-mini използвайте max_completion_tokens (псевдоним на max_tokens)

  • При по-ранните модели и тези без структурирано анализиране max_tokens продължава да работи

  • Поддържа stop и n (множество завършвания).

Забележка: Няма настройка за „минимален брой токени“. Ако ви трябва минимална дължина, посочете я в подканата си.

Ограничения за токени по група модели

За актуални ограничения за токени, размери на контекста и лимити за изхода вижте документацията за конкретния модел.

Бързи примери

Responses API

{ "model": "gpt-5", "input": "Обобщи откритията в ~80 думи.", "max_output_tokens": 120 }

Chat Completions (модел със структурирано анализиране)

{ "model": "o3-mini", "messages": [{"role": "user", "content": "Write five one-line options."}], "max_completion_tokens": 100 }

Специфични контроли за моделите GPT-5: verbosity и reasoning.effort

Тези контроли са налични само при моделите GPT-5 (gpt-5.2, gpt-5.2-chat-latest, gpt-5.2 pro и др.). Моделите от o-серията и по-старите модели не ги поддържат.


verbosity приема "low", "medium" (по подразбиране) или "high". Това влияе върху нивото на подробност, но не и върху твърдите ограничения.

{ "model": "gpt-5", "input": "Обясни PageRank на високо ниво.", "text": { "verbosity": "low" }, "max_output_tokens": 200 }

reasoning.effort определя колко токена за структурирано анализиране се генерират, преди да бъде създаден отговор. GPT-5.2 поддържа none, low, medium, high и xhigh. gpt-5.2-pro поддържа само medium, high и xhigh. По-ранните модели със структурирано анализиране поддържат само low, medium и high.

{ "model": "gpt-5", "input": "Колко злато би било нужно, за да се покрие Статуята на свободата със слой от 1 мм?", "reasoning": { "effort": "minimal" } }

Можете да зададете reasoning.effort на none, така че моделът да работи като модел без структурирано анализиране при приложения, чувствителни към забавяне.

Дайте конкретни инструкции

Посочете точната дължина или форма, която искате. Примери:

  • „Изброй точно пет опции.“

  • „Напиши резюме от 50 думи.“

  • „Не повече от 100 токена. Ако ви трябва повече, кажете „Трябва ми още място.““

Използвайте примери с постоянна дължина

Примерите с малко повторения, които съответстват на желаната дължина, помагат на модела да продължи шаблона.

Прилагайте стратегически стоп последователности

Използвайте stop, за да спрете генерирането, когато моделът достигне разделител или граница на номериран списък.

{ "stop": ["
###", "6."] }

Множество варианти

  • Chat Completions: n връща множество завършвания с едно извикване.

  • API Responses: n не се поддържа; направете няколко извиквания, ако ви е необходим повече от един резултат.

Беше ли Ви полезна тази статия?