მიმოხილვა
მოდელის პასუხის სიგრძის კონტროლი რამდენიმე მიზეზით არის სასარგებლო: ის გეხმარებათ ხარჯის მართვაში (რადგან იხდით თითო token-ზე), აუმჯობესებს დაყოვნებას/წარმადობას (მოკლე პასუხები უფრო სწრაფად ბრუნდება) და უზრუნველყოფს შესაბამისობას ზედმეტად გრძელი ან სიტყვამრავალი შედეგების თავიდან აცილებით.
ამის მიღწევა შეგიძლიათ token-ების ზღვრული მნიშვნელობებით, მსჯელობისა და დეტალიზაციის პარამეტრებით, მკაფიო ინსტრუქციებით, მაგალითებით და შეჩერების მიმდევრობებით. ყველაზე ახალი და სრული ინფორმაციისთვის ყოველთვის მიმართეთ ოფიციალურ API ცნობარს platform.openai.com-ზე.
დააყენეთ გამოტანის მაქსიმალური სიგრძე
Responses API
გამოიყენება GPT-5 მოდელებისთვის და o-სერიის მოდელების უმეტესობისთვის: გამოიყენეთ max_output_tokens, რათა შეზღუდოთ token-ების რაოდენობა, რომელსაც მოდელი დააგენერირებს. compaction_trigger მოთხოვნებისთვის ან გამოტოვეთ max_output_tokens, ან დააყენეთ ის მინიმუმ 20000-ზე; უფრო მცირე მნიშვნელობები უარყოფილი იქნება. Responses API არ უჭერს მხარს მრავალ დასრულებას (n).
ჩატის დასრულების API
გამოიყენება მოძველებული GPT-3.5, GPT-4o და ზოგჯერ o-სერიის მოდელებისთვის.
მსჯელობის მოდელებისთვის, როგორიცაა o3 და o4-mini, გამოიყენეთ
max_completion_tokens(max_tokens-ის ფსევდონიმი)უფრო ადრეული/არამსჯელობის მოდელებისთვის
max_tokensკვლავ მუშაობსმხარს უჭერს
stop-ს დაn-ს (მრავალ დასრულებას).
შენიშვნა: „მინიმალური token-ების“ პარამეტრი არ არსებობს. თუ მინიმალური სიგრძე გჭირდებათ, მიუთითეთ ის თქვენს მოთხოვნაში.
Token-ის ლიმიტები მოდელების ჯგუფების მიხედვით
token-ის უახლესი ლიმიტების, კონტექსტის ზომებისა და გამოტანის ზღვრული მნიშვნელობებისთვის იხილეთ კონკრეტული მოდელის დოკუმენტაცია.
სწრაფი მაგალითები
Responses API
{ "model": "gpt-5", "input": "შეაჯამე მიგნებები ~80 სიტყვაში.", "max_output_tokens": 120 }ჩატის დასრულებები (მსჯელობის მოდელი)
{ "model": "o3-mini", "messages": [{"role": "user", "content": "Write five one-line options."}], "max_completion_tokens": 100 }GPT-5 მოდელებისთვის სპეციფიკური მართვის პარამეტრები: verbosity და reasoning.effort
ეს მართვის პარამეტრები ხელმისაწვდომია მხოლოდ GPT-5 მოდელებში (gpt-5.2, gpt-5.2-chat-latest, gpt-5.2 pro და ა.შ.). O-სერიის და მოძველებული მოდელები მათ არ უჭერენ მხარს.
`verbosity` იღებს "low", "medium"-ს (ნაგულისხმევი) ან "high"-ს. ის გავლენას ახდენს დეტალიზაციის დონეზე, მაგრამ არა მკაცრ ლიმიტებზე.
{ "model": "gpt-5", "input": "მარტივად ახსენი PageRank-ის პრინციპი.", "text": { "verbosity": "low" }, "max_output_tokens": 200 }`reasoning.effort` აკონტროლებს, რამდენი მსჯელობის token-ი გენერირდება პასუხის შექმნამდე. GPT-5.2 მხარს უჭერს none,low-ს, medium-ს, high,and xhigh-ს. gpt-5.2-pro მხარს უჭერს მხოლოდ medium-ს და high,and xhigh-ს. უფრო ადრეული მსჯელობის მოდელები მხარს უჭერენ მხოლოდ low-ს, medium-ს და high-ს.
{ "model": "gpt-5", "input": "რამდენი ოქრო იქნება საჭირო თავისუფლების ქანდაკების 1 მმ-იანი ფენით დასაფარად?", "reasoning": { "effort": "minimal" } }შეგიძლიათ `reasoning.effort` დააყენოთ none-ზე, რათა მოდელი დაყოვნებისადმი მგრძნობიარე გამოყენების შემთხვევებში არამსჯელობის მოდელივით მოიქცეს.
მიაწოდეთ კონკრეტული ინსტრუქციები
მოითხოვეთ ზუსტად ის სიგრძე ან ფორმა, რომელიც გჭირდებათ. მაგალითები:
„ჩამოთვალე ზუსტად ხუთი ვარიანტი.“
„დაწერე 50-სიტყვიანი შეჯამება.“
„არაუმეტეს 100 token-ისა. თუ მეტი სივრცე გჭირდება, თქვი: „მეტი სივრცე მჭირდება.““
გამოიყენეთ თანაბარი სიგრძის მაგალითები
Few-shot სწავლების მაგალითები, რომლებიც სასურველ სიგრძეს ემთხვევა, მოდელს შაბლონის გაგრძელებაში ეხმარება.
გამოიყენეთ სტრატეგიული შეჩერების მიმდევრობები
გამოიყენეთ stop, რათა გენერაცია შეწყდეს, როცა მოდელი გამყოფს ან დანომრილი სიის საზღვარს მიაღწევს.
{ "stop": ["
###", "6."] }მრავალი კანდიდატი
ჩატის დასრულებები:
nერთ გამოძახებაში აბრუნებს რამდენიმე დასრულებას.Responses API:
nმხარდაჭერილი არ არის; თუ ერთზე მეტი შედეგი გჭირდებათ, გააკეთეთ რამდენიმე გამოძახება.