OpenAI
ఈ పేజీ మెషిన్ ట్రాన్స్‌లేషన్‌తో అనువదించబడింది. అసలు ఇంగ్లీష్ ఆర్టికల్‌ను చూడండి.

OpenAI మోడల్ ప్రతిస్పందనల పొడవును నియంత్రించడం

టోకెన్ సెట్టింగ్‌లు, స్పష్టమైన ప్రాంప్ట్‌లు, ఉదాహరణలు, స్టాప్ సీక్వెన్స్‌లతో OpenAI మోడల్ అవుట్‌పుట్ పరిమితులను ఎలా సెట్ చేయాలో తెలుసుకోండి.

అప్డేట్ చేయబడిన: 8 days ago

అవలోకనం

మోడల్ ప్రతిస్పందన పొడవును నియంత్రించడం అనేక కారణాల వల్ల ఉపయోగకరం: ఇది ఖర్చును నిర్వహించడంలో సహాయపడుతుంది (ఎందుకంటే మీరు ప్రతి టోకెన్‌కు చెల్లిస్తారు), లేటెన్సీ/పనితీరును మెరుగుపరుస్తుంది (చిన్న ప్రతిస్పందనలు వేగంగా తిరిగి వస్తాయి), అలాగే అతిగా పొడవైన లేదా అవసరానికి మించిన అవుట్‌పుట్‌లను నివారించి ప్రాసంగికతను నిర్ధారిస్తుంది.

టోకెన్ పరిమితులు, రిజనింగ్ మరియు వివరాల స్థాయి సెట్టింగ్‌లు, స్పష్టమైన సూచనలు, ఉదాహరణలు, స్టాప్ సీక్వెన్స్‌లతో మీరు ఇది సాధించవచ్చు. అత్యంత తాజా మరియు పూర్తి వివరాల కోసం, ఎల్లప్పుడూ platform.openai.comలోని అధికారిక API రిఫరెన్స్‌ను చూడండి.

గరిష్ఠ అవుట్‌పుట్ పొడవును సెట్ చేయండి

రెస్పాన్సెస్ API

GPT-5 మోడల్‌లు మరియు చాలా o-సిరీస్ మోడల్‌ల కోసం ఉపయోగిస్తారు: మోడల్ జనరేట్ చేసే టోకెన్‌ల సంఖ్యకు పరిమితి పెట్టడానికి max_output_tokens ఉపయోగించండి. compaction_trigger అభ్యర్థనల కోసం, max_output_tokensను వదిలివేయండి లేదా దాన్ని కనీసం 20000కు సెట్ చేయండి; చిన్న విలువలు తిరస్కరించబడతాయి. రెస్పాన్సెస్ API బహుళ కంప్లీషన్‌లకు (n) మద్దతు ఇవ్వదు.

చాట్ కంప్లీషన్స్ API

పాత GPT-3.5, GPT-4o, మరియు కొన్నిసార్లు o-సిరీస్ కోసం ఉపయోగిస్తారు.

  • o3 మరియు o4-mini వంటి రిజనింగ్ మోడల్‌ల కోసం, max_completion_tokens (max_tokensకు అలియాస్) ఉపయోగించండి.

  • మునుపటి/రిజనింగ్ కాని మోడల్‌లకు, max_tokens ఇప్పటికీ పనిచేస్తుంది.

  • stop మరియు n (బహుళ కంప్లీషన్‌లు)కు మద్దతు ఇస్తుంది.

గమనిక: “కనిష్ట టోకెన్లు” అనే సెట్టింగ్ లేదు. మీకు కనిష్ట పొడవు కావాలంటే, దాన్ని మీ ప్రాంప్ట్‌లో స్పష్టంగా పేర్కొనండి.

మోడల్ సమూహం ఆధారంగా టోకెన్ పరిమితులు

తాజా టోకెన్ పరిమితులు, సందర్భ పరిమాణాలు, అవుట్‌పుట్ పరిమితుల కోసం, దయచేసి నిర్దిష్ట మోడల్ డాక్యుమెంటేషన్‌ను చూడండి.

త్వరిత ఉదాహరణలు

రెస్పాన్సెస్ API

{ "model": "gpt-5", "input": "ఫలితాలను సుమారు 80 పదాల్లో సంక్షిప్తంగా చెప్పండి.", "max_output_tokens": 120 }

చాట్ కంప్లీషన్స్ (రిజనింగ్ మోడల్)

{ "model": "o3-mini", "messages": [{"role": "user", "content": "Write five one-line options."}], "max_completion_tokens": 100 }

GPT-5 మోడల్‌లకు ప్రత్యేక నియంత్రణలు: verbosity మరియు reasoning.effort

ఈ నియంత్రణలు GPT-5 మోడల్‌లలో మాత్రమే అందుబాటులో ఉంటాయి (gpt-5.2, gpt-5.2-chat-latest, gpt-5.2 pro మొదలైనవి). O-సిరీస్ మరియు పాత మోడల్‌లు వీటికి మద్దతు ఇవ్వవు.

`verbosity` "low", "medium" (డిఫాల్ట్), లేదా "high"ను అంగీకరిస్తుంది. ఇది వివరాల స్థాయిని ప్రభావితం చేస్తుంది, కానీ కఠిన పరిమితులను కాదు.

{ "model": "gpt-5", "input": "PageRank ను ఉన్నత స్థాయిలో వివరించండి.", "text": { "verbosity": "low" }, "max_output_tokens": 200 }

జవాబు ఇవ్వడానికి ముందు ఎన్ని రిజనింగ్ టోకెన్‌లు జనరేట్ కావాలో `reasoning.effort` నియంత్రిస్తుంది. GPT-5.2 none,low, medium, high,and xhighకు మద్దతు ఇస్తుంది. gpt-5.2-pro medium, high,and xhighకు మాత్రమే మద్దతు ఇస్తుంది. మునుపటి రిజనింగ్ మోడల్‌లు low, medium, మరియు highకు మాత్రమే మద్దతు ఇస్తాయి.

{ "model": "gpt-5", "input": "స్ట్యాచ్యూ ఆఫ్ లిబర్టీని 1mm పొరతో పూత పూయడానికి ఎంత బంగారం అవసరం అవుతుంది?", "reasoning": { "effort": "minimal" } }

లేటెన్సీకి సున్నితమైన వినియోగ సందర్భాల కోసం, మోడల్‌ను రిజనింగ్ కాని మోడల్‌లా ప్రవర్తించేలా చేయడానికి `reasoning.effort`ను noneకు సెట్ చేయవచ్చు.

నిర్దిష్ట సూచనలు ఇవ్వండి

మీకు కావాల్సిన ఖచ్చితమైన పొడవు లేదా ఆకారాన్ని అడగండి. ఉదాహరణలు:

  • ఖచ్చితంగా ఐదు ఎంపికలను జాబితా చేయండి.”

  • 50 పదాల సారాంశం రాయండి.”

  • 100 టోకెన్‌లకు మించకూడదు. ఇంకా అవసరమైతే, ‘మరింత స్థలం కావాలి.’ అని చెప్పండి.”

ఒకే తరహా పొడవు ఉన్న ఉదాహరణలను ఉపయోగించండి

మీకు కావాల్సిన పొడవుకు సరిపోయే ఫ్యూ-షాట్ ఉదాహరణలు, మోడల్ అదే నమూనాను కొనసాగించేందుకు సహాయపడతాయి.

వ్యూహాత్మక స్టాప్ సీక్వెన్స్‌లను వర్తింపజేయండి

మోడల్ డిలిమిటర్ లేదా సంఖ్యల జాబితా సరిహద్దుకు చేరుకున్నప్పుడు జనరేషన్‌ను ఆపడానికి stop ఉపయోగించండి.

{ "stop": ["
###", "6."] }

బహుళ ప్రత్యామ్నాయాలు

  • చాట్ కంప్లీషన్స్: n ఒకే కాల్‌లో బహుళ కంప్లీషన్‌లను అందిస్తుంది.

  • రెస్పాన్సెస్ API: nకు మద్దతు లేదు; ఒకటి కంటే ఎక్కువ అవుట్‌పుట్‌లు అవసరమైతే బహుళ కాల్‌లు చేయండి.

ఈ వ్యాసం ఉపయోగకరంగా ఉందా?