అవలోకనం
మోడల్ ప్రతిస్పందన పొడవును నియంత్రించడం అనేక కారణాల వల్ల ఉపయోగకరం: ఇది ఖర్చును నిర్వహించడంలో సహాయపడుతుంది (ఎందుకంటే మీరు ప్రతి టోకెన్కు చెల్లిస్తారు), లేటెన్సీ/పనితీరును మెరుగుపరుస్తుంది (చిన్న ప్రతిస్పందనలు వేగంగా తిరిగి వస్తాయి), అలాగే అతిగా పొడవైన లేదా అవసరానికి మించిన అవుట్పుట్లను నివారించి ప్రాసంగికతను నిర్ధారిస్తుంది.
టోకెన్ పరిమితులు, రిజనింగ్ మరియు వివరాల స్థాయి సెట్టింగ్లు, స్పష్టమైన సూచనలు, ఉదాహరణలు, స్టాప్ సీక్వెన్స్లతో మీరు ఇది సాధించవచ్చు. అత్యంత తాజా మరియు పూర్తి వివరాల కోసం, ఎల్లప్పుడూ platform.openai.comలోని అధికారిక API రిఫరెన్స్ను చూడండి.
గరిష్ఠ అవుట్పుట్ పొడవును సెట్ చేయండి
రెస్పాన్సెస్ API
GPT-5 మోడళ్లు మరియు చాలా O-సిరీస్ మోడళ్ల కోసం ఉపయోగిస్తారు: మోడల్ ఉత్పత్తి చేసే టోకెన్ల సంఖ్యను పరిమితం చేయడానికి max_output_tokensను ఉపయోగించండి. compaction_trigger అభ్యర్థనల కోసం max_output_tokensను వదిలివేయండి లేదా దాన్ని కనీసం 20000కు సెట్ చేయండి; చిన్న విలువలు తిరస్కరించబడతాయి. రెస్పాన్సెస్ API బహుళ కంప్లీషన్లకు (n) మద్దతు ఇవ్వదు.
చాట్ కంప్లీషన్స్ API
పాత GPT-3.5, GPT-4o మరియు కొన్నిసార్లు O-సిరీస్ కోసం ఉపయోగిస్తారు.
o3, o4-mini వంటి రీజనింగ్ మోడళ్ల కోసం max_completion_tokensను ఉపయోగించండి (max_tokensకు మారుపేరు).
మునుపటి లేదా రీజనింగ్ చేయని మోడళ్లలో max_tokens ఇప్పటికీ పనిచేస్తుంది.
stop మరియు nకు (బహుళ కంప్లీషన్లు) మద్దతు ఇస్తుంది.
గమనిక: “కనిష్ట టోకెన్లు” అనే సెట్టింగ్ లేదు. మీకు కనిష్ట పొడవు కావాలంటే, దాన్ని మీ ప్రాంప్ట్లో స్పష్టంగా పేర్కొనండి.
మోడల్ సమూహం ఆధారంగా టోకెన్ పరిమితులు
తాజా టోకెన్ పరిమితులు, సందర్భ పరిమాణాలు, అవుట్పుట్ పరిమితుల కోసం, దయచేసి నిర్దిష్ట మోడల్ డాక్యుమెంటేషన్ను చూడండి.
త్వరిత ఉదాహరణలు
రెస్పాన్సెస్ API
{ "model": "gpt-5", "input": "ఫలితాలను సుమారు 80 పదాల్లో సంక్షిప్తంగా చెప్పండి.", "max_output_tokens": 120 }చాట్ కంప్లీషన్స్ (రిజనింగ్ మోడల్)
{ "model": "o3-mini", "messages": [{"role": "user", "content": "Write five one-line options."}], "max_completion_tokens": 100 }GPT-5 మోడళ్లకు ప్రత్యేక నియంత్రణలు: verbosity మరియు reasoning.effort
ఈ నియంత్రణలు GPT-5 మోడళ్లలో మాత్రమే అందుబాటులో ఉంటాయి (gpt-5.2, gpt-5.2-chat-latest, gpt-5.2 pro మొదలైనవి). O-సిరీస్ మరియు పాత మోడళ్లు వీటికి మద్దతు ఇవ్వవు.
verbosity అనేది "low", "medium" (డిఫాల్ట్) లేదా "high"ను అంగీకరిస్తుంది. ఇది వివరాల స్థాయిని ప్రభావితం చేస్తుంది, కానీ ఖచ్చిత పరిమితులను కాదు.
{ "model": "gpt-5", "input": "PageRank ను ఉన్నత స్థాయిలో వివరించండి.", "text": { "verbosity": "low" }, "max_output_tokens": 200 }సమాధానాన్ని రూపొందించే ముందు ఎన్ని రీజనింగ్ టోకెన్లు ఉత్పత్తి కావాలో reasoning.effort నియంత్రిస్తుంది. GPT-5.2 అనేది none, low, medium, high మరియు xhighకు మద్దతు ఇస్తుంది. gpt-5.2-pro అనేది medium, high మరియు xhighకు మాత్రమే మద్దతు ఇస్తుంది. మునుపటి రీజనింగ్ మోడళ్లు low, medium మరియు highకు మాత్రమే మద్దతు ఇస్తాయి.
{ "model": "gpt-5", "input": "స్ట్యాచ్యూ ఆఫ్ లిబర్టీని 1mm పొరతో పూత పూయడానికి ఎంత బంగారం అవసరం అవుతుంది?", "reasoning": { "effort": "minimal" } }ప్రతిస్పందన సమయం కీలకమైన సందర్భాల్లో మోడల్ రీజనింగ్ చేయని మోడల్లా ప్రవర్తించేలా reasoning.effortను noneకు సెట్ చేయవచ్చు.
నిర్దిష్ట సూచనలు ఇవ్వండి
మీకు కావాల్సిన ఖచ్చితమైన పొడవు లేదా ఆకారాన్ని అడగండి. ఉదాహరణలు:
“ఖచ్చితంగా ఐదు ఎంపికలను జాబితా చేయండి.”
“50 పదాల సారాంశం రాయండి.”
“100 టోకెన్లకు మించకూడదు. ఇంకా అవసరమైతే, ‘మరింత స్థలం కావాలి.’ అని చెప్పండి.”
ఒకే తరహా పొడవు ఉన్న ఉదాహరణలను ఉపయోగించండి
మీకు కావాల్సిన పొడవుకు సరిపోయే ఫ్యూ-షాట్ ఉదాహరణలు, మోడల్ అదే నమూనాను కొనసాగించేందుకు సహాయపడతాయి.
వ్యూహాత్మక నిలుపు క్రమాలను వర్తింపజేయండి
మోడల్ విభాజకాన్ని లేదా సంఖ్యా జాబితా సరిహద్దును చేరుకున్నప్పుడు ఉత్పత్తిని ఆపడానికి stopను ఉపయోగించండి.
{ "stop": ["
###", "6."] }బహుళ ప్రత్యామ్నాయాలు
చాట్ కంప్లీషన్స్: n ఒకే కాల్లో బహుళ కంప్లీషన్లను అందిస్తుంది.
రెస్పాన్సెస్ API: nకు మద్దతు లేదు; ఒకటి కంటే ఎక్కువ అవుట్పుట్లు అవసరమైతే అనేక కాల్లు చేయండి.
