ณ วันที่ 11 มีนาคม 2025 เราได้เปิดตัวองค์ประกอบพื้นฐานของแพลตฟอร์มเอเจนต์ใหม่ของเราแล้ว ดูรายละเอียดได้ในเอกสาร API สำหรับ Responses API, Tools ซึ่งรวมถึง Web Search, File Search และ Computer Use และ Agents SDK ของเราพร้อม Tracing
Prompt token คือ Token ที่คุณป้อนเข้าไปในโมเดล ซึ่งก็คือจำนวน Token ในคำสั่งของคุณ
Completion token คือ Token ใดๆ ที่โมเดลสร้างขึ้นเพื่อตอบสนองต่อข้อมูลที่คุณป้อน สำหรับคำขอมาตรฐาน นี่คือจำนวน Token ใน completion
โมเดลส่วนใหญ่ที่เรามีให้บริการจะมีทั้งข้อจำกัดด้านจำนวน Token ที่รับเข้าได้ (prompt token) และจำนวน Token ที่ส่งออกได้ (completion token หรือ sample token)
ซึ่งยังรวมถึง Token ใดๆ ที่สร้างขึ้นเมื่อใช้ค่า best_of หรือ n ที่สูงขึ้นด้วย ตัวอย่างเช่น หากคุณกำลังสร้าง candidate completion 3 รายการโดยใช้ best_of = 3 จำนวน sampled token จะมีได้สูงสุด 3 * max_tokens
คุณสามารถอ่านเพิ่มเติมเกี่ยวกับการจัดการ Token ได้ในคู่มือการสร้างข้อความของเรา