Kể từ ngày 11 tháng 3 năm 2025, chúng tôi đã phát hành các khối dựng nên nền tảng Tác nhân mới của mình. Để biết chi tiết, hãy xem tài liệu API của chúng tôi dành cho API Responses, các Công cụ bao gồm Tìm kiếm trên web, Tìm kiếm tệp và Sử dụng máy tính, cũng như SDK Tác nhân của chúng tôi với Theo dõi.
Token câu lệnh là các token bạn nhập vào mô hình. Đây là số lượng token trong câu lệnh của bạn.
Token hoàn thành là mọi token mà mô hình tạo ra để phản hồi nội dung bạn nhập. Với một yêu cầu tiêu chuẩn, đây là số lượng token trong phần hoàn thành.
Hầu hết các mô hình chúng tôi cung cấp đều giới hạn cả số token có thể nhận vào (token câu lệnh) lẫn số token có thể xuất ra (token hoàn thành hoặc token lấy mẫu).
Con số này cũng bao gồm mọi token được tạo ra khi sử dụng giá trị best_of hoặc n cao hơn. Ví dụ: nếu bạn tạo 3 phương án hoàn thành bằng best_of = 3, số token được lấy mẫu sẽ không vượt quá 3 * max_tokens.
Bạn có thể tìm hiểu thêm về cách quản lý token trong hướng dẫn tạo văn bản của chúng tôi.