Kể từ ngày 11 tháng 3 năm 2025, chúng tôi đã phát hành các khối dựng nên nền tảng Tác nhân mới của mình. Để biết chi tiết, hãy xem tài liệu API của chúng tôi dành cho API Responses, các Công cụ bao gồm Tìm kiếm trên web, Tìm kiếm tệp và Sử dụng máy tính, cũng như SDK Tác nhân của chúng tôi với Theo dõi.
Token câu lệnh là các token mà bạn nhập vào mô hình. Đây là số token trong câu lệnh của bạn.
Token hoàn tất là mọi token mà mô hình tạo ra để phản hồi dữ liệu đầu vào của bạn. Đối với một yêu cầu tiêu chuẩn, đây là số token trong phần hoàn tất.
Hầu hết các mô hình chúng tôi cung cấp đều có giới hạn cả về số token mà chúng có thể nhận vào (token câu lệnh) lẫn số token mà chúng có thể xuất ra (token hoàn tất hoặc token mẫu).
Điều này cũng bao gồm mọi token được tạo khi sử dụng giá trị cao hơn của best_of hoặc n. Ví dụ: nếu bạn đang tạo 3 phần hoàn tất ứng viên bằng best_of = 3, số token được lấy mẫu sẽ tối đa là 3 * max_tokens.
Bạn có thể đọc thêm về cách quản lý token trong hướng dẫn tạo văn bản của chúng tôi.