OpenAI
Trang này được dịch bằng máy học. Xem bài viết gốc bằng tiếng Anh.

Sự khác biệt giữa token câu lệnh và token hoàn thành là gì?

Sự khác biệt giữa token đầu vào và token đầu ra là gì?

Đã cập nhật: 3 days ago

Tính đến ngày 11 tháng 3 năm 2025, chúng tôi đã phát hành các thành phần nền tảng của nền tảng tác nhân mới. Để biết chi tiết, hãy xem tài liệu API về Responses API, các Công cụ gồm Web Search, File Search, và Computer Use, cùng Agents SDK với Tracing.

Token câu lệnh là các token bạn nhập vào mô hình. Đây là số token trong câu lệnh của bạn.

Token hoàn thành là bất kỳ token nào mà mô hình tạo ra để phản hồi đầu vào của bạn. Với một yêu cầu tiêu chuẩn, đây là số token trong phần hoàn thành.

Hầu hết các mô hình chúng tôi cung cấp đều có cả giới hạn về số token chúng có thể nhận vào (token câu lệnh) và về số token chúng có thể xuất ra (token hoàn thành hoặc token mẫu).

Điều này cũng bao gồm mọi token được tạo ra khi dùng giá trị cao hơn của best_of hoặc n. Ví dụ: nếu bạn đang tạo 3 phương án hoàn thành bằng best_of = 3, thì số token được lấy mẫu sẽ tối đa là 3 * max_tokens.

Bạn có thể đọc thêm về cách quản lý token trong hướng dẫn tạo văn bản của chúng tôi.

Bài viết này có hữu ích không?