Tổng quan
Bạn có thể xem xét mức sử dụng API theo hai cách:
Dùng Bảng điều khiển mức sử dụng để xem xét hoạt động trong kỳ thanh toán hiện tại và các kỳ trước.
Đọc thông tin sử dụng trong phản hồi API để kiểm tra từng yêu cầu.
Khu thử nghiệm sử dụng cùng các lệnh gọi API như ứng dụng của bạn. Các token của Khu thử nghiệm được tính vào mức sử dụng API của tài khoản và tuân theo cùng quy tắc sử dụng cũng như mức giá.
Quyền truy cập bảng điều khiển
Bạn phải là chủ sở hữu tổ chức hoặc có quyền Bảng điều khiển mức sử dụng để truy cập Bảng điều khiển mức sử dụng.
Xem xét mức sử dụng trên bảng điều khiển
Mở Bảng điều khiển mức sử dụng, chọn tổ chức bạn muốn xem xét rồi chọn kỳ báo cáo phù hợp.
Dữ liệu trên bảng điều khiển được hiển thị theo giờ UTC. Hãy lưu ý múi giờ này khi so sánh hoạt động trên bảng điều khiển với nhật ký ứng dụng.
Chọn dự án
Bảng điều khiển có bộ chọn dự án riêng. Bộ chọn này hoạt động độc lập với dự án được chọn ở nơi khác trên Nền tảng API.
Dùng bộ chọn trên bảng điều khiển để xem xét một, nhiều hoặc tất cả dự án. Để xem dữ liệu tổng thể của tổ chức, hãy xóa các dự án đã chọn. Khi không chọn dự án nào, bảng điều khiển sẽ hiển thị dữ liệu của tất cả dự án.
Xem xét mức sử dụng của một người dùng
Để xem xét mức sử dụng Responses và Chat Completions của một người dùng:
Trong Bảng điều khiển mức sử dụng, chuyển đến Khả năng API > Responses và Chat Completions.
Chọn Lọc theo.
Trong Người dùng, chọn người dùng rồi chọn Áp dụng bộ lọc.
Xem số token mỗi phút
Các trang chi tiết mức sử dụng hỗ trợ chọn khoảng thời gian. Chọn khoảng thời gian 1 phút để xem số token mỗi phút (TPM).
Khoảng thời gian này áp dụng cho dữ liệu sử dụng, không áp dụng cho dữ liệu thanh toán.
Xuất dữ liệu sử dụng
Không giới hạn khoảng ngày xuất dữ liệu. Dữ liệu xuất trong thời gian dài có thể được chia thành nhiều tệp.
Để đối soát hóa đơn hằng tháng và xuất dữ liệu theo từng mục, hãy xem: Xuất thông tin chi tiết về mức sử dụng hằng tháng.
Xem các khoản credit được cấp
Thông tin chi tiết về các khoản credit được cấp có trên trang Thanh toán của tổ chức.
Khoản credit được cấp và mức sử dụng API cung cấp thông tin khác nhau: khoản được cấp cho biết số credit gắn với tổ chức, còn mức sử dụng cho biết hoạt động API của tổ chức.
Xem xét mức sử dụng và chi phí Cấp năng lực xử lý
Nếu tổ chức của bạn đã bật Cấp năng lực xử lý và bạn có quyền truy cập cần thiết, hãy mở trang mức sử dụng Cấp năng lực xử lý để xem thông tin chi tiết.
Chi phí gói Cấp năng lực xử lý được ghi nhận cho tổ chức, không phải từng dự án.
Mức sử dụng lớn hơn 0 nhưng chi phí của dự án bằng 0
Kiểm tra xem mức sử dụng mô hình có nằm trong hạn mức Cấp năng lực xử lý của bạn hay không. Nếu toàn bộ mức sử dụng của mô hình đó nằm trong hạn mức TPM của Cấp năng lực xử lý, dự án có thể ghi nhận mức sử dụng mà không phát sinh thêm chi phí mô hình.
Chi phí đăng ký Cấp năng lực xử lý vẫn được ghi nhận ở cấp tổ chức. Để xem xét:
Xóa bộ lọc dự án trong Bảng điều khiển mức sử dụng.
Chọn Danh mục chi phí.
Xem xét nhiều tổ chức
Bảng điều khiển mức sử dụng không tổng hợp dữ liệu chi phí hoặc mức sử dụng giữa các tổ chức. Mỗi tổ chức, kể cả tổ chức con, đều được xử lý riêng biệt.
Để xem một tổ chức con, hãy chọn tổ chức đó trong bộ chọn tổ chức.
Nếu cần báo cáo tổng hợp, hãy cân nhắc sử dụng các dự án trong cùng một tổ chức thay vì các tổ chức con riêng biệt, hoặc dùng API Mức sử dụng để phân tích tùy chỉnh.
Kiểm tra mức sử dụng token trong phản hồi API
Tên trường về mức sử dụng token phụ thuộc vào điểm cuối.
| Số token | Chat Completions | Responses |
| Token đầu vào | usage.prompt_tokens | usage.input_tokens |
| Token đầu ra | usage.completion_tokens | usage.output_tokens |
| Tổng số token | usage.total_tokens | usage.total_tokens |
Ví dụ, một phản hồi Chat Completions có thể chứa:
| { "usage": { "prompt_tokens": 13, "completion_tokens": 7, "total_tokens": 20 }} |
Tùy theo điểm cuối và mô hình, thông tin sử dụng cũng có thể bao gồm số token đầu vào được lưu vào bộ nhớ đệm và token suy luận. Những số liệu này giúp giải thích vì sao độ dài hiển thị của phản hồi không phản ánh toàn bộ mức sử dụng token.
Để tìm hiểu các loại token khác nhau, hãy xem: Tìm hiểu và đếm token.
Lấy dữ liệu sử dụng từ Chat Completions truyền trực tuyến
Đối với yêu cầu Chat Completions truyền trực tuyến, hãy thêm:
| { "stream": true, "stream_options": { "include_usage": true }} |
Khi bật include_usage, một khối dữ liệu bổ sung ngay trước data: [DONE] sẽ chứa mức sử dụng của toàn bộ yêu cầu. Mảng choices của khối này trống. Các khối khác có giá trị usage là null.
Nếu luồng bị gián đoạn, bạn có thể không nhận được khối dữ liệu sử dụng cuối cùng đó. Việc thiếu khối cuối cùng không có nghĩa là yêu cầu không sử dụng token nào.
Cấu hình này chỉ dành cho Chat Completions. Để biết chi tiết, hãy xem tài liệu tham khảo API Chat Completions.