OpenAI
Trang này được dịch bằng máy học. Xem bài viết gốc bằng tiếng Anh.

Xem xét mức sử dụng và chi phí API

Xem hoạt động API trong Phân tích, kiểm tra số token trong phản hồi API và tìm hiểu bộ lọc dự án, cách xuất dữ liệu cùng chi phí Cấp năng lực xử lý.

Đã cập nhật: yesterday

Tổng quan

Bạn có thể xem mức sử dụng API theo hai cách:

  • Dùng Phân tích > Mức sử dụng để xem hoạt động API trong kỳ báo cáo hiện tại và các kỳ trước.

  • Đọc thông tin sử dụng trong phản hồi API để kiểm tra từng yêu cầu.

Khu thử nghiệm sử dụng các lệnh gọi API giống như ứng dụng của bạn. Token dùng trong Khu thử nghiệm được tính vào mức sử dụng API của tài khoản và áp dụng cùng quy tắc sử dụng cũng như cách tính giá.

Quyền truy cập bảng điều khiển

Bạn phải là chủ sở hữu tổ chức hoặc có quyền Bảng điều khiển mức sử dụng để truy cập Bảng điều khiển mức sử dụng.

Xem mức sử dụng trên bảng điều khiển

Trong Nền tảng API, mở Phân tích và chọn Mức sử dụng để xem dự án hiện tại. Để xem báo cáo toàn tổ chức, chọn Phân tích tổ chức. Chọn kỳ báo cáo bạn muốn xem và kiểm tra lại kỳ này sau khi chuyển đổi giữa phân tích dự án và phân tích tổ chức.

Dữ liệu trên bảng điều khiển được hiển thị theo UTC. Hãy lưu ý múi giờ này khi đối chiếu hoạt động trên bảng điều khiển với nhật ký ứng dụng.

Dữ liệu sử dụng gần đây có thể mất một lúc mới xuất hiện trên bảng điều khiển. Nếu chưa thấy hoạt động gần đây, hãy kiểm tra lại sau.

Lọc dữ liệu sử dụng

Trong Phân tích dự án, dữ liệu sử dụng chỉ bao gồm dự án đã chọn. Trong Phân tích tổ chức, dùng Dự án để chọn các dự án bạn muốn xem. Tất cả dự án bao gồm mọi dự án trong tổ chức, nhưng vẫn áp dụng các bộ lọc khác mà bạn đã chọn.

Dùng Bộ lọc để thu hẹp dữ liệu sử dụng theo Nguồn API, Khóa API, Mô hình, Người dùng hoặc Cấp xử lý. Nguồn API cho phép bạn chọn Tất cả nguồn API, API tác tử hoặc API trực tiếp.

Bỏ từng lựa chọn hoặc chọn Xóa bộ lọc để đặt lại bảng Bộ lọc. Việc xóa bộ lọc không chuyển đổi giữa phân tích dự án và phân tích tổ chức.

Dùng Lọc trên biểu đồ Mức sử dụng để lọc theo Lô. Chọn Đặt lại bộ lọc biểu đồ để đặt lại các bộ lọc của biểu đồ đó.

Nếu một tính năng không hỗ trợ các bộ lọc đã chọn, các giá trị của tính năng đó có thể không hiển thị. Giá trị không hiển thị không có nghĩa là mức sử dụng bằng không.

Nếu một bộ lọc hiển thị lỗi về quyền, bạn có thể không có quyền truy cập các tùy chọn của bộ lọc đó. Điều này không có nghĩa là không có hoạt động sử dụng nào được ghi nhận.

Xem mức sử dụng của từng người dùng

  1. Mở Mức sử dụng trong chế độ xem Phân tích của dự án hoặc tổ chức bạn muốn kiểm tra. Trong bảng Tính năng API, chọn Xem cho mục Phản hồi và hoàn thiện hội thoại.

  2. Trong Bộ lọc, chọn Người dùng rồi chọn người dùng cần xem. Kết quả sẽ cập nhật ngay lập tức.

  3. Xem biểu đồ và bảng của người dùng đó.

Để xem mức sử dụng của một người dùng trên các tính năng, hãy áp dụng bộ lọc Người dùng trên trang tổng quan Mức sử dụng. Để so sánh người dùng, hãy xóa bộ lọc đó và chọn thẻ Người dùng trong bảng.

Xem số token theo ngày, giờ hoặc phút

Nếu Mức sử dụng có các tùy chọn khoảng thời gian, hãy chọn 1 ngày hoặc 1 giờ để xem số token theo ngày hoặc giờ, hoặc 1 phút để xem số token mỗi phút (TPM). Chọn Tự động để bảng điều khiển tự chọn khoảng thời gian cho kỳ báo cáo của bạn. Các khoảng thời gian này áp dụng cho dữ liệu sử dụng, không phải dữ liệu thanh toán.

Nếu 1 phút bị vô hiệu hóa, hãy chọn kỳ báo cáo ngắn hơn hoặc dùng Chọn để phóng to rồi kéo trên biểu đồ để thu hẹp phạm vi. Sau đó chọn 1 phút. Nhấn Esc để hủy vùng chọn phóng to. Chọn phạm vi ngày hiện tại trên thanh công cụ Phân tích để chọn kỳ báo cáo khác.

Xem biểu đồ và bảng mức sử dụng

Dùng Chỉ số để chọn một hoặc nhiều chuỗi dữ liệu hiển thị cùng nhau, gồm Token đầu vào, Token đầu vào không được lưu vào bộ nhớ đệm, Token đầu vào được lưu vào bộ nhớ đệm, Token đầu vào ghi vào bộ nhớ đệm, Token âm thanh đầu vào, Token đầu ra và Token âm thanh đầu ra. Các chỉ số có sẵn tùy thuộc vào tính năng. Dùng chú giải để xác định từng chuỗi dữ liệu.

Dùng Nhóm theo để sắp xếp mức sử dụng theo các danh mục như Dự án, Người dùng hoặc Mô hình, nếu có. Bộ lọc quyết định dữ liệu sử dụng nào được đưa vào; cách nhóm quyết định cách hiển thị dữ liệu đó. Chuyển đổi giữa biểu đồ đường và biểu đồ cột để xem xu hướng hoặc so sánh các danh mục.

Dùng các thẻ trong bảng Mức sử dụng để xem các cách phân tích chi tiết có sẵn. Các bảng hiển thị số liệu liên quan cho từng hàng, chẳng hạn như số yêu cầu, token đầu vào và đầu ra, hoặc đơn vị riêng của từng tính năng.

Trong Tính năng API, chọn Xem cho một tính năng để mở biểu đồ và số liệu phân tích chi tiết của tính năng đó. Phản hồi và hoàn thiện hội thoại có các biểu đồ Token và Yêu cầu riêng biệt, cùng chỉ số Yêu cầu tới mô hình. Các thẻ phân tích chi tiết ở đây sử dụng cùng tiêu chí phân nhóm với trang tổng quan, nhưng không có thẻ Tính năng API. Dùng mục Mức sử dụng trên đường dẫn điều hướng để quay lại trang tổng quan.

Sau khi bạn chọn một tùy chọn Nhóm theo, biểu đồ có thể gộp các danh mục còn lại vào Khác. Nếu Khác xuất hiện trong chú giải biểu đồ, hãy chọn nhãn đó để xem các danh mục được gộp và mức sử dụng của chúng.

Chọn So sánh bảng điều khiển để xem Mức sử dụng cạnh một bảng điều khiển khác trong cùng kỳ báo cáo. Dùng Bảng điều khiển bên trái và Bảng điều khiển bên phải để chọn chế độ xem. Nếu cặp bảng điều khiển không hỗ trợ khoảng thời gian đã chọn, chế độ xem sẽ chuyển sang Tự động. Chọn Thoát so sánh để quay lại bảng điều khiển.

Kiểm tra mức sử dụng bạn không nhận ra

Nếu Mức sử dụng hiển thị hoạt động mà bạn không tìm thấy yêu cầu tương ứng trong nhật ký ứng dụng, hãy thực hiện các bước kiểm tra sau:

  1. Xác nhận tổ chức, phạm vi dự án và kỳ báo cáo. Dùng múi giờ UTC khi so sánh dấu thời gian trên bảng điều khiển với nhật ký ứng dụng.

  2. Mở chế độ xem dự án cho dự án bị ảnh hưởng, hoặc chọn dự án đó trong mục Dự án ở Phân tích tổ chức. Sau đó, dùng Bộ lọc để thu hẹp dữ liệu sử dụng theo khóa API và mô hình, đồng thời chọn kỳ báo cáo ngắn hơn.

  3. Đối chiếu hoạt động với nhật ký của cùng khoảng thời gian, dự án và khóa API. Kiểm tra xem nhật ký của bạn có bao quát tất cả ứng dụng hoặc tiện ích tích hợp sử dụng khóa đó hay không.

  4. Nếu nhiều ứng dụng hoặc tiện ích tích hợp dùng chung một dự án hoặc khóa API, chỉ dựa vào tổng mức sử dụng có thể không xác định được ứng dụng hay tiện ích nào đã gửi yêu cầu. Đối chiếu bảng điều khiển với bản ghi của từng ứng dụng trong cùng khoảng thời gian theo UTC.

  5. Nếu vẫn không xác định được nguồn gốc của mức sử dụng, hãy liên hệ với bộ phận Hỗ trợ OpenAI và cung cấp khoảng thời gian bị ảnh hưởng theo UTC, ID tổ chức và dự án, mã định danh khóa API, cùng ảnh chụp màn hình hoặc nhật ký liên quan. Cung cấp ID yêu cầu nếu có. Không cung cấp khóa API bí mật.

Xuất dữ liệu sử dụng

Để xuất dữ liệu sử dụng, chọn biểu tượng Xuất CSV trên thanh công cụ Phân tích, rồi chọn Dữ liệu hoạt động.

  1. Chọn Tính năng API và một hoặc nhiều tiêu chí Nhóm theo.

  2. Kiểm tra các mục Nguồn API, Dự án, Người dùng, Khóa API và Mô hình. Dự án và Nguồn API được chọn sẵn theo Phân tích; hãy chọn các bộ lọc xuất dữ liệu khác trong hộp thoại.

  3. Chọn Định dạng tệp, Thời gian bắt đầu, Thời gian kết thúc và Khoảng thời gian, rồi chọn Tải xuống. Các ngày được chọn bao gồm trọn ngày theo UTC.

Bạn có thể xem và xuất dữ liệu hoạt động và chi phí từ 00:00 UTC của ngày này một năm trước đến hôm nay. Để lấy dữ liệu cũ hơn, hãy liên hệ với bộ phận Hỗ trợ OpenAI. Dữ liệu hằng ngày được xuất thành các tệp, mỗi tệp bao quát một khoảng 31 ngày.

Để đối soát hóa đơn hằng tháng và xuất các khoản mục, xem: Xuất chi tiết sử dụng hằng tháng.

Nếu bản xuất dữ liệu Hoạt động có các hàng mang giá trị âm, hãy so sánh những hàng có cùng đơn vị, cách nhóm và ngày. Dùng Dữ liệu chi phí để xem số tiền được tính phí. Chỉ một hàng hoạt động có giá trị âm không đủ để kết luận rằng hóa đơn của bạn đã được ghi giảm.

Xem chi phí

Mở Phân tích và chọn Chi phí để xem chi phí của dự án hiện tại. Để xem chi phí toàn tổ chức, chọn Phân tích tổ chức rồi chọn Chi phí.

Kiểm tra phạm vi ngày hiện tại và các bộ lọc trước khi đối chiếu chi phí với mức sử dụng. Mức sử dụng và Chi phí cung cấp các bộ lọc khác nhau; bộ lọc có trong bảng điều khiển này có thể không áp dụng cho bảng điều khiển kia.

Dùng Nguồn API, Khóa API, Mô hình và Khoản mục để thu hẹp dữ liệu chi phí. Trong phân tích tổ chức, dùng Dự án để chọn các dự án bạn muốn xem. Dùng các thẻ Khoản mục, Khóa API, Người dùng, Dự án và Mô hình trong bảng để xem các cách phân tích chi tiết có sẵn.

Giá trị giới hạn chi tiêu không hiển thị không có nghĩa là giới hạn của bạn bằng không hoặc một giới hạn mới đã được áp dụng. Bảng điều khiển có thể không hiển thị giá trị do quyền truy cập, giới hạn chưa được đặt hoặc yêu cầu không thành công.

Xem tình trạng dịch vụ

Nếu tổ chức của bạn có quyền truy cập Tình trạng dịch vụ, hãy mở bảng điều khiển đó trong Phân tích để xem hiệu suất API. Để biết điều kiện truy cập và định nghĩa các chỉ số, xem: Khắc phục lỗi và độ trễ API.

Xem credit được cấp

Chi tiết về credit được cấp có trên trang Thanh toán của tổ chức bạn.

Credit được cấp và mức sử dụng API cung cấp thông tin khác nhau: credit được cấp cho biết các khoản credit gắn với tổ chức, còn mức sử dụng cho biết hoạt động API của tổ chức.

Xem xét mức sử dụng và chi phí Cấp năng lực xử lý

Nếu tổ chức của bạn đã bật Cấp năng lực xử lý và bạn có quyền truy cập cần thiết, hãy mở trang mức sử dụng Cấp năng lực xử lý để xem thông tin chi tiết.

Chi phí gói Cấp năng lực xử lý được ghi nhận cho tổ chức, không phải từng dự án.

Mức sử dụng lớn hơn không nhưng chi phí dự án bằng không

Kiểm tra xem mức sử dụng mô hình có nằm trong hạn mức Cấp năng lực xử lý được phân bổ cho bạn hay không. Nếu toàn bộ mức sử dụng mô hình đó nằm trong hạn mức TPM của Cấp năng lực xử lý, dự án có thể hiển thị mức sử dụng mà không phát sinh thêm chi phí mô hình.

Chi phí đăng ký Cấp năng lực xử lý vẫn được tính ở cấp tổ chức. Hãy xem chi phí toàn tổ chức thay vì chỉ dựa vào chi phí của một dự án riêng lẻ.

Xem dữ liệu của nhiều tổ chức

Bảng điều khiển Mức sử dụng không gộp dữ liệu chi phí hoặc sử dụng của nhiều tổ chức. Mỗi tổ chức, kể cả tổ chức con, đều được xử lý riêng biệt.

Để xem một tổ chức con, hãy chọn tổ chức đó trong bộ chọn tổ chức.

Nếu cần báo cáo tổng hợp, hãy cân nhắc sử dụng các dự án trong cùng một tổ chức thay vì các tổ chức con riêng biệt, hoặc dùng API mức sử dụng để phân tích tùy chỉnh.

Kiểm tra mức sử dụng token trong phản hồi API

Tên các trường mức sử dụng token tùy thuộc vào điểm cuối.

Số tokenHoàn thiện hội thoạiPhản hồi
Token đầu vàousage.prompt_tokensusage.input_tokens
Token đầu rausage.completion_tokensusage.output_tokens
Tổng số tokenusage.total_tokensusage.total_tokens

Phản hồi từ API hoàn thiện hội thoại có thể bao gồm thông tin về mức sử dụng token. Ví dụ:

{
"usage": {
"prompt_tokens": 13,
"completion_tokens": 7,
"total_tokens": 20
}
}

Tùy vào điểm cuối và mô hình, chi tiết sử dụng cũng có thể bao gồm số token đầu vào được lưu trong bộ nhớ đệm và số token suy luận. Các số liệu này giúp giải thích vì sao độ dài hiển thị của một phản hồi không phản ánh toàn bộ số token đã sử dụng.

Để tìm hiểu về các loại token, xem: Tìm hiểu và đếm token.

Với phản hồi phiên âm có báo cáo mức sử dụng token, token đầu vào âm thanh và văn bản đã được tính trong input_tokens. Đừng cộng các thành phần đó vào tổng token đầu vào thêm lần nữa. Đối chiếu output_tokens riêng.

Lấy thông tin sử dụng token từ Chat Completions dạng luồng

Với yêu cầu Chat Completions dạng luồng, hãy thêm:

{
"stream": true,
"stream_options": {
"include_usage": true
}
}

Khi bật include_usage, một khối dữ liệu bổ sung trước data: [DONE] sẽ chứa thông tin sử dụng token của toàn bộ yêu cầu. Mảng choices của khối này rỗng. Các khối khác có giá trị usage là null.

Nếu luồng bị gián đoạn, bạn có thể không nhận được khối dữ liệu cuối cùng chứa thông tin sử dụng token đó. Việc thiếu khối dữ liệu cuối cùng không chứng minh rằng yêu cầu không sử dụng token nào.

Cấu hình này chỉ áp dụng cho Chat Completions. Để biết chi tiết, hãy xem: Tài liệu tham khảo về API hoàn thiện hội thoại.

Bài viết này có hữu ích không?