토큰 사용량은 어떻게 확인하나요?

토큰 사용량을 확인할 수 있는 두 가지 주요 옵션이 있습니다.

1. 사용량 대시보드

사용량 대시보드에 현재 및 과거 월별 청구 주기 동안의 API 사용량이 표시됩니다. 조직 계정에 있는 특정 사용자의 사용량을 표시하려면 "일일 사용량 분석" 옆에 있는 드롭다운 메뉴를 사용하세요.

2. API 응답의 사용량 데이터

API를 통해 토큰 사용량 데이터를 조회할 수도 있습니다. 토큰 사용량 정보는 엔드포인트의 응답에서 usage 키 아래에 포함되어 있습니다.

예:

{
    "id": "chatcmpl-abc123",
    "object": "chat.completion",
    "created": 1677858242,
    "model": "gpt-3.5-turbo",
    "usage": {
        "prompt_tokens": 13,
        "completion_tokens": 7,
        "total_tokens": 20
    },
    "choices": [
        {
            "message": {
                "role": "assistant",
                "content": "This is a test!"
            }
        }
    ]
}

완료 요청에 스트리밍을 사용하고 사용량 데이터에 액세스하려면 stream_options 매개변수에

stream_options: {"include_usage": true}가 포함되어 있는지 확인해야 합니다. 다음은 완료 요청 스트리밍 방법에 대한 지침서와 스트리밍에 관한 플랫폼 문서입니다.