토큰 사용량을 확인하는 주요 방법은 두 가지입니다:
1. 사용량 대시보드
사용량 대시보드에는 현재 및 이전 월별 청구 주기의 API 사용량이 표시됩니다. 조직 계정에서 특정 사용자의 사용량을 표시하려면 “일일 사용량 분석” 옆의 드롭다운을 사용할 수 있습니다.
2. API 응답의 사용량 데이터
API를 통해서도 토큰 사용량 데이터에 액세스할 수 있습니다. 토큰 사용량 정보는 엔드포인트 응답의 usage 키에 포함됩니다.
예시는 다음과 같습니다:
{
"id": "chatcmpl-abc123",
"object": "chat.completion",
"created": 1677858242,
"model": "gpt-3.5-turbo",
"usage": {
"prompt_tokens": 13,
"completion_tokens": 7,
"total_tokens": 20
},
"choices": [
{
"message": {
"role": "assistant",
"content": "This is a test!"
}
}
]
}컴플리션에 스트리밍을 사용 중이며 사용량 데이터에 액세스하려면 stream_options 매개변수에 다음이 포함되어 있는지 확인하세요:
stream_options: {"include_usage": true}. 스트리밍에 대한 컴플리션 스트리밍 방법 쿡북과 플랫폼 문서를 참고하세요.