2025년 3월 11일 기준으로, 새 Agents 플랫폼의 핵심 구성 요소를 출시했습니다. 자세한 내용은 Responses API에 대한 API 문서, 웹 검색, 파일 검색, 컴퓨터 사용을 포함한 Tools, 그리고 Agents SDK의 트레이싱을 참고하세요.
프롬프트 토큰은 모델에 입력하는 토큰입니다. 즉, 프롬프트에 포함된 토큰 수입니다.
컴플리션 토큰은 입력에 대한 응답으로 모델이 생성하는 모든 토큰입니다. 일반적인 요청에서는 컴플리션에 포함된 토큰 수를 말합니다.
저희가 제공하는 대부분의 모델에는 입력할 수 있는 토큰 수(프롬프트 토큰)와 출력할 수 있는 토큰 수(컴플리션 또는 샘플 토큰)에 대한 제한이 모두 있습니다.
여기에는 best_of 또는 n 값을 더 크게 설정했을 때 생성되는 모든 토큰도 포함됩니다. 예를 들어 best_of = 3을 사용해 후보 컴플리션 3개를 생성한다면, 샘플링되는 토큰 수는 최대 3 * max_tokens입니다.
토큰 관리에 대한 자세한 내용은 텍스트 생성 가이드에서 확인할 수 있습니다.