2025년 3월 11일 현재, 새로운 에이전트 플랫폼의 구성 요소를 출시했습니다. 자세한 내용은 Responses API, 웹 검색, 파일 검색, 컴퓨터 사용 등의 도구, 그리고 에이전트 SDK와 추적에 관한 API 문서를 참조하세요.
프롬프트 토큰은 모델에 입력하는 토큰입니다. 이는 프롬프트에 포함된 토큰 수입니다.
완성 토큰은 입력에 대한 응답으로 모델이 생성하는 모든 토큰입니다. 표준 요청의 경우, 이는 완성에 포함된 토큰 수입니다.
당사가 제공하는 대부분의 모델에는 입력으로 받을 수 있는 토큰 수(프롬프트 토큰)와 출력할 수 있는 토큰 수(완성 또는 샘플 토큰)에 모두 제한이 있습니다.
여기에는 best_of 또는 n 값을 더 높게 설정해 사용할 때 생성되는 모든 토큰도 포함됩니다. 예를 들어 best_of = 3을 사용해 후보 완성 3개를 생성하는 경우, 샘플링되는 토큰 수는 최대 3 * max_tokens입니다.
토큰 관리에 관한 자세한 내용은 텍스트 생성 가이드를 참조하세요.