2025년 3월 11일부로 새로운 Agents 플랫폼의 구성 요소를 출시했습니다. 자세한 내용은 Responses API, 웹 검색, 파일 검색, 컴퓨터 사용을 포함한 도구, 그리고 추적 기능이 있는 Agents SDK에 대한 API 문서를 참조하세요. Assistants API 베타에 대한 여러분의 피드백을 바탕으로, Responses API에 주요 개선 사항을 반영했습니다. 전체 기능 동등성을 달성한 후, 올해 말 Assistants API 지원 중단 계획을 발표할 예정이며, 목표 종료 시점은 2026년 상반기입니다.
자주 묻는 질문
Assistants API란 무엇인가요?
Assistants API를 사용하면 개발자가 앱 내에 강력한 AI 어시스턴트를 손쉽게 구축할 수 있습니다. 이 API를 사용하면 대화 기록을 직접 관리할 필요가 없으며, OpenAI가 호스팅하는 코드 인터프리터, 파일 검색 등의 도구도 이용할 수 있습니다. 또한 서드 파티 도구를 위한 향상된 함수 호출 기능도 지원합니다.
Assistants API v1 베타를 계속 사용할 수 있나요?
아니요. 2024년 12월 18일부터 사용자는 더 이상 Assistants API 베타의 v1 버전을 이용할 수 없습니다. 현재는 v2만 지원합니다. API 호출을 v1에서 v2로 전환하려면 이 마이그레이션 가이드를 확인해 주세요.
어떻게 액세스하나요?
Assistants API는 OpenAI API 계정이 있는 누구나 사용할 수 있지만, 지원 중단 예정이며 2026년 8월에 제거됩니다. 새 프로젝트에는 대신 Responses API를 사용하세요. 이미 Assistants API를 사용 중이라면 Responses API로의 마이그레이션을 계획하세요. API가 제공되는 동안에는 Assistants Playground에서 기존 어시스턴트에 계속 액세스할 수 있습니다.
어시스턴트란 무엇인가요?
어시스턴트는 특정 목적에 맞게 설계된 AI로, OpenAI의 모델을 사용하며 파일에 접근하고, 스레드를 지속적으로 유지하고, 도구를 호출할 수 있습니다.
스레드란 무엇인가요?
스레드는 어시스턴트와 사용자 간의 대화 세션입니다. 스레드는 메시지 기록을 저장하고, 대화가 모델의 컨텍스트 길이를 초과할 만큼 길어지면 기록을 잘라내므로 애플리케이션 개발이 간편해집니다.
파일 검색 도구란 무엇인가요?
file_search 도구에는 여러 검색 모범 사례가 기본으로 적용되어 있어, 파일에서 적절한 데이터를 추출해 모델의 응답을 보강할 수 있습니다.
file_search 도구의 기본 설정은 다음과 같습니다.
청크 크기: 800토큰
청크 간 중복: 400토큰
임베딩 모델: text-embedding-3-large, 256차원
컨텍스트에 추가되는 최대 청크 수: 20개
파일 업로드에는 어떤 제한이 있나요?
파일 업로드 제한은 다음과 같습니다.
파일당 512MB
파일당 500만 토큰
벡터 스토어당 파일 10,000개
어시스턴트당 벡터 스토어 1개
스레드당 벡터 스토어 1개
조직 내 각 프로젝트의 총 저장 용량 한도는 100GB입니다.
파일 검색 도구에는 어떤 제약이 있나요?
현재 알려진 제약은 다음과 같으며, 향후 몇 달에 걸쳐 지원을 추가하기 위해 노력하고 있습니다.
현재 청킹, 임베딩 또는 검색 설정을 변경할 수 없습니다.
문서 내 이미지 파싱은 지원하지 않습니다.
구조화된 파일 형식(예: .csv 또는 .jsonl 파일)에 대한 검색은 지원하지 않습니다. 지원되는 파일 형식을 확인하세요.
Assistants API의 요청 한도는 어떻게 되나요?
Assistants API의 요청 한도는 사용 등급 및 모델과 연동되지 않습니다. 대신 일부 예외를 제외하고 요청 유형별 기본 한도가 적용됩니다.
GET: 1000 RPM
POST: 300 RPM
DELETE: 분당 요청 300회
API에서 코드 인터프리터 요금은 어떻게 책정되나요?
코드 인터프리터 요금은 세션당 $0.03입니다. 어시스턴트가 서로 다른 두 스레드에서 코드 인터프리터를 동시에 호출하면 코드 인터프리터 세션이 두 개 생성됩니다(2 * $0.03). 각 세션은 기본적으로 1시간 동안 활성 상태로 유지됩니다. 따라서 사용자가 동일한 스레드에서 최대 1시간 동안 코드 인터프리터에 계속 지시를 내리더라도 요금은 한 번만 부과됩니다.
API에서 파일 검색 요금은 어떻게 책정되나요?
파일 검색 요금은 벡터 스토어 저장 용량을 기준으로 하루에 GB당 $0.10입니다(첫 1GB는 무료). 벡터 스토어의 크기는 파일을 파싱, 청킹, 임베딩한 후의 최종 크기를 기준으로 합니다.
2024년 4월 17일 이전에 생성된 벡터 스토어는 2024년 말까지 무료로 제공되며, 이후에는 다음과 같이 처리됩니다.
2024년 4월 17일 이후 생성된 Run에서 한 번이라도 사용된 경우, 현행 요금(현재 하루에 GB당 $0.10)이 청구됩니다.
2024년 4월 17일부터 2024년 12월 31일 사이에 어떤 Run에서도 사용되지 않은 경우 삭제됩니다. 이는 요금 변경 발표 전에 생성했지만 한 번도 사용하지 않은 벡터 스토어에 요금이 부과되지 않도록 하기 위한 조치입니다.
만들 수 있는 어시스턴트 수에 제한이 있나요?
조직이 만들 수 있는 어시스턴트 수에는 제한이 없습니다.
API에서 스트리밍을 사용할 수 있나요?
네, Assistants API에서 스트리밍을 사용할 수 있습니다.
Assistants API에서 JSON 모드를 사용할 수 있나요?
네, Assistants API에서는 Assistants 또는 Run 객체의 response_format 매개변수를 통해 JSON 모드를 사용할 수 있습니다.
Assistants API가 서드 파티 함수 호출 요청도 관리하나요?
아니요. 함수 호출 기능을 통해 모델이 도구를 선택하고 해당 도구에 맞는 형식으로 요청을 생성할 수는 있지만, 서드 파티 도구 호출의 실행은 OpenAI가 관리하지 않습니다.
OpenAI에 보내는 데이터는 어떻게 처리되나요?
플랫폼의 다른 서비스와 마찬가지로, OpenAI API에 전달되는 데이터와 파일은 모델 학습에 절대 사용되지 않으며 필요할 때 언제든지 데이터를 삭제할 수 있습니다. Assistants API에 업로드된 데이터는 사용자가 직접 삭제할 때까지 무기한 저장됩니다.
Assistants API에서 DALL-E를 사용할 수 있나요?
현재 DALL-E는 사용할 수 없습니다.
Assistants API용 UI가 있나요?
Assistants API는 Playground에서 확인할 수 있습니다. 왼쪽 사이드바에서 Assistants 보기에 있는지, 그리고 켜려는 도구와 호환되는 모델을 사용 중인지 확인하세요.
Assistants API에서 어시스턴트 지침의 글자 수 제한은 얼마인가요?
어시스턴트 지침 필드에는 최대 256,000자까지 입력할 수 있습니다.
“요청을 처리하는 중 서버에서 오류가 발생했습니다. 불편을 드려 죄송합니다! 요청을 다시 시도하거나, 오류가 지속되면 help.openai.com의 도움말 센터를 통해 문의해 주세요. ”와 같은 오류가 발생합니다. 어떻게 해야 하나요?
이 오류가 발생한다면 프롬프트가 올바르게 설정되지 않았을 수 있습니다. 요청을 계속 재시도해도 실패한다면 다음 방법을 시도해 보세요.
함수처럼 동작하는 명령이 함수로 처리되도록 프롬프트를 재구성하세요.
프롬프트에 있는 명령을 tools에 함수로 추가하세요.
파일 검색 도구가 제대로 작동하지 않는 이유는 무엇인가요?
파일 검색 도구를 사용할 때는 max_prompt_tokens를 최소 20,000으로 설정하는 것이 좋습니다. 대화가 길거나 파일 검색을 여러 번 사용하는 경우 이 한도를 50,000으로 늘리는 것을 고려하세요. 최상의 결과를 얻으려면 max_prompt_tokens 제한을 완전히 없애는 것이 가장 좋습니다.
피드백은 어떻게 보낼 수 있나요?
개발자 포럼, help.openai.com의 도움말 센터 또는 Twitter @OpenAIDevs로 여러분의 의견을 들려주세요.