Assistants API(v2) FAQ

Assistants API란 무엇인가요?

Assistants API를 사용하면 개발자가 앱 내에서 강력한 AI 어시스턴트를 쉽게 구축할 수 있습니다. 이 API는 대화 기록을 관리할 필요를 없애고 코드 인터프리터 및 파일 검색과 같은 OpenAI 호스팅 도구에 대한 액세스를 추가합니다. 이 API는 타사 도구를 위한 개선된 함수 호출도 지원합니다.

Assistants API v1 베타를 계속 사용할 수 있나요?

아니요. 2024년 12월 18일부터 사용자는 더 이상 Assistant API 베타의 v1 버전에 액세스할 수 없습니다. 현재는 v2만 지원합니다. API 호출을 v1에서 v2로 전환하려면 이 마이그레이션 가이드를 확인하세요.

어떻게 액세스하나요?

Assistants API는 OpenAI API 계정이 있는 누구나 사용할 수 있지만, 지원 중단 예정이며 2026년 8월에 제거됩니다. 새 프로젝트에는 대신 Responses API를 사용하세요. 이미 Assistants API를 사용 중이라면 Responses API로의 마이그레이션을 계획하세요. API가 제공되는 동안에는 Assistants Playground에서 기존 어시스턴트에 계속 액세스할 수 있습니다.

어시스턴트란 무엇인가요?

어시스턴트는 OpenAI의 모델을 사용하고 파일에 액세스하며, 지속적인 스레드를 유지하고 도구를 호출할 수 있는 목적별 AI를 나타냅니다.

스레드란 무엇인가요?

스레드는 어시스턴트와 사용자 간의 대화 세션입니다. 스레드는 메시지 기록을 저장하고 대화가 모델의 컨텍스트 길이에 비해 너무 길어지면 이를 잘라내어 애플리케이션 개발을 간소화합니다.

파일 검색 도구란 무엇인가요?

`file_search` 도구는 모델의 응답을 보강하는 데 적합한 데이터를 파일에서 추출할 수 있도록 여러 검색 모범 사례를 기본적으로 구현합니다. 자세한 내용은 개발자 문서를 읽어보세요.

기본적으로 file_search 도구는 다음 설정을 사용합니다.

• 청크 크기: 800토큰

• 청크 중복: 400토큰

• 임베딩 모델: 256차원의 `text-embedding-3-large`

• 컨텍스트에 추가되는 최대 청크 수: 20

파일 업로드 제한 사항은 무엇인가요?

파일 업로드 제한 사항은 다음과 같습니다.

• 파일당 512MB

• 파일당 500만 토큰

• 벡터 스토어당 파일 1만 개

• 어시스턴트당 벡터 스토어 1개

• 스레드당 벡터 스토어 1개

조직 내 각 프로젝트의 전체 스토리지 한도는 100GB입니다.

파일 검색 도구의 제한 사항은 무엇인가요?

향후 몇 달 안에 지원을 추가하기 위해 작업 중인 몇 가지 알려진 제한 사항이 있습니다.

1. 현재 청킹, 임베딩 또는 검색 설정을 수정할 방법이 없습니다.

2. 문서 내 이미지 파싱은 지원하지 않습니다.

3. 구조화된 파일 형식(예: .csv 또는 .jsonl 파일)에 대한 검색은 지원하지 않습니다. 지원되는 파일 형식을 확인하세요.

Assistants API의 요청 한도는 어떻게 되나요?

Assistants API의 요청 한도는 사용량 등급 및 모델에 연결되어 있지 않습니다. 대신 몇 가지 예외를 제외하고 요청 유형별 기본 한도가 있습니다.

• GET: 1000 RPM

• POST: 300 RPM

• DELETE: 분당 300개 요청

API의 코드 인터프리터 요금은 어떻게 책정되나요?

코드 인터프리터 요금은 세션당 $0.03입니다. 어시스턴트가 두 개의 서로 다른 스레드에서 동시에 코드 인터프리터를 호출하면, 코드 인터프리터 세션이 두 개 생성됩니다(2 * $0.03). 각 세션은 기본적으로 1시간 동안 활성 상태이므로, 사용자가 같은 스레드에서 최대 1시간 동안 코드 인터프리터에 계속 지시를 내리면 이 요금은 한 번만 지불하면 됩니다.

API의 파일 검색 요금은 어떻게 책정되나요?

파일 검색 요금은 벡터 스토어 저장 공간 GB당 하루 $0.10입니다(첫 1GB 저장 공간은 무료). 벡터 스토어의 크기는 파일이 파싱, 청킹 및 임베딩된 후 생성된 벡터 스토어의 크기를 기준으로 합니다.

2024년 4월 17일 이전에 생성된 모든 벡터 스토어는 2024년 말까지 무료이며, 이후에는 다음 중 하나가 적용됩니다.

• 2024년 4월 17일 이후 생성된 Run에서 한 번 이상 사용된 경우 현재 요금(현재 $0.10/GB/일)이 청구됩니다.

• 2024년 4월 17일부터 2024년 12월 31일 사이에 단 한 번의 Run에서도 사용되지 않은 경우 삭제됩니다. 이는 가격 변경 발표 전에 만들었지만 사용하지 않았을 수 있는 벡터 스토어에 대해 요금이 청구되는 것을 방지하기 위한 것입니다.

만들 수 있는 어시스턴트 수에 제한이 있나요?

조직이 만들 수 있는 어시스턴트 수에는 제한이 없습니다.

API에서 스트리밍을 사용할 수 있나요?

예, Assistants API에서 스트리밍을 사용할 수 있습니다.

Assistants API에서 JSON 모드를 사용할 수 있나요?

예, Assistants 또는 Run 객체의 response_format 매개변수를 통해 Assistants API에서 JSON 모드를 사용할 수 있습니다.

Assistants API가 타사 함수 호출 요청도 관리하나요?

아니요. 함수 호출을 통해 모델이 도구를 선택하고 해당 도구에 대한 요청 형식을 지정할 수는 있지만, 타사 도구 호출 실행은 OpenAI가 관리하지 않습니다.

OpenAI에 보내는 데이터는 어떻게 처리되나요?

플랫폼의 나머지 부분과 마찬가지로, OpenAI API에 전달된 데이터와 파일은 모델 학습에 절대 사용되지 않으며, 필요할 때 언제든 데이터를 삭제할 수 있습니다. Assistants API에 업로드된 데이터는 사용자가 수동으로 삭제할 때까지 무기한 저장됩니다.

Assistants API를 통해 DALL-E를 사용할 수 있나요?

현재 DALL-E는 사용할 수 없습니다.

Assistants API용 UI가 있나요?

Assistants API는 Playground에서 확인할 수 있습니다. 왼쪽 사이드바에서 Assistants 보기에 있는지, 그리고 켜려는 도구와 호환되는 모델을 사용 중인지 확인하세요.

Assistants API에서 어시스턴트 지침의 문자 수 제한은 얼마인가요?

어시스턴트 지침 필드의 최대 길이는 256,000자입니다.

“요청을 처리하는 동안 서버에 오류가 발생했습니다. 불편을 드려 죄송합니다! 요청을 다시 시도하거나, 오류가 계속되면 도움말 센터(help.openai.com)를 통해 문의하세요. ”와 같은 오류가 표시됩니다. 어떻게 해야 하나요?

이 오류가 표시된다면 프롬프트가 올바르게 설정되지 않았다는 의미일 수 있습니다. 요청을 계속 다시 시도해도 실패한다면 다음을 시도해 보세요.

1. 함수와 유사한 명령을 함수로 처리하도록 프롬프트를 재구성하세요.

2. 프롬프트의 모든 명령을 tools에 함수로 추가하세요.

파일 검색 도구가 제대로 작동하지 않는 이유는 무엇인가요?

파일 검색 도구를 사용할 때는 max_prompt_tokens를 20,000 이상으로 설정하는 것이 좋습니다. 파일 검색을 사용하는 더 긴 대화나 여러 번의 상호작용의 경우, 이 한도를 50,000으로 늘리거나, 가장 좋은 결과를 얻기 위해 max_prompt_tokens 한도를 아예 제거하는 것을 고려하세요. 자세한 내용은 여기에서 읽어보세요.

피드백은 어떻게 제공할 수 있나요?

Developer Forum, 도움말 센터(help.openai.com) 또는 Twitter의 @OpenAIDevs를 통해 여러분의 피드백을 들려주세요.