Часто задаваемые вопросы

Что такое Assistants API?

Assistants API позволяет разработчикам легко создавать мощных ИИ-ассистентов в своих приложениях. Этот API избавляет от необходимости управлять историей диалога и предоставляет доступ к инструментам на серверах OpenAI, таким как Интерпретатор кода и «Поиск по файлам». API также поддерживает улучшенный механизм вызова функций для сторонних инструментов.

Можно ли по-прежнему использовать бета-версию v1 API Assistants?

Нет. С 18 декабря 2024 года пользователям больше недоступна бета-версия v1 API Assistants. Сейчас мы поддерживаем только v2. Чтобы перевести вызовы API с v1 на v2, ознакомьтесь с этим руководством по миграции.

Как получить к нему доступ?

Assistants API доступен всем, у кого есть учетная запись OpenAI API, но он считается устаревшим и будет удален в августе 2026 года. Для новых проектов используйте вместо него Responses API. Если вы уже используете Assistants API, спланируйте миграцию на Responses API. Вы по-прежнему можете получать доступ к существующим ассистентам в Assistants Playground, пока API остается доступным.

Что такое ассистент?

Ассистент — это ИИ, созданный для определённых задач. Он использует модели OpenAI, может получать доступ к файлам, сохранять ветки диалога и вызывать инструменты.

Что такое ветка (Thread)?

Ветка — это сеанс диалога между ассистентом и пользователем. Ветки упрощают разработку приложений: они хранят историю сообщений и сокращают её, когда диалог становится слишком длинным для контекстного окна модели.

Что такое инструмент «Поиск по файлам»?

В инструменте file_search уже реализован ряд передовых методов поиска, которые помогают извлекать нужные данные из файлов и дополнять ими ответы модели.

По умолчанию инструмент file_search использует следующие настройки:

• Размер фрагмента: 800 токенов

• Перекрытие фрагментов: 400 токенов

• Модель эмбеддингов: text-embedding-3-large с размерностью 256

• Максимальное число фрагментов, добавляемых в контекст: 20

Какие ограничения действуют при загрузке файлов?

При загрузке файлов действуют следующие ограничения:

• 512 МБ на файл

• 5 млн токенов на файл

• 10 тыс. файлов на векторное хранилище

• 1 векторное хранилище на ассистента

• 1 векторное хранилище на ветку

Общий лимит хранения для каждого проекта в организации — 100 ГБ.

Какие ограничения есть у инструмента «Поиск по файлам»?

Есть несколько известных ограничений, которые мы планируем устранить в ближайшие месяцы:

1. Сейчас нельзя изменить настройки разбиения на фрагменты, создания эмбеддингов или поиска.

2. Анализ изображений внутри документов не поддерживается.

3. Поиск по файлам со структурированными данными (например, .csv или .jsonl) не поддерживается. См. поддерживаемые типы файлов.

Какие лимиты частоты запросов действуют для Assistants API?

Лимиты частоты запросов для Assistants API не зависят от уровня использования и модели. Вместо этого установлены стандартные лимиты по типу запроса, за некоторыми исключениями:

• GET: 1000 запросов в минуту

• POST: 300 запросов в минуту

• DELETE: 300 запросов в минуту

Как тарифицируется Интерпретатор кода в API?

Стоимость использования Интерпретатора кода — 0,03 доллара США за сеанс. Если ваш ассистент вызывает Интерпретатор кода одновременно в двух разных ветках, создаются два сеанса Интерпретатора кода (2 × 0,03 доллара США). По умолчанию каждый сеанс активен в течение часа. Это означает, что если ваш пользователь продолжает давать инструкции Интерпретатору кода в одной и той же ветке в течение часа, плата взимается только один раз.

Как тарифицируется «Поиск по файлам» в API?

Стоимость использования инструмента «Поиск по файлам» — 0,10 доллара США за ГБ векторного хранилища в день (первый ГБ — бесплатно). Объём векторного хранилища определяется после обработки файла: анализа, разбиения на фрагменты и создания эмбеддингов.

Все векторные хранилища, созданные до 17 апреля 2024 года, будут бесплатными до конца 2024 года. После этого они будут:

• Оплачиваться по действующим тарифам (сейчас — 0,10 доллара США за ГБ в день), если они использовались хотя бы в одном запуске (Run), созданном после 17 апреля 2024 года.

• Удалены, если они не использовались ни в одном запуске (Run) с 17 апреля по 31 декабря 2024 года. Это позволит избежать платы за векторные хранилища, которые вы могли создать до объявления об изменении тарифов, но так и не использовали.

Есть ли ограничение на количество ассистентов, которые я могу создать?

Ограничений на количество ассистентов, которые может создать организация, нет.

Поддерживает ли API потоковую передачу?

Да, Assistants API поддерживает потоковую передачу.

Доступен ли режим JSON в Assistants API?

Да, режим JSON доступен в Assistants API через параметр response_format объектов Assistants или Run.

Будет ли Assistants API также обрабатывать запросы на вызов сторонних функций?

Нет. Механизм вызова функций позволяет модели выбирать инструменты и формировать запросы к ним, но OpenAI не управляет выполнением вызовов сторонних инструментов.

Как обрабатываются данные, которые я отправляю в OpenAI?

Как и на остальной нашей платформе, данные и файлы, передаваемые в OpenAI API, никогда не используются для обучения наших моделей. Вы можете удалить свои данные в любой момент. Данные, загруженные в Assistants API, хранятся бессрочно, пока пользователь не удалит их вручную.

Доступен ли DALL-E через Assistants API?

В настоящее время DALL-E недоступен.

Есть ли пользовательский интерфейс для Assistants API?

Вы можете попробовать Playground для Assistants API. Убедитесь, что вы находитесь в представлении Assistants на левой боковой панели и используете модель, совместимую с инструментами, которые хотите включить.

Каков лимит символов для инструкций ассистента в Assistants API?

Максимальная длина поля инструкций ассистента — 256 000 символов.

Я получаю сообщение об ошибке, например: «На сервере произошла ошибка при обработке вашего запроса. Приносим извинения! Вы можете повторить запрос или связаться с нами через Справочный центр по адресу help.openai.com, если ошибка повторяется. » Что делать?

Эта ошибка может означать, что ваш промпт составлен некорректно. Если повторные попытки отправить запрос не помогают, попробуйте следующее:

1. перестройте промпт так, чтобы все команды, похожие на функции, обрабатывались как функции

2. добавьте все команды из промпта в tools в виде функций

Почему инструмент «Поиск по файлам» работает недостаточно хорошо?

При использовании инструмента «Поиск по файлам» рекомендуем задать для max_prompt_tokens значение не менее 20 000. Для длинных диалогов или многократного обращения к инструменту «Поиск по файлам» стоит увеличить этот лимит до 50 000. Для наилучших результатов лучше полностью снять ограничения max_prompt_tokens.

Как оставить отзыв?

Будем рады вашим отзывам на нашем форуме разработчиков, через Справочный центр по адресу help.openai.com или в Twitter @OpenAIDevs.