Обзор

Представляем две модели рассуждений с открытыми весами: gpt‑oss‑120b и gpt‑oss‑20b. Они работают на инфраструктуре, которую вы контролируете, или через хостинг-провайдеров.

Почему открытые веса

• Выбор и контроль: запускайте модели локально или в своем частном облаке, сохраняйте резидентность данных и настраивайте производительность под свои потребности.

• Кастомизация: дообучайте или адаптируйте модели с помощью предпочитаемых открытых инструментов.

Доступность и лицензирование

• Лицензия: Apache 2.0 разрешает широкое использование, изменение и повторное распространение, включая коммерческое использование (при соблюдении нашей политики использования gpt-oss).

• Предоставление: недоступны через OpenAI API, поэтому цены API и лимиты запросов не применяются.

• Совместимость: можно запускать с распространенными открытыми стеками инференса, такими как vLLM, Ollama, llama.cpp, а также в облачных или самостоятельно управляемых GPU-средах.

Начало работы

Получить веса модели и сопутствующие ресурсы можно следующими способами:

• Посетите сайт gpt-oss, где представлены обзор и прямые ссылки.

• Скачайте веса из коллекции Hugging Face — сообщества, где можно найти обе модели, посмотреть примеры использования и при желании запустить инференс непосредственно с помощью сервисов Hugging Face.

• В нашем репозитории GitHub доступен справочный код для инференса.

• Воспользуйтесь руководствами в разделе «Рецепты OpenAI», чтобы настроить поддерживаемые среды выполнения, такие как Ollama, vLLM и Transformers. В «Рецептах» также приведены пошаговые инструкции по локальному запуску, использованию распространённых сред выполнения и, если это поддерживается, дообучению моделей gpt-oss.

gpt‑oss‑safeguard (предварительная версия для исследований)

gpt‑oss‑safeguard — это две модели рассуждений в области безопасности с открытыми весами, созданные на базе gpt‑oss. Они предназначены для классификации безопасности на основе политик и связанных задач в области доверия и безопасности, которые выполняются в контролируемой вами инфраструктуре. Как и у других моделей gpt‑oss, их веса недоступны через API OpenAI или ChatGPT.

• Текстовые модели с эталонными схемами структурированных ответов (например, решение по политике и его обоснование).

• Использование собственной политики: модель интерпретирует вашу политику в письменном виде, благодаря чему ее можно применять в разных продуктах с минимальными инженерными затратами.

• Обоснованные решения: необязательные трассировки рассуждений упрощают отладку и аудит (предназначены для разработчиков и специалистов по безопасности, а не для показа конечным пользователям).

• Настраиваемый уровень рассуждений: выберите низкий, средний или высокий уровень, чтобы подобрать оптимальный баланс между задержкой и глубиной анализа.

• Лицензия: Apache 2.0 (см. раздел «Доступность и лицензирование» ниже).

gpt‑oss‑safeguard хорошо подходит для фильтрации входных и выходных данных LLM, маркировки онлайн-контента, а также пакетной офлайн-маркировки и процессов проверки. Для приложений общего назначения (чатов, агентов и т. д.) мы рекомендуем базовые модели gpt‑oss.

Схему можно адаптировать к вашим потребностям. Рекомендации по составлению промптов и примеры см. в OpenAI Cookbook.

Варианты моделей и размеры

Обе модели дообучены на основе gpt‑oss без изменения архитектуры. Они используют тот же шаблон чата, что и gpt‑oss; вы можете сохранить существующую настройку. Рекомендуемый шаблон промптинга — поместить вашу политику в сообщение разработчика, а оцениваемый контент — в сообщение пользователя.

Поддержка и сообщество

Развертывания с открытыми весами управляются и обслуживаются самостоятельно. Где получить поддержку:

• Вопросы, обсуждения, советы: используйте страницы моделей Hugging Face, чтобы взаимодействовать с сообществом.

• Воспроизводимые ошибки в эталонном коде инференса OpenAI: откройте issue в репозитории GitHub gpt-oss.

• Проблемы со сторонней средой выполнения (например, vLLM, Ollama, llama.cpp): используйте трекер ошибок, форумы или процесс поддержки соответствующего проекта.

OpenAI не предоставляет помощь, практическую реализацию или поддержку в отладке для любых самостоятельно размещенных или размещенных у третьих сторон конфигураций, сред, приложений или установок с открытыми весами.

Мы продолжим совместную работу с сообществом над улучшением открытых инструментов безопасности, в том числе через ROOST Model Community (RMC). RMC объединяет специалистов по безопасности и исследователей для обмена лучшими практиками внедрения моделей AI с открытым исходным кодом в рабочие процессы безопасности, включая результаты оценок и обратную связь по моделям. Посетите репозиторий RMC на GitHub, чтобы узнать больше об этом партнерстве и о том, как принять участие.

Поддержка и сообщество

Развертывания с открытыми весами управляются и обслуживаются самостоятельно. Где получить поддержку:

• Вопросы, обсуждения, советы: используйте страницы моделей Hugging Face, чтобы взаимодействовать с сообществом.

• Воспроизводимые ошибки в эталонном коде инференса OpenAI: откройте issue в репозитории GitHub gpt-oss.

• Проблемы со сторонней средой выполнения (например, vLLM, Ollama, llama.cpp): используйте трекер ошибок, форумы или процесс поддержки соответствующего проекта.

OpenAI не предоставляет помощь, практическую реализацию или поддержку в отладке для любых самостоятельно размещенных или размещенных у третьих сторон конфигураций, сред, приложений или установок с открытыми весами.

Конфиденциальность и безопасность

Конфиденциальность и данные

Эти модели предназначены для запуска на инфраструктуре, которую вы контролируете (локально, в вашем облаке или у хостинг-партнера). OpenAI не получает и не обрабатывает данные, которые вы отправляете этим самостоятельно размещенным моделям, если только вы явно не поделитесь ими с OpenAI или не используете одного из наших управляемых хостинг-партнеров.

Безопасность

Эти модели прошли всестороннее обучение и тестирование на безопасность. Подробнее см. нашу карточку модели и технический отчет.

Сообщение о нарушениях в контенте

Если вы считаете, что контент, созданный с помощью моделей gpt‑oss, нарушает наши правила, вы можете сообщить об этом через нашу форму Report Content. Пожалуйста, предоставьте как можно больше деталей, чтобы помочь нашей команде рассмотреть вашу заявку.

Часто задаваемые вопросы

Эти модели бесплатны?

Веса моделей gpt-oss можно бесплатно скачивать и использовать по лицензии Apache 2.0 и политике использования gpt-oss. Однако вы несете ответственность за любые расходы, связанные с их запуском, — например, за вычисления, хранение или оплату стороннего хостинга. Цены на это будут зависеть от выбранной вами инфраструктуры или поставщика.

Эти модели являются «open source»?

Мы используем термин открытые модели или с открытыми весами для обозначения того, что обученные веса общедоступны по разрешительной лицензии Apache 2.0 и политике использования gpt-oss. Это означает, что вы можете скачать модели, запускать их на собственной инфраструктуре или с поддерживаемыми фреймворками хостинга, а также настраивать или дообучать их.

Открытые модели дают разработчикам и организациям больше контроля и гибкости. Вы можете выбирать, где их размещать, адаптировать модели для конкретных сценариев и пользоваться лицензированием, допускающим широкое использование, изменение и повторное распространение. Хотя обученные веса открыты, часть окружающей инфраструктуры или инструментов может оставаться проприетарной у их поставщиков.

Могу ли я получить доступ к этим моделям через OpenAI API или ChatGPT?

Нет. Эти модели не предоставляются в OpenAI API и не отображаются в ChatGPT.

Можно ли дообучать модели?

Да. Вы можете выполнять дообучение с помощью инструментов с открытым исходным кодом и предпочитаемой инфраструктуры. Мы не предлагаем дообучение этих моделей через API OpenAI.

Модели с открытыми весами дешевле, чем использование API?

Затраты зависят от инфраструктуры, рабочей нагрузки и операционного подхода. В некоторых случаях самостоятельный хостинг может быть дешевле, тогда как наша API Platform может быть эффективнее с учетом хостинга, обслуживания и обновлений.

Какие функции поддерживают эти модели?

В настоящее время это только текстовые модели рассуждений. Распространенные среды выполнения поддерживают потоковую передачу, вызов функций и структурированные ответы. Точные возможности см. в документации вашей среды выполнения.

Чем это отличается от ModAPI?

Это высокоэффективная модель рассуждений, которая позволяет использовать собственную политику. Она может работать совместно с ModAPI, но, вероятно, не заменит его для сценариев с низкой задержкой.