Огляд

Представляємо дві моделі міркування з відкритими вагами: gpt‑oss‑120b і gpt‑oss‑20b. Вони працюють на інфраструктурі, яку ви контролюєте, або через хостинг-провайдерів.

Навіщо відкриті ваги

• Вибір і контроль: запускайте моделі локально або у своїй приватній хмарі, дотримуйтеся вимог до локалізації даних і налаштовуйте продуктивність під свої потреби.

• Кастомізація: донавчайте або адаптуйте моделі за допомогою бажаних відкритих інструментів.

Доступність і ліцензування

• Ліцензія: Apache 2.0 дозволяє широке використання, модифікацію та повторне розповсюдження, зокрема комерційне використання (відповідно до нашої політики використання gpt-oss).

• Обслуговування: недоступні через OpenAI API, тому ціни API та ліміти запитів не застосовуються.

• Сумісність: можна запускати з поширеними відкритими стеками інференсу, як-от vLLM, Ollama, llama.cpp, а також у хмарних або самостійно керованих GPU-середовищах.

Початок роботи

Щоб отримати ваги моделі та супровідні ресурси, ви можете:

• Відвідати сайт gpt-oss, де зібрано огляд і прямі посилання.

• Завантажити ваги з колекції Hugging Face — спільнотного центру, де можна знайти обидві моделі, переглянути приклади використання та за бажанням запустити інференс безпосередньо через сервіси Hugging Face.

• Переглянути наш репозиторій GitHub з еталонним кодом для інференсу.

• Скористатися посібниками в розділі «Рецепти OpenAI», щоб налаштувати підтримувані середовища виконання, як-от Ollama, vLLM і Transformers. У розділі «Рецепти» також наведено покрокові інструкції із запуску на локальному пристрої, використання поширених середовищ виконання та, якщо підтримується, тонкого налаштування моделей gpt-oss.

gpt‑oss‑safeguard (попередня дослідницька версія)

gpt‑oss‑safeguard — це дві моделі міркування для безпеки з відкритими вагами, створені на основі gpt‑oss. Вони призначені для класифікації безпеки на основі політик та пов’язаних завдань із довіри й безпеки, які ви виконуєте у власній інфраструктурі. Як і інші моделі gpt‑oss, ці ваги недоступні через API OpenAI або ChatGPT.

• Моделі лише для тексту з еталонними схемами структурованих результатів (наприклад, вердикт щодо політики та обґрунтування).

• Власна політика: модель інтерпретує вашу письмову політику, щоб застосовувати її до різних продуктів із мінімальними інженерними зусиллями.

• Обґрунтовані рішення: необов’язкові ланцюжки міркувань допомагають під час налагодження й аудиту (призначені для розробників і фахівців із безпеки, а не для показу кінцевим користувачам).

• Налаштовувана інтенсивність міркувань: виберіть низький / Середній / Високий рівень, щоб збалансувати затримку та глибину.

• Ліцензія: Apache 2.0 (див. розділ «Доступність і ліцензування» нижче).

gpt‑oss‑safeguard добре підходить для фільтрування вхідних і вихідних даних LLM, онлайн-маркування контенту, а також пакетного офлайн-маркування чи перевірки. Для застосунків загального призначення (чатів, агентів тощо) рекомендуємо основні моделі gpt‑oss.

Ви можете адаптувати схему до своїх потреб. Посібники зі створення запитів і приклади див. в OpenAI Cookbook.

Варіанти моделей і розміри

Обидві моделі донавчені з gpt‑oss без змін архітектури. Вони використовують той самий шаблон чату, що й gpt‑oss; ви можете зберегти наявне налаштування. Рекомендований шаблон запитів — розмістити вашу політику в повідомленні розробника, а контент для оцінювання — у повідомленні користувача.

Підтримка та спільнота

Розгортання з відкритими вагами керуються й обслуговуються самостійно. Ось де можна отримати підтримку:

• Запитання, обговорення, поради: використовуйте сторінки моделей Hugging Face, щоб взаємодіяти зі спільнотою.

• Відтворювані помилки в еталонному коді інференсу OpenAI: відкрийте issue в репозиторії GitHub gpt-oss.

• Проблеми зі стороннім середовищем виконання (наприклад, vLLM, Ollama, llama.cpp): скористайтеся трекером issue, форумами або процесом підтримки відповідного проєкту.

OpenAI не надає допомогу, практичну реалізацію чи підтримку з налагодження для будь-яких самостійно розміщених або розміщених у сторонніх провайдерів налаштувань, конфігурацій, середовищ чи застосунків з відкритими вагами.

Ми й надалі співпрацюватимемо зі спільнотою, щоб покращувати відкриті інструменти безпеки, зокрема через ROOST Model Community (RMC). RMC об’єднує фахівців із безпеки та дослідників для обміну найкращими практиками впровадження AI моделей із відкритим кодом у робочі процеси безпеки, зокрема результатами оцінювання та відгуками про моделі. Відвідайте репозиторій RMC GitHub, щоб дізнатися більше про це партнерство й те, як долучитися.

Підтримка та спільнота

Розгортання з відкритими вагами керуються й обслуговуються самостійно. Ось де можна отримати підтримку:

• Запитання, обговорення, поради: використовуйте сторінки моделей Hugging Face, щоб взаємодіяти зі спільнотою.

• Відтворювані помилки в еталонному коді інференсу OpenAI: відкрийте issue в репозиторії GitHub gpt-oss.

• Проблеми зі стороннім середовищем виконання (наприклад, vLLM, Ollama, llama.cpp): скористайтеся трекером issue, форумами або процесом підтримки відповідного проєкту.

OpenAI не надає допомогу, практичну реалізацію чи підтримку з налагодження для будь-яких самостійно розміщених або розміщених у сторонніх провайдерів налаштувань, конфігурацій, середовищ чи застосунків з відкритими вагами.

Конфіденційність і безпека

Конфіденційність і дані

Ці моделі розроблені для роботи на інфраструктурі, яку ви контролюєте (локально, у вашій хмарі або в хостинг-партнера). OpenAI не отримує й не обробляє дані, які ви надсилаєте цим самостійно розміщеним моделям, якщо ви явно не поділитеся ними з OpenAI або не скористаєтеся одним із наших керованих хостинг-партнерів.

Безпека

Ці моделі пройшли широке навчання та тестування з безпеки. Докладніше див. у нашій картці моделі та технічному звіті.

Повідомлення про порушення щодо контенту

Якщо ви вважаєте, що контент, згенерований моделями gpt‑oss, порушує наші політики, ви можете повідомити про це через нашу форму Report Content. Надайте якомога більше деталей, щоб допомогти нашій команді розглянути ваше звернення.

Поширені запитання

Чи безкоштовні ці моделі?

Ваги моделей gpt-oss можна безкоштовно завантажувати й використовувати за ліцензією Apache 2.0 і політикою використання gpt-oss. Однак ви несете відповідальність за будь-які витрати, пов’язані з їх запуском, — як-от обчислення, сховище або плата за сторонній хостинг. Ціни на це залежатимуть від обраної вами інфраструктури або провайдера.

Чи є ці моделі «open source»?

Ми використовуємо термін open models або з відкритими вагами , щоб вказати, що навчені ваги публічно доступні за дозвільною ліцензією Apache 2.0 і політикою використання gpt-oss. Це означає, що ви можете завантажувати моделі, запускати їх на власній інфраструктурі або за допомогою підтримуваних фреймворків хостингу, а також налаштовувати чи донавчати їх.

Open models дають розробникам і організаціям більше контролю та гнучкості. Ви можете вибирати, де розміщувати моделі, адаптувати їх для конкретних сценаріїв використання та користуватися ліцензією, що дозволяє широке використання, модифікацію й повторне розповсюдження. Хоча навчені ваги відкриті, частина навколишньої інфраструктури або інструментів може залишатися пропрієтарною власністю їхніх постачальників.

Чи можу я отримати доступ до цих моделей через OpenAI API або ChatGPT?

Ні. Ці моделі не надаються в OpenAI API і не відображаються в ChatGPT.

Чи можу я донавчати моделі?

Так. Ви можете донавчати їх за допомогою інструментів із відкритим кодом і обраної вами інфраструктури. Ми не пропонуємо донавчання цих моделей через API OpenAI.

Чи моделі з відкритими вагами дешевші, ніж використання API?

Витрати залежать від інфраструктури, робочого навантаження та операційного підходу. Самостійне розміщення в деяких випадках може бути дешевшим, тоді як наша API Platform може бути ефективнішою з урахуванням хостингу, обслуговування й оновлень.

Які функції підтримують ці моделі?

Наразі ці моделі є текстовими моделями міркування. Поширені середовища виконання підтримують потокове передавання, виклик функцій і структуровані результати. Перевірте документацію свого середовища виконання, щоб дізнатися точні можливості.

Чим це відрізняється від ModAPI?

Це дуже потужна модель міркування, яка дає змогу використовувати власну політику. Вона може працювати разом із ModAPI, але, ймовірно, не замінить його для сценаріїв із низькою затримкою.