Genel bakış

İki açık ağırlıklı akıl yürütme modelini sunuyoruz: gpt‑oss‑120b ve gpt‑oss‑20b. Kontrolünüzdeki altyapıda veya barındırma sağlayıcıları üzerinden çalışırlar.

Neden açık ağırlıklar

• Seçim ve kontrol: Modelleri şirket içinde veya özel bulutunuzda çalıştırın, veri saklama ve işleme konumu gereksinimlerini koruyun ve performansı ihtiyaçlarınıza göre uyarlayın.

• Özelleştirme: Modelleri tercih ettiğiniz açık araçlarla ince ayarlayın veya uyarlayın.

Kullanılabilirlik ve lisanslama

• Lisans: Apache 2.0, ticari kullanım dahil olmak üzere geniş kullanım, değişiklik ve yeniden dağıtıma izin verir (gpt-oss kullanım politikamıza tabidir).

• Sunum: OpenAI API üzerinden kullanılamaz; bu nedenle API fiyatlandırması ve kullanım limitleri geçerli değildir.

• Uyumluluk: vLLM, Ollama, llama.cpp gibi yaygın açık çıkarım yığınlarıyla ve bulut ya da kendi kendine yönetilen GPU ortamlarında çalıştırılabilir.

Başlarken

Model ağırlıklarını ve destekleyici kaynakları almak için şunları yapabilirsiniz:

• Genel bakış ve doğrudan bağlantılar için gpt-oss web sitesini ziyaret edin.

• Ağırlıkları Hugging Face koleksiyonundan indirin — her iki modeli bulabileceğiniz, kullanım örneklerini görebileceğiniz ve isteğe bağlı olarak Hugging Face hizmetleri üzerinden doğrudan çıkarım çalıştırabileceğiniz bir topluluk merkezidir.

• Referans çıkarım kodu için GitHub depomuza erişin.

• Ollama, vLLM ve Transformers gibi desteklenen çalışma zamanlarıyla kurulum için OpenAI Cookbook’taki kılavuzları kullanın. Cookbook ayrıca yerel olarak çalıştırma, yaygın çalışma zamanlarını kullanma ve desteklendiği yerlerde gpt‑oss modellerine ince ayar yapma için adım adım talimatlar içerir.

gpt‑oss‑safeguard (araştırma önizlemesi)

gpt‑oss‑safeguard, gpt‑oss üzerine inşa edilmiş bir çift açık ağırlıklı güvenlik akıl yürütme modelidir. Kontrolünüzdeki altyapıda çalıştırdığınız politika tabanlı güvenlik sınıflandırması ve ilgili güven ve güvenlik görevleri için tasarlanmıştır. Diğer gpt‑oss modelleri gibi, bu ağırlıklar OpenAI API veya ChatGPT üzerinden sunulmaz.

• Referans yapılandırılmış çıktı şemalarına sahip yalnızca metin modelleri (örn. politika kararı, gerekçe).

• Kendi politikanızı getirin: Model, minimum mühendislikle ürünler arasında genelleme yapabilmesi için yazılı politikanızı yorumlar.

• Gerekçeli kararlar: hata ayıklamaya ve denetimlere yardımcı olmak için isteğe bağlı akıl yürütme izleri (son kullanıcıya gösterilmek için değil, geliştiriciler ve güvenlik uygulayıcıları için tasarlanmıştır).

• Yapılandırılabilir akıl yürütme çabası: gecikme ile derinlik arasında denge kurmak için düşük / orta / yüksek seçeneklerinden birini seçin.

• Lisans: Apache 2.0 (aşağıdaki Kullanılabilirlik ve lisanslama bölümüne bakın).

gpt‑oss‑safeguard, LLM’ler için girdi/çıktı filtreleme, çevrimiçi içerik etiketleme ve çevrimdışı toplu etiketleme veya inceleme iş akışları için uygundur. Genel uygulamalar (sohbet, otonom ajanlar vb.) için temel gpt‑oss modellerini öneririz.

Şemayı ihtiyaçlarınıza göre uyarlayabilirsiniz. Komut verme kılavuzları ve örnekler için lütfen OpenAI Cookbook’a bakın.

Model varyantları ve boyutlandırma

Her iki model de mimari değişikliği olmadan gpt‑oss’tan ince ayarlanmıştır. gpt‑oss ile aynı sohbet şablonunu kullanırlar; mevcut kurulumunuzu koruyabilirsiniz. Önerilen bir komut verme deseni, politikanızı bir geliştirici mesajına, değerlendirilecek içeriği ise bir kullanıcı mesajına yerleştirmektir.

Destek ve topluluk

Açık ağırlıklı dağıtımlar kendi kendine yönetilir ve desteklenir. Destek alabileceğiniz yerler:

• Sorular, tartışma, ipuçları: Toplulukla etkileşime geçmek için Hugging Face model sayfalarını kullanın.

• OpenAI’nin referans çıkarım kodundaki yeniden üretilebilir hatalar: gpt-oss GitHub deposunda bir issue açın.

• Üçüncü taraf bir çalışma zamanı ile ilgili sorunlar (örn. vLLM, Ollama, llama.cpp): İlgili projenin issue takip sistemini, forumlarını veya destek sürecini kullanın.

OpenAI; kendi kendine barındırılan veya üçüncü tarafça barındırılan açık ağırlıklı kurulumlar, yapılandırmalar, ortamlar ya da uygulamalar için yardım, uygulamalı implementasyon veya hata ayıklama desteği sağlamaz.

ROOST Model Community (RMC) dahil olmak üzere, açık güvenlik araçlarını iyileştirmek için toplulukla birlikte yinelemeye devam edeceğiz. RMC, değerlendirme sonuçları ve model geri bildirimi dahil olmak üzere açık kaynak AI modellerini güvenlik iş akışlarına uygulamaya yönelik en iyi uygulamaları paylaşmak için güvenlik uygulayıcılarını ve araştırmacıları bir araya getirir. Bu ortaklık ve nasıl dahil olabileceğiniz hakkında daha fazla bilgi edinmek için RMC GitHub deposunu ziyaret edin.

Destek ve topluluk

Açık ağırlıklı dağıtımlar kendi kendine yönetilir ve desteklenir. Destek alabileceğiniz yerler:

• Sorular, tartışma, ipuçları: Toplulukla etkileşime geçmek için Hugging Face model sayfalarını kullanın.

• OpenAI’nin referans çıkarım kodundaki yeniden üretilebilir hatalar: gpt-oss GitHub deposunda bir issue açın.

• Üçüncü taraf bir çalışma zamanı ile ilgili sorunlar (örn. vLLM, Ollama, llama.cpp): İlgili projenin issue takip sistemini, forumlarını veya destek sürecini kullanın.

OpenAI; kendi kendine barındırılan veya üçüncü tarafça barındırılan açık ağırlıklı kurulumlar, yapılandırmalar, ortamlar ya da uygulamalar için yardım, uygulamalı implementasyon veya hata ayıklama desteği sağlamaz.

Gizlilik ve güvenlik

Gizlilik ve veri

Bu modeller, kontrolünüzdeki altyapıda (şirket içinde veya bulutunuzda ya da barındırma iş ortağınızda) çalışacak şekilde tasarlanmıştır. OpenAI, açıkça OpenAI ile paylaşmadığınız veya yönetilen barındırma iş ortaklarımızdan birini kullanmadığınız sürece, bu kendi kendine barındırılan modellere gönderdiğiniz verileri almaz veya işlemez.

Güvenlik

Bu modeller kapsamlı güvenlik eğitimi ve testlerinden geçti. Daha fazla ayrıntı için model kartımıza ve teknik raporumuza bakın.

İçerik ihlallerini bildirme

gpt‑oss modelleriyle oluşturulan içeriğin politikalarımızı ihlal ettiğine inanıyorsanız bunu İçerik Bildirme formumuz üzerinden bildirebilirsiniz. Ekibimizin gönderinizi incelemesine yardımcı olmak için lütfen mümkün olduğunca fazla ayrıntı sağlayın.

SSS

Bu modeller ücretsiz mi?

gpt-oss model ağırlıkları, Apache 2.0 lisansı ve gpt-oss kullanım politikası kapsamında ücretsiz olarak indirilebilir ve kullanılabilir. Ancak bunları çalıştırmayla ilişkili tüm maliyetlerden — bilgi işlem, depolama veya üçüncü taraf barındırma ücretleri gibi — siz sorumlusunuz. Bunların fiyatlandırması seçtiğiniz altyapıya veya sağlayıcıya bağlı olacaktır.

Bu modeller “açık kaynak” mı?

Eğitilmiş ağırlıkların izin veren Apache 2.0 lisansı ve gpt-oss kullanım politikası kapsamında herkese açık olduğunu belirtmek için açık modeller veya açık ağırlıklı terimlerini kullanıyoruz. Bu, modelleri indirebileceğiniz, kendi altyapınızda veya desteklenen barındırma çerçeveleriyle çalıştırabileceğiniz ve özelleştirebileceğiniz ya da ince ayar yapabileceğiniz anlamına gelir.

Açık modeller, geliştiricilere ve kuruluşlara daha fazla kontrol ve esneklik sağlar. Nerede barındıracağınızı seçebilir, modelleri belirli kullanım örneklerine uyarlayabilir ve geniş kullanım, değişiklik ve yeniden dağıtıma izin veren lisanstan yararlanabilirsiniz. Eğitilmiş ağırlıklar açık olsa da, çevresindeki bazı altyapılar veya araçlar sağlayıcılarına ait tescilli ürünler olarak kalabilir.

Bu modellere OpenAI API veya ChatGPT üzerinden erişebilir miyim?

Hayır. Bu modeller OpenAI API’de sunulmaz ve ChatGPT’de görünmez.

Modellere ince ayar yapabilir miyim?

Evet. Açık kaynak araçları ve tercih ettiğiniz altyapıyı kullanarak ince ayar yapabilirsiniz. Bu modeller için OpenAI API’leri üzerinden ince ayar sunmuyoruz.

Açık ağırlıklı modeller API kullanmaktan daha mı ucuz?

Maliyetler altyapıya, iş yüküne ve operasyonel yaklaşıma göre değişir. Kendi kendine barındırma bazı durumlarda daha ucuz olabilir; ancak barındırma, bakım ve yükseltmeler hesaba katıldığında API Platformumuz daha verimli olabilir.

Bu modeller hangi özellikleri destekliyor?

Bu modeller şu anda yalnızca metin tabanlı akıl yürütme modelleridir. Yaygın çalışma zamanları akış, fonksiyon çağrısı ve yapılandırılmış çıktıları destekler. Kesin yetenekler için çalışma zamanınızın belgelerini kontrol edin.

Bu, ModAPI’den nasıl farklı?

Bu, kendi politikanızı getirmenize olanak tanıyan yüksek kapasiteli bir akıl yürütme modelidir. ModAPI ile birlikte çalışabilir, ancak düşük gecikmeli kullanım örnekleri için muhtemelen onun yerine geçmez.