Artık belirli modellerde daha hızlı ve daha tutarlı performansa erişmek isteyen Enterprise API müşterileri için Öncelikli işleme sunuyoruz. Aşağıda bunun nasıl çalıştığı, fiyatlandırma, model kullanılabilirliği, kullanım limitleri, güvenilirlik, politikalar ve uygunluk hakkında sık sorulan soruların yanıtları yer almaktadır.
Daha fazla bilgi için buraya bakın.
Erişim
Öncelikli işlemeye kimler erişebilir?
Öncelikli işleme şu anda Enterprise müşterileri tarafından kullanılabilir.
Öncelikli işleme tüm bölgelerde kullanılabilir mi?
Öncelikli işlemenin kullanılabilirliği, her yargı alanındaki geçerli yasa ve düzenlemelere bağlıdır. Bölgenizdeki kullanılabilirlik hakkında sorularınız varsa lütfen Hesap Direktörünüzle iletişime geçin.
Fiyatlandırma
Öncelikli işlemeyi kullanmaya nasıl başlarım?
Müşteriler, mevcut service_tier parametresini service_tier="priority" seçeneğiyle kullanarak trafiği istek bazında Öncelikli işlemeye yönlendirebilir.
Bu, Ölçek Kademesi ile nasıl etkileşir?
Ölçek Kademesi, Öncelikli işlemeden ayrı kalacaktır. Öncelikli işlemeye gönderilen istekler ayrı olarak faturalandırılır ve satın aldığınız Ölçek Kademesi TPM paketlerinden düşülmez.
Ölçek Kademesi taşma trafiğimi otomatik olarak Öncelikli işlemeye gönderebilir miyim?
Hayır. Ölçek Kademesine gönderilen trafik otomatik olarak Öncelikli işlemeye taşmaz.
Öncelikli işleme nasıl faturalandırılır?
Öncelikli işleme tarafından sunulan tokenlar, Standart işleme ücretlerine göre daha yüksek bir fiyatla token başına faturalandırılır.
Yıllık taahhüdüm belirli bir işleme moduna bağlı mı?
Hayır. Tüm işleme modları yıllık Enterprise harcama taahhüdünüzden sayılır.
Önbelleğe alınmış girdi tokenları için hâlâ indirim alır mıyım?
Evet! Önbelleğe Alınmış Girdiler, Standart işlemede olduğu gibi aynı %50-75 indirimi alır.
Öncelikli işleme kullanımımı ve harcamamı nasıl görüntülerim?
Öncelikli işleme tarafından işlenen tokenları görüntülemek için Kullanım panosuna gidin, Chat Completions veya Responses’ı seçin ve Hizmet Kademesine göre gruplandırın. Öncelikli işleme maliyetini görüntülemek için Kullanım panosuna gidin ve Satır Öğesine göre gruplandır seçeneğini belirleyin.
Modeller
Öncelikli işleme uzun bağlam, ince ayarlı modeller, yerleştirmeler vb. için kullanılabilir mi?
Şu anda değil. Gelecekte, en yeni modellerimizin ötesindeki ek ürünlerde Öncelikli işleme sunup sunmamayı değerlendireceğiz.
Diğer modaliteler Öncelikli işleme ile nasıl çalışır?
Öncelikli işleme, Standart üzerinde bulunan aynı çok modlu yetenekleri destekler. Özellikle, görseller Öncelikli işleme için girdi olarak kullanılabilir ve aynı hızlı gecikmeyle işlenir.
Gelecekteki modeller desteklenecek mi?
Yeni GPT modellerinde Öncelikli işleme sunmayı planlıyoruz, ancak her modelin destekleneceğini garanti etmiyoruz.
Kullanım limitleri
Kullanım limitleri nelerdir?
Öncelikli işleme tüketimi, kullanım limitleri açısından standart API trafiğiyle aynı şekilde ele alınır.
Trafik artış hızı kullanım limitleri nelerdir?
Öncelikli işleme, esnek ve isteğe bağlı fiyatlandırma sunmaya devam ederken tüm müşteriler için tutarlı biçimde yüksek performans sağlamak amacıyla trafik artış hızı kullanım limitlerine sahiptir. (a) Öncelikli işleme performansı düşerse VE (b) bir müşterinin trafiği çok hızlı artıyorsa, nadir durumlarda bazı Öncelikli istekler bunun yerine Standart işlemeye düşürülebilir.
Geçerli Öncelikli işleme trafik artış hızı kullanım limiti, birincil belgelerimizde burada tanımlanmıştır.
Trafik artış hızı kullanım limitiniz içinde kalmak için en iyi uygulamalar
Modelleri değiştirirken trafiği kademeli olarak artırın. Örneğin, uygulamanız önceki bir anlık görüntüden yenisine geçiyorsa trafiği tek seferde geçirmek yerine birkaç saat boyunca geçirmek için bir özellik bayrağı kullanın.
Öncelikli işleme üzerinde büyük veri işleme veya eşzamansız işler çalıştırmaktan kaçının. Bu işler trafiği çok hızlı artırabilir ve çoğu zaman Öncelikli işlemenin iyileştirilmiş performansına ihtiyaç duymaz.
Trafik artış hızı kullanım limitleriyle düzenli olarak karşılaşıyorsanız bunun yerine Ölçek Kademesi kotası satın almayı değerlendirin.
Trafik artış hızı kullanım limitleri projelerim veya kuruluşlarım arasında paylaşılıyor mu?
Evet, trafiğinizin tamamı aynı trafik artış hızı kullanım limitine katkıda bulunur.
Politikalar
Öncelikli işleme gecikme hedefini karşılamıyorsa ne olur?
Herhangi bir sorunuz veya endişeniz varsa lütfen AD’nizle iletişime geçin. Öncelikli işleme SLA’ları, Ölçek Kademesi SLA’ları ile aynı şekilde ele alınacaktır; belirli bir zaman aralığında Enterprise anlaşmalarındaki müşteriler için bu SLA’ları karşılayamazsak hizmet kredileri sunulacaktır.
Öncelikli işleme, veri saklama ve işleme konumu gereksinimleri ile uyumlu mu?
Evet.
Öncelikli işleme ZDR ve BAA ile uyumlu mu?
Evet.