Batch API nasıl çalışır?
Batch API uç noktası, burada belgelendiği üzere, kullanıcıların istekleri eşzamansız toplu işleme için göndermesine olanak tanır. Bu istekleri 24 saat içinde işleyeceğiz. Her isteğin ayrıntıları önceden yüklenmiş bir dosyadan okunacak ve yanıtlar bir çıktı dosyasına yazılacaktır. Durum güncellemeleri ve sonuçlar için batch nesnesini sorgulayabilirsiniz.
Batch API'nin fiyatlandırması nedir?
Her model, eşzamanlı API'lere kıyasla %50 maliyet indirimi ile sunulacaktır. API fiyatlandırmamızla ilgili daha fazla bilgi burada.
Hangi modeller için batch kullanabilirim?
Batch API, modellerimizin çoğunda geniş ölçüde kullanılabilir, ancak hepsinde değil. Kullandığınız modelin Batch API'yi desteklediğinden emin olmak için lütfen model referans belgelerine bakın.
API, isteğimi vaat edilen süre içinde tamamlamazsa ne olur?
Tüm istekleri 24 saat içinde tamamlamayı hedefliyoruz. Bir batch'in süresi dolarsa (yani SLA zaman aralığı içinde tamamlanamazsa), kalan iş iptal edilir ve tamamlanmış olan işler döndürülür. Geliştiriciler tamamlanan işler için ücretlendirilir.
Batch'e alabileceğim istek sayısı için limit nedir?
Embeddings API'lerinde aynı anda kuyruğa alınmış 1 milyon istek limiti vardır.
Diğer tüm API'lerde, batch'e alabileceğiniz istek sayısı için bir limit yoktur; ancak her kullanım katmanının ilişkili bir batch kullanım limiti vardır. Batch kullanım limitiniz, aynı anda kuyruğa aldığınız maksimum giriş token sayısını içerir. Kullanım limitlerinizi burada bulabilirsiniz.
Batch API'den yanıt alma süresini değiştirebilir miyim?
Şu anda belirtilen zaman aralığımız 24 saattir. Şu anda bu süreyi değiştiremiyoruz.
Batch API'de akış destekleniyor mu?
Hayır, Batch API'de akış desteklenmez. Batch istekleri sonuçları akış yanıtları yerine çıktı dosyaları aracılığıyla döndürür.
Görseller Batch API'de destekleniyor mu?
Evet, görseller Batch API'de destekleniyor.
“The URL provided for this request does not prefix-match the batch endpoint” hata mesajını aldım. Ne yapmalıyım?
Bu hatayı alıyorsanız, URL'nizin Batch API uç noktası için yanlış biçimlendirildiği anlamına gelir. Uç noktayı doğru çağırdığınızdan emin olmak için lütfen buradaki belgelerimize bakın.
Batch API kullanımı diğer kullanım limitlerime dahil edilir mi?
Batch API kullanım limitleri mevcut limitlerden tamamen ayrıdır.
Bir batch iptal edilirse ne olur?
Bir batch manuel olarak iptal edilirse, tamamlanmış olan sonuçlar döndürülür. Geliştiriciler tamamlanan işler için ücretlendirilir.
Bir batch'in süresi dolarsa ne olur?
Bir batch'in süresi dolarsa (yani SLA zaman aralığı içinde tamamlanamazsa), kalan iş iptal edilir ve tamamlanmış olan işler döndürülür. Geliştiriciler tamamlanan işler için ücretlendirilir.
Batch işlerinde hangi durumları bekleyebilirim?
Batch işi şu durumlardan herhangi birine sahip olabilir: Doğrulanıyor, Başarısız, Devam Ediyor, Sonlandırılıyor, Tamamlandı, Süresi Doldu, İptal Ediliyor ve İptal Edildi. API durum değerlerini programatik olarak kontrol ediyorsanız küçük harfli literalleri kullanın: validating, failed, in_progress, finalizing, completed, expired, cancelling ve cancelled.
Doğrulanıyor: Batch başlamadan önce yüklenen dosyanın doğrulaması devam ediyor.
Başarısız: Dosya doğrulama sürecinde başarısız oldu.
Devam Ediyor: Dosya başarıyla doğrulandı ve batch süreci devam ediyor.
Sonlandırılıyor: Batch işi tamamlandı ve sonuçlar hazırlanıyor.
Tamamlandı: Batch işi tamamlandı ve sonuçlar hazır.
Süresi Doldu: Batch, SLA zaman aralığı içinde tamamlanamadı.
İptal Ediliyor: Batch işinin iptali başlatıldı.
İptal Edildi: Batch işi iptal edildi.
Önceden oluşturduğum batch işlerini nasıl kontrol edebilirim?
Burada belirtilen API çağrısını kullanarak tüm batch işlerinizin listesini alabilirsiniz.
Bu uç noktada sıfır veri saklama destekleniyor mu?
Kuruluşunuz için sıfır veri saklama etkinse, sıfır veri saklamanın Batch API için geçerli olmadığını lütfen unutmayın. ZDR kuruluşları batch işleri oluşturabilir, ancak batch giriş dosyaları, çıktılar, hatalar ve ara yapıtlar yapılandırılmış Batch, File Service ve Sediment saklama politikalarına göre saklanır.