Batch API nasıl çalışır?
Belgelerde burada açıklandığı gibi, Batch API uç noktası kullanıcıların eşzamansız toplu işleme için istek göndermesine olanak tanır. Bu istekleri 24 saat içinde işleyeceğiz. Her isteğin ayrıntıları önceden yüklenmiş bir dosyadan okunur ve yanıtlar bir çıktı dosyasına yazılır. Durum güncellemeleri ve sonuçlar için batch nesnesini sorgulayabilirsiniz.
Batch API için fiyatlandırma nedir?
Her model, eşzamanlı API’lere kıyasla %50 maliyet indirimiyle sunulacaktır. API fiyatlandırmamız hakkında daha fazla bilgi için buraya bakın.
Hangi modelleri batch olarak çalıştırabilirim?
Batch API, modellerimizin çoğunda yaygın olarak kullanılabilir, ancak hepsinde değil. Kullandığınız modelin Batch API’yi desteklediğinden emin olmak için lütfen model referans belgelerine bakın.
API, isteğimi vaat edilen sürede tamamlamazsa ne olur?
Tüm istekleri 24 saat içinde tamamlamayı hedefliyoruz. Bir batch’in süresi dolarsa (yani SLA zaman aralığında tamamlanamazsa), kalan işler iptal edilir ve zaten tamamlanmış işler geri döndürülür. Geliştiriciler, tamamlanan işler için ücretlendirilir.
Batch olarak gönderebileceğim istek sayısının sınırı nedir?
Embeddings API’lerinde aynı anda kuyruğa alınabilecek istek sayısı 1 milyonla sınırlıdır.
Diğer tüm API’lerde batch olarak gönderebileceğiniz istek sayısında bir sınır yoktur; ancak her kullanım katmanının ilişkili bir batch hız sınırı vardır. Batch hız sınırınız, aynı anda kuyruğa aldığınız maksimum giriş token sayısını içerir. Hız sınırlarınızı burada bulabilirsiniz.
Batch API’den yanıt alma süresini değiştirebilir miyim?
Şu anda belirtilen zaman aralığımız 24 saattir. Şu anda bu süreyi değiştiremiyoruz.
Batch API’de streaming destekleniyor mu?
Hayır, Batch API’de streaming desteklenmez.
Batch API’de görseller destekleniyor mu?
Evet, Batch API’de görseller desteklenir.
“The URL provided for this request does not prefix-match the batch endpoint” hata mesajını aldım. Ne yapmalıyım?
Bu hatayı alıyorsanız, URL’niz Batch API uç noktası için yanlış biçimlendirilmiş demektir. Uç noktayı doğru çağırdığınızdan emin olmak için lütfen belgelerimize buradan bakın.
Batch API kullanımı diğer hız sınırlarıma karşı sayılır mı?
Batch API hız sınırları mevcut sınırներից tamamen ayrıdır.
Bir batch iptal edilirse ne olur?
Bir batch manuel olarak iptal edilirse, o ana kadar tamamlanmış sonuçlar geri döndürülür. Geliştiriciler, tamamlanan işler için ücretlendirilir.
Bir batch’in süresi dolarsa ne olur?
Bir batch’in süresi dolarsa (yani SLA zaman aralığında tamamlanamazsa), kalan işler iptal edilir ve zaten tamamlanmış işler geri döndürülür. Geliştiriciler, tamamlanan işler için ücretlendirilir.
Batch işlerimde hangi durumları görebilirim?
Batch işi aşağıdaki durumlardan herhangi birine sahip olabilir:
Doğrulanıyor: Batch başlamadan önce yüklenen dosyanın doğrulaması sürüyor.
Başarısız: Dosya doğrulama sürecinden geçemedi.
Devam Ediyor: Dosya başarıyla doğrulandı ve batch süreci devam ediyor.
Sonlandırılıyor: Batch işi tamamlandı ve sonuçlar hazırlanıyor.
Tamamlandı: Batch işi tamamlandı ve sonuçlar hazır.
Süresi Doldu: Batch, SLA zaman aralığında tamamlanamadı.
İptal Ediliyor: Batch işinin iptal süreci başlatıldı.
İptal Edildi: Batch işi iptal edildi.
Daha önce oluşturduğum batch işlerini nasıl kontrol edebilirim?
Tüm batch işlerinizin listesini burada belirtilen API çağrısını kullanarak alabilirsiniz.
Bu uç noktada sıfır veri saklama destekleniyor mu?
Kuruluşunuz için sıfır veri saklama etkinse, lütfen bu uç noktada sıfır veri saklamanın desteklenmediğini unutmayın.