ახლა Enterprise API მომხმარებლებს ვთავაზობთ პრიორიტეტულ დამუშავებას, თუ მათ გარკვეულ მოდელებზე უფრო სწრაფ და სტაბილურ წარმადობაზე წვდომა სურთ. ქვემოთ მოცემულია პასუხები ხშირ კითხვებზე მისი მუშაობის, ფასების, მოდელების ხელმისაწვდომობის, მოთხოვნების ლიმიტების, საიმედოობის, პოლიტიკებისა და შესაბამისობის შესახებ.

შეიტყვეთ მეტი აქ.

წვდომა

ვის შეუძლია პრიორიტეტულ დამუშავებაზე წვდომა?

პრიორიტეტული დამუშავება ამჟამად ხელმისაწვდომია Enterprise მომხმარებლებისთვის.

ხელმისაწვდომია პრიორიტეტული დამუშავება ყველა რეგიონში?

პრიორიტეტული დამუშავების ხელმისაწვდომობა დამოკიდებულია თითოეულ იურისდიქციაში მოქმედ კანონებსა და რეგულაციებზე. თუ თქვენს რეგიონში ხელმისაწვდომობის შესახებ კითხვები გაქვთ, დაუკავშირდით თქვენს Account Director-ს.

ფასები

როგორ დავიწყო პრიორიტეტული დამუშავების გამოყენება?

მომხმარებლებს შეუძლიათ ტრაფიკი პრიორიტეტულ დამუშავებაზე თითოეული მოთხოვნის დონეზე მიმართონ არსებული service_tier პარამეტრის გამოყენებით, ოფციით service_tier="priority".

როგორ ურთიერთქმედებს ეს მასშტაბირების დონესთან?

მასშტაბირების დონე პრიორიტეტული დამუშავებისგან განცალკევებული დარჩება. პრიორიტეტულ დამუშავებაზე გაგზავნილი მოთხოვნები ცალკე დაირიცხება და თქვენს შეძენილ მასშტაბირების დონის TPM პაკეტებში არ ჩაითვლება.

შემიძლია ჩემი მასშტაბირების დონის ჭარბი ტრაფიკი ავტომატურად გავაგზავნო პრიორიტეტულ დამუშავებაზე?

არა. მასშტაბირების დონეზე გაგზავნილი ტრაფიკი ავტომატურად არ გადავა პრიორიტეტულ დამუშავებაზე.

როგორ ირიცხება პრიორიტეტული დამუშავების საფასური?

პრიორიტეტული დამუშავებით მომსახურებული token-ების საფასური დაირიცხება თითო token-ის საფუძველზე, სტანდარტული დამუშავების ტარიფებთან შედარებით პრემიუმ ფასად.

ჩემი წლიური ვალდებულება დამუშავების კონკრეტულ რეჟიმზეა მიბმული?

არა. დამუშავების ყველა რეჟიმი ითვლება თქვენს წლიურ Enterprise ხარჯვის ვალდებულებაში.

ქეშირებული შეყვანის token-ებზე ფასდაკლებას მაინც მივიღებ?

დიახ! ქეშირებულ შეყვანებზე მოქმედებს იგივე 50-75%-იანი ფასდაკლება, რაც სტანდარტული დამუშავებისას.

როგორ ვნახო ჩემი პრიორიტეტული დამუშავების გამოყენება და ხარჯი?

პრიორიტეტული დამუშავებით დამუშავებული token-ების სანახავად გადადით Usage-ის საინფორმაციო დაფაზე, აირჩიეთ Chat Completions ან Responses და დააჯგუფეთ მომსახურების დონის მიხედვით. პრიორიტეტული დამუშავების ღირებულების სანახავად გადადით Usage-ის საინფორმაციო დაფაზე და აირჩიეთ Line Item-ის მიხედვით დაჯგუფება.

მოდელები

ხელმისაწვდომია პრიორიტეტული დამუშავება გრძელი კონტექსტისთვის, fine-tuned მოდელებისთვის, embedding-ებისთვის და ა.შ.?

ამ დროისთვის არა. მომავალში შევაფასებთ, შევთავაზოთ თუ არა პრიორიტეტული დამუშავება ჩვენს უახლეს მოდელებს მიღმა დამატებით პროდუქტებზე.

როგორ მუშაობს სხვა მოდალობები პრიორიტეტულ დამუშავებასთან?

პრიორიტეტული დამუშავება მხარს უჭერს იმავე მულტიმოდალურ შესაძლებლობებს, რომლებიც ხელმისაწვდომია Standard-ზე. კერძოდ, სურათები შეიძლება გამოყენებულ იქნას პრიორიტეტული დამუშავების შეყვანებად და მუშავდება იმავე სწრაფი დაყოვნებით.

იქნება მხარდაჭერილი მომავალი მოდელები?

ვგეგმავთ პრიორიტეტული დამუშავების შეთავაზებას ახალ GPT მოდელებზე, მაგრამ არ ვიძლევით გარანტიას, რომ მხარდაჭერილი იქნება ყველა მოდელი.

მოთხოვნების ლიმიტები

რა არის მოთხოვნების ლიმიტები?

მოთხოვნების ლიმიტებისთვის პრიორიტეტული დამუშავების მოხმარება ისე განიხილება, როგორც სტანდარტული API ტრაფიკი.

რა არის ზრდის ტემპის მოთხოვნების ლიმიტები?

პრიორიტეტულ დამუშავებას აქვს ზრდის ტემპის მოთხოვნების ლიმიტები, რათა ყველა მომხმარებლისთვის მუდმივად მაღალი წარმადობა უზრუნველყოს და ამავე დროს მოქნილი, მოთხოვნაზე დაფუძნებული ფასები შემოგთავაზოთ. თუ (a) პრიორიტეტული დამუშავების წარმადობა შემცირებულია და (b) მომხმარებლის ტრაფიკი ძალიან სწრაფად იზრდება, იშვიათ შემთხვევებში ზოგიერთი პრიორიტეტული მოთხოვნა შესაძლოა სტანდარტულ დამუშავებაზე ჩამოიყვანონ.

პრიორიტეტული დამუშავებისთვის ზრდის ტემპის მოთხოვნების ლიმიტი ამჟამად განსაზღვრულია ჩვენს ძირითად დოკუმენტაციაში აქ.

საუკეთესო პრაქტიკები ზრდის ტემპის მოთხოვნების ლიმიტის ფარგლებში დარჩენისთვის

• მოდელების შეცვლისას ტრაფიკი ეტაპობრივად გაზარდეთ. მაგალითად, თუ თქვენი აპლიკაცია წინა snapshot-იდან ახალზე გადადის, გამოიყენეთ feature flag, რათა ტრაფიკის გადაყვანა რამდენიმე საათის განმავლობაში მოხდეს და არა ერთბაშად.

• მოერიდეთ დიდი მოცულობის მონაცემთა დამუშავების ან ასინქრონული სამუშაოების გაშვებას პრიორიტეტულ დამუშავებაზე. ამ სამუშაოებმა შეიძლება ტრაფიკი ძალიან სწრაფად გაზარდოს და ხშირად არ სჭირდება პრიორიტეტული დამუშავების გაუმჯობესებული წარმადობა.

• თუ რეგულარულად აწყდებით ზრდის ტემპის მოთხოვნების ლიმიტებს, ამის ნაცვლად განიხილეთ მასშტაბირების დონის კვოტის შეძენა.

ზიარდება ზრდის ტემპის მოთხოვნების ლიმიტები ჩემს პროექტებსა თუ ორგანიზაციებს შორის?

დიახ, თქვენი მთელი ტრაფიკი ერთსა და იმავე ზრდის ტემპის მოთხოვნების ლიმიტში ითვლება.

პოლიტიკები

რა მოხდება, თუ პრიორიტეტული დამუშავება დაყოვნების მიზანს ვერ აკმაყოფილებს?

ნებისმიერი კითხვის ან შეშფოთების შემთხვევაში, გთხოვთ, დაუკავშირდეთ თქვენს AD-ს. პრიორიტეტული დამუშავების SLA-ები ისე განიხილება, როგორც მასშტაბირების დონის SLA-ები; მომსახურების კრედიტები შეთავაზებული იქნება, თუ მოცემულ დროის ფანჯარაში ვერ დავაკმაყოფილებთ ამ SLA-ებს Enterprise ხელშეკრულებების მქონე მომხმარებლებისთვის.

თავსებადია პრიორიტეტული დამუშავება მონაცემთა ადგილმდებარეობასთან?

დიახ.

თავსებადია პრიორიტეტული დამუშავება ZDR-სა და BAA-სთან?

დიახ.