OpenAI
ეს გვერდი მანქანური თარგმანის მეშვეობით ითარგმნა. სტატიის ინგლისური დედნის ნახვა.

API Platform — მასშტაბირების დონე არსებული საწარმოო მომხმარებლებისთვის

მართეთ თქვენი საწარმოს API ორგანიზაციის მასშტაბირების დონის ტოკენების მოცულობა, შესყიდვები, ავტორიზებული მომხმარებლები და გამოყენება.

განახლებულია: 2 days ago

API Platform-ზე მასშტაბირების დონე საშუალებას გაძლევთ, წინასწარ შეიძინოთ API-ის შეყვანისა და გამოყვანის token-ების განსაზღვრული რაოდენობა წუთში („token-ის ერთეულები“) ერთი გამოყოფილი მოდელის snapshot-ზე წვდომისთვის. თითოეული token-ის ერთეული მინიმუმ 30 დღით შეიძინება.

შეკვეთის ფორმის ხელმოწერის შემდეგ token-ის ერთეულების დამატება და წაშლა შეგიძლიათ თქვენი API Platform-ის ანგარიშიდან. გაითვალისწინეთ, რომ მასშტაბირების დონის პარამეტრების ნახვა და შეყვანისა და გამოყვანის token-ის ერთეულების შეძენა მხოლოდ ორგანიზაციის მფლობელებსა და ავტორიზებულ მომხმარებლებს შეუძლიათ.


გაიგეთ მეტი მასშტაბირების დონის ფასების შესახებ.

როგორ მივიღო წვდომა ჩემი მასშტაბირების დონის პარამეტრებზე?

API Platform-ის ორგანიზაციის მფლობელებს შეუძლიათ თავიანთი მასშტაბირების დონის პარამეტრებზე წვდომა გვერდის ზედა მარჯვენა კუთხეში Settings-ის კბილანას არჩევით და ეკრანის მარცხენა მხარეს მენიუში „Organization“ სექციის ქვეშ Scale Tier-ის არჩევით.

Image

მასშტაბირების დონის პარამეტრების გვერდი საშუალებას გაძლევთ დაამატოთ მეტი გამტარუნარიანობა, ნახოთ შეყვანის token-ების გამოყენება, დაგეგმოთ გამტარუნარიანობა, ნახოთ გამოყოფილი token-ები და გადახედოთ ავტორიზებულ შემსყიდველებს.

როგორ შემიძლია მეტი გამტარუნარიანობის შეძენა?

გამტარუნარიანობის შეძენა შეგიძლიათ თქვენი მასშტაბირების დონის გვერდის ზედა მარჯვენა კუთხეში ღილაკის „გამტარუნარიანობის დამატება“ არჩევით. შეყვანისა და გამოყვანის token-ის ერთეულებზე TPM-ის უფლებების შესახებ უახლესი დეტალებისთვის იხილეთ ჩვენი მასშტაბირების დონის მთავარი გვერდი.

შესაძენი token-ების ტიპის არჩევის შემდეგ შეგიძლიათ პირდაპირ შეიყვანოთ რაოდენობა ან გამოიყენოთ სლაიდერი იმ token-ების რაოდენობის ასარჩევად, რომლის შეძენაც გსურთ. სლაიდერი საშუალებას გაძლევთ, token-ების შეცვლისას მარტივად ნახოთ TPM-ის ცვლილებები Summary-ში. ასევე მოგაწვდით რეკომენდაციას, რამდენი ერთეული უნდა შეიძინოთ ბოლო 30 დღის ტრაფიკის დასაფარად.

Add token capacity dialog for gpt-4o with Input Tokens selected and input limit increasing from 40K to 60K

არჩევანის დასრულების შემდეგ აირჩიეთ Checkout, რათა შემდეგ მოდალურ ფანჯარაში დაადასტუროთ შეძენა.

გაითვალისწინეთ, რომ ჩვენს შეჯამებაში ნაჩვენები ფასები ჩვენი სტანდარტული ტარიფებია და არ მოიცავს თქვენი ორგანიზაციის შეკვეთის ფორმაში შეთანხმებულ რაიმე ფასდაკლებებს. ყველა მოქმედი ფასდაკლება გამოყენებული იქნება და აისახება თქვენი ორგანიზაციისთვის გაცემულ ინვოისში. შეძენილი ნებისმიერი ერთეული აქტიური იქნება შემდეგი საინვოისო პერიოდის დაწყებამდე, შემდეგ კი ყოველდღიურად განახლდება.

როგორ ჩავრთო მასშტაბირების დონის ტოკენების გამოყენება გამოძახებებისთვის?

პროექტის პარამეტრებში უნდა ჩართოთ გადამრთველი მასშტაბირების დონის ჩართვა.

თუ Completions API-ს იყენებთ, ასევე გაეცანით ჩვენს დოკუმენტაციას, სადაც ახსნილია service_tier გასაღები, რათა გადაწყვიტოთ, ხელით უნდა მიუთითოთ ის თუ ნაგულისხმევ ქცევას დაეყრდნოთ.

Responses API-ის გამოძახებებისთვის ნაგულისხმევად გამოიყენება service_tier=auto. თუ პროექტისთვის მასშტაბირების დონე ჩართულია, მოთხოვნები, რომლებშიც service_tier გამოტოვებულია (ან მითითებულია auto), ნაგულისხმევად გამოიყენებს მასშტაბირების დონეს, როდესაც მისი კვოტა ხელმისაწვდომია. მოთხოვნები, რომლებშიც მითითებულია service_tier=default, გამოიყენებს საზიარო/PAYG გამოთვლით რესურსებს.

როგორ ვნახო ჩემი შესყიდვების ისტორია და ვადაგასული token-ები?

თქვენი მასშტაბირების დონის შესყიდვების ისტორიის ნახვა შეგიძლიათ თქვენი მასშტაბირების დონის გვერდზე, Provisioned tokens-ის ქვეშ მოდელის არჩევით.

Provisioned tokens table with active allocations for gpt-4o and gpt-4o-mini

მოდელის არჩევის შემდეგ გვერდის ბოლოში შეძლებთ Expired tokens-ისა და Prior transactions-ის ნახვას.

Image

როგორ შევცვალო ჩემი token-ების გამტარუნარიანობა?

მოდელის token-ების გამტარუნარიანობის შეცვლა შეგიძლიათ თქვენი მასშტაბირების დონის გვერდზე, Provisioned tokens-ის ქვეშ მოდელის არჩევით. მოდელის არჩევის შემდეგ იპოვეთ თქვენი შენაძენი Active სათაურის ქვეშ და რედაქტირებისთვის აირჩიეთ Cancel თქვენი შენაძენის გვერდით

Image

მოდალურ ფანჯარაში შეგიძლიათ პირდაპირ შეიყვანოთ გასაუქმებელი ერთეულების რაოდენობა ან გამოიყენოთ სლაიდერი, რათა არჩევისას TPM-ის სიმულაცია ნახოთ.

Edit Token Capacity dialog for gpt-4o canceling 1 package and reducing output limit TPM from 2.248M to 2.246M

როგორ ვნახო ჩემი მასშტაბირების დონის RPM/TPM და გამოყენების მონაცემები?

თქვენი ორგანიზაციის API-ის გამოყენების შეჯამება შეგიძლიათ იხილოთ მასშტაბირების დონის გვერდზე. ყველა თარიღი და დრო ეფუძნება UTC-ს, ხოლო მონაცემები შესაძლოა 5 წუთამდე დაგვიანებით აისახოს.

Input token usage chart for the last 30 days with several spikes and a peak near 700K

თქვენი გამოყენების მონაცემების სანახავად გადადით გამოყენების აქტივობის დაფაზე და მოდელების ჩამოსაშლელი სიიდან აირჩიეთ მასშტაბირების დონის მოდელები. ამ მონაცემების ნახვა შეგიძლიათ 30-დღიან, 1-დღიან და 15-წუთიან ჭრილში. თქვენი გამოყენების მონაცემები ფენებად არის წარმოდგენილი, რათა გამოჩნდეს მასშტაბირების დონით დაფარული მოდელის გამოყენების მოცულობა ანგარიშის გეგმით დაფარულ გამოყენების მოცულობასთან შედარებით.

გაითვალისწინეთ, რომ გამოყენების დაფის ნახვა მხოლოდ ორგანიზაციის მფლობელებს შეუძლიათ.

როდის აისახება token-ების გამტარუნარიანობის ცვლილება გამოყენების საინფორმაციო დაფაზე?

თქვენ მიერ შეტანილი ცვლილებების ასახვას შეიძლება 24 საათამდე დასჭირდეს. თავად ცვლილებები ძალაში თითქმის მყისიერად შევა.

სასარგებლო იყო ეს სტატია?