OpenAI
ეს გვერდი მანქანური თარგმანის მეშვეობით ითარგმნა. სტატიის ინგლისური დედნის ნახვა.

API Platform — მასშტაბირების დონე არსებული საწარმოო მომხმარებლებისთვის

განახლებულია: 7 days ago

API Platform-ზე მასშტაბირების დონე საშუალებას გაძლევთ, წინასწარ შეიძინოთ API-ის შეყვანისა და გამოყვანის token-ების განსაზღვრული რაოდენობა წუთში („token-ის ერთეულები“) ერთი გამოყოფილი მოდელის snapshot-ზე წვდომისთვის. თითოეული token-ის ერთეული მინიმუმ 30 დღით შეიძინება.

შეკვეთის ფორმის ხელმოწერის შემდეგ token-ის ერთეულების დამატება და წაშლა შეგიძლიათ თქვენი API Platform-ის ანგარიშიდან. გაითვალისწინეთ, რომ მასშტაბირების დონის პარამეტრების ნახვა და შეყვანისა და გამოყვანის token-ის ერთეულების შეძენა მხოლოდ ორგანიზაციის მფლობელებსა და ავტორიზებულ მომხმარებლებს შეუძლიათ.


გაიგეთ მეტი მასშტაბირების დონის ფასების შესახებ.

როგორ მივიღო წვდომა ჩემი მასშტაბირების დონის პარამეტრებზე?

API Platform-ის ორგანიზაციის მფლობელებს შეუძლიათ თავიანთი მასშტაბირების დონის პარამეტრებზე წვდომა გვერდის ზედა მარჯვენა კუთხეში Settings-ის კბილანას არჩევით და ეკრანის მარცხენა მხარეს მენიუში „Organization“ სექციის ქვეშ Scale Tier-ის არჩევით.

Image

მასშტაბირების დონის პარამეტრების გვერდი საშუალებას გაძლევთ დაამატოთ მეტი გამტარუნარიანობა, ნახოთ შეყვანის token-ების გამოყენება, დაგეგმოთ გამტარუნარიანობა, ნახოთ გამოყოფილი token-ები და გადახედოთ ავტორიზებულ შემსყიდველებს.

როგორ შემიძლია მეტი გამტარუნარიანობის შეძენა?

გამტარუნარიანობის შეძენა შეგიძლიათ თქვენი მასშტაბირების დონის გვერდის ზედა მარჯვენა კუთხეში ღილაკის „გამტარუნარიანობის დამატება“ არჩევით. შეყვანისა და გამოყვანის token-ის ერთეულებზე TPM-ის უფლებების შესახებ უახლესი დეტალებისთვის იხილეთ ჩვენი მასშტაბირების დონის მთავარი გვერდი.

შესაძენი token-ების ტიპის არჩევის შემდეგ შეგიძლიათ პირდაპირ შეიყვანოთ რაოდენობა ან გამოიყენოთ სლაიდერი იმ token-ების რაოდენობის ასარჩევად, რომლის შეძენაც გსურთ. სლაიდერი საშუალებას გაძლევთ, token-ების შეცვლისას მარტივად ნახოთ TPM-ის ცვლილებები Summary-ში. ასევე მოგაწვდით რეკომენდაციას, რამდენი ერთეული უნდა შეიძინოთ ბოლო 30 დღის ტრაფიკის დასაფარად.

Add token capacity dialog for gpt-4o with Input Tokens selected and input limit increasing from 40K to 60K

არჩევანის დასრულების შემდეგ აირჩიეთ Checkout, რათა შემდეგ მოდალურ ფანჯარაში დაადასტუროთ შეძენა.

გაითვალისწინეთ, რომ ჩვენს შეჯამებაში ნაჩვენები ფასები ჩვენი სტანდარტული ტარიფებია და არ მოიცავს თქვენი ორგანიზაციის შეკვეთის ფორმაში შეთანხმებულ რაიმე ფასდაკლებებს. ყველა მოქმედი ფასდაკლება გამოყენებული იქნება და აისახება თქვენი ორგანიზაციისთვის გაცემულ ინვოისში. შეძენილი ნებისმიერი ერთეული აქტიური იქნება შემდეგი საინვოისო პერიოდის დაწყებამდე, შემდეგ კი ყოველდღიურად განახლდება.

როგორ ჩავრთო გამოძახებებისთვის მასშტაბირების დონის token-ების გამოყენება?

Project Settings-ში Scale Tier Enabled გადამრთველი on მდგომარეობაზე უნდა დააყენოთ.

თუ Completions API-ს იყენებთ, ასევე იხილეთ ჩვენი დოკუმენტაცია, რომელიც განმარტავს service_tier გასაღებს, რათა გადაწყვიტოთ, ხელით უნდა დააყენოთ ის თუ ნაგულისხმევ ქცევას დაეყრდნოთ.

Responses API-ში გამოძახებებისთვის ნაგულისხმევად გამოიყენება service_tier=auto. თუ პროექტში ჩართულია Scale Tier Enabled, მოთხოვნები, რომლებშიც service_tier გამოტოვებულია (ან გამოყენებულია auto), ნაგულისხმევად გამოიყენებს მასშტაბირების დონეს, როცა მასშტაბირების დონის კვოტა ხელმისაწვდომია. მოთხოვნები service_tier=default-ით გამოიყენებს საზიარო/PAYG გამოთვლით რესურსებს.

როგორ ვნახო ჩემი შესყიდვების ისტორია და ვადაგასული token-ები?

თქვენი მასშტაბირების დონის შესყიდვების ისტორიის ნახვა შეგიძლიათ თქვენი მასშტაბირების დონის გვერდზე, Provisioned tokens-ის ქვეშ მოდელის არჩევით.

Provisioned tokens table with active allocations for gpt-4o and gpt-4o-mini

მოდელის არჩევის შემდეგ გვერდის ბოლოში შეძლებთ Expired tokens-ისა და Prior transactions-ის ნახვას.

Image

როგორ შევცვალო ჩემი token-ების გამტარუნარიანობა?

მოდელის token-ების გამტარუნარიანობის შეცვლა შეგიძლიათ თქვენი მასშტაბირების დონის გვერდზე, Provisioned tokens-ის ქვეშ მოდელის არჩევით. მოდელის არჩევის შემდეგ იპოვეთ თქვენი შენაძენი Active სათაურის ქვეშ და რედაქტირებისთვის აირჩიეთ Cancel თქვენი შენაძენის გვერდით

Image

მოდალურ ფანჯარაში შეგიძლიათ პირდაპირ შეიყვანოთ გასაუქმებელი ერთეულების რაოდენობა ან გამოიყენოთ სლაიდერი, რათა არჩევისას TPM-ის სიმულაცია ნახოთ.

Edit Token Capacity dialog for gpt-4o canceling 1 package and reducing output limit TPM from 2.248M to 2.246M

როგორ ვნახო ჩემი მასშტაბირების დონის RPM/TPM და გამოყენება?

თქვენი ორგანიზაციის API-ის გამოყენების შეჯამების ნახვა შეგიძლიათ თქვენი მასშტაბირების დონის გვერდზე. ყველა თარიღი და დრო UTC-ს ეფუძნება, ხოლო მონაცემები შეიძლება 5 წუთამდე დაგვიანებით გამოჩნდეს.

Input token usage chart for the last 30 days with several spikes and a peak near 700K

გამოყენების გადახედვა შეგიძლიათ Activity Usage Dashboard-ში, models-ის ჩამოსაშლელ მენიუში თქვენი მასშტაბირების დონის მოდელების არჩევით. ამ მონაცემების ნახვა შეგიძლიათ 30-დღიან, 1-დღიან და 15-წუთიან ფანჯარაში. თქვენი გამოყენების მონაცემები დალაგებულია ისე, რომ აჩვენოს თქვენი მასშტაბირების დონით დაფარული მოდელის გამოყენების მოცულობა თქვენი ანგარიშის გეგმით დაფარული გამოყენების მოცულობასთან შედარებით.

გაითვალისწინეთ, რომ Usage Dashboard-ის ნახვა მხოლოდ ორგანიზაციის მფლობელებს შეუძლიათ.

როდის აისახება token-ების გამტარუნარიანობის ცვლილება გამოყენების საინფორმაციო დაფაზე?

თქვენ მიერ შეტანილი ცვლილებების ასახვას შეიძლება 24 საათამდე დასჭირდეს. თავად ცვლილებები ძალაში თითქმის მყისიერად შევა.

სასარგებლო იყო ეს სტატია?