Рівень масштабування на API Platform дає змогу заздалегідь придбати фіксовану кількість вхідних і вихідних токенів API за хвилину (так звані «токен-одиниці») для доступу до одного виділеного знімка моделі. Кожна токен-одиниця купується щонайменше на 30 днів.
Після підписання форми замовлення ви можете додавати й вилучати токен-одиниці через свій обліковий запис API Platform. Зверніть увагу: переглядати налаштування Рівня масштабування та купувати одиниці вхідних і вихідних токенів можуть лише власники організації й авторизовані користувачі.
Докладніше про ціни на Рівні масштабування.
Як отримати доступ до налаштувань Рівня масштабування?
Власники організації API Platform можуть відкрити налаштування Рівня масштабування, натиснувши значок шестерні Settings у верхньому правому куті сторінки та вибравши Scale Tier у розділі «Організація» в меню ліворуч на екрані.
Сторінка налаштувань Рівня масштабування дає змогу додавати потужність, переглядати використання вхідних токенів, планувати потужність, переглядати підготовлені токени й перевіряти авторизованих покупців.
Як придбати більше потужності?
Ви можете придбати потужність, натиснувши кнопку «Додати потужність» у верхньому правому куті сторінки Рівня масштабування. Актуальні відомості про надані обсяги TPM для одиниць вхідних і вихідних токенів див. на нашій головній сторінці Рівня масштабування.
Вибравши тип токенів для придбання, ви можете ввести кількість напряму або пересунути повзунок, щоб вибрати потрібну кількість токенів. Повзунок дає змогу легко переглядати зміни TPM у розділі «Підсумок» під час зміни кількості токенів. Ми також надамо рекомендацію щодо кількості одиниць, яку варто придбати, щоб покрити трафік за останні 30 днів.
Коли ви остаточно визначитеся з вибором, натисніть «Оформити замовлення», щоб підтвердити покупку в наступному модальному вікні.
Зверніть увагу: ціни, показані в нашому підсумку, є стандартними тарифами й не включають знижки, узгоджені у формі замовлення вашої організації. Усі застосовні знижки буде застосовано й відображено в рахунку, виставленому вашій організації. Усі придбані одиниці будуть активні до початку наступного розрахункового періоду, а після цього поновлюватимуться щодня.
Як увімкнути використання токенів Рівня масштабування для викликів?
У налаштуваннях проєкту потрібно ввімкнути перемикач Рівень масштабування ввімкнено.
Якщо ви використовуєте API Completions, також перегляньте нашу документацію з поясненням параметра service_tier, щоб вирішити, чи задавати його вручну, чи покладатися на стандартну поведінку.
Для викликів API Responses стандартно використовується service_tier=auto. Якщо для проєкту ввімкнено Рівень масштабування, запити без параметра service_tier (або зі значенням auto) стандартно використовуватимуть Рівень масштабування, коли доступна його квота. Запити з service_tier=default використовуватимуть спільні обчислювальні ресурси з оплатою за фактом використання (PAYG).
Як переглянути історію покупок і прострочені токени?
Ви можете переглянути історію покупок Рівня масштабування на сторінці Рівня масштабування, вибравши модель у розділі «Підготовлені токени».
Після вибору моделі внизу сторінки ви зможете переглянути розділи «Прострочені токени» та «Попередні транзакції».
Як змінити свою токенну потужність?
Ви можете змінити токенну потужність моделі, вибравши модель у розділі «Підготовлені токени» на сторінці Рівня масштабування. Після вибору моделі знайдіть свою покупку в розділі «Активні» й натисніть «Скасувати» поруч із нею, щоб внести зміни.
У модальному вікні можна ввести кількість одиниць для скасування напряму або скористатися повзунком, щоб моделювати TPM під час вибору.
Як переглянути мої ліміти RPM/TPM і використання Рівня масштабування?
Зведення про використання API у вашій організації можна переглянути на сторінці Рівень масштабування. Усі дати й час указано за UTC, а дані можуть надходити із затримкою до 5 хвилин.
Щоб переглянути використання на панелі активності використання, виберіть у розкривному списку моделей ті, що належать до Рівня масштабування. Ці дані можна переглядати за періоди тривалістю 30 днів, 1 день і 15 хвилин. Дані про використання відображаються з накопиченням, щоб порівняти обсяг використання моделі, охоплений Рівнем масштабування, з обсягом, охопленим тарифним планом вашого облікового запису.
Зверніть увагу: панель використання доступна лише власникам організації.
Коли зміна моєї токенної потужності відобразиться на панелі використання?
Внесені вами зміни можуть відображатися протягом до 24 годин. Самі зміни набувають чинності майже миттєво.