Нивото на мащабиране в API Platform ви позволява предварително да закупите определен брой входни и изходни API токени в минута (известни като „единици токени“) за достъп до една специално заделена моментна версия на модел. Всяка единица токени се закупува за минимум 30 дни.
След като подпишете формуляр за поръчка, можете да добавяте и премахвате единици токени чрез своя акаунт в API Platform. Имайте предвид, че само собствениците на организацията и упълномощените потребители могат да преглеждат настройките за Ниво на мащабиране и да закупуват единици входни и изходни токени.
Научете повече за ценообразуването за Нивото на мащабиране.
Как мога да осъществя достъп до настройките си за Ниво на мащабиране?
Собствениците на организация в API Platform могат да осъществят достъп до настройките си за Ниво на мащабиране, като изберат зъбното колело за настройки горе вдясно на страницата и изберат „Ниво на мащабиране“ в секцията „Организация“ в менюто от лявата страна на екрана.
Страницата с настройки за Ниво на мащабиране ви позволява да добавяте още капацитет, да преглеждате използването на входни токени, да планирате капацитет, да виждате предоставените си токени и да преглеждате упълномощените купувачи.
Как мога да закупя повече капацитет?
Можете да закупите капацитет, като изберете бутона „Добавяне на капацитет“ горе вдясно на страницата си за Ниво на мащабиране. Вижте нашата основна страница за Ниво на мащабиране за най-актуалната информация относно правата за TPM за единиците входни и изходни токени.
След като изберете типа токени, които ще закупите, можете директно да въведете сума или да преместите плъзгача, за да изберете броя токени, които искате да закупите. Плъзгачът ви позволява лесно да виждате промените в TPM под „Обобщение“, докато променяте токените. Ще предоставим и препоръка за броя единици, които да закупите, за да покриете трафика си за последните 30 дни.
След като финализирате избора си, изберете „Плащане“, за да потвърдите покупката си в следващия модален прозорец.
Имайте предвид, че цените, показани в нашето обобщение, са стандартните ни тарифи и не включват отстъпки, договорени във формуляра за поръчка на вашата организация. Всички приложими отстъпки ще бъдат приложени и отразени във фактурата, издадена на вашата организация. Всички закупени единици ще бъдат активни до началото на следващия период на фактуриране и след това ще се подновяват ежедневно.
Как да активирам използването на токени от Ниво на мащабиране при извиквания?
Трябва да включите превключвателя Нивото на мащабиране е активирано в настройките на проекта.
Ако използвате Completions API, вижте и нашата документация за ключа service_tier, за да решите дали да го зададете ръчно, или да разчитате на поведението по подразбиране.
Извикванията към Responses API използват service_tier=auto по подразбиране. Ако за даден проект е активирано Ниво на мащабиране, заявките без service_tier (или с auto) по подразбиране ще използват Ниво на мащабиране, когато има налична квота за него. Заявките със service_tier=default ще използват споделени изчислителни ресурси с плащане според потреблението (PAYG).
Как мога да прегледам историята на покупките си и изтеклите токени?
Можете да прегледате историята на покупките си за Ниво на мащабиране на страницата си за Ниво на мащабиране, като изберете модел под „Предоставени токени“.
След като изберете модел, ще можете да прегледате „Изтекли токени“ и „Предишни трансакции“ в долната част на страницата.
Как мога да редактирам капацитета си за токени?
Можете да редактирате капацитета за токени на даден модел, като изберете модел под „Предоставени токени“ на страницата си за Ниво на мащабиране. След като изберете модел, намерете покупката си под заглавието „Активни“ и изберете „Отказ“ до покупката си, за да я редактирате
В модалния прозорец можете директно да въведете броя единици за отказване или да използвате плъзгача, за да моделирате TPM, докато правите избора си.
Как мога да видя своите RPM/TPM и потреблението за Ниво на мащабиране?
Можете да видите обобщение на потреблението на API за организацията си на страницата Ниво на мащабиране. Всички дати и часове са по UTC, а данните може да се показват със закъснение до 5 минути.
Можете да прегледате потреблението си в таблото за потребление по дейности, като изберете моделите си от Ниво на мащабиране в падащото меню за модели. Можете да преглеждате тези данни за периоди от 30 дни, 1 ден и 15 минути. Данните за потреблението ви са представени с натрупване, за да показват потреблението за модела, покрито от вашето Ниво на мащабиране, спрямо потреблението, покрито от плана на профила ви.
Имайте предвид, че само собствениците на организацията могат да виждат таблото за потребление.
Кога промяната в капацитета ми за токени ще се отрази в таблото за използване?
Отразяването на направените от вас промени може да отнеме до 24 часа. Самите промени ще влязат в сила почти незабавно.