Нивото на мащабиране в API Platform ви позволява да закупите предварително определен брой входни и изходни API токени за минута (наричани „токен единици“) за достъп до една специализирана моментна снимка на модел. Всяка токен единица се закупува за минимум 30 дни.
След като подпишете формуляр за поръчка, можете да добавяте и премахвате токен единици чрез своя акаунт в API Platform. Имайте предвид, че само собствениците на организацията и упълномощените потребители могат да преглеждат настройките за Ниво на мащабиране и да закупуват входни и изходни токен единици.
Научете повече за цените на Нивото на мащабиране.
Как да получа достъп до настройките за Ниво на мащабиране?
Собствениците на организации в API Platform могат да получат достъп до своите настройки за Ниво на мащабиране, като изберат иконата за Настройки горе вдясно на страницата и след това изберат Scale Tier в секцията „Organization“ в менюто от лявата страна на екрана.
Страницата с настройки за Ниво на мащабиране ви позволява да добавяте още капацитет, да преглеждате използването на входни токени, да планирате капацитет, да преглеждате предоставените ви токени и да преглеждате упълномощените купувачи.
Как мога да закупя повече капацитет?
Можете да закупите капацитет, като изберете бутона Add capacity горе вдясно на страницата си за Ниво на мащабиране. Моля, вижте нашата основна страница за Ниво на мащабиране за най-актуалните подробности относно TPM правата за входни и изходни токен единици.
След като изберете типа токени, които ще закупите, можете директно да въведете количество или да преместите плъзгача, за да изберете броя токени, които искате да закупите. Плъзгачът ви позволява лесно да преглеждате промените в TPM в Summary, докато променяте токените. Ще предоставим и препоръка за броя единици за закупуване, за да покриете трафика си за последните 30 дни.
След като финализирате избора си, изберете Checkout, за да потвърдите покупката си в следващия модален прозорец.
Имайте предвид, че цените, показани в обобщението ни, са стандартните ни тарифи и не включват никакви отстъпки, договорени във формуляра за поръчка на вашата организация. Всички приложими отстъпки ще бъдат приложени и отразени във фактурата, издадена на вашата организация. Всички закупени единици ще бъдат активни до началото на следващия период на фактуриране и след това ще се подновяват ежедневно.
Как да активирам обажданията да използват токени от Ниво на мащабиране?
Трябва да зададете превключвателя Scale Tier Enabled в Project Settings на включено.
Ако използвате Completions API, моля, вижте и нашата документация, която обяснява ключа service_tier, за да решите дали да го зададете ръчно или да разчитате на поведението по подразбиране.
Извикванията към Responses API по подразбиране са с service_tier=auto. Ако даден проект има активирано Scale Tier Enabled, заявките, които пропускат service_tier (или използват auto), по подразбиране ще използват Ниво на мащабиране, когато има налична квота за Ниво на мащабиране. Заявките с service_tier=default ще използват споделен/PAYG compute.
Как мога да преглеждам историята на покупките си и изтеклите токени?
Можете да преглеждате историята на покупките си за Ниво на мащабиране на страницата си за Ниво на мащабиране, като изберете модел под Provisioned tokens.
След като изберете модел, ще можете да преглеждате Expired tokens и Prior transactions в долната част на страницата.
Как мога да редактирам капацитета на токените си?
Можете да редактирате капацитета на токените за даден модел, като изберете модел под Provisioned tokens на страницата си за Ниво на мащабиране. След като изберете модел, намерете покупката си под заглавието Active и изберете Cancel до покупката си, за да я редактирате
В модалния прозорец можете директно да въведете броя единици за анулиране или да използвате плъзгача, за да моделирате TPM, докато правите избора си.
Как мога да преглеждам моите RPM/TPM за Ниво на мащабиране и използване?
Можете да преглеждате обобщение на използването на API за вашата организация на страницата си за Ниво на мащабиране. Всички дати и часове са базирани на UTC, а данните може да се забавят с до 5 минути.
Можете да преглеждате използването си в таблото за използване Activity Usage, като изберете своите модели за Ниво на мащабиране от падащото меню за модели. Можете да преглеждате тези данни в прозорец от 30 дни, 1 ден и 15 минути. Данните за използването ви са подредени в стек, за да показват количеството използване за модела, покрито от вашето Ниво на мащабиране, спрямо количеството използване, покрито от плана на акаунта ви.
Имайте предвид, че само собствениците на организацията могат да преглеждат таблото за използване.
Кога промяната в капацитета на токените ми ще се отрази в таблото за използване?
Може да отнеме до 24 часа, докато направените от вас промени бъдат отразени. Самите промени ще влязат в сила почти незабавно.