OpenAI
Оваа страница беше машински преведена. Погледнете ја оригиналната статија на англиски јазик.

API Platform – Ниво на скалирање за постојни Enterprise клиенти

Управувајте со капацитетот за токени на Нивото на скалирање, набавките, овластените корисници и користењето за вашата корпоративна API организација.

Ажурирано: yesterday

Нивото на скалирање на API Platform ви овозможува однапред да купите одреден број API влезни и излезни токени во минута (познати како „токенски единици“) за пристап до една наменска снимка на модел. Секоја токенска единица се купува за најмалку 30 дена.

Откако ќе потпишете образец за нарачка, можете да додавате и отстранувате токенски единици преку вашата сметка на API Platform. Имајте предвид дека само сопствениците на организацијата и овластените корисници може да ги гледаат поставките за Ниво на скалирање и да купуваат единици за влезни и излезни токени.


Дознајте повеќе за цените на Ниво на скалирање.

Како можам да пристапам до моите поставки за Ниво на скалирање?

Сопствениците на организација на API Platform можат да пристапат до своите поставки за Ниво на скалирање со избирање на иконата запчаник за „Поставки“ во горниот десен агол на страницата и избирање „Ниво на скалирање“ под делот „Организација“ во менито од левата страна на екранот.

Image

Страницата со поставки за Ниво на скалирање ви овозможува да додадете поголем капацитет, да ја гледате употребата на влезни токени, да планирате капацитет, да ги гледате обезбедените токени и да ги прегледате овластените купувачи.

Како можам да купам поголем капацитет?

Капацитет можете да купите со избирање на копчето „Додај капацитет“ во горниот десен агол на вашата страница за Ниво на скалирање. Погледнете ја нашата главна страница за Ниво на скалирање за најновите детали за TPM правата по единици за влезни и излезни токени.

Откако ќе го изберете типот на токени што ќе ги купите, можете директно да внесете износ или да го поместите лизгачот за да го изберете бројот на токени што сакате да ги купите. Лизгачот ви овозможува лесно да ги гледате промените на TPM во „Резиме“ додека ги менувате токените. Ќе дадеме и препорака за бројот на единици што треба да ги купите за да го покриете сообраќајот од последните 30 дена.

Add token capacity dialog for gpt-4o with Input Tokens selected and input limit increasing from 40K to 60K

Откако ќе го финализирате изборот, изберете „Наплата“ за да го потврдите купувањето во следниот модален прозорец.

Имајте предвид дека цените прикажани во нашето резиме се нашите стандардни цени и не вклучуваат попусти договорени во образецот за нарачка на вашата организација. Сите применливи попусти ќе бидат применети и прикажани во фактурата издадена на вашата организација. Сите купени единици ќе бидат активни до почетокот на следниот фактурен период, а потоа ќе се обновуваат секојдневно.

Како да овозможам повиците да користат токени од Нивото на скалирање?

Во „Поставки на проектот“ треба да го вклучите прекинувачот Овозможено Ниво на скалирање.

Ако го користите API за довршувања, прочитајте ја и нашата документација во која е објаснет клучот service_tier, за да одлучите дали да го поставите рачно или да се потпрете на стандардното однесување.

Повиците до API за одговори стандардно користат service_tier=auto. Ако за проектот е овозможено Нивото на скалирање, барањата во кои е изоставено service_tier (или се користи auto) стандардно ќе го користат Нивото на скалирање кога има достапна квота. Барањата со service_tier=default ќе користат споделени пресметковни ресурси/PAYG.

Како можам да ја видам историјата на купувања и истечените токени?

Историјата на купувања за Ниво на скалирање можете да ја видите на вашата страница за Ниво на скалирање со избирање модел под „Обезбедени токени“.

Provisioned tokens table with active allocations for gpt-4o and gpt-4o-mini

Откако ќе изберете модел, ќе можете да ги видите „Истечени токени“ и „Претходни трансакции“ на дното на страницата.

Image

Како можам да го уредам мојот капацитет за токени?

Капацитетот за токени на моделот можете да го уредите со избирање модел под „Обезбедени токени“ на вашата страница за Ниво на скалирање. Откако ќе изберете модел, најдете го вашето купување под заглавието „Активно“ и изберете „Откажи“ до вашето купување за да го уредите

Image

Во модалниот прозорец, можете директно да го внесете бројот на единици за откажување или да го користите лизгачот за да видите како се менува TPM додека го правите изборот.

Edit Token Capacity dialog for gpt-4o canceling 1 package and reducing output limit TPM from 2.248M to 2.246M

Како да ги прегледам RPM/TPM и користењето на Нивото на скалирање?

Резимето на користењето на API за вашата организација може да го видите на страницата Ниво на скалирање. Сите датуми и времиња се според UTC, а податоците може да доцнат до 5 минути.

Input token usage chart for the last 30 days with several spikes and a peak near 700K

Користењето може да го прегледате на Контролната табла за активноста на користење, избирајќи ги моделите од Нивото на скалирање во паѓачкото мени за модели. Овие податоци може да ги прегледувате за период од 30 дена, 1 ден или 15 минути. Податоците за користењето се прикажани збирно за да се спореди користењето на моделот покриено со вашето Ниво на скалирање со користењето покриено со планот на вашата сметка.

Имајте предвид дека само сопствениците на организацијата може да ја прегледуваат Контролната табла за користење.

Кога промената на мојот капацитет за токени ќе биде прикажана на контролната табла за употреба?

Може да бидат потребни до 24 часа за да се прикажат промените што ги правите. Самите промени ќе стапат во сила речиси веднаш.

Дали оваа статија ви беше корисна?