Met Scale Tier op het API Platform kun je vooraf een vast aantal API-invoer- en -uitvoertokens per minuut kopen (zogenoemde ‘token-eenheden’) voor toegang tot één toegewezen modelsnapshot. Elke token-eenheid wordt voor minimaal 30 dagen gekocht.
Zodra je een orderformulier hebt ondertekend, kun je token-eenheden toevoegen en verwijderen via je API Platform-account. Let op: alleen organisatie-eigenaren en geautoriseerde gebruikers kunnen Scale Tier-instellingen bekijken en token-eenheden voor invoer en uitvoer kopen.
Lees meer over prijzen voor Scale Tier.
Hoe krijg ik toegang tot mijn Scale Tier-instellingen?
Eigenaren van API Platform-organisaties kunnen hun Scale Tier-instellingen openen door rechtsboven op de pagina het tandwiel Instellingen te selecteren en vervolgens in het menu links op het scherm onder de sectie ‘Organisatie’ Scale Tier te selecteren.
Op de instellingenpagina van Scale Tier kun je meer capaciteit toevoegen, je gebruik van invoertokens bekijken, capaciteit plannen, je geprovisioneerde tokens bekijken en je geautoriseerde kopers controleren.
Hoe kan ik meer capaciteit kopen?
Je kunt capaciteit kopen door rechtsboven op je Scale Tier-pagina de knop Capaciteit toevoegen te selecteren. Bekijk onze hoofdpagina voor Scale Tier voor de nieuwste informatie over de TPM-toewijzingen per token-eenheid voor invoer en uitvoer.
Nadat je het type tokens hebt geselecteerd dat je wilt kopen, kun je rechtstreeks een aantal invoeren of de schuifregelaar gebruiken om het gewenste aantal tokens te selecteren. Met de schuifregelaar kun je onder Samenvatting eenvoudig zien hoe de TPM verandert wanneer je de tokens aanpast. We geven ook een aanbeveling voor het aantal eenheden dat je moet kopen om je verkeer van de afgelopen 30 dagen te dekken.
Als je je selectie hebt afgerond, selecteer je Afrekenen om je aankoop in het volgende dialoogvenster te bevestigen.
Let op: de prijzen in onze samenvatting zijn onze standaardtarieven en bevatten geen kortingen die in het orderformulier van je organisatie zijn onderhandeld. Eventuele toepasselijke kortingen worden toegepast en weergegeven op de factuur die aan je organisatie wordt uitgegeven. Gekochte eenheden blijven actief tot het begin van de volgende factuurperiode en worden daarna dagelijks verlengd.
Hoe stel ik in dat API-aanroepen tokens van het schaalniveau gebruiken?
Zet hiervoor onder Projectinstellingen de schakelaar Schaalniveau ingeschakeld aan.
Als je de Completions-API gebruikt, raadpleeg dan ook onze documentatie over de sleutel service_tier om te bepalen of je deze handmatig moet instellen of de standaardinstelling kunt gebruiken.
Voor aanroepen van de Responses-API is de standaardinstelling service_tier=auto. Als het schaalniveau voor een project is ingeschakeld, gebruiken verzoeken zonder service_tier (of met auto) standaard het schaalniveau wanneer daarvoor quotum beschikbaar is. Verzoeken met service_tier=default gebruiken gedeelde rekenkracht op basis van PAYG.
Hoe kan ik mijn aankoopgeschiedenis en verlopen tokens bekijken?
Je kunt je aankoopgeschiedenis voor Scale Tier bekijken op je Scale Tier-pagina door onder Geprovisioneerde tokens een model te selecteren.
Nadat je een model hebt geselecteerd, kun je onderaan de pagina Verlopen tokens en Eerdere transacties bekijken.
Hoe kan ik mijn tokencapaciteit bewerken?
Je kunt de tokencapaciteit van een model bewerken door op je Scale Tier-pagina onder Geprovisioneerde tokens een model te selecteren. Nadat je een model hebt geselecteerd, zoek je je aankoop onder de kop Actief en selecteer je Annuleren naast je aankoop om deze te bewerken
In het dialoogvenster kun je rechtstreeks het aantal te annuleren eenheden invoeren of de schuifregelaar gebruiken om de TPM te modelleren terwijl je je selectie maakt.
Hoe kan ik mijn RPM/TPM en verbruik voor het schaalniveau bekijken?
Op de pagina Schaalniveau vind je een overzicht van het API-verbruik van je organisatie. Alle datums en tijden zijn gebaseerd op UTC. De gegevens kunnen tot 5 minuten vertraagd zijn.
Je kunt je verbruik bekijken in het dashboard voor activiteitsgebruik door in de vervolgkeuzelijst met modellen de modellen van je schaalniveau te selecteren. Je kunt deze gegevens bekijken over een periode van 30 dagen, 1 dag of 15 minuten. Je verbruiksgegevens worden gestapeld weergegeven, zodat je kunt zien welk deel van het modelverbruik onder je schaalniveau valt en welk deel onder je accountabonnement.
Houd er rekening mee dat alleen organisatie-eigenaren het gebruiksdashboard kunnen bekijken.
Wanneer zie ik mijn wijziging in tokencapaciteit terug in het gebruiksdashboard?
Het kan tot 24 uur duren voordat je wijzigingen worden weergegeven. De wijzigingen zelf gaan vrijwel onmiddellijk in.