Met het schaalniveau op het API-platform kun je vooraf een vast aantal API-invoer- en uitvoertokens per minuut kopen (ook wel ‘tokeneenheden’ genoemd) voor toegang tot één speciale modelsnapshot. Elke tokeneenheid wordt gekocht voor minimaal 30 dagen.
Zodra je een bestelformulier hebt ondertekend, kun je tokeneenheden toevoegen en verwijderen via je API-platformaccount. Houd er rekening mee dat alleen organisatie-eigenaren en geautoriseerde gebruikers de instellingen voor het schaalniveau kunnen bekijken en invoer- en uitvoertokeneenheden kunnen kopen.
Meer informatie over prijzen voor het schaalniveau.
Hoe krijg ik toegang tot mijn instellingen voor het schaalniveau?
Eigenaren van API Platform-organisaties hebben toegang tot hun instellingen voor schaalniveau door rechtsboven op de pagina het tandwiel Instellingen te selecteren en vervolgens onder de sectie "Organisatie" in het menu aan de linkerkant van het scherm Scale Tier te kiezen.
Op de pagina met instellingen voor het schaalniveau kun je meer capaciteit toevoegen, je gebruik van invoertokens bekijken, capaciteit plannen, je ingerichte tokens bekijken en je geautoriseerde inkopers controleren.
Hoe kan ik meer capaciteit kopen?
Je kunt capaciteit kopen door rechtsboven op je pagina voor schaalniveau op de knop Add capacity te klikken. Zie onze hoofdpagina voor schaalniveau voor de meest recente details over de TPM-rechten per invoer- en uitvoertokeneenheid.
Nadat je het type tokens hebt geselecteerd dat je wilt kopen, kun je direct een hoeveelheid invoeren of de schuifregelaar verplaatsen om het aantal tokens te kiezen dat je wilt kopen. Met de schuifregelaar kun je eenvoudig de TPM-wijzigingen onder Samenvatting bekijken terwijl je de tokens wijzigt. We geven ook een aanbeveling voor het aantal eenheden dat je moet kopen om je verkeer van de afgelopen 30 dagen te dekken.
Zodra je je selectie hebt afgerond, kies je Checkout om je aankoop in het volgende modale venster te bevestigen.
Houd er rekening mee dat de prijzen in onze samenvatting onze standaardtarieven zijn en geen eventuele kortingen bevatten die zijn overeengekomen in het bestelformulier van je organisatie. Eventuele toepasselijke kortingen worden toegepast en weergegeven op de factuur die aan je organisatie wordt verstrekt. Alle gekochte eenheden zijn actief tot het begin van de volgende factuurperiode en worden daarna dagelijks verlengd.
Hoe schakel ik oproepen in om tokens van het schaalniveau te gebruiken?
Je moet de schakelaar Scale Tier Enabled onder Project Settings inschakelen.
Als je de Completions API gebruikt, zie dan ook onze documentatie waarin de sleutel service_tier wordt uitgelegd, zodat je kunt bepalen of je die handmatig moet instellen of op het standaardgedrag moet vertrouwen.
Aanroepen naar de Responses API gebruiken standaard service_tier=auto. Als voor een project Scale Tier Enabled is ingeschakeld, gebruiken verzoeken die service_tier weglaten (of auto gebruiken) standaard het schaalniveau wanneer er quotum voor het schaalniveau beschikbaar is. Verzoeken met service_tier=default gebruiken gedeelde/PAYG-rekenkracht.
Hoe kan ik mijn aankoopgeschiedenis en verlopen tokens bekijken?
Je kunt de aankoopgeschiedenis van je schaalniveau bekijken op je pagina voor schaalniveau door onder Provisioned tokens een model te selecteren.
Zodra je een model selecteert, kun je onderaan de pagina Expired tokens en Prior transactions bekijken.
Hoe kan ik mijn tokencapaciteit bewerken?
Je kunt de tokencapaciteit van een model bewerken door op je pagina voor schaalniveau onder Provisioned tokens een model te selecteren. Zodra je een model selecteert, zoek je je aankoop onder de kop Active en selecteer je naast je aankoop Cancel om deze te bewerken
In het modale venster kun je het aantal te annuleren eenheden direct invoeren of de schuifregelaar gebruiken om de TPM te modelleren terwijl je je selectie maakt.
Hoe kan ik mijn RPM/TPM en gebruik voor het schaalniveau bekijken?
Je kunt op je pagina voor schaalniveau een samenvatting bekijken van het API-gebruik voor je organisatie. Alle datums en tijden zijn gebaseerd op UTC en gegevens kunnen tot 5 minuten vertraagd zijn.
Je kunt je gebruik bekijken in het Activity Usage Dashboard door in de vervolgkeuzelijst met modellen je modellen voor het schaalniveau te selecteren. Je kunt deze gegevens bekijken in een venster van 30 dagen, 1 dag en 15 minuten. Je gebruiksgegevens worden gestapeld weergegeven om te laten zien hoeveel gebruik voor het model wordt gedekt door je schaalniveau tegenover de hoeveelheid gebruik die door je accountabonnement wordt gedekt.
Houd er rekening mee dat alleen organisatie-eigenaren het Usage Dashboard kunnen bekijken.
Wanneer zie ik mijn wijziging in tokencapaciteit terug in het usage dashboard?
Het kan tot 24 uur duren voordat de wijzigingen die je aanbrengt zichtbaar zijn. De wijzigingen zelf gaan vrijwel onmiddellijk in.