Skalningsnivå på API Platform gör att du kan köpa ett fast antal API-indata- och utdata-token per minut (så kallade ”tokenenheter”) i förväg för åtkomst till en dedikerad modellsnapshot. Varje tokenenhet köps för minst 30 dagar.
När du har undertecknat ett beställningsformulär kan du lägga till och ta bort tokenenheter via ditt API Platform-konto. Observera att endast organisationsägare och behöriga användare kan visa inställningar för Skalningsnivå och köpa enheter för indata- och utdata-token.
Läs mer om prissättning på Skalningsnivå.
Hur kommer jag åt mina inställningar för Skalningsnivå?
Organisationsägare på API Platform kommer åt sina inställningar för Skalningsnivå genom att välja kugghjulet Inställningar högst upp till höger på sidan och välja Skalningsnivå under avsnittet ”Organisation” i menyn till vänster på skärmen.
Inställningssidan för Skalningsnivå gör att du kan lägga till mer kapacitet, visa din användning av indata-token, planera kapacitet, visa dina provisionerade token och granska dina behöriga inköpare.
Hur kan jag köpa mer kapacitet?
Du kan köpa kapacitet genom att välja knappen Lägg till kapacitet högst upp till höger på sidan Skalningsnivå. Se vår huvudsida för Skalningsnivå för den senaste informationen om TPM-rättigheter per enhet för indata- och utdata-token.
När du har valt vilken typ av token du vill köpa kan du ange ett belopp direkt eller flytta skjutreglaget för att välja antalet token du vill köpa. Med skjutreglaget kan du enkelt se TPM-ändringarna under Sammanfattning när du ändrar antalet token. Vi ger även en rekommendation om hur många enheter du bör köpa för att täcka trafiken under de senaste 30 dagarna.
När du har slutfört ditt val väljer du Kassa för att bekräfta köpet i nästa dialogruta.
Observera att priserna som visas i vår sammanfattning är våra standardpriser och inte omfattar eventuella rabatter som förhandlats fram i organisationens beställningsformulär. Eventuella tillämpliga rabatter kommer att tillämpas och visas på fakturan som utfärdas till din organisation. Alla enheter som köps är aktiva fram till början av nästa fakturaperiod och förnyas dagligen därefter.
Hur aktiverar jag att anrop använder Skalningsnivå-token?
Du måste ställa reglaget Scale Tier Enabled under Projektinställningar till på.
Om du använder Completions API kan du även läsa vår dokumentation som förklarar nyckeln service_tier, så att du kan avgöra om du bör ange den manuellt eller förlita dig på standardbeteendet.
Anrop till Responses API använder service_tier=auto som standard. Om Scale Tier Enabled är aktiverat för ett projekt använder begäranden som utelämnar service_tier (eller använder auto) Skalningsnivå som standard när det finns tillgänglig kvot för Skalningsnivå. Begäranden med service_tier=default använder delad/PAYG-beräkning.
Hur kan jag visa min köphistorik och utgångna token?
Du kan visa din köphistorik för Skalningsnivå på sidan Skalningsnivå genom att välja en modell under Provisionerade token.
När du har valt en modell kan du visa Utgångna token och Tidigare transaktioner längst ned på sidan.
Hur kan jag redigera min tokenkapacitet?
Du kan redigera en modells tokenkapacitet genom att välja en modell under Provisionerade token på sidan Skalningsnivå. När du har valt en modell hittar du ditt köp under rubriken Aktiv och väljer Avbryt bredvid köpet för att redigera det
I dialogrutan kan du ange antalet enheter som ska avbrytas direkt eller använda skjutreglaget för att se hur TPM påverkas medan du gör ditt val.
Hur kan jag visa RPM/TPM och användning för min Skalningsnivå?
Du kan visa en sammanfattning av API-användningen för din organisation på sidan Skalningsnivå. Alla datum och tider baseras på UTC, och data kan vara fördröjda med upp till 5 minuter.
Du kan granska din användning på aktivitetsinstrumentpanelen för användning genom att välja dina Skalningsnivå-modeller i rullgardinsmenyn för modeller. Du kan visa dessa data i ett 30-dagars-, 1-dags- och 15-minutersfönster. Dina användningsdata visas staplade för att visa användningsmängden för modellen som täcks av din Skalningsnivå jämfört med användningsmängden som täcks av din kontoplan.
Observera att endast organisationsägare kan visa användningspanelen.
När kommer ändringen av min tokenkapacitet att synas i användningspanelen?
Det kan ta upp till 24 timmar innan ändringarna du gör syns. Själva ändringarna träder i kraft nästan omedelbart.