Mit dem Scale Tier auf der API-Plattform kannst du im Voraus eine festgelegte Anzahl von API-Eingabe- und Ausgabe-Token pro Minute (sogenannte „Token-Einheiten“) erwerben, um auf einen dedizierten Modell-Snapshot zuzugreifen. Jede Token-Einheit wird für mindestens 30 Tage erworben.
Nach der Unterzeichnung eines Bestellformulars kannst du über dein API-Plattform-Konto Token-Einheiten hinzufügen und entfernen. Bitte beachte, dass nur Organisationsinhaber und autorisierte Benutzer Scale Tier-Einstellungen anzeigen und Ein- und Ausgabe-Token-Einheiten erwerben können.
Erfahre mehr über die Preisgestaltung der Scale Tier-Stufe.
Wie kannst du auf deine Einstellungen für Scale Tier zugreifen?
API Platform-Organisationsinhaber können auf ihre Scale Tier-Einstellungen zugreifen, indem sie oben rechts auf der Seite das Zahnradsymbol auswählen und im Menü auf der linken Seite unter dem Abschnitt „Organisation“ die Option „Scale Tier“ wählen.
Die Seite für die Einstellungen des Scale Tier ermöglicht es dir, zusätzliche Kapazität hinzuzufügen, deinen Verbrauch von Eingabe-Token einzusehen, Kapazitäten zu planen, deine bereitgestellten Token anzuzeigen und deine autorisierten Käufer zu überprüfen.
Wie kannst du mehr Kapazität kaufen?
Du kannst Kapazität erwerben, indem du oben rechts auf deiner Scale Tier-Seite die Schaltfläche „Kapazität hinzufügen“ auswählst. Die neuesten Details zu den TPM-Kontingenten pro Eingabe- und Ausgabe-Token-Einheit findest du auf unserer Hauptseite zu Scale Tier.
Nachdem du die Art der Token ausgewählt hast, die du kaufen möchtest, kannst du direkt einen Betrag eingeben oder den Schieberegler bewegen, um die Anzahl der Token auszuwählen, die du kaufen möchtest. Mit dem Schieberegler kannst du die TPM-Änderungen im Bereich „Zusammenfassung“ einfach anzeigen, während du die Token-Anzahl änderst. Wir geben außerdem eine Empfehlung dazu ab, wie viele Einheiten du kaufen solltest, um deinen Traffic der letzten 30 Tage abzudecken.
Nach Abschluss deiner Auswahl klicke auf „Zur Kasse“, um deinen Kauf im nächsten Modal zu bestätigen.
Bitte beachte, dass die in unserer Zusammenfassung aufgeführten Preise unsere Standardtarife sind und keine Rabatte enthalten, die im Bestellformular deiner Organisation ausgehandelt wurden. Etwaige geltende Rabatte werden berücksichtigt und in der Rechnung ausgewiesen, die deiner Organisation ausgestellt wird. Alle gekauften Einheiten sind bis zum Beginn des nächsten Abrechnungszeitraums aktiv und werden danach täglich verlängert.
Wie aktiviere ich, dass Scale Tier-Token von von Aufrufen verwendet werden?
Du musst den Schalter Scale Tier Enabled unter „Projekteinstellungen“ einschalten.
Wenn du die Completions API verwendest, lies bitte auch unsere Dokumentation, die den Schlüssel service_tier erklärt, damit du entscheiden kannst, ob du ihn manuell festlegen oder dich auf das Standardverhalten verlassen möchtest.
Aufrufe der Responses-API verwenden standardmäßig service_tier=auto. Wenn für ein Projekt Scale Tier aktiviert ist, verwenden Anfragen, bei denen service_tier ausgelassen wird (oder „auto“ verwendet wird), standardmäßig Scale Tier, sofern das Scale Tier-Kontingent verfügbar ist. Anfragen mit service_tier=default verwenden gemeinsam genutzte/PAYG-Compute-Ressourcen.
Wie kann ich meinen Kaufverlauf und meine abgelaufenen Token anzeigen?
Du kannst deine Kaufhistorie für Scale Tier auf der Seite Scale Tier einsehen, indem du ein Modell unter „Bereitgestellte Token“ auswählst.
Sobald du ein Modell ausgewählt hast, kannst du unten auf der Seite abgelaufene Token und frühere Transaktionen anzeigen.
Wie kann ich meine Token-Kapazität ändern?
Du kannst die Token-Kapazität eines Modells ändern, indem du auf deiner Scale Tier-Seite unter „Bereitgestellte Token“ ein Modell auswählst. Sobald du ein Modell ausgewählt hast, findest du deinen Kauf unter der Überschrift „Aktiv“ und wählst neben deinem Kauf „Abbrechen“ aus, um ihn zu bearbeiten.
Im Modell kannst du die Anzahl der zu stornierenden Einheiten direkt eingeben oder den Regler verwenden, um zu sehen, wie sich dein TPM bei der Auswahl verändert.
Wie kann ich meine RPM/TPM und Nutzung für Scale Tier einsehen?
Du kannst eine Zusammenfassung der API-Nutzung deiner Organisation auf deiner Scale Tier-Seite einsehen. Alle Datums- und Uhrzeitangaben basieren auf UTC, und Daten können um bis zu fünf Minuten verzögert sein.
Du kannst deine Nutzung im Activity Usage Dashboard einsehen, indem du im Dropdown-Menü „Modelle“ deine Scale Tier-Modelle auswählst. Du kannst diese Daten in Zeitfenstern von 30 Tagen, 1 Tag oder 15 Minuten anzeigen. Deine Nutzungsdaten werden gestapelt angezeigt, um die Nutzungsmenge für das Modell, die von deinem Scale Tier abgedeckt wird, der Nutzungsmenge gegenüberzustellen, die von deinem Kontoplan abgedeckt wird.
Bitte beachte, dass nur Organisationseigentümer:innen das Nutzungs-Dashboard sehen können.
Wann wird meine Änderung der Token-Kapazität in der Nutzungsübersicht angezeigt?
Es kann bis zu 24 Stunden dauern, bis die von dir vorgenommenen Änderungen übernommen werden. Die Änderungen selbst treten nahezu sofort in Kraft.