ระดับการรองรับการใช้งานบน API Platform ช่วยให้คุณซื้อโทเค็นอินพุตและเอาต์พุตของ API จำนวนหนึ่งต่อนาที (เรียกว่า “หน่วยโทเค็น”) ล่วงหน้า เพื่อเข้าถึงสแนปช็อตโมเดลเฉพาะหนึ่งรายการ หน่วยโทเค็นแต่ละหน่วยต้องซื้อขั้นต่ำ 30 วัน
เมื่อคุณลงนามในแบบฟอร์มคำสั่งซื้อแล้ว คุณสามารถเพิ่มและลบหน่วยโทเค็นผ่าน บัญชี API Platform ของคุณได้ โปรดทราบว่าเฉพาะเจ้าขององค์กรและผู้ใช้ที่ได้รับอนุญาตเท่านั้นที่ดูการตั้งค่าระดับการรองรับการใช้งานและซื้อหน่วยโทเค็นอินพุตและเอาต์พุตได้
ดูข้อมูลเพิ่มเติมเกี่ยวกับราคาของระดับการรองรับการใช้งาน
ฉันจะเข้าถึงการตั้งค่าระดับการรองรับการใช้งานได้อย่างไร
เจ้าขององค์กรใน API Platform สามารถเข้าถึงการตั้งค่าระดับการรองรับการใช้งานของตนได้โดยเลือกไอคอนรูปเฟืองการตั้งค่าที่มุมขวาบนของหน้า แล้วเลือกระดับการรองรับการใช้งานใต้ส่วน “องค์กร” ในเมนูทางซ้ายของหน้าจอ
หน้าการตั้งค่าระดับการรองรับการใช้งานช่วยให้คุณเพิ่มความจุ ดูการใช้โทเค็นอินพุต วางแผนความจุ ดูโทเค็นที่จัดสรรไว้ และตรวจสอบผู้ซื้อที่ได้รับอนุญาตของคุณ
ฉันจะซื้อความจุเพิ่มเติมได้อย่างไร
คุณสามารถซื้อความจุได้โดยเลือกปุ่ม Add capacity ที่มุมขวาบนของหน้า ระดับการรองรับการใช้งาน ของคุณ โปรดดูหน้าหลักของระดับการรองรับการใช้งานของเรา เพื่อดูรายละเอียดล่าสุดเกี่ยวกับปริมาณ TPM ที่ได้รับต่อหน่วยโทเค็นอินพุตและเอาต์พุต
หลังจากเลือกประเภทโทเค็นที่จะซื้อแล้ว คุณสามารถป้อนจำนวนโดยตรงหรือเลื่อนแถบเลื่อนเพื่อเลือกจำนวนโทเค็นที่ต้องการซื้อ แถบเลื่อนช่วยให้คุณดูการเปลี่ยนแปลง TPM ในส่วน Summary ได้ง่ายขณะปรับจำนวนโทเค็น เราจะให้คำแนะนำเกี่ยวกับจำนวนหน่วยที่ควรซื้อเพื่อรองรับปริมาณการใช้งานของคุณในช่วง 30 วันที่ผ่านมา
เมื่อเลือกเสร็จแล้ว ให้เลือก Checkout เพื่อยืนยันการซื้อในหน้าต่างโมดัลถัดไป
โปรดทราบว่าราคาที่แสดงในสรุปของเราเป็นอัตรามาตรฐาน และไม่รวมส่วนลดใดๆ ที่เจรจาไว้ในแบบฟอร์มคำสั่งซื้อขององค์กรคุณ ส่วนลดที่เกี่ยวข้องจะถูกนำไปใช้และแสดงในใบแจ้งหนี้ที่ออกให้องค์กรของคุณ หน่วยใดๆ ที่ซื้อจะใช้งานได้จนถึงช่วงเริ่มต้นของรอบใบแจ้งหนี้ถัดไป และจะต่ออายุเป็นรายวันหลังจากนั้น
ฉันจะเปิดให้คำขอใช้ Token ของระดับการรองรับการใช้งานได้อย่างไร
คุณต้องเปิดสวิตช์ เปิดใช้ระดับการรองรับการใช้งาน ในการตั้งค่าโปรเจกต์
หากคุณใช้ Completions API โปรดดูเอกสารที่อธิบายคีย์ service_tier เพื่อพิจารณาว่าควรกำหนดค่านี้ด้วยตนเองหรือใช้การทำงานเริ่มต้น
คำขอที่ส่งไปยัง Responses API จะใช้ service_tier=auto เป็นค่าเริ่มต้น หากโปรเจกต์เปิดใช้ระดับการรองรับการใช้งาน คำขอที่ไม่ได้ระบุ service_tier (หรือใช้ auto) จะใช้ระดับการรองรับการใช้งานเป็นค่าเริ่มต้นเมื่อมีโควตาพร้อมใช้งาน คำขอที่ใช้ service_tier=default จะใช้ทรัพยากรประมวลผลแบบใช้ร่วมกัน/PAYG
ฉันจะดูประวัติการซื้อและโทเค็นที่หมดอายุได้อย่างไร
คุณสามารถดูประวัติการซื้อระดับการรองรับการใช้งานได้ในหน้า ระดับการรองรับการใช้งาน ของคุณ โดยเลือกโมเดลใต้ Provisioned tokens
เมื่อเลือกโมเดลแล้ว คุณจะสามารถดูโทเค็นที่หมดอายุและธุรกรรมก่อนหน้าได้ที่ด้านล่างของหน้า
ฉันจะแก้ไขความจุโทเค็นได้อย่างไร
คุณสามารถแก้ไขความจุโทเค็นของโมเดลได้โดยเลือกโมเดลใต้ Provisioned tokens ในหน้า ระดับการรองรับการใช้งาน ของคุณ เมื่อเลือกโมเดลแล้ว ให้ค้นหาการซื้อของคุณใต้หัวข้อ Active แล้วเลือก Cancel ข้างการซื้อนั้นเพื่อแก้ไข
ในหน้าต่างโมดัล คุณสามารถป้อนจำนวนหน่วยที่จะยกเลิกได้โดยตรง หรือใช้แถบเลื่อนเพื่อจำลอง TPM ระหว่างเลือก
ฉันจะดู RPM/TPM และปริมาณการใช้งานระดับการรองรับการใช้งานได้อย่างไร
คุณสามารถดูสรุปการใช้งาน API ขององค์กรได้ในหน้าระดับการรองรับการใช้งาน วันที่และเวลาทั้งหมดอ้างอิงตาม UTC และข้อมูลอาจล่าช้าได้สูงสุด 5 นาที
คุณสามารถตรวจสอบการใช้งานได้ในแดชบอร์ดกิจกรรมการใช้งาน โดยเลือกโมเดลระดับการรองรับการใช้งานจากเมนูโมเดลแบบเลื่อนลง คุณสามารถดูข้อมูลนี้ในช่วงเวลา 30 วัน 1 วัน และ 15 นาที ข้อมูลการใช้งานจะแสดงแบบซ้อนกัน เพื่อเปรียบเทียบปริมาณการใช้งานโมเดลที่ครอบคลุมโดยระดับการรองรับการใช้งานกับปริมาณที่ครอบคลุมโดยแผนบัญชีของคุณ
โปรดทราบว่าเฉพาะเจ้าขององค์กรเท่านั้นที่ดูแดชบอร์ดการใช้งานได้
เมื่อใดการเปลี่ยนแปลงความจุโทเค็นของฉันจึงจะแสดงในแดชบอร์ดการใช้งาน
การเปลี่ยนแปลงที่คุณทำอาจใช้เวลาสูงสุด 24 ชั่วโมงจึงจะแสดงผล แต่การเปลี่ยนแปลงจะมีผลแทบจะทันที