ตรวจสอบกิจกรรม API ในแดชบอร์ดการใช้งาน ดูจำนวน Token ในการตอบกลับของ API และทำความเข้าใจตัวกรองโปรเจ็กต์ การส่งออก และค่าใช้จ่ายของระดับการรองรับการใช้งาน

ภาพรวม

คุณตรวจสอบการใช้งาน API ได้สองวิธี:

ใช้แดชบอร์ดการใช้งานเพื่อตรวจสอบกิจกรรมในรอบการเรียกเก็บเงินปัจจุบันและที่ผ่านมา
ดูข้อมูลการใช้งานในการตอบกลับของ API เพื่อตรวจสอบคำขอแต่ละรายการ

Playground ใช้การเรียก API แบบเดียวกับแอปพลิเคชันของคุณ Token ที่ใช้จะนับรวมในการใช้งาน API ของบัญชี และเป็นไปตามกฎการใช้งานและราคาเดียวกัน

สิทธิ์เข้าถึงแดชบอร์ด

คุณต้องเป็นเจ้าขององค์กรหรือมีสิทธิ์ แดชบอร์ดการใช้งาน จึงจะเข้าถึงแดชบอร์ดการใช้งานได้

ตรวจสอบการใช้งานในแดชบอร์ด

เปิดแดชบอร์ดการใช้งาน เลือกองค์กรที่ต้องการตรวจสอบ แล้วเลือกช่วงเวลารายงานที่เกี่ยวข้อง

ข้อมูลในแดชบอร์ดแสดงตามเวลา UTC โปรดคำนึงถึงเขตเวลานี้เมื่อเปรียบเทียบกิจกรรมในแดชบอร์ดกับบันทึกของแอปพลิเคชัน

เลือกโปรเจกต์

แดชบอร์ดมีตัวเลือกโปรเจกต์ของตัวเอง ตัวเลือกนี้ทำงานแยกจากโปรเจกต์ที่เลือกไว้ในส่วนอื่นของแพลตฟอร์ม API

ใช้ตัวเลือกบนแดชบอร์ดเพื่อดูข้อมูลของโปรเจกต์เดียว หลายโปรเจกต์ หรือทุกโปรเจกต์ หากต้องการดูข้อมูลภาพรวมขององค์กร ให้ยกเลิกการเลือกโปรเจกต์ทั้งหมด เมื่อไม่ได้เลือกโปรเจกต์ใด แดชบอร์ดจะแสดงข้อมูลของทุกโปรเจกต์

หากหลายแอปพลิเคชันใช้โปรเจกต์หรือคีย์ API เดียวกัน ยอดรวมของโปรเจกต์หรือคีย์นั้นจะไม่สามารถระบุได้ว่าแอปพลิเคชันใดเป็นผู้ส่งคำขอ ให้เปรียบเทียบกับบันทึกคำขอของคุณเองในช่วงเวลา UTC เดียวกัน

ตรวจสอบการใช้งานของผู้ใช้รายบุคคล

วิธีตรวจสอบการใช้งาน Responses และ Chat Completions ของผู้ใช้หนึ่งราย:

ในแดชบอร์ดการใช้งาน ไปที่ ความสามารถของ API > Responses และ Chat Completions
เลือก กรองตาม
ในส่วน ผู้ใช้ ให้เลือกผู้ใช้ แล้วเลือก ใช้ตัวกรอง

ดูจำนวน Token ต่อนาที

หน้ารายละเอียดการใช้งานรองรับการเลือกช่วงเวลา เลือกช่วงเวลา 1 นาทีเพื่อตรวจสอบจำนวน Token ต่อนาที (TPM)

ช่วงเวลานี้ใช้กับข้อมูลการใช้งาน ไม่ใช่ข้อมูลการเรียกเก็บเงิน

ส่งออกข้อมูลการใช้งาน

ไม่มีข้อจำกัดด้านช่วงวันที่สำหรับการส่งออก ข้อมูลที่ส่งออกซึ่งครอบคลุมช่วงเวลานานอาจถูกแบ่งเป็นหลายไฟล์

สำหรับการกระทบยอดใบแจ้งหนี้รายเดือนและการส่งออกข้อมูลแยกตามรายการ โปรดดู: การส่งออกรายละเอียดการใช้งานรายเดือน

หากข้อมูลกิจกรรมที่ส่งออกมีแถวที่มีค่าติดลบ ให้เปรียบเทียบแถวที่มีหน่วย การจัดกลุ่ม และวันที่เดียวกัน ใช้ข้อมูลค่าใช้จ่ายเพื่อดูยอดเงินที่เรียกเก็บ แถวข้อมูลกิจกรรมที่มีค่าติดลบเพียงอย่างเดียวไม่ได้ยืนยันว่ามีการลดยอดเรียกเก็บในใบแจ้งหนี้ของคุณ

ดูเครดิตที่ได้รับ

ดูรายละเอียดเครดิตที่ได้รับได้ในหน้าการเรียกเก็บเงินขององค์กร

เครดิตที่ได้รับและการใช้งาน API ให้ข้อมูลคนละด้าน โดยเครดิตที่ได้รับจะแสดงเครดิตที่เชื่อมโยงกับองค์กร ส่วนข้อมูลการใช้งานจะแสดงกิจกรรม API ขององค์กร

ตรวจสอบการใช้งานและค่าใช้จ่ายของระดับการรองรับการใช้งาน

หากองค์กรของคุณเปิดใช้ระดับการรองรับการใช้งานและคุณมีสิทธิ์ที่จำเป็น ให้เปิดหน้าการใช้งานระดับการรองรับการใช้งานเพื่อดูรายละเอียดการใช้งาน

ค่าใช้จ่ายของแพ็กเกจระดับการรองรับการใช้งานจะคิดกับองค์กร ไม่ใช่แต่ละโปรเจ็กต์

มีการใช้งาน แต่ค่าใช้จ่ายของโปรเจ็กต์เป็นศูนย์

ตรวจสอบว่าการใช้งานโมเดลอยู่ภายใต้โควตาระดับการรองรับการใช้งานของคุณหรือไม่ หากการใช้งานโมเดลนั้นทั้งหมดอยู่ภายในโควตา TPM ของระดับการรองรับการใช้งาน โปรเจ็กต์อาจแสดงการใช้งานโดยไม่มีค่าใช้จ่ายเพิ่มเติมสำหรับโมเดล

ค่าสมัครระดับการรองรับการใช้งานจะยังคงแสดงอยู่ในระดับองค์กร วิธีตรวจสอบ:

ล้างตัวกรองโปรเจ็กต์ในแดชบอร์ดการใช้งาน
เลือก หมวดหมู่ค่าใช้จ่าย

ตรวจสอบหลายองค์กร

แดชบอร์ดการใช้งานจะไม่รวมข้อมูลค่าใช้จ่ายหรือการใช้งานจากหลายองค์กรเข้าด้วยกัน แต่ละองค์กร รวมถึงองค์กรย่อย จะได้รับการจัดการแยกกัน

หากต้องการดูองค์กรย่อย ให้เลือกจากตัวเลือกองค์กร

หากต้องการรายงานแบบรวม ให้พิจารณาใช้โปรเจ็กต์ภายในองค์กรเดียวแทนการแยกเป็นองค์กรย่อย หรือใช้ Usage API เพื่อวิเคราะห์แบบกำหนดเอง

ตรวจสอบการใช้งาน Token ในการตอบกลับจาก API

ชื่อฟิลด์การใช้งาน Token ขึ้นอยู่กับ endpoint

จำนวน Token	Chat Completions	Responses
Token อินพุต	usage.prompt_tokens	usage.input_tokens
Token เอาต์พุต	usage.completion_tokens	usage.output_tokens
Token ทั้งหมด	usage.total_tokens	usage.total_tokens

ตัวอย่างเช่น การตอบกลับจาก Chat Completions อาจมีข้อมูลดังนี้:

{
  "usage": {
    "prompt_tokens": 13,
    "completion_tokens": 7,
    "total_tokens": 20
  }
}

รายละเอียดการใช้งานอาจรวมจำนวน Token อินพุตที่แคชไว้และ Token สำหรับการให้เหตุผลด้วย ทั้งนี้ขึ้นอยู่กับ endpoint และโมเดล ข้อมูลเหล่านี้ช่วยอธิบายว่าเหตุใดความยาวของคำตอบที่มองเห็นจึงไม่สะท้อนปริมาณการใช้ Token ทั้งหมด

สำหรับคำอธิบายเกี่ยวกับ Token ประเภทต่างๆ โปรดดู: ทำความเข้าใจและนับ Token

สำหรับผลตอบกลับจากการถอดเสียงที่รายงานการใช้ Token นั้น Token อินพุตเสียงและข้อความรวมอยู่ใน input_tokens แล้ว อย่านำจำนวนเหล่านั้นไปบวกกับยอดรวมอินพุตซ้ำอีก ให้เปรียบเทียบ output_tokens แยกต่างหาก

รับข้อมูลการใช้งานจาก Chat Completions แบบสตรีม

สำหรับคำขอ Chat Completions แบบสตรีม ให้ระบุ:

{
  "stream": true,
  "stream_options": {
    "include_usage": true
  }
}

เมื่อเปิดใช้ include_usage จะมีข้อมูลอีกหนึ่งส่วนก่อน data: [DONE] ซึ่งระบุการใช้งานของคำขอทั้งหมด อาร์เรย์ choices ในข้อมูลส่วนนี้จะว่างเปล่า ข้อมูลส่วนอื่นๆ จะมีค่า usage เป็น null

หากสตรีมถูกขัดจังหวะ คุณอาจไม่ได้รับข้อมูลการใช้งานส่วนสุดท้ายนี้ การไม่ได้รับข้อมูลส่วนสุดท้ายไม่ได้ยืนยันว่าคำขอนั้นไม่ได้ใช้ Token

การตั้งค่านี้ใช้กับ Chat Completions เท่านั้น ดูรายละเอียดได้ที่: เอกสารอ้างอิง Chat Completions API

การตรวจสอบการใช้งานและค่าใช้จ่ายของ API