คำถามที่พบบ่อยเกี่ยวกับ Assistants API (v2)

Assistants API คืออะไร?

Assistants API ช่วยให้นักพัฒนาสร้างผู้ช่วย AI ที่ทรงพลังในแอปของตนได้อย่างง่ายดาย API นี้ช่วยลดความจำเป็นในการจัดการประวัติการสนทนา และเพิ่มการเข้าถึงเครื่องมือที่โฮสต์โดย OpenAI เช่น เครื่องมือรันโค้ด และ File Search นอกจากนี้ API ยังรองรับ Function Calling ที่ดียิ่งขึ้นสำหรับเครื่องมือของบุคคลที่สามด้วย

ฉันยังใช้ Assistants API v1 beta ได้หรือไม่?

ไม่ได้ ณ วันที่ 18 ธันวาคม 2024 ผู้ใช้จะไม่สามารถเข้าถึง Assistants API รุ่นเบต้าเวอร์ชัน v1 ได้อีกต่อไป ขณะนี้เรารองรับเฉพาะ v2 โปรดดูคู่มือการย้ายระบบนี้เพื่อแปลงการเรียก API ของคุณจาก v1 เป็น v2

ฉันจะเข้าถึงได้อย่างไร?

Assistants API พร้อมใช้งานสำหรับทุกคนที่มีบัญชี OpenAI API คุณยังเริ่มต้นใช้งานผ่าน Assistants Playground ได้ด้วย

Assistant คืออะไร?

Assistant คือ AI ที่สร้างขึ้นเพื่อวัตถุประสงค์เฉพาะ ซึ่งใช้โมเดลของ OpenAI และสามารถเข้าถึงไฟล์ ดูแลเธรดแบบคงอยู่ และเรียกใช้เครื่องมือได้

Thread คืออะไร?

Thread คือเซสชันการสนทนาระหว่าง assistant กับผู้ใช้ Threads ช่วยให้การพัฒนาแอปพลิเคชันง่ายขึ้นโดยจัดเก็บประวัติข้อความและตัดทอนเมื่อการสนทนายาวเกินความยาวบริบทของโมเดล

เครื่องมือ File Search คืออะไร?

เครื่องมือ file_search นำแนวทางปฏิบัติที่ดีที่สุดหลายอย่างสำหรับการดึงข้อมูลมาใช้ให้พร้อมใช้งานทันที เพื่อช่วยให้คุณดึงข้อมูลที่ถูกต้องจากไฟล์ของคุณมาเสริมการตอบกลับของโมเดล สำหรับข้อมูลเพิ่มเติม โปรดอ่านเอกสารสำหรับนักพัฒนาของเรา

โดยค่าเริ่มต้น เครื่องมือ file_search ใช้การตั้งค่าต่อไปนี้:

• ขนาดชังก์: 800 Token

• ชังก์ซ้อนทับ: 400 Token

• โมเดล Embedding: text-embedding-3-large ที่ 256 มิติ

• จำนวนชังก์สูงสุดที่เพิ่มไปยังบริบท: 20

การอัปโหลดไฟล์มีข้อจำกัดอะไรบ้าง?

ข้อจำกัดในการอัปโหลดไฟล์มีดังนี้:

• 512 MB ต่อไฟล์

• 5M Token ต่อไฟล์

• 10k ไฟล์ต่อ vector store

• 1 vector store ต่อ assistant

• 1 vector store ต่อ thread

ขีดจำกัดพื้นที่จัดเก็บรวมสำหรับแต่ละโปรเจกต์ในองค์กรคือ 100 GB

เครื่องมือ File Search มีข้อจำกัดอะไรบ้าง?

มีข้อจำกัดที่ทราบอยู่บางประการ ซึ่งเรากำลังดำเนินการเพื่อเพิ่มการรองรับในอีกไม่กี่เดือนข้างหน้า:

1. ขณะนี้ยังไม่มีวิธีแก้ไขการตั้งค่า chunking, embedding หรือ retrieval

2. เรายังไม่รองรับการแยกวิเคราะห์รูปภาพภายในเอกสาร

3. เรายังไม่รองรับการดึงข้อมูลจากรูปแบบไฟล์ที่มีโครงสร้าง (เช่น ไฟล์ .csv หรือ .jsonl) โปรดดูประเภทไฟล์ที่รองรับ

Assistants API มี rate limit เท่าใด?

rate limit ของ Assistants API ไม่ได้ผูกกับระดับการใช้งานและโมเดล แต่จะมีขีดจำกัดเริ่มต้นตามประเภทคำขอ โดยมีข้อยกเว้นอยู่เล็กน้อย:

• GET: 1000 RPM

• POST: 300 RPM

  • POST ไปที่ /v1/threads/<thread_id>/runs: 200 RPM

  • POST ไปที่ /v1/threads/runs: 200 RPM

• DELETE: 300 คำขอต่อนาที

ราคา Code Interpreter ใน API คิดอย่างไร?

เครื่องมือรันโค้ดมีราคา $0.03 / เซสชัน หาก assistant ของคุณเรียกใช้เครื่องมือรันโค้ดพร้อมกันใน threads ที่แตกต่างกัน สองรายการ ระบบจะสร้างเซสชันเครื่องมือรันโค้ดสองเซสชัน (2 * $0.03) แต่ละเซสชันจะเปิดใช้งานตามค่าเริ่มต้นเป็นเวลาหนึ่งชั่วโมง ซึ่งหมายความว่าคุณจะจ่ายค่าธรรมเนียมนี้เพียงครั้งเดียว หากผู้ใช้ของคุณยังคงส่งคำสั่งให้เครื่องมือรันโค้ดใน thread เดิมต่อเนื่องเป็นเวลาสูงสุดหนึ่งชั่วโมง

ราคา File Search ใน API คิดอย่างไร?

File Search มีราคา $0.10/GB ต่อวันสำหรับพื้นที่จัดเก็บ vector store (GB แรกฟรี) ขนาดของ vector store คำนวณจากขนาดสุดท้ายของ vector store หลังจากไฟล์ของคุณถูกแยกวิเคราะห์ แบ่งเป็นชังก์ และทำ embedding แล้ว

vector store ใดๆ ที่สร้างขึ้นก่อนวันที่ 17 เมษายน 2024 จะใช้งานฟรีจนถึงสิ้นปี 2024 หลังจากนั้นจะเป็นอย่างใดอย่างหนึ่งต่อไปนี้:

• ถูกเรียกเก็บเงินตามอัตราปัจจุบัน (ปัจจุบันคือ $0.10/GB/วัน) หากถูกใช้อย่างน้อยหนึ่งครั้งใน Run ที่สร้างหลังวันที่ 17 เมษายน 2024

• ถูกลบ หากไม่ได้ถูกใช้เลยแม้แต่ใน Run เดียวระหว่างวันที่ 17 เมษายน 2024 ถึง 31 ธันวาคม 2024 — เพื่อป้องกันไม่ให้คุณถูกเรียกเก็บเงินสำหรับ vector store ที่คุณอาจสร้างไว้ก่อนมีการประกาศการเปลี่ยนแปลงราคา แต่ไม่เคยใช้งาน

มีข้อจำกัดจำนวน assistant ที่ฉันสร้างได้หรือไม่?

ไม่มีข้อจำกัดเกี่ยวกับจำนวน assistant ที่องค์กรสามารถสร้างได้

API รองรับการสตรีมหรือไม่?

รองรับ การสตรีมพร้อมใช้งานบน Assistants API

โหมด JSON ใช้งานได้ใน Assistants API หรือไม่?

ได้ โหมด JSON พร้อมใช้งานบน Assistants API ผ่านพารามิเตอร์ response_format บนออบเจ็กต์ Assistants หรือ Run

Assistants API จะจัดการคำขอสำหรับการเรียกฟังก์ชันของบุคคลที่สามด้วยหรือไม่?

ไม่ แม้ว่า Function Calling จะช่วยให้โมเดลเลือกเครื่องมือและจัดรูปแบบคำขอสำหรับเครื่องมือเหล่านั้นได้ แต่การดำเนินการเรียกใช้เครื่องมือของบุคคลที่สามไม่ได้ถูกจัดการโดย OpenAI

ข้อมูลที่ฉันส่งไปยัง OpenAI ถูกจัดการอย่างไร?

เช่นเดียวกับแพลตฟอร์มส่วนอื่นของเรา ข้อมูลและไฟล์ที่ส่งผ่าน OpenAI API จะไม่ถูกนำไปใช้ฝึกโมเดลของเรา และคุณสามารถลบข้อมูลของคุณได้ทุกเมื่อที่ต้องการ ข้อมูลที่อัปโหลดไปยัง Assistants API จะถูกจัดเก็บไว้อย่างไม่มีกำหนดจนกว่าผู้ใช้จะลบด้วยตนเอง

DALL-E ใช้งานผ่าน Assistants API ได้หรือไม่?

ขณะนี้ DALL-E ยังไม่พร้อมใช้งาน

มี UI สำหรับ Assistants API หรือไม่?

คุณสามารถดู Playground สำหรับ Assistants API ได้ โปรดตรวจสอบว่าคุณอยู่ในมุมมอง Assistants บนแถบด้านข้างซ้าย และใช้โมเดลที่เข้ากันได้กับเครื่องมือที่คุณต้องการเปิดใช้

ขีดจำกัดอักขระสำหรับคำสั่งของ assistant ใน Assistants API คือเท่าไร?

คำสั่งระบบที่ assistant ใช้มีความยาวสูงสุด 256,000 อักขระ

ฉันได้รับข้อผิดพลาด เช่น “เซิร์ฟเวอร์เกิดข้อผิดพลาดขณะประมวลผลคำขอของคุณ ขออภัยด้วย! คุณสามารถลองส่งคำขออีกครั้ง หรือติดต่อเราผ่านhelp.openai.com หากข้อผิดพลาดยังคงเกิดขึ้น” ฉันควรทำอย่างไร?

หากคุณได้รับข้อผิดพลาดนี้ อาจหมายความว่าคำสั่งของคุณตั้งค่าไว้ไม่ถูกต้อง หากคุณลองส่งคำขอซ้ำแล้วแต่ยังล้มเหลว ต่อไปนี้คือสิ่งที่ควรลอง:

1. ตรวจสอบให้แน่ใจว่าคุณปรับโครงสร้างคำสั่งใหม่เพื่อให้คำสั่งที่คล้ายฟังก์ชันถูกจัดการเป็นฟังก์ชัน

2. เพิ่มคำสั่งใดๆ ในคำสั่งของคุณเป็นฟังก์ชันใน tools

เหตุใดเครื่องมือ File Search ของฉันจึงทำงานได้ไม่ดี?

เมื่อใช้เครื่องมือ File Search เราแนะนำให้ตั้งค่า max_prompt_tokens ไม่น้อยกว่า 20,000 สำหรับการสนทนาที่ยาวขึ้นหรือการโต้ตอบกับ File Search หลายครั้ง ให้พิจารณาเพิ่มขีดจำกัดนี้เป็น 50,000 หรือหากเป็นไปได้ ให้ลบขีดจำกัด max_prompt_tokens ออกทั้งหมดเพื่อให้ได้ผลลัพธ์คุณภาพสูงสุด อ่านเพิ่มเติมได้ที่นี่

ฉันจะส่งความคิดเห็นได้อย่างไร?

เรายินดีรับฟังความคิดเห็นของคุณใน Developer Forum ของเรา ผ่านศูนย์ช่วยเหลือที่ help.openai.com หรือบน Twitter @OpenAIDevs