GPT-6 Luna là lựa chọn được khuyến nghị để bắt đầu chuyển đổi các trường hợp sử dụng GPT-4.x hiện có. Cấu hình phù hợp tùy thuộc vào ứng dụng của bạn, vì vậy hãy đánh giá mô hình trên các khối lượng công việc điển hình trước khi chuyển lưu lượng truy cập thực tế sang mô hình mới.
Chọn chế độ suy luận
Bắt đầu bằng cách đặt mức độ suy luận thành none. Dự kiến phần lớn các trường hợp sử dụng GPT-4.x có thể chuyển đổi với chế độ này. Thử các chế độ khác để tìm sự cân bằng phù hợp giữa chất lượng, độ trễ và chi phí cho ứng dụng của bạn.
Để tìm hiểu các thay đổi về API và chi tiết kỹ thuật, hãy xem hướng dẫn GPT-6 dành cho nhà phát triển.
So sánh chi phí và hiệu năng
GPT-6 Luna có giá mỗi token thấp hơn các mô hình GPT-4.x thuộc phạm vi chuyển đổi này. Với phần lớn các trường hợp sử dụng, đây là mô hình có năng lực cao hơn với giá mỗi token thấp hơn.
Hãy so sánh tổng chi phí trên khối lượng công việc của chính bạn trước khi chuyển đổi. Lượng token sử dụng và chế độ suy luận có thể ảnh hưởng đến chi phí của từng tác vụ.
Chuyển đổi ứng dụng của bạn
Thiết lập mốc so sánh. Chọn các yêu cầu điển hình, bao gồm cả các trường hợp biên quan trọng, rồi ghi lại chất lượng, độ trễ và chi phí của mô hình hiện tại.
Đánh giá Luna. Bắt đầu bằng cách đặt mức độ suy luận thành
nonerồi đối chiếu kết quả với mốc so sánh đã thiết lập. Kiểm tra các hành vi mà ứng dụng của bạn phụ thuộc vào, bao gồm cả định dạng đầu ra và cách sử dụng công cụ nếu có liên quan.Điều chỉnh và kiểm thử lại. Điều chỉnh câu lệnh, mức độ suy luận và độ dài câu trả lời dựa trên kết quả đánh giá, rồi kiểm thử lại.
Triển khai từng bước. Bắt đầu với một phần nhỏ lưu lượng truy cập thực tế. Theo dõi chất lượng, độ trễ, lỗi và chi phí trước khi hoàn tất quá trình chuyển đổi.
Nhận hỗ trợ
Khách hàng tự phục vụ: Liên hệ bộ phận Hỗ trợ OpenAI qua bong bóng trò chuyện tại help.openai.com.
Khách hàng do bộ phận kinh doanh quản lý: Liên hệ nhóm phụ trách tài khoản OpenAI của bạn để được bố trí hỗ trợ từ đội ngũ kỹ thuật của chúng tôi. Chúng tôi có thể giúp xây dựng kế hoạch chuyển đổi phù hợp với sản phẩm của bạn và xác định cách khai thác tối đa tiềm năng của Luna.