Độ trễ của một yêu cầu hoàn thành chủ yếu bị ảnh hưởng bởi hai yếu tố: mô hình và số token được tạo ra. Vui lòng đọc tài liệu đã cập nhật của chúng tôi để xem hướng dẫn cải thiện độ trễ.
Tối ưu hóa độ trễ với các mô hình API OpenAI
Tìm hiểu các yếu tố ảnh hưởng đến thời gian phản hồi
Đã cập nhật: 17 days ago