若要遷移現有的 GPT-4.x 使用案例,建議從 GPT-6 Luna 開始。合適的設定取決於你的應用程式,因此在轉移正式環境流量前,請先使用具代表性的工作負載評估模型。
選擇推理設定
先將推理強度設為 none。預期大多數 GPT-4.x 使用案例都能採用此設定進行遷移。測試其他設定,找出適合你應用程式的品質、延遲與成本平衡。
如需瞭解 API 變更與技術細節,請參閱 GPT-6 開發人員指南。
比較成本與效能
GPT-6 Luna 的每個 Token 單價低於本次遷移涵蓋的 GPT-4.x 模型。對大多數使用案例而言,GPT-6 Luna 能以更低的每個 Token 單價,提供能力更強的模型。
遷移前,請使用自己的工作負載比較總成本。Token 用量與推理設定可能會影響每項任務的成本。
遷移你的應用程式
建立比較基準。選擇具代表性的請求,涵蓋重要的邊界情況,並記錄目前模型的品質、延遲與成本。
評估 Luna。先將推理強度設為
none,再將結果與基準進行比較。檢查應用程式所依賴的模型行為,包括輸出格式,以及適用時的工具使用情況。調整並重新測試。根據評估結果調整提示詞、推理強度與回覆詳盡程度,然後重新測試。
逐步上線。先轉移一小部分正式環境流量。完成遷移前,請持續監控品質、延遲、錯誤與成本。
取得支援
自助式服務客戶:請透過 help.openai.com 的聊天氣泡聯絡 OpenAI 支援團隊。
由業務團隊服務的客戶:請聯絡你的 OpenAI 客戶團隊,安排我們的工程團隊提供支援。我們可以協助你依產品需求制定遷移計畫,並找出充分發揮 Luna 能力的方法。
