OpenAI
此頁面由機器翻譯。查看原文英文文章。

從 GPT-4.x 遷移至 GPT-6 Luna

更新日期:19 hours ago

如要遷移現有的 GPT-4.x 應用場景,建議先從 GPT-6 Luna 開始。合適的配置取決於你的應用程式,因此在轉移正式環境流量前,請先以具代表性的工作負載評估模型。

選擇推理設定

先將推理強度設為 none。預計大部分 GPT-4.x 應用場景都可使用此設定進行遷移。測試其他設定,找出適合你的應用程式的品質、延遲與成本平衡。

如需了解 API 變更及技術詳情,請參閱 GPT-6 開發者指南。

比較成本與效能

GPT-6 Luna 的每 Token 價格低於本次遷移涵蓋的 GPT-4.x 模型。對大部分應用場景而言,它以更低的每 Token 價格,提供能力更強的模型。

遷移前,請根據自己的工作負載比較總成本。Token 用量和推理設定都可能影響每項任務的成本。

遷移你的應用程式

  1. 建立基準。選取具代表性的請求,包括重要的邊界情況,並記錄目前模型的品質、延遲及成本。

  2. 評估 Luna。先將推理強度設為 none,再將結果與基準比較。檢查應用程式所依賴的模型行為,包括輸出格式,以及工具使用方式(如適用)。

  3. 調整並重新測試。根據評估結果調整提示詞、推理強度及回覆詳略程度,然後重新測試。

  4. 逐步推出。先轉移少量正式環境流量。在完成遷移前,持續監察品質、延遲、錯誤及成本。

取得支援

自助服務客戶:請透過 help.openai.com 的聊天氣泡聯絡 OpenAI 支援團隊。

由銷售團隊管理的客戶:請聯絡你的 OpenAI 客戶團隊,安排由我們的工程團隊提供支援。我們可以協助你制定切合產品需要的遷移計劃,並找出充分發揮 Luna 效能的方法。

這篇文章對你有幫助嗎?