既存の GPT-4.x のユースケースを移行する際は、まず GPT-6 Luna を検討することをおすすめします。適切な設定はアプリケーションによって異なります。本番トラフィックを移行する前に、代表的なワークロードでモデルを評価してください。
推論設定の選択
まずは推論の労力を none に設定してください。GPT-4.x のほとんどのユースケースは、この設定で移行できる見込みです。他の設定も試して、アプリケーションに適した品質、レイテンシ、コストのバランスを見つけてください。
API の変更点や技術的な詳細については、GPT-6 開発者ガイドをご覧ください。
コストと性能の比較
GPT-6 Luna は、今回の移行対象となる GPT-4.x モデルよりもトークン単価が低く設定されています。ほとんどのユースケースで、より高性能なモデルを、より低いトークン単価で利用できます。
移行前に、ご自身のワークロードで総コストを比較してください。トークン使用量や推論設定によって、各タスクのコストが変わる場合があります。
アプリケーションの移行
ベースラインの確立重要なエッジケースを含む代表的なリクエストを選び、現在のモデルの品質、レイテンシ、コストを記録してください。
Luna の評価まずは推論の労力を
noneに設定し、結果をベースラインと比較してください。出力形式やツールの使用など、アプリケーションに必要な動作を確認してください。調整と再テスト評価結果に基づいてプロンプト、推論の労力、回答の詳しさを調整し、再度テストしてください。
段階的な導入まずは本番トラフィックの一部のみを移行してください。移行を完了する前に、品質、レイテンシ、エラー、コストを監視してください。
サポート窓口
セルフサービスをご利用のお客様：help.openai.com のチャットアイコンから OpenAI サポートにお問い合わせください。
営業担当がついているお客様：エンジニアリングチームによるサポートの手配については、OpenAI のアカウント担当チームにお問い合わせください。お客様の製品に合わせた移行計画の策定や、Luna を最大限に活用する方法の検討をお手伝いします。