OpenAI
页面内容为机器翻译。查看英文原文。

从 GPT-4.x 迁移到 GPT-6 Luna

更新于:21 hours ago

迁移现有 GPT-4.x 用例时,建议从 GPT-6 Luna 开始。合适的配置取决于你的应用,因此在切换生产流量之前,请先使用有代表性的工作负载评估模型。

选择推理设置

先将推理强度设为 none。预计大多数 GPT-4.x 用例都可以使用此设置完成迁移。测试其他设置,找到适合你的应用的质量、延迟与成本之间的平衡。

有关 API 变更和技术细节,请参阅 GPT-6 开发者指南。

比较成本与性能

GPT-6 Luna 的每 Token 价格低于本次迁移涉及的 GPT-4.x 模型。对于大多数用例,它能以更低的每 Token 价格提供更强的模型能力。

迁移前,请使用你自己的工作负载比较总成本。Token 用量和推理设置会影响每项任务的成本。

迁移你的应用

  1. 建立基线。选择有代表性的请求(包括重要的边界情况),并记录当前模型的质量、延迟和成本。

  2. 评估 Luna。先将推理强度设为 none,并将结果与基线进行比较。检查应用所依赖的模型行为,包括输出格式,以及在适用情况下的工具使用。

  3. 调优并重新测试。根据评估结果调整提示词、推理强度和输出详略程度,然后重新测试。

  4. 逐步上线。先接入一小部分生产流量。在完成迁移之前,持续监测质量、延迟、错误和成本。

获取支持

自助服务客户:通过 help.openai.com 上的聊天气泡联系 OpenAI 支持团队。

由销售团队服务的客户:请联系你的 OpenAI 客户团队,安排我们的工程团队提供支持。我们可以帮助你制定适合产品的迁移计划,并确定如何充分发挥 Luna 的能力。

这篇文章对你有帮助吗?