기존 GPT-4.x 사용 사례를 마이그레이션할 때는 GPT-6 Luna로 시작하는 것을 권장합니다. 적합한 구성은 애플리케이션에 따라 다르므로, 프로덕션 트래픽을 전환하기 전에 대표적인 워크로드로 모델을 평가하세요.
추론 설정 선택
먼저 추론 수준을 none으로 설정하세요. 대부분의 GPT-4.x 사용 사례는 이 설정으로 마이그레이션할 수 있을 것으로 예상됩니다. 다른 설정도 테스트하여 애플리케이션에 맞는 품질, 지연 시간, 비용 간의 균형을 찾으세요.
API 변경 사항과 기술적 세부 정보는 GPT-6 개발자 가이드를 참고하세요.
비용 및 성능 비교
GPT-6 Luna는 이번 마이그레이션 대상인 GPT-4.x 모델보다 토큰당 가격이 낮습니다. 대부분의 사용 사례에서 더 뛰어난 모델을 더 낮은 토큰당 가격으로 이용할 수 있습니다.
마이그레이션 전에 실제 워크로드를 기준으로 총비용을 비교하세요. 토큰 사용량과 추론 설정에 따라 각 작업의 비용이 달라질 수 있습니다.
애플리케이션 마이그레이션
비교 기준을 마련하세요. 중요한 예외 사례를 포함한 대표적인 요청을 선정하고, 현재 모델의 품질, 지연 시간, 비용을 기록하세요.
Luna를 평가하세요. 먼저 추론 수준을
none으로 설정하고, 결과를 기존 기준과 비교하세요. 애플리케이션에서 필요로 하는 동작을 확인하세요. 해당하는 경우 출력 형식과 도구 사용도 점검하세요.조정 후 다시 테스트하세요. 평가 결과에 따라 프롬프트, 추론 수준, 응답의 상세도를 조정한 뒤 다시 테스트하세요.
점진적으로 적용하세요. 프로덕션 트래픽의 일부에만 적용하는 것으로 시작하세요. 마이그레이션을 완료하기 전에 품질, 지연 시간, 오류, 비용을 모니터링하세요.
지원받기
셀프서비스 고객: help.openai.com의 채팅 아이콘을 통해 OpenAI 지원팀에 문의하세요.
영업팀 관리 고객: OpenAI 계정 담당팀에 연락하여 엔지니어링팀의 지원을 요청하세요. 제품에 맞는 마이그레이션 계획을 수립하고 Luna를 최대한 활용할 방법을 찾을 수 있도록 도와드립니다.