Migracja z GPT-4.x do GPT-6 Luna

GPT-6 Luna to zalecany punkt wyjścia przy migracji dotychczasowych zastosowań GPT-4.x. Właściwa konfiguracja zależy od aplikacji, dlatego przed przekierowaniem ruchu produkcyjnego oceń model na reprezentatywnych zadaniach.

Wybierz ustawienie rozumowania

Zacznij od ustawienia poziomu rozumowania na none. Przewidujemy, że to ustawienie sprawdzi się przy migracji większości zastosowań GPT-4.x. Przetestuj inne ustawienia, aby znaleźć odpowiednią dla swojej aplikacji równowagę między jakością, czasem odpowiedzi i kosztami.

Informacje o zmianach w API i szczegóły techniczne znajdziesz w przewodniku po GPT-6 dla programistów.

Porównaj koszty i wydajność

GPT-6 Luna ma niższą cenę za token niż modele GPT-4.x objęte tą migracją. W większości zastosowań oferuje większe możliwości przy niższej cenie za token.

Przed migracją porównaj całkowite koszty na własnych zadaniach. Zużycie tokenów i ustawienia rozumowania mogą wpływać na koszt każdego zadania.

Przeprowadź migrację aplikacji

1. Ustal punkt odniesienia. Wybierz reprezentatywne żądania, w tym istotne przypadki brzegowe, i zanotuj jakość wyników, czas odpowiedzi oraz koszty obecnego modelu.

2. Oceń model Luna. Zacznij od ustawienia poziomu rozumowania na none i porównaj wyniki z punktem odniesienia. Sprawdź zachowania modelu, od których zależy działanie aplikacji, w tym formatowanie odpowiedzi i korzystanie z narzędzi, jeśli mają zastosowanie.

3. Dostosuj ustawienia i powtórz testy. Na podstawie wyników oceny dostosuj prompty, poziom rozumowania i szczegółowość odpowiedzi, a następnie powtórz testy.

4. Wdrażaj stopniowo. Zacznij od niewielkiej części ruchu produkcyjnego. Zanim zakończysz migrację, monitoruj jakość, czas odpowiedzi, błędy i koszty.

Uzyskaj pomoc

Klienci bez opiekuna handlowego: skontaktuj się z pomocą techniczną OpenAI za pomocą ikony czatu na stronie help.openai.com.

Klienci z opieką handlową: skontaktuj się z zespołem OpenAI obsługującym Twoją firmę, aby uzyskać wsparcie naszego zespołu inżynierów. Możemy pomóc opracować plan migracji dostosowany do Twojego produktu i ustalić, jak najlepiej wykorzystać możliwości modelu Luna.