Ако вашата temperature е поставена над 0, моделот ќе генерира излези со одредена случајност, па очекувано е да гледате различни довршувања. Кога сакате доследни, повторливи резултати, користете temperature = 0.
Ако temperature веќе е 0, а резултатите сè уште се разликуваат, ова се најчестите причини:
---
Разлики во промптот
Проверете дали промптот е точно ист во двете околини. Дури и едно дополнително празно место, нов ред или скриен знак може да предизвика различен излез.
---
Несовпаѓање на параметрите
Проверете дали сите релевантни параметри се совпаѓаат во барањата од Playground и API:
temperature
top_p
max_tokens
frequency_penalty
presence_penalty
Потврдете и дека името на моделот е идентично. Различните модели природно даваат различни резултати, дури и со ист промпт и исти поставки.
---
Предефинирани поставки на Playground наспроти стандардни вредности на API
Playground може да примени одредени стандардни поставки. Во API, ако изоставите параметар, ќе се користи неговата стандардна вредност, која можеби не се совпаѓа со однесувањето на Playground. За да обезбедите доследност, експлицитно поставете ги сите параметри во вашето API-барање.
---
Разлики во форматирањето или кодирањето
Осигурете се дека барањето што го испраќате до API е идентично со промптот во Playground. Разлики може да настанат поради:
Ескејпирање на JSON
Завршетоци на редови или вовлекување
Дополнителни празни места
Ако сте ги провериле сите овие работи и сè уште гледате несовпаѓања, побарајте помош на Форумот на заедницата, каде што корисниците можеби се соочиле со слични проблеми или можат да помогнат во решавањето на вашиот конкретен случај.