На затримку запиту на завершення найбільше впливають два чинники: модель і кількість згенерованих токенів. Ознайомтеся з нашою оновленою документацією, щоб отримати вказівки щодо зменшення затримок.
Оптимізація затримки з моделями OpenAI API
Дізнайтеся про чинники, що впливають на час відповіді
Оновлено: 9 days ago