Модели o1-mini и o1-preview
При использовании o1-mini, o1-preview обратите внимание на следующие моменты:
- Не поддерживается system, не поддерживается потоковая передача, не поддерживается распознавание изображений, не поддерживается поле max_tokens
max_tokensзаменяется наmax_completion_tokens- Процесс размышления потребляет токены, фактический вывод может быть не таким большим, но вместе с размышлениями токены будут полностью израсходованы
- Обратите особое внимание: максимальный вывод
max_completion_tokensсоставляет65536дляo1-miniи32768дляo1-preview - Если установить
max_completion_tokensслишком маленьким, например4096, вы получите пустой ответ, но токены все равно будут потрачены; Если установить максимум (65536), будет потрачено большое количество токенов, но фактический вывод будет небольшим
OpenAi-HK