o1-mini o1-preview 模型
使用 o1-mini, o1-preview 需要注意下面几点 :
- 不支持system,不支持流,不支持识图,不支持max_tokens字段
max_tokens改为max_completion_tokens- 思考过程有消耗token,真实输出可能没那么多 但是加上思考的会吧 tokens 消耗干净
- 特别注意 最大输出
max_completion_tokens分别o1-mini为65536,o1-preview为32768 - 如果把
max_completion_tokens设置太小 比如4096会得到空恢复,但是确实有消耗token; 如果设置最大(65536)就会消耗大量Tokens 但是实际输出不大
OpenAi-HK