Часто задаваемые вопросы ​

Почему GPT-4 или GPT-3.5 не могут распознать свою собственную версию? ​

Во-первых, если вы спросите GPT-4: "Вы GPT-4?", он, скорее всего, ответит: "Я модель GPT-3 от OpenAI, GPT-4 еще не выпущен." Причина этого явления в том, что GPT-4 API, предоставляемый OpenAI, использует обучающие данные по состоянию на сентябрь 2021 года. После завершения обучения модели, если не проводить повторное обучение, её знания не обновляются автоматически. Так же, как вы в 2021 году не могли бы ответить на вопрос о том, что произошло в 2023 году, данный ответ неизбежно будет неверным.

Как различить GPT-3.5 и GPT-4? ​

Вы можете попробовать задать вопрос: "На дереве сидит 9 птиц, охотник застрелил одну, сколько птиц осталось на дереве?" В 90% случаев GPT-3.5 ответит, что осталось 8 птиц; А GPT-4 с большой вероятностью ответит, что осталось 0 птиц, потому что остальные улетели от испуга. Если этот тест не дал результата, вы можете создать новый контекст или попробовать несколько раз, пожалуйста, не задавайте вопрос повторно в одном контексте.

Что такое Tokens? ​

Token — это базовая единица обработки текста в GPT. Проще говоря, Token может быть словом, частью слова или символом в определенном языке. Они отвечают за преобразование входных текстовых данных в формат, который может обрабатывать GPT. 1000 токенов — это примерно 750 слов или около 400 китайских иероглифов. Каждая модель GPT имеет предустановленное максимальное количество Tokens. Например, GPT-3 позволяет обрабатывать максимум около 4096 Tokens. Важно отметить, что это количество включает все Tokens на входе и выходе.

Какое значение timeout лучше всего установить? ​

• Для gpt-3.5 рекомендуется установить 120 секунд
• Для gpt-4 рекомендуется установить 10 минут (600 секунд)
• Рекомендуется использовать потоковый вывод, так как непотоковый вывод легко вызывает timeout
• Для потокового вывода (эффект печати) обратитесь к разделу 🚀js实现sse打字效果 в Быстрое подключение