よくある質問
なぜGPT-4やGPT-3.5は自身のバージョンを認識できないのですか?
まず、GPT-4に「あなたはGPT-4ですか?」と尋ねると、「私はOpenAIのGPT-3モデルです。GPT-4はまだリリースされていません」と答える可能性が高いです。 この現象の背後にある理由は、OpenAIが提供するGPT-4 APIが使用するトレーニングデータが2021年9月までのものであることです。モデルのトレーニングが完了した後、再トレーニングを行わない限り、そこに含まれる知識は自動的に更新されません。2021年には2023年に何が起こったかを答えることができないように、与えられる答えは必然的に間違っています。
GPT-3.5とGPT-4をどのように区別しますか?
次のような質問を試してみてください:「木の上に9羽の鳥がいます。猟師が1羽を撃ち落としました。木の上には何羽残っていますか?」 90%のケースで、GPT-3.5は8羽残っていると答えます。 一方、GPT-4は、他の鳥が驚いて飛んでいってしまったため、0羽残っていると答える可能性が高いです。 この質問で判別できない場合は、新しいコンテキストを作成するか、何度か試してください。同じコンテキスト内で連続して質問しないでください。
Tokensとは何ですか?
TokenはGPTがテキストを処理する基本単位です。簡単に言えば、Tokenは単語、語、または特定の言語における文字である可能性があります。これらは、入力されたテキストデータをGPTが処理できるデータ形式に変換する役割を担っています。1000トークンは約750語、約400漢字に相当します。 各GPTモデルには、あらかじめ設定された最大Token数があります。例えば、GPT-3が処理できる最大Token数は約4096です。この数には、入力と出力のすべてのTokenが含まれることに注意してください。
timeoutはどのくらいに設定すればよいですか?
gpt-3.5の場合、120秒を推奨しますgpt-4の場合、10分(600秒)を推奨します- ストリーミング出力の使用を推奨します。非ストリーミング出力は
timeoutを引き起こしやすいです - ストリーミング出力(タイピングエフェクト)については、クイックスタートの
🚀jsでSSEタイピングエフェクトを実装セクションを参照してください
OpenAi-HK