コンテキストウィンドウとは?
読み方: コンテキストウィンドウ
30秒まとめ
LLMが一度に処理できるテキストの最大長。トークン数で表される。
コンテキストウィンドウの意味・定義
コンテキストウィンドウ(Context Window)は、大規模言語モデル(LLM)が一度の推論で入力と出力を合わせて処理できるテキストの最大量を指し、トークン数で表されます。コンテキストウィンドウが大きいほど、長い文書の読解、複数文書の同時参照、長い会話の文脈維持が可能になります。GPT-4oは128Kトークン、Claude 3.5は200Kトークン、Gemini 1.5 Proは最大200万トークンに対応しています。ただし、コンテキストが長くなると計算コストが増大し、中間部分の情報を見落とす「Lost in the Middle」問題が生じることもあります。RAGやメモリ機能との組み合わせで効果的に活用できます。