かんたんに言うと
AIが一度に読み込んで覚えていられる文章の量のことです。「短期記憶の広さ」と考えると分かりやすいです。
もう一歩くわしく
トークン数で表され、たとえば20万トークンなら文庫本数冊分に相当します。この範囲を超えた部分はAIの視界から外れるため、長い資料を扱うときは分割したり要約したりする工夫が必要になります。近年は100万トークン級まで広がり、書籍やコードベース全体をそのまま渡せるようになりました。
関連する用語
AIが一度に読み込んで覚えていられる文章の量のことです。「短期記憶の広さ」と考えると分かりやすいです。
トークン数で表され、たとえば20万トークンなら文庫本数冊分に相当します。この範囲を超えた部分はAIの視界から外れるため、長い資料を扱うときは分割したり要約したりする工夫が必要になります。近年は100万トークン級まで広がり、書籍やコードベース全体をそのまま渡せるようになりました。