基礎

三値LLMとは?

読み方:さんちLLM

かんたんに言うと

モデルの中身の数値を -1、0、1 の三つだけで表す軽量化の手法です。扱う数字を極端に減らすことで、少ないメモリで動かせます。

もう一歩くわしく

三つの状態を表すのに必要な情報量は log2(3)、およそ1.58ビットで、これが1パラメータあたりの理論的な下限と見なされてきました。2026年9月、この1.58ビットをさらに下回る手法が提案され、注目を集めています。手元の端末や安価なサーバーで大規模モデルを動かす道を広げる研究です。

この用語が出てきたニュース

← 用語集の一覧にもどる