かんたんに言うと
スマートフォンやパソコン内で動かせるほど小さいAIのことです。大きなモデルの手軽な代替になります。
もう一歩くわしく
英語ではSmall Language Modelと呼びます。通信せずに手元で完結するため、応答が速く、データが外部に出ない利点があります。蒸留や量子化の進歩により、数年前の大型モデルに匹敵する性能が手のひらの端末で動くようになりました。
関連する用語
スマートフォンやパソコン内で動かせるほど小さいAIのことです。大きなモデルの手軽な代替になります。
英語ではSmall Language Modelと呼びます。通信せずに手元で完結するため、応答が速く、データが外部に出ない利点があります。蒸留や量子化の進歩により、数年前の大型モデルに匹敵する性能が手のひらの端末で動くようになりました。