かんたんに言うと
Webブラウザの中だけで大規模言語モデルを動かす仕組みです。入力した内容が外部のサーバーに送られません。
もう一歩くわしく
推論処理がすべて利用者の端末側で完結するため、機密文書を扱う場面や通信が不安定な環境に向いています。サービス提供側にとっては、サーバー側の推論コストがかからない点が大きな利点です。ブラウザさえあれば動くため、AI機能を配布するハードルを下げます。
この用語が出てきたニュース
Webブラウザの中だけで大規模言語モデルを動かす仕組みです。入力した内容が外部のサーバーに送られません。
推論処理がすべて利用者の端末側で完結するため、機密文書を扱う場面や通信が不安定な環境に向いています。サービス提供側にとっては、サーバー側の推論コストがかからない点が大きな利点です。ブラウザさえあれば動くため、AI機能を配布するハードルを下げます。