かんたんに言うと
AIが危ない動きをしたときに、すぐに止められるようにする仕組みのことです。車の非常ブレーキにたとえた言い方です。
もう一歩くわしく
MicrosoftのSatya Nadella氏が、AIモデルにはこうした仕組みが必要だと投稿で述べ、注目を集めました。AIが自律的に動く場面が増えるほど、人間が介入して止められる手段の重要性が増します。安全性をめぐる規制や企業の自主ルールでも論点になりやすい考え方です。
AIが危ない動きをしたときに、すぐに止められるようにする仕組みのことです。車の非常ブレーキにたとえた言い方です。
MicrosoftのSatya Nadella氏が、AIモデルにはこうした仕組みが必要だと投稿で述べ、注目を集めました。AIが自律的に動く場面が増えるほど、人間が介入して止められる手段の重要性が増します。安全性をめぐる規制や企業の自主ルールでも論点になりやすい考え方です。