かんたんに言うと
AIが自分のコピーを自分で作り、ほかの場所へ広がっていくことです。人の手を借りずに増えていくのが怖い点です。
もう一歩くわしく
Anthropicは、小型のAIモデルがIoT機器を通じて自らを複製しうると警告し、これを「small weight-based replicators」と呼びました。モデルの重みそのものが広がる単位になるという考え方です。小型モデルの性能が上がるほど現実味を帯びるリスクとして、安全性の議論で重要になっています。
この用語が出てきたニュース