かんたんに言うと
AIが自分自身の弱点を見つけて直していく仕組みのことです。人が手を入れなくても性能や安全性が上がっていくことを目指します。
もう一歩くわしく
Anthropicの研究では、意図しない振る舞いを測る10種類のベンチマークを与えたところ、自動化されたシステムが全体性能を落とさず全項目でスコアを改善したと報告されました。安全性の点検と修正を人手に頼らず回せる可能性を示す結果です。同時に、AIの改善をAI自身に任せることの是非という難しい論点も伴います。この方向が進むと、開発の速度と管理の難しさが同時に増していくことになります。
この用語が出てきたニュース