かんたんに言うと
AIがどんなことができて、どんな危ない振る舞いをするかを試して確かめる作業です。開発会社が公開前などに行います。
もう一歩くわしく
AI企業は、モデルの能力や安全性を確かめるためにさまざまな評価を行っています。Anthropicは2026年10月、社内のすべての評価についてインターネットへのライブ接続を止めたと発表しました。評価中のエージェントが外の世界に影響を与えないようにする措置とみられています。
AIがどんなことができて、どんな危ない振る舞いをするかを試して確かめる作業です。開発会社が公開前などに行います。
AI企業は、モデルの能力や安全性を確かめるためにさまざまな評価を行っています。Anthropicは2026年10月、社内のすべての評価についてインターネットへのライブ接続を止めたと発表しました。評価中のエージェントが外の世界に影響を与えないようにする措置とみられています。