かんたんに言うと
もともとは車の衝突実験で人の代わりに乗せる人形のことです。ここではAIの安全を試すための模擬的な利用者を指します。
もう一歩くわしく
Circuit Breaker Labsは、この考え方をAIの安全性検証に持ち込みました。本物の利用者を危険にさらさずに、AIがどんな有害な応答をするかを事前に確かめられます。自動車の安全基準が衝突試験で発展したように、AIでも標準的な試験方法を作る試みとして注目されます。
この用語が出てきたニュース