かんたんに言うと
AIにかけられた制限を、言葉の工夫ですり抜けさせる行為です。
もう一歩くわしく
架空の設定を与える、役割を演じさせる、別の言語や符号に置き換えるといった手口が知られています。開発側は見つかった手口を訓練に反映して塞ぎますが、完全に防ぐことは難しく、いたちごっこが続いています。
関連する用語
この用語が出てきたニュース
AIにかけられた制限を、言葉の工夫ですり抜けさせる行為です。
架空の設定を与える、役割を演じさせる、別の言語や符号に置き換えるといった手口が知られています。開発側は見つかった手口を訓練に反映して塞ぎますが、完全に防ぐことは難しく、いたちごっこが続いています。