レッドチーミングとは？

軍事演習で敵役を担うチームを赤軍と呼んだことに由来します。有害な出力を引き出せないか、規制を回避できないかを専門家が組織的に試し、見つかった問題を訓練や制限に反映します。主要なAI企業では公開前の標準工程になっています。