かんたんに言うと
AIの頭の中をのぞいて、おかしな動きを見つける技術を作っている会社です。AIを安全に使うための道具を開発しています。
もう一歩くわしく
GoodfireはAIエージェントの監視ツールを開発する企業です。別のAIに全部の行動を読ませる従来の方法とは違い、動いているモデルの内部を直接調べ、怪しいときだけ追加のチェックを呼び出す方式で費用を抑えるとしています。AIエージェントを業務で使う企業にとって、安全対策のコストを下げる選択肢になります。
この用語が出てきたニュース