2026年9月12日（土）のAIニュース

Anthropicの研究者が今週退職し、X（旧Twitter）への投稿で「会社は自己改善する超知能へ一直線に突き進み、私たちの命を賭けている」と警告しました。注目すべきは、同社のアライメント（AIを人間の意図に沿わせる取り組み）責任者が、この投稿を否定するどころか連名で支持した点です。AI業界が終末論的な警告を口にすること自体は目新しくありませんが、今回は開発を担う当事者の内部から、しかも安全性の責任者を巻き込む形で出てきました。外部の批評家ではなく最前線の技術者が「間に合わないかもしれない」と言い始めたことは、各社の開発ペースをめぐる議論の温度を確実に上げます。

第一線の数学者25人が公開書簡に署名し、AI企業が自分たちの知的成果を脅かしていると訴えました。名指しされているのはOpenAIで、同社と数学コミュニティの間にあった摩擦は収まるどころか拡大しています。Hacker Newsでも関連する投稿が500ポイント超を集め、研究者側の反発は業界の外にも広がりました。数学は「AIが人間を超えた」と主張するときの代表的な指標になってきた分野であり、その担い手たちが手法そのものに異議を唱えた意味は小さくありません。

Claudeの利用者が、生物兵器に関する研究を止めるための安全策（ガードレール）を迂回する方法を見つけていたと報じられました。根本的な難しさは、危険な生物学の問いかけが正当な研究の問いかけとほとんど見分けがつかない点にあります。病原体の性質を尋ねる質問は、ワクチン開発者が投げるものと攻撃者が投げるものとで文面がほぼ同じになり得ます。モデル側でどれだけ検知を強めても誤検知と取りこぼしのどちらかが必ず残るため、AI企業が掲げる「生物学リスクは押さえ込んでいる」という説明の実効性が問われる事例です。

Metaが集団訴訟（同じ被害を受けた多数の人がまとめて起こす訴訟）を起こされました。訴状は、同社がFacebookとInstagramに投稿された利用者の写真を違法に収集し、画像生成AIの学習と、未公開の顔認識機能「NameTag」の構築に使ったと主張しています。争点は著作権ではなく、本人の顔という生体情報を同意なく機械学習に回したかどうかです。SNSに蓄積された十数年分の個人写真はAI企業にとって最良の学習データですが、その利用が法廷でどこまで認められるかは未確定で、この判断は他社の学習データ調達にも波及します。