AI業界が「終末論」に傾いた、その先にあるもの
MIT Tech Review
MIT Technology Review が、業界全体に広がる悲観論の転換点を分析しています。きっかけは Anthropic の Dario Amodei が投稿したエッセイで、LLM の開発ペースを落とすべきだと主張しました。同氏は技術がもたらす差し迫った危険を列挙し、これまで加速を牽引してきた当事者による転向として受け止められています。実存的リスクの議論が研究者コミュニティの内輪話から業界の主流に移ったことを示す動きです。
NY州、著名人ディープフェイクサイト12件を差し押さえ
Wired AI
マンハッタン地区検事局が、有害なディープフェイクサイト12件を差し押さえました。これらのサイトは合わせて約1,200人を被害者としており、この種の法的措置としては過去最大規模になります。生成AIによる本人の同意なき性的画像の生成が、刑事司法の直接的な取り締まり対象になったことを意味します。プラットフォーム側の自主規制に頼らず、ドメインの押収という強制力のある手段が使われた点が特徴です。
欧州の政治家100人超、性的ディープフェイクの標的に
Wired AI
160のディープフェイクサイトを分析したところ、22カ国の政治家が被害に遭っていることが判明しました。被害者100人以上のほぼ全員が女性であり、被害が極端に偏っていることが示されています。公職にある人物を標的にした性的な合成画像が、国境を越えて組織的に流通している実態が浮かび上がりました。民主主義に関わる人物への攻撃手段として悪用されており、各国の規制対応を迫る材料になります。
OpenAI のクローラーが RubyGems の脆弱性を先に把握
Hacker News
RubyGems のキャッシュに関する脆弱性について、OpenAI のクローラーが公表前から把握していたことが指摘されています。Hacker News で342ポイントを集め、この日で最も注目された話題になりました。AI企業のクローラーが収集する情報の範囲と、セキュリティ上の未公開情報の扱いをめぐる議論に発展しています。パッケージレジストリという供給網の要に、学習データ収集が触れている構図です。
Microsoft、AIモデル向け「行動規範」を策定
TechCrunch AI
Microsoft が自社のAIモデルが守るべき行動規範を公表しました。人間を置き換えるのではなく支援すること、人間の繁栄を加速することといった一般原則に加え、システムへの侵入や人間を欺く行為を禁じる具体的な安全制約を定めています。法規制に先行して企業が自らモデルの振る舞いに線を引く動きで、Anthropic の憲法AIなどと並ぶ自主規制の事例です。実効性をどう検証するかが次の論点になります。