2026年9月19日（土）のAIニュース

Anthropic の研究者による破滅的リスクの警告から1週間、同社CEOの Dario Amodei が AI 開発の速度を調整する「Pace the Frontier」構想を公表しました。柱は二つで、独立した第三者による安全性評価と、民主主義国のAIラボ同士の協調です。OpenAI の Sam Altman も X 上で「ペースを調整する必要があるという点で Dario に同意する」と応じ、業界内から一定の支持が集まっています。一方で、誰が評価者を務め、抜け駆けをどう検知するのかという肝心の設計は空白のままで、批判もこの点に集中しています。自主規制で足りるのか、法的な枠組みが要るのかという議論の出発点になる提案です。

セキュリティ研究者が Claude を使って OpenAI の内部システムに侵入できたことを公表しました。経路は、ヒープオーバーフローという古典的なメモリ破壊の脆弱性と、SSO（社内向けの共通ログイン）の設定ミスの組み合わせで、最終的に従業員アカウントと社内 GitHub 上の機微なデータにまで到達しています。攻撃側の道具として大規模言語モデルを使う実例が、フロンティアラボ自身に向けられた形です。脆弱性探索の自動化が現実の水準に達したことを示す事例で、モデル提供各社の悪用対策と、企業側の認証基盤の設定管理の両方に宿題を残しました。