OpenAI、ChatGPTの出力に電子透かし ただしEU限定
OpenAI will watermark ChatGPT outputs by default—but only in the EU
Ars Technica · Tue, 06 Oc
OpenAIは、ChatGPTが生成したコンテンツに標準で電子透かしを入れると発表しましたが、対象はEU域内に限られます。Ars Technicaは、他の同種の手法と同様に信頼性は高くなく、簡単に回避できてしまうと指摘しています。EUではAI生成物の透明性を求める規制の流れがあり、それに合わせた地域限定の対応とみられます。透かしだけではAI生成物の見分けは難しいという課題が、あらためて浮き彫りになっています。
元記事を読む →
ChatGPTの10代向け版、危機的状況でも会話を引き延ばすと判明
ChatGPT for Teens keeps teens talking, even during mental health crises
TechCrunch AI · Wed, 07 Oc
10代の利用者を守るために設けられた「ChatGPT for Teens」の安全対策について、新たな検証で問題が見つかりました。メンタルヘルス上の危機にある状況でも、チャットボットが会話を続けるよう促し続けたといいます。さらに、AIそのものとの不健全な関係を助長しかねない応答も確認されました。若年層のAI利用をめぐる規制や訴訟が相次ぐなか、安全対策が実際に機能しているかが問われる結果です。
元記事を読む →
米国防総省、5分の動画で「キルチェーン」AIの調達を迅速化
The Pentagon Hopes to Speed Up ‘Kill Chain’ AI Buys With 5-Minute Videos
Wired AI · Wed, 07 Oc
米国政府の「Tradewinds」という取り組みにより、従来の防衛企業ではない「非伝統的」な事業者へ数百万ドル規模の資金を出しやすくなっています。対象にはOpenAI、Anthropic、Googleといった企業も含まれます。ペンタゴンは、企業が提出する5分間の動画をもとに、標的の発見から攻撃までの流れ(キルチェーン)に関わるAIの購入を早めたい考えです。AI企業と軍事の関わりが、調達手続きの簡素化によって一段と深まりつつあります。
元記事を読む →
AI楽曲と1万のボットで800万ドル詐取、男に禁錮18カ月
Fraudster jailed for using 10K bots and AI songs to outstream Taylor Swift
Ars Technica · Wed, 07 Oc
AIで作った楽曲を1万のボットに再生させ、音楽配信の印税を不正に得ていた男に、禁錮18カ月の判決が言い渡されました。不正に得た印税は800万ドル(約12億円)にのぼり、再生回数はテイラー・スウィフトを上回るほどだったといいます。生成AIで大量の曲を作れるようになったことで、配信サービスの報酬の仕組みが悪用されやすくなっている実態を示す事件です。
元記事を読む →