かんたんに言うと
人類そのものが立ち行かなくなるほどの、取り返しのつかない被害を指す言葉です。AIの危険性を語るときによく使われます。
もう一歩くわしく
個々の事故や差別といった身近な被害と区別して、回復不能な規模の被害を指すために使われます。この言葉を使う警告は注目を集めやすい反面、「そこまで強力な技術を作っている」という宣伝として機能してしまう側面も指摘されています。目の前の実害を扱う議論と混ざると規制の焦点がぼやけるため、どちらの話をしているのかを区別して読む必要があります。
この用語が出てきたニュース