広めたのは青バッジを付けたTwitter偽ニュースアカウントという黄金タッグ。
5月22日（月）朝、｢ペンタゴン（米国防総省）付近で大爆発｣というキャプションを付けたAI生成画像が、TwitterのBloomberg Feedというアカウント（青バッジ付きで公式に見えるけど、Bloombergニュースと縁もゆかりもない偽アカウントです）を通して拡散。米市場が敏感に反応して売り注文が殺到し、一時的に株価が急落する騒ぎとなりました。
画像はすぐフェイクとわかり、地元の警察が20分後に発表。
ハフポストのAndy Campbellさん（有料の青バッジはつけてないけど公式エディターです）などが偽画像にバッテンを付けて、当局の発表をすぐ広めたから良かったようなものの、わからないまま広まっていたらと思うとゾッとします。
Prime example of the dangers in the pay-to-verify system: This account, which tweeted a (very likely AI-generated) photo of a (fake) story about an explosion at the Pentagon, looks at first glance like a legit Bloomberg news feed. pic.twitter.com/SThErCln0p
— Andy Campbell (@AndyBCampbell) May 22, 2023
Washington Post紙が伝えるところによると、写真にある建物はどうやら架空の建物の様子。｢ペンタゴンはおろか、アーリントン一帯を見回してもこんな建物はない｣と、取材に応じたアーリントン警察署長は言っていたそうですよ？
誤報が広まったタイムライン
10:00AMごろ
Discord上でハンドルネーム｢Walter Bloomberg｣のユーザーが爆破のニュースに言及
10:04AM
本物と早とちりしたOSINTdefender公式アカウントが、Twitter上でフォロワー33万6000人に写真をツイート（画像は｢（国防省のある）アーリントン勤務者｣がFacebookにアップしたものを拝借した）
10:06AM
Twitter上でハンドルネーム｢Walter Bloomberg ｣のユーザーが、同様のツイートを拡散（73万ビュー獲得）
金融ニュース自動アグリゲータアカウント（@financialjuice、Bloomberg Feedなど）が誤報を拡散
10:19AM
ロシア国営メディアRTがフォロワー300万人以上に誤報を拡散
10:27AM
アーリントン消防から連絡を受けたペンタゴン防護局（公式アカウントなのだが月8ドル払ってないので青バッジが消えている。政府機関の灰色バッジも付いていない）が、情報がニセモノであることをツイート（閲覧数は当日4PM時点でわずか7万ビュー台に留まる）
誤報と訂正では数に違いがありすぎて、悪意を持った執拗な誤報で攻められたら勝てる気がしませんよね。
Twitterは折からのコストカット、人員カットで認証バッジも購入制になってしまいました。嘘を広める偽アカウントには青バッジが付いてるのに、正しい情報を広める公式アカウントや記者には青バッジが付いてなくて、紛らわしいー。むしろバッジ邪魔だわーとすら感じてしまいます。
事実確認に5分、訂正にはさらに12分もかかる
ちなみに消防署長が会議中に｢SNSで大変なことになってる｣と連絡を受けたのは10:10AMのことでした。
席を外して緊急アラートシステムを確認し、911通報のデータターミナルも念のためチェックしてみましたが、そんな形跡はどこにもありません。
不審に思ってSNSで目撃情報を探してみたんですが、こちらも収穫ゼロ。作り物っぽい爆破写真があるばかりです。
そこに至って偽情報と判断し、国防総省およびペンタゴン防護局にその旨伝えたといいます。署の公式サイトに偽情報に惑わされないように警告を発したのは、ペンタゴン防護局のツイートと同時刻の10:27AMのことでした。
誤報と判断するまでにかかった時間は｢所要5分｣とのことですので、発表までにはさらに12分かかった計算になります。
AIと自動アグリゲータと偽アカウントで市場は動いてしまう
5月22日の市場の値動きを見てみましょう。
すぐ持ち直してるけど、 恐ろしいことです。
