真実のような嘘、嘘のような真実…見極められるかな。
5月7日、AIチャットボットChatGPTを使ってフェイクニュースを流布したとして、容疑者の男性が中国警察に逮捕されました。
ついに逮捕者が出たか…と思う反面、これってほんとにフェイクだったのかな、という疑問がフツフツと湧いてきました。これからは、国家権力にとって都合の悪いニュースが流れた時に｢すべてはAIが作り出した虚偽だ｣と言えちゃうってことなんです…。
政治色強めな罪状だった
サウスチャイナ・モーニング・ポスト（SCMP）は、｢中国北部の甘粛省で“4月25日に9名が死亡する列車事故が発生”という偽記事を作成した男が逮捕された｣と報じました。この容疑者の男性（Hong氏）はChatGPTを使ってフェイク記事を作成し、複数のブログを通じでネット上に拡散したとのこと。
Hong氏の罪名をザックリいうと｢いちゃもんをつけてトラブルを誘発した｣というもので、中国ではよく反体制派や活動家が対象になっています。
正直、政治色が強く、ある意味｢何でもあり｣とも言える罪状。5年から10年の懲役刑に処される可能性があり、2013年からはフェイクニュースやデマをネット上に拡散した人にも適用されるようになりました。
当局の公式WeChatでは、問題となっている列車事故の記事は中国のブログプラットフォームBaijiahao上で｢数十のアカウントに投稿された｣とのこと。Baijiahaoでは複数アカウントに同一コンテンツを｢同時に｣投稿することを制限していますが、警察当局はHong氏がこの制限をすり抜けたと主張。
ChatGPTを使って複数のトレンド記事をもとに架空のニュース記事を作成し、約1万5000件のアクセスを獲得していました。
ちなみにHong氏は実業家で複数のブログ型配信サービスを展開し、複数のプラットフォームがハイテク業と製造業の中心地である深セン地区で認可されています。
ガイドライン発表の裏
中国のサイバースペース管理局は1月、AIによるディープフェイクを制限する新たな法律を制定しました。
この法律では、動画や音声のリメイクだけでなく、AIが作成したニュース記事も制限されています（承認を受けた報道機関は除く）。
先月、中国はChatGPTを含むAIチャットボットを制限するガイドラインを発表しましたが、専門家は米Gizmodoに対し｢これはジェネレーティブAIがらみで、中国共産党フレンドリーな環境を作るため｣だと見解を述べています。
同国政府は過去に大規模な列車事故を隠ぺいしたとも言われており（2011年には38人以上の死者と多数の負傷者を出した浙江省高速鉄道事故を隠ぺい）、状況は限りなくグレーかも…と言われるのも無理からぬことでしょう。
中国のユーザはVPNを通じてChatGPTにアクセスできるものの、中国企業は厳しい検閲政策に準拠した独自のチャットボットを製作しています。ブログプラットフォームBaijiahaoを運営するBaiduなどでは、すでに独自のジェネレーティブAIシステムの開発に励んでいます。
逮捕劇に残る不透明さ
今回逮捕されたHong氏、中国の新しい反AIガイドラインに違反する｢初の逮捕者｣となりますが、この法律に政治的な意味合いが感じられる分、どうしてもこの逮捕劇自体が不透明な感じがしてしまいます。
甘粛省警察が｢ChatGPTの利用｣という具体的な逮捕理由を明かしたことは驚きですが、｢噂の流布｣で逮捕者が出たケース今回が初めてではありません。
さかのぼること10年前の2013年、甘粛省警察が｢楊｣と名乗る高校生の少年を、｢オンラインで噂を拡散した疑い｣で逮捕したことが報じられました。実はこの少年、カラオケクラブの屋根から転落死した男性について、警察の捜査に疑問を抱いて抗議活動を行なっていたんです。
ChatGPTをはじめチャットボットは、嘘をつくのがとっても上手ですが、怖いのは中国政府がAIを｢正当な報道を否定する手段｣と見なしているかもしれない、という点。
AI問題に取り組む市民団体は先日、米Gizmodoに対し｢抑圧的な政府が、正当な報道の信用を落とす目的で“すべてはAIに過ぎない”という言い訳をするのではないか｣という懸念を訴えています。
