Facebookが「普通の人が偽物と気づかないディープフェイクは禁止!」と発表。で、普通の人って誰?

Facebookが「普通の人が偽物と気づかないディープフェイクは禁止!」と発表。で、普通の人って誰?
Image: Shutterstock.com

ほんと、普通ってなんだろう。

Facebookは6日、「普通の人」がパロディや風刺と認識できないディープフェイク動画を禁止すると発表しました。それはまあいいとして、ひとつだけ問題があります。ここで使われている言葉が、具体的に何を示しているのかがわからないんです。ハイテク大手のFacebookは「パロディ」や「風刺」、「普通の人」という表現の具体例や意味をまったく提示していないんです。

現地時間の6日深夜、Facebookのグローバルポリシー管理担当バイスプレジデントのモニカ・ビッカート氏はブログ記事で「我々はディープフェィク動画と特定された、誤解を招く加工動画へのポリシーを強化する」と述べました。 Facebookは、ディープフェイクだと疑われる動画を削除検討する際、ふたつの主要な観点から判断すると明らかにしています。

Facebookによると、動画が削除対象となるひとつめの基準は:

「普通の人」にわからない方法で編集、または合成され(それが明瞭さや品質改善の域を超えており)、動画に登場する人物が実際には言っていない言葉を、言ったかのように誤解させる可能性がある。

そしてふたつめの基準が:

人工知能あるいは機械学習を使ってコンテンツを合成、置き換え、あるいは重ねるなどして本物のように見せている。

ビッカート氏は「このポリシーは、パロディや風刺的なコンテンツ、または単語の省略や順序を入れ替えただけの編集動画には適用されない」と記しています。

Deep Homage

ただ問題は、「普通の人」ってどんな人? ってことです。

Facebookがそこを明確にしていないんです。マーク・ザッカーバーグ氏は「普通の人」? じゃあトランプ大統領は? たいていみんな「自分は普通」だと思っていますが、そんなのあてになりませんからね…。酔っ払いが「俺は酔ってない!」って言うのと同じレベルで。

さらに深刻なのが、「パロディ」とか「風刺」の線引きも、人それぞれ違う、ってことです。誰かにとってはただのジョークでも、別の人たちにとってはマジに受け取られてしまう場合もあります。

たとえば、右翼のパロディサイト「The Babylon Bee」では「民主党はソレイマニー司令官(アメリカが攻撃したイランの司令官)の死を悼み、半旗を掲げるよう求めた」なんていうタイトルの記事が数日間掲載され、ネット上で話題になりました。何千回もシェアされましたが、実はそれが冗談だとはっきりわからなかった人も大勢いたようです。

米Gizmodoは、7日朝からFacebookに対して、表現を明確にしてほしい、と要望を出しましたが、特に迅速な対応はありませんでした。

同社は、ディープフェイク動画がまだ非常にレアであると認めてはいますが、なんといっても今年はアメリカ中がカオスと化す大統領選挙の年ですから。混乱を引き起こす恐れのある技術の拡散を警戒していることは、間違いないでしょう。

Facebookが自ら、プラットフォーム上のフェイク情報と闘う姿勢は素晴らしいですが、それがリアル世界でどれほど機能するかは不透明です。結局、節度を徹底させるにはFacebookはデカすぎる、ということです。こんな巨大SNSで偽情報を撲滅できるような万能ソリューションなんてないんです。もう、Facebookを解体するしかありません。当分そんなことはないでしょうが、まあ、想像は自由ということで。

それまでの間、「Facebookは保守派の言論統制をすすめている」なんて嘆く声もひっきりなしに出てくると思うので、その点は心の準備をしていてください。ただ、Facebookの幹部たちが、文字どおり大統領とディナーを楽しんでいるので、これはまったくのフェイクだと思いますけどね。

    あわせて読みたい

    powered by