Facebook内部告発でわかった9つの恐ろしい事実

  • 29,874

Facebook内部告発でわかった9つの恐ろしい事実
Image: CBS News/60|フランシス・ホーゲンさん。その内部告発は

全部なかったことにして新社名Meta」として生まれ変わりたい。

…と思い詰めるまでFacebook(フェイスブック)を追い込んだ世紀の内部告発。9つのハイライトを少しまとめてみました。

内部告発って?

Facebookで偽情報対策担当プロダクトマネジャーを務めていた元社員のフランシス・ホーゲン(Frances Hauegen)さん(37)が「このままでは企業利益優先で社会のほうがおかしくなってしまう」との危機感を募らせ、社内でひた隠しにされてきた情報の数々を明らかにしている件です。時系列に整理するとこうなります。

10月1日:WSJに内部資料を大量リーク、WSJは「The Facebook Files」と題して公開に踏み切る

10月3日:その衝撃もやまないうちにCBS報道番組「90ミニッツ」に単独出演、内部告発者としての正体を明かす

※インタビューに応じる前に、数万ページにおよぶ内部資料を米証券取引委員会(SEC)に提出し、株主・マスコミ・SECへの同社の報告内容と食い違いがみられる点8件の異議申し立てを行ない、調査を要請

10月5日:米上院公聴会で証言

10月25日:英議会で証言

これを受けてFacebookはとりあえず社名を変えるリブランディングを進めており、「たばこが叩かれてフィリップ・モリスがアルトリアに生まれ変わり、揚げ物が叩かれてケンタッキーフライドチキンがKFCに生まれ変わったようなものか…」と言われてるってなわけですね。

ではさっそく見てみましょう。

CBS "60 MINUTES"

1)Facebookのアルゴリズムは怒りを増幅するコンテンツを選ぶよう操作されている

Facebookでどんどん書き込みが攻撃的になる人がいるのは、こういうことだったのか…。ハーゲンさんがCBS報道番組「60ミニッツ」で語ったところによると、Facebookはアルゴリズムそのものが怒りを促すコンテンツを選ぶ仕様になっているのだといいます。なぜなら人は怒りに駆られるときエンゲージメント(Facebookの場合は、いいね、クリック、コメント、シェアですかね)が最大になるからです。Facebookはエンゲージメントで広告売上が決まるので利益を追求するとどうしてもそうなってしまうというわけですね。

「ヘイト、分断、二極化を促すコンテンツですね。ほかの感情を掻き立てるものより、そういうもののほうが人は簡単に怒りに駆られることが社内の調査でわかっています」

「無難なアルゴリズムに仕様を変えるとサイト滞留時間が減って、広告クリック数が減り、利益が減ることにFacebookは気づいてしまったんです」

2)ほかのSNS大手と一緒に語れないくらいFacebookはひどい

「SNSが社会に悪影響」という話題のときには、ついTwitter(ツイッター)もYouTube(ユーチューブ)もPinterestも一緒の土俵にあげて語りがち。でもこれもハーゲンさんに言わせると間違いみたいですよ?

「SNSはいろいろ見てきましたが、これまで見たどのSNSに比べてもFacebookは最悪でした」

3)Facebookは大統領選後に政治デマ撲滅隊を解散、野放しの状態が議事堂襲撃まで続いた

ハーゲンさんがFacebookで配属になった部署は「Civic Integrity unit」といって、政治的な偽情報を同社のプラットフォームから排除する重要任務が担当なのですが、昨年11月の大統領選が終わった時点で御用済みと判断されて部門ごと閉鎖になっていました。

「”Civic Integrityは解散だ”と言われました。社内には”あー大統領選終わったー。反乱らしい反乱もなくて、よかったよかった、Civic Integrityはもう解散でいいでしょ”というムードが漂っていました。あの暴動が起こったのはその2ヶ月後のことでした」

類似の事件はアメリカからエチオピアまで世界中で起こっていて、特にひどいのがインド(利用者3億4000万人で、アメリカの全人口より多い)なのですが、Facebookのデマ対策予算の87%は米国内のデマ対応で消えていて、インドに回されるのは残り13%のそのまた一部。FacebookのAIによる偽情報検出&削除機能も多言語化が追いついていなかったりします。

4)欧州では政党自らがネガキャン広告(ほかにFacebook利用者にリーチする方法がない)

Facebook上の有権者の関心を引くため、欧州の政党がネガキャンの広告出稿に走るようになった実態もリークの資料で明らかになっています。以下はハーゲンさんの説明。

「こんなことはだれもしたくないですよ。社会のためにならないことも百も承知。それなのに不本意なポジションをとるほかないのです。そういうポジションをとらないと、SNSのマーケットプレイスでは勝っていけないから」

5)Facebookが特定できるのはヘイトとデマのごく一部だけ

プラットフォーム上の不適切コンテンツのうちFacebookが不適切と特定できるのはヘイトスピーチの3〜5%、暴力&扇動的な内容の1%ほどで、表向きの説明(「SNS最強の特定率」と言っている)とはだいぶ様相が異なるようです。

Facebookからは次のような説明を60ミニッツ放映当夜のうちにいただいています。

「これは複雑な問題です。ひとつの調査で絶対解がわかるようなものではない。わかるならハイテク業界も政府も社会もとっくの昔に解決しているはずです」「Facebookには、社外の調査、専門家や団体との緊密な連携と並んで、社内の調査についても、しっかりとアプリの変更に役立ててきた実績があります」

6)インスタは子どもの自己肯定感を下げる

10代女子の13.5%がインスタグラム(Instagram)で「自殺願望が悪化した」と回答し、17%が「拒食や過食の摂食障害が悪化した」と答えていることも内部資料で明らかになりました。リークしたハーゲンさんは60ミニッツにこう語っています。

「こういう実態がFacebook自身の調査で判明したことは超悲劇というよりほかないですよ。

女の子たちは摂食障害のコンテンツに触れ出すと、どんどん鬱を深めていきます。

しかも鬱になればなるほど利用をやめるどころか逆にアプリにのめり込んでいく…。

そして自分の体がますます嫌いになるという負のフィードバックループ。そこから抜け出せなくなってしまうんです」

これについて、FacebookのLena Pietsch政策コミュニケーション部長はメールでこうGizmodoに答えています。

「Facebookは難しい問題についても社内で調査を行ない、ティーンのユーザーエクスペリエンス向上のアプローチを探し求めてきました。これからもInstagramをはじめ全アプリの改善に努めていきます」

「リークされた社内調査でInstagramが10代女子に”害”になると示されたというのは正確性に欠きます」

「この調査ではむしろティーンの多くが、苦しいとき、ティーン特有の悩みを抱えて困っているときに、Instagramの利用が支えになったと答えているんですね。こうした問題に関する社外の調査と同様、本調査においても10代の回答者は、SNSではいいことも悪いことも両方あると答えているというのが正確なところです」

よい面もあると言われても、遺族には虚しく響くだけかもしれませんけどね…。4年前に自殺でお嬢さんを亡くした男性が「人の不幸を金儲けの道具に使うのはいい加減やめるべきだ」との意見広告を10月25日付けのWashington postに掲載しているんですけど、そのお嬢さんの場合、家族でTVを見て笑っていたのに自室に引き揚げてインスタにログインしたのを最後に帰らぬ人になってしまったそうなんですね。自殺が報じられた2週間後にはアダム・モッセーリInstagram代表が英紙に論説を寄稿して改善に全力で取り組むと誓っていたのですが…。今回の内部告発を見て「あれは空約束だったのか」と嘆いています…。

7)Facebook社員は悪人ではない。単にインセンティブが噛み合わないだけ

ハーゲンさんはフォローも忘れません。こんな風に元同僚への気遣いも見せました。

「Facebookでは悪意の塊のような人はだれもいないのですが、それとインセンティブが噛み合っていないのです」

「利用者がコンテンツを見れば見るほど儲かるのがFacebookという大前提がありますからね。感情的なリアクションを呼ぶものに人はエンゲージしたがる(首を突っ込みたがる)ものですし。怒りの感情に晒されれば晒されるほど、互いのインタラクションが活発になって、情報を追い求めるようになるので」

要は、いいことをしても報われない→成績にあらわれない→出世につながらないってことですよね。まあ、ここまで影響が大きいと「根は悪い人じゃない」では通らないようにも感じますけどね…。いちおうFacebookから預かった反論もどうぞ。

「Facebookコミュニティを守ることは、企業利益の最大化より重要と認識しています」

「Facebookは総勢4万人もの人員を安全&セキュリティ業務に投入し、2016年からのべ130億ドル(約1.5兆円)もの投資をしてきました。社会の声にまるで目を向けていないかのように言うのは、こうした当社の努力を無視した言説のように感じます」(Lena Pietschさん)

8)ハーゲンさんはCEOに同情すら感じている

ハーゲンさんはCEOにも気遣いを忘れません。こう言ってますよ。

「ザック(マーク・ザッカーバーグ)には同情を禁じえません。まさか自分がつくったプラットフォームがヘイトを増幅する場になるなんてマークだって夢にも思わなかったのではないでしょうか。なのに良かれと思う選択を積み重ねていった結果、その副産物として、ヘイトと分断を促すコンテンツが優先的に配信・拡散される状況が生まれてしまったわけで、その選択を許したのはほかならぬ自分自身なのですから」

まあ、最初からそれを目指したかどうかはこの際、問題ではなくて、大事なことはいま目の前にある現実ですけどね。Facebookも元をただせば美人投票サイトが前身なわけですし…。

9)ハーゲンさんは公益通報者保護法で守られる(はず)

元内部告発者ジョン・タイ(John Tye)弁護士によると、今回の内部告発も法的保護が適用になるようです。

「アメリカでは10年あまり前にドット=フランク法が可決され、SEC内に内部告発者対応オフィスが開設されました。いかなる企業も社員がSECに相談して社内資料を提示する行為を禁じることはできないとそこに定められています」

ただ同法の保護対象はあくまでもSECへの内部告発者なので、マスコミへのリークもこれで守られるかはちょっとわかりません。チェルシー・マニングは独房に拘束されたり大変でしたが、民間はどうなんでしょうね。円満な着地点を願ってやみません。

    あわせて読みたい