ヘイトスピーチ判別の難しさ、Facebookが認める
Image: Gettymages

ヘイトスピーチ判別の難しさ、Facebookが認める

気持ち、わかるよ。

いじめの温床とも揶揄されるSNS。運営はどこもなんとかしようと努力しています。けれど、努力すれば、なんとかなるわけではないのが現実。Facebookもサービス上でヘイトスピーチの取り締まりに力を入れていますが、あるレポートがきっかけで、いかにそれを見分けるのが難しく失敗が続きであるか、自身の過ちを認め謝罪しました。

報道NPOのPro Publicaが、Facebookにヘイトスピーチに関するレポートを提出。レポートには49のFacebookポスト例があり、それらはすべて、「正当な表現であったにも関わらず削除されてしまったもの」または「サイトポリシーに反する内容であるにも関わらず削除されることなく残っているもの」のどちらか。49のうち22例に関しては、Facebookが運営チームの非を認め謝罪。Vice PresidentのJustin Osofsky氏は、「今年(2018年)はコンテンツのレビューチームを今までの倍(=2万人)に増やす」と約束しました。

NPOのレポートにあったコンテンツは、Facebookグループの「Jewish Ritual Murder」に関するものや、イスラム系のネットミームなど。前者は、ユダヤ系の人々に対する差別グループであるにも関わらず、コミュニティポリシーに反しないとしてお咎めなし。後者のイスラム系ネットミームとは、「The only good Muslim is a fucking dead one.(=死んでるのは、イスラム系のいい奴らばっかじゃねーか)」というもの。頭を撃たれた男の画像に文字をかぶせたもので、ポリシーには反しないが、見て不快になる人がいるかもしれないという理由で削除。両者とも、NPOのレポート提出後、Facebookは処置を変更(前者は削除、後者はOK)して対応しました。

Osofskyはレポートに対してコメントを発表。「過ちがあったことを申し訳なく思います。これは、我々が作っていきたいコミュニティではありません」「チェックを向上させる必要があります。我々のポリシーは、不快なものであっても、時に物議をかもすものであっても、ヘイトスピーチの一線を越えなければOKとしています。これには、公の人物や、宗教、政治的思想への批判も含まれます」

しかし、Wall Street Journalの報道によると、レビューチームの担当者は、それぞれ1コンテンツをチェックするのに数分しかかけられない状態にあるそう。これでは、そのコンテンツが何を真に意味するのかを見極めるのは難しいでしょう。チーム増員によって、コンテンツチェックに割く時間も改善されればいいのですけれど。

Facebookに限らずTwitterもYouTubeも、多くのユーザー参加型サービスが2つの問題に直面しています。1つは量。何億というユーザーが投稿する何十億というコンテンツ。その中でチェック対象としてあがってくるものだって、とんでもない量があります。これをいかに上手くさばいていくか。アルゴリズムなどを導入して解決を試みるも、いまいちうまいこといっていないというのが現状です。もう1つは、ネットニュートラル(ネットの中立性)。ちょっとした言動の削除が中立性に影響しないとも限らない。特定の宗教や政党に肩入れしない、ある意味で放任主義の必要性との向き合い方です。このバランス感覚の難しさは、人類の歴史とともにあるもので、人工知能や人間のチェックチーム増員で解決できる問題とも思えません。

今回のNPOのレポートは氷山の一角。今後、似たような申し入れが続々と出てくるのではないでしょうか。でもさ、しばらくは、毎回、謝罪して再審査して対応って形しかないですよね…、だって解決が難しすぎるのだもの。

Image: Gettymages
Source: Pro Publica

Sidney Fussell - Gizmodo US[原文
(そうこ)

あわせて読みたい

    powered by

    こちらもおすすめ