Facebookが新しい子ども用メッセンジャーアプリを発表。でも、信頼していいの?

  • author scheme_a
Facebookが新しい子ども用メッセンジャーアプリを発表。でも、信頼していいの?
Image: Facebook Newsroom

どんどん若年化していくネットユーザー層。今後の指針になれるか?

12月4日、Facebookは6才以上の子ども向けのメッセージサービスを発表しました。Messenger Kidsと名付けられたこのアプリは、世界最大のソーシャルネットワークを使うにはまだ早い(Facebookは13才以上でないと利用できません)子どもを抱えた親をターゲットにしています。Messenger Kidsには、不適切なコンテンツの閲覧やネット上でのいじめを防止するため、ペアレンタル・コントロール機能や特別なポリシーがありますが、だからといってFacebookではお馴染みの管理漏れやネット上に潜む悪意から完全に逃れられるわけではありません。万が一、子どもがMessenger Kidsを通じて不適切なコンテンツにアクセスしたりイジメに遭った場合、Facebookのスタッフモデレーターが解決にあたります。

そもそも、FacebookはどうやってKidsアプリを管理するつもりなのでしょう? メインのFacebook同様、Messenger Kidsでもコンテンツを報告することはできます。しかし、スポークスパーソンが米Gizmodoに語ったところによれば、Kidsには専用の「コミュニティ・オペレーション・チーム」が存在するそうです。「チームによって、すべての報告が素早く処理されます」とのことですが、どのくらい「素早い」のかという質問には答えてくれませんでした。また、子どもがコンテンツやアカウントを報告すると、親にも通知がくるそうです。

スポークスパーソンによると、メインのFacebookネットワークと比較すると、Kidsの自動モデレーション技術はより厳しいポリシーで動作しているそうです。勿論、どちらも人間が報告を読んで決定を下しますが、例えば重複したコンテンツの報告やスパム攻撃などがあった場合、自動システムがとって代わることもあるのだとか。

現在のFacebookのコミュニティ規定がそのままKidsにも適用されますが、それだけでなく、「専門のMessenger Kidsレビュワー」が悪用の可能性を見つけ、特定のメッセージを削除したり、繰り返しの悪用にはアカウントの削除などを行なって対処します。スポークスパーソンによれば、ユーザーの報告内容によって、絶えずポリシーの適用基準をアップデートしていくそうです。しかし、「厳しいポリシー」とはどんなものなのか、それを公に公開するのか、という質問には答えませんでした。

Facebookによる発表の投稿を見る限り、Messenger Kidsは、荒くれ者の潜むウェブの世界に一歩を踏み出そうとしている子ども達のために、適切な場所を作り出そうとしているようです。しかし、Facebookの過去の事例が示しているように、コミュニティ規定、モデレーターチーム、自動システムなどがそろっていても、プラットフォームが適切に、効率的に、バイアスなく管理されるとは限らないのです。

ProPublicaの調査では、イスラム国に賛同するようなページは即座に削除される一方で、KKKなどの白人至上主義者のページは数多く存在していたり、Facebookのポリシーは白人男性とヘイトスピーチに有利だったそうです。また今年には、米国陸軍の兵士たちが、同僚や退役した女性軍人のヌード写真などをプライベートのFacebookグループで共有していたことで問題になりました。さらに、スキャンダルが公になった後も、写真が投稿されていたグループのいくつかが一週間以上削除されずに残っていました。それだけでなく、ピューリッツァー賞を受賞した写真を児童ポルノと間違えたり、黒人男性が財布を拳銃と間違えられて警察に射殺された直後のライブビデオを、自動管理ツールが誤って削除したり、テロ対策専門のモデレーターのプロフィールをテロリストにリークしてしまったこともあります。

Facebookは自動的なものも人的なもの含めて、不適切なコンテンツに対応するさまざまなシステムを備えていますが、これらのウッカリでは済まされない間違いは、それらに問題があることを示しています。インターネットの世界に慣れた成人にとっては、それらのリスクはある意味想定の範囲内です。しかし、これから子どもをネットに接続(比喩的な意味で)しようとしている親の皆さんは、たとえどれだけ善意に満ちたアプリであっても、隠れたリスクがあることを認知しておくべきでしょう。



Image: Facebook Newsroom
Source: The Root, Jezebel, The Daily Beast

Melanie Ehrenkranz - Gizmodo US[原文
(scheme_a)

あわせて読みたい

powered by

こちらもおすすめ