FacebookがAIを利用して若年層に見知らぬ人の危険について教える

  • author Victoria Song - Gizmodo US
  • [原文]
  • 岩田リョウコ
FacebookがAIを利用して若年層に見知らぬ人の危険について教える
Image: Facebook

子供こそネットを簡単に使いこなしてしまうからこそ、必要なこと。

Facebookメッセンジャーには、スパムを送ってくる人など詐欺まがいのあやし〜い人たちが溢れています。こういった人たちを撲滅するためにFacebookがAIを導入し、特に子供たちがそういった怪しい誘いに乗らないように警告をしてくれるようになります。

あやしいアカウントをAIが監視

この機能、スパムや詐欺などの可能性のあるアカウントを監視するというもの。例としては18歳以下のユーザーに対して大量のメッセージや友達申請を送りつけている成人アカウントや友達の写真を使ったなりすましアカウントなど。さらにこういったアカウントやコンテンツを利用してAIをトレーニングさせていくとFacebookは発表しています。そしてこのツールはメッセージの内容というよりも行動に対する警告をするもので、エンドツーエンドで暗号化していても機能します。Facebookはずっとメッセージもエンドツーエンドで暗号化を実現したいと言っていますが、どうやら何年もかかるよう

自動ブロックではなく警告表示

そしてこのツールはフェイクアカウントやスパムアカウントを自動的にブロックするわけではなく、警告した後はユーザーに判断を任せるというもの。ちょっと不審なメッセージがあるとポップアップの警告が出てきたり、どうやって詐欺を見分けるか、お金を送るように言われたら断らなくてはいけませんよ、などのアドバイスが出るようになっています。18歳以下のユーザーで知らない大人との会話には気をつけるようにとの警告も出るようになっています。

新機能はMessenger KidsとMessengerの中間的な存在

この新しいAI機能は子供向けのMessenger Kidsと普通のメッセンジャーの間の中間的存在っぽいです。Messenger Kidsは親のコントロール化で子供が誰とチャットをできるかを制限して子供を危険から守りつつSNSを楽しむというものだったのですが、バグでグループチャットであれば知らない大人とも話せることが判明した経緯がありました。それを防ぐためのアプリだったのに...。

最近ではコロナ関係で、友人や知り合いになりすまして寄付をお願いするという事案も出てきています。Facebookはこういったケースを把握していて、間違った情報に流されないように新型コロナの偽情報に対するキャンペーンをローンチしています。

    あわせて読みたい