今、警察が顔認識を利用すると「一部の人」だけが不利益を被るだろう

  • 5,955

  • author 塚本 紺
今、警察が顔認識を利用すると「一部の人」だけが不利益を被るだろう
Image: Gettyimages

黒人テックCEOのメッセージ。

新しいテクノロジーが出てくると、一般社会からはまるで万能のように称賛されてしまうものの、実際は社会が既に抱えている偏見や差別がそのまま反映されてしまっていることはよくあるようです。そんな中で話題になっているのが、顔認識テクノロジーです。

顔認識テクノロジーの進歩はどんどんとニュースを騒がせるようになってきました。ほんの数年前と比べても、今や驚くような精度で顔認識が可能になっています。そしてこのテクノロジーが政府機関や警察といった組織に秘密裏に悪用されるのではないか、という懸念を覚えている人は少なくありません。

警察向けに顔認識テクノロジーを提供するのを拒否

その一人が顔認識テクノロジーとAIを開発するスタートアップ、KairosのCEOであるBrian Brackeen氏です。警察官が身につけるボディカムを製造するAxonが顔認識テクノロジー開発のパートナーとしてKairosをリクエストしたというニュースが世に出たのがつい先日のこと。Brackeen氏はそれを断り米TechCrunch上でコメントを公開しました。

そこでは「警察によってが商業用の顔認識(技術)を使うことは無責任かつ危険です」、「顔認識サービスを開発するソフトウェア会社の黒人のCEOとして、この技術に文化的にも社会的にも個人的なつながりをもっています」といったメッセージが述べられています。

顔認識は有色人種に不利益をもたらすかも

プライバシー問題、そして人種差別問題が原因となって、顔認識テクノロジーはプライバシー・監視論におけるもっとも議論を呼ぶ分野の一つとなっています。MITのコンピュータ科学者であるJoy Buolamwini氏が今年初めに発表した研究によると、肌の色が明るい人と暗い人を比べると、顔認識技術は肌が暗い色の人に利用された時の精度が落ちるということが分かっています。

警察が顔認識技術にどんどんと依存するようになれば、この人種間の精度の差が、有色人種にとって偏った結果を生み出すだろう、とBrackeen氏は論じています。

「有色人種の画像に触れれば触れるほど、(顔認識技術は)より適切に特定できる可能性が上がるでしょう。しかし問題なのは、現存しているソフトウェアは、有色人種の顔認識に確信を持って活用できるほどには、彼らの画像を十分な量、学習できていない点です。もしも誤認識が起きれば、それは冤罪にもつながり得ます。もしくはさらに悪い結果を生むかもしれません」

確かに、精度に偏りがある状態で、警察が活用し始めると大きな問題へとつながる、という主張は説得力があります。

アメリカでは警察による顔認識の採用が進む…

ところが、アメリカでは公衆安全を達成するテクノロジーとして顔認識が警察組織によってますます利用されつつあります。ちょうど先日、Amazonが開発する顔認識テクノロジーであるRekognitionが警察によって使われることに従業員たちが抗議のデモを行ったというニュースがありました。オーランド空港は、海外からの乗客全員に顔スキャンを義務付けています。アメリカ税関・国境警備局はメキシコとの国境に顔認識技術を設置するべく取り組んでいます。こういった技術における不正確さが原因で、一部の人々にだけ二次的な身体検査や警官からの質問が多く発生することになります。すでにアメリカ社会ではセキュリティの厳しい場所では非白人は通常よりも厳しい審査を受けています。ここに顔認識が加わることになるわけです。

「この分野において(顔認識)ソフトウェアをアメリカであれ他の国家であれ、政府に渡してしまうような企業は、人々の命に危険を加えていることになる。この分野におけるすべての企業のトップから、この種類の販売を止めるための動きが必要だ」

そうBrackeenは語っています。



Image: Gettyimages
Source: TechCrunch

Sidney Fussell - Gizmodo US[原文
(塚本 紺)

あわせて読みたい

powered by