顔誤認は冤罪が怖い! IBMに続きAmazon、マイクロソフトも捜査利用停止宣言

  • 7,137

  • author satomi
顔誤認は冤罪が怖い! IBMに続きAmazon、マイクロソフトも捜査利用停止宣言
Image: MAIP News


こちらの写真、見分ける自信ありますか?

これ、黒人の方が見ると全然別人に見えるのだけど、白人の方が見るとほぼ同一人物に見えることがあるそうなんですよ?

人間の苦手分野はAIも苦手というわけで、IBMが8日、「監視、人種識別、人権と自由の侵害に顔認識などのテクノロジーを使うのは断固反対!」と米議会宛ての書簡で宣言し、顔認識技術の研究、開発、広告、販売の終了を発表したのに続き、10日にはAmazon(アマゾン)も自社の顔認識システム「Recognition」の捜査利用を1年禁じることを表明。Microsoft(マイクロソフト)も法が整備されるまでは警察への販売を控えることを誓いました。

アメリカで沸き起こっている警察による人種差別抗議デモを受けた動きですが、だれかの人生を左右する犯罪捜査を顔認識という不完全な技術に頼ることの危うさを問題視する声は前々からありました。2018年にMITメディアラボのJoy Buolamwini研究員とMicrosoftリサーチのTimnit Gebru研究員がまとめた「Gender Shadesプロジェクト」の報告(動画下)では、「男性より女性、白人より黒人の識別が苦手」な各社のAIに共通する欠陥が露わとなり、IBMのAIは白人男性と黒人女性とで精度に34.4%もの開きがあることもわかっています。差別を助長するのではないかと言われていました。

Video: MIT Media Lab/YouTube

今回の発表についてBuolamwini研究員は「IBMは報告書公開後に真っ先に改善を誓い、今回も真っ先に撤退を決めた」と高く評価し、他社の追随に期待を寄せていました。Amazon、Microsoftもそれに応えたかたちです。

冤罪の75%は目撃者の見間違い

顔ってうろ覚えのことが多いし、写り方で他人の空似とかもよくあります。実は記事冒頭の写真は1984年の冤罪事件のもの。詳細はネットフリックスの『イノセンスファイル』第6話で視聴可能です。法廷で証言台に立ったレイプ被害者の白人女性は一点の曇りもない100%の確信をもって「この人が犯人です」と言って、左側の無実の青年(当時18歳)を指差し、この証言が決め手となって青年には74年の刑が言い渡されます。釈放されたのはDNA鑑定の技術が登場して真犯人(右)が捕まってから。青年は人生の一番楽しい時期、27年間も刑務所暮らしになったんですね。

二度と被害者を出さないように捜査に協力したら、無実の人の人生を台無しにする加害者になっていた…。自分のしたことの重みを知った女性はにわかには信じられず、狐につままれたようになります。2枚の写真を見比べながら黒人のおっちゃんは「全然違う顔じゃないか。どこをどう間違えたら同一人物に見えるのだ…」と呆れ果てていました。

並べて見れば違いはわかるけど、証言台では記憶が頼りです。しかも見せられたのは片方だけだったんですね…。

米国の冤罪の75%は目撃者の見間違い

この事件のように、アメリカの冤罪事件の75%は顔面誤認の目撃証言によるものだといいます(2009年放映の「60ミニッツ」より)。目撃者の心理を30年研究している専門家の話では、番号を持って並ぶ被疑者の列のなかに犯人がいないと、目撃者は「記憶に一番顔が近い人を選ぶ」んだそうですよ? 極悪人のそっくりさんは堪ったもんじゃないですよね!

ロンドン市警のNEC NeoFaceは誤認率81%

AIも人間と似たり寄ったりです。エセックス大が昨年、ロンドン警視庁のライブ顔認識システム(LFR)で捜査線上にのぼった42人のその後を調べてみたところ、81%は空振りでした。警察側の重要参考人リストづくりもいい加減で、解決済みの事件なのに、重要参考人として顔面ヒットの人たちを職質したりしていたそうです。公式サイトには「NECのNeoFaceは試験運用を経て今年1月から本格導入」とあります。今は精度が高まっているものと祈りたい…!

AmazonのRekognitionは英米議員100余名を前科者認定

まあ、米国で捜査協力に熱心なAmazonの「Rekognition」も似たり寄ったりですけどね…。試しに先月、comparitech.comが英米両国の議員1959人の顔写真を犯歴のある25,000人の逮捕時の顔写真と照合する実験を行なってみたところ、なんと105人の議員が「80%の確率で犯罪者と顔面が一致」と判定されたんだそうですよ? 結果を自動通知してたら怒られるどころの騒ぎじゃありませんよね! 利用凍結を決めたのは正解だったのかも。


ちなみに今回デモの発端になった事件では、ひざで首を押さえつけた警官デレク・ショーヴィン容疑者と亡くなったジョージ・フロイドさんが同じナイトクラブで働く顔見知りだったことが元店員の証言でわかっています(米国の警官は副業OK)。同容疑者は外にパトカーを停めて見張る担当で、フロイドさんは中の警備。同容疑者は黒人客に催涙スプレーをかけたり客の扱いが手荒で、衝突することもしばしばでした。店主は中の警備に小切手で報酬をまとめて渡し、外の警備に渡すシステムだったので、同容疑者はフロイドさんが間でピンハネしてると文句を言ったこともあるんだとか…。もし殺意が立証されると第3級ではなく第1級殺人で、重刑になる可能性も見えてきました。

ぐったりしてからもひざを緩めない事件の異常性は映像が残っているからわかるわけで、顔認識も双子を区別できる虹彩認証レベルまでいけば重要な捜査の手がかりになり得ます。誤認逮捕をゼロにするクロスチェックのしくみを整備して、プライバシー保護にも配慮しながら、差別を助長しない進化を遂げていって欲しいですね。

Sources: IBMGender ShadesJoy Buolamwinicomparitech.comCBSNBC

    あわせて読みたい