人相だけで有罪になる世界、それが21世紀なの？
2018年、ある男性がニューヨークにあるディスカウントストア・T.J. Maxxから靴下を万引したとして逮捕されました。その男性は、事件当時ちょうど自分の子どもが生まれるところで、病院にいた記録がありました。
でも警察は男性のアリバイを調べることなく、たったひとつの証拠にもとづいて捜査を進めました。セキュリティ映像と顔認証データベースを照合して｢一致の可能性｣のある顔を見つけ、その顔を万引目撃者に送り、目撃者から｢この男だ｣との証言を得たのです。
結局男性は6カ月間勾留されたうえに、無罪を訴え続けたにもかかわらず有罪判決を受けました。
顔認識を使った捜査の現状
このエピソードはたまたま起きた極端な悲劇ではなく、増加するトレンドの中の一例として、Georgetown Law Center on Privacy & Technologyが発行した顔認識技術に関する報告書の冒頭に書かれています。この報告書では、司法機関が人を捕えるたったひとつの根拠として顔認識を利用している現状を示しています。
でも顔認識技術は、精度、そしてバイアスという意味で、まだまだ深刻な問題を抱えているのです。
件の報告書は題して｢科学なき科学捜査：米国犯罪捜査における顔認識｣。さまざまな種類・形態を持つ、顔認識ソフトウェアの技術的欠陥に焦点をあてています。
｢警察は、顔認識技術とは信頼できる特定ツールだという認識をもって、20年以上にわたり使い続けてきました｣
報告書の著者・Clare Garvie氏は言います。同氏はNational Association of Criminal Defense Lawyersの顧問でもあります。
｢そんな警察の認識は、今までまったく検証されていないどころではありません。顔認識技術が信頼できる手がかりを生み出さず、むしろ人違いや誤認逮捕の危険を招くと考える理由は数多くあります｣
複数の研究によれば、顔認識技術は女性や有色人種、とくに肌色がより濃い人の特定では精度が下がることが示されています。この問題は非常に深刻で、専門家の中には、顔認識技術を完全に禁止すべきだという意見もあるほどです。
使う人間側の問題も
一番良い条件でも、顔認識技術を使っている人間自身が問題になることもあります。報告書の言い方を借りれば、｢アルゴリズムと人間がお互いの間違いを増幅させうる｣のです。ユーザーは技術の精度について間違った認識を持っているかもしれないし、顔認識スキャンで表示された容疑者候補リストを見た人間は、人物の属性や表情といった顔の特徴からバイアスを受けるかもしれません。
｢過去20年以上にわたる利用の中で、顔認識アルゴリズムは改善しましたが、顔を検索する人間は改善していません｣
とGarvie氏。
｢警察はいまだに、認知バイアスや悪用、誤用を防ぐためのポリシーや研修プログラムを義務付けられていないのです｣
司法機関の上層部や顔認識ソフトウェアを作る企業たちはこの問題を認め、顔認識技術はあくまで手がかりとして使うにとどめるべきだと発言することもよくあります。でも現場の捜査官がその忠告を無視していることをGarvie氏らは発見しました。報告書では、警察が顔認識技術による証拠を逮捕のための確実な根拠として使っていた複数のケースを取り上げています。
まだガイドラインもないまま
問題は、顔認識技術がどう使われるべきかの明確なガイドラインがないことです。その理由の一端は、顔認識技術がまだ新しいことにもありますが、もうひとつの理由は、我々が顔認識技術の短所を完全に理解していないことにもあります。ガイドラインが仮に作られたとしたら、そのときには無実の人を起訴するときにも使えるようになるだろうと報告書にはあります。
情報公開されていないので、顔認識技術があったために逮捕された人がどれくらいいるのかはわかりません。でも上述の報告書によれば、その数字は増え続けています。
異議申し立てもできない
司法機関は捜査に顔認識技術が使われたときにそれを公開しないことが多いのですが、それは容疑者側には不利になります。不完全な技術から生まれた証拠が使われていても、そのことを知らなければ異議を申し立てられないからです。
報告書では、顔認識技術の結果はあまりに信頼できないので、｢Brady material｣（被疑者の不利にならないように、検察側が公開しなくてはならない証拠に対する司法用語）として考えるべきではないかとも言っています。
Garvie氏によれば、刑事事件において顔認識技術利用の詳細を公開しないことは、法的権利の侵害になります。｢これは当然のプロセス違反で、2001年以来起こり続けています｣とGarvie氏は言います。顔認識技術が100％完ぺきでないことは皆うすうすわかってるのに、それでも警察やいろんな人が、顔認識結果を都合よく利用してしまっているんです。
｢難しい問題を解決しようとして、または意思決定から人的エラーを除去しようとして、人工的・中立的な、数学ベースのアプローチを必要以上に信じてしまう傾向がまだまだあります｣
Garvie氏は続けます。
｢でもそれは、間違ったアプローチなのです｣
