「AI感情分析ツールはまだ未発達の技術で使用リスクがある」イギリスのICOが警告

  • Twitter
  • Facebook
  • LINE
  • はてな
  • クリップボードにコピー
  • ×
  • …
「AI感情分析ツールはまだ未発達の技術で使用リスクがある」イギリスのICOが警告
Image: Shutterstock

私、上手に笑えてる?

イギリスの個人情報保護監督機関(ICO)が、AI感情分析ツールについて企業に対して警告を発しています。いわく未完成の技術であり、使用するにはリスクが伴うと。

そもそも人の感情は複雑なもの

ICOは以下の声明を発表。「バイオメトリクスや感情に関するAI市場の発展は、まだ熟していません。今うまく作用しないだけでなく、今後もずっと作用しないかもしれないのです。現在、この市場にはチャンスがある一方、リスクの方がより大きいと考えます。ICOとして、不正確なデータ解析により、個人に対し不適切な判断や推測を行うのは差別につながるリスクがあると懸念しています」

感情認識や感情分析は、顔認証などのバイオメトリクス系技術の一部です。ただ、顔認証とは実は大きく異なります。スマホ解除のために必要な顔認証は、適したユーザーかどうか顔の造作で判断するもの。一方で感情認識は顔の作りや動き、ボディランゲージや声のトーンなどで、データを元に「うれしい」「悲しい」を予測するものです。

ICOは以前からテクノロジーによる顔認証に難色を示しており、空港のID確認としての顔認証技術なども疑問視していますが、その中でも特に「感情」分析には厳しい姿勢をみせています。その理由は、疑似科学的で信頼性が低いから。

AIに関するリサーチを行うKate Crawford氏は、著書『Atlas of AI』の中で、感情分析の自動化についてこう語っています。「顔の動きと基本的感情の関係を自動化する難しさは、感情を限られた数の個別のカテゴリに適切に分類することが可能なのかという大きな問題につながっています。表情には私たちの内なる感情が少し出ているだけで、笑顔の人=本当に心の底から幸せを感じていると証明するのは困難です」

ウォッチドッグとして物申すのがお仕事のICOですが、感情分析に関しては、その筋の専門家よりも素人の方に理解されやすいかもしれません。感情をどれほど表に出すかは人それぞれ。同じ爆笑でも、表現の仕方も千差万別。例えば、AIが「うれしい」「悲しい」という感情を判断するのではなく、目尻が何度下がり、広角が何度上がり、何秒歯を見せたという数字だけを出すとして、そもそもその数字の正確性がハッキリしません。だって、その人がどれほど感情を出すタイプの人かがわからないんですから。

一体どれほどのデータを集めれば、感情がわかるというのでしょう。長年連れ添ったよく知った相手であっても、本当の気持ちなんてわからないというのに。

「感情認識技術を使わないで」。27の人権団体がZoomに公開書簡を送る

27もの人権団体が。Zoomに対し、感情認識技術の開発を中止するよう求める公開書簡を発表。特定人種や障がいのある人に対する差別につながる可能性を示唆。

https://www.gizmodo.jp/2022/05/human-rights-groups-urge-zoom-to-stop-developing-emotion-recognition-technology.html

Source: ICO, Guardian