黒人にうっかり「ゴリラ」タグ。グーグル平謝り

2015.07.03 18:00
  • このエントリーをはてなブックマークに追加

150702gorilla.jpg


おいこらGoogle Photos、友達ゴリラじゃないっつーねん。

ヤフーFlickrが5月に黒人と白人を「猿」とタグ付けして騒ぎになりましたが、今度はGoogle PhotosのAIが黒人を「ゴリラ」と間違えてタグをつけ、グーグルエンジニアが平謝りする騒ぎがありました。

写真の男性は、ブルックリン在住コンピュータプログラマーJacky Alcinéさん(ハイチ系)。

上のツイートを拡散して2時間後、グーグルのソーシャルチーフアーキテクトのYonatan Zungerさんから「原因を調査したいので、アカウト内部の問題のデータを調べる許可もらえますか?」というツイートが飛んできて、当座のしのぎに検索に強力なフィルターをかけて出なくした模様です。

「白人の顔を『犬』、『アシカ』とタグ付けするバグもあって困っていた。機械学習は難しいね」とZungerさんは言ってます。ほんとだね。



こちらはヤフーのFlickrに「猿(ape)」とタグ付けされた人。
白人女性も同じ目に遭ったので悪意はないと思われ


こないだのニューラルネットワークが見る夢でもわかるように、全部推測ですもんね。「直すのは容易なことじゃないよ」「いくらディープニューラルネットを調教し直しても(膨大な時間がかかる)、この種のことが再発するリスクを排除できる保証はどこにもない」とコーネル大学のAIの専門家Bart Selman教授もFusionにコメントしてます。

凡人的には、まさか「黒人 ゴリラ」でタグ付けするネット差別民のクズな習性をAIがそのまま学んじまったんじゃ…と心配になりますが、Fusionが取材した専門家はみな、その可能性は低い、単にたまたまそう見えちゃった不幸な出来事ではないか、と答えていたそうです。


仮に本当に傷ついた場合、責任は誰に? なんの罪になる?


今回の件はグーグルがタグ外して、ツイ主が「サンキュー!」とツイして済みましたけど、仮にもっとひどいことをAIが無意識にしでかして本当につけちゃった場合、その責任の所在って…グーグルになるの?

この点についてワシントン大学のサイバー法の専門家Ryan Calo助教授は「今の法律の枠組みでは対処できない問題だ」とFusionからの取材に答えてます。なぜならグーグルを業務過失や名誉毀損で訴えるには、予見可能性を実証しなければならないから。

人混みに乱射したら人が死ぬ――これは予見できます。が、グーグルが果たしてこういう顔タグを予見できたのか?っていうと、これを実証するのは容易なことじゃないし、弁護士の費用もバカにならないのだそう。

でも将来的にはこの種の「犯罪」を扱う新しいカテゴリが法律にもできるかもしれないねってCalo助教は話してますよ。たとえば「過失プログラミング」とかなんとか、そういうのを設けて、コード書いたエンジニアに罰金(人間が直接関わるよりは少額)を課すなどの取組みが考えられそうだということです。か、過失プログラミング!


image by: @jackyalcine
source: Fusion, WSJ, NY Daily News

(satomi)

  • このエントリーをはてなブックマークに追加
  • グーグルのマインドフルネス革命―グーグル社員5万人の「10人に1人」が実践する最先端のプラクティス(付録:マインドフルネス実践ガイドCD)
  • サンガ編集部|サンガ
  • Google Chromecast ( Wi-Fi経由 テレビ接続 ストリーミング / HDMI / 802.11b/g/n / 1080p ) GA3A00035A16
  • Google
・関連メディア