Facebookの自動翻訳、「おはよう」を「攻撃する」に誤訳。投稿のパレスチナ人が逮捕される
Image: pixinoo / Shutterstock.com

Facebookの自動翻訳、「おはよう」を「攻撃する」に誤訳。投稿のパレスチナ人が逮捕される

AIによる翻訳、完全には信用できませんからね。

緊張関係が長年続くパレスチナとイスラエルですが、そんな中Facebookの自動翻訳が起こしたミスが原因で一般人が逮捕されるという事態が起きました。

Haaretzによれば、工事現場で働くパレスチナ人の男性がFacebookに何の問題も無い写真に「おはよう」とアラビア語のテキストを添えて投稿したところ、Facebookの自動翻訳が間違って「攻撃する」とヘブライ語で誤訳、さらに英語で「傷つける」と訳してしまい、イスラエル警察に逮捕されてしまったとのこと。投稿された写真は男性が工事現場のブルドーザーに寄りかかってポーズを撮っているというものです。AIの翻訳が原因でテロリスト認定されてしまうとは恐ろしい……。

アラビア語話者によれば、Facebookが使用している英語の音訳はアラビア語では実在しない単語だったものの、「傷つける(to hurt)」という動詞と若干似ていたとのこと。男性が逮捕されるまで、アラビア語が分かる警察官がチェックするということは無かったようです。数時間の尋問の後に男性は解放されました。

Facebookは当初、Microsoftの翻訳AIを使っていましたが、2016年からは自社の翻訳ソフトウェアに切り替えています。「Facebookの誤訳が原因でパレスチナ一般人がイスラエル警察に逮捕される」とセンセーショナルにメディアにも取り上げられましたが、Facebookの言語テクノロジーグループのエンジニアリング・マネージャーであるNecip Fazil Ayanさんは米Gizmodoの取材に次の声明を出しています。


先週、我々の翻訳システムは残念なことに間違いを犯し、この男性が投稿した文章を誤訳してしまいました。翻訳の技術は日々改善されていますが、このような間違いは時折起きてしまいます。この件には対処を始めています。この間違いとそれによって起きてしまった混乱について、彼と彼のご家族に謝罪したいと思います。


「それでもブルドーザーに寄りかかった写真と投稿だけで逮捕されてしまうのか」と驚いてしまいそうですが、ブルドーザーはこれまでもテロリストの攻撃に使われたことがあるんですね。パレスチナとイスラエルの緊張関係を考えると、ブルドーザーに寄りかかった男性が「攻撃する」と投稿していることにリアルな危機感が生まれるわけです。イスラエルの防衛省はパレスチナ人のソーシャルメディアをモニタリングして過激派や潜在的なテロリスト活動を見張っています。工事現場であったヨルダン川西岸地区は大部分がイスラエルによって管理されていますが、いくつかの地域はイスラエルとパレスチナの共同管轄となっています。

キーワード・モニタリングといった各種機能をFacebookは当局に提供しています。これによって当局がテロリズムを防ぐ助けになっているわけですが、ターゲットを絞った監視であり、当局によって濫用される可能性があるという懸念の声もあがっています。今回の場合、単純な誤解が一人の命を危険にさらしてしまったことになったわけです。

多くの国の当局がソーシャルメディアのモニタリングをしてテロリスト対策をしています。Facebookの誤訳が何か大きなトラブルを起こしてしまうリスクは、決して一部の人だけの問題では無さそうです。そう考えると海外旅行の投稿をするのもちょっと怖くなってきましたね……。



Image: pixinoo / Shutterstock.com
Source: Haaretz
Reference: TechCrunch(1, 2), The Economist, Facebook, The Wall Street Journal, Wired

Sidney Fussell - Gizmodo US[原文
(塚本 紺)