映画「Ex Machina」の人工知能まじ怖

2015.04.17 22:00
  • このエントリーをはてなブックマークに追加

150414machina.jpg


トレーラー観たら才女ロボAvaは美人だしアンドロイドもAIもチューリングテストもあって「これは夢のSF映画!」と大喜びしてたんですけど、映画館で観た後はガクブルで寝付けなくなってしまいました。AIの本当の怖さを見せられた気がして。

【以下、日本未公開映画「Ex Machina*」のネタバレが豊富に続きます。知りたくない人はここで回れ右】

まあ、そうなることはわかっていたんですけどね。予告編を観れば、隔離された人工知能研究所に閉じ込められて途中でなんかヘンなことになっていくのは容易に想像がつきますから。世界最高の頭脳が「AI作ったってロクなことにならない」と警告してる通りの展開。当然ロボットはサイコキラーになって鏡は粉々、血はドロドロ、床に死体がゴロゴロ…になるわけですよ(ごめん…さっきネタバレ警告しましたよね…)。

「Ex Machina」を見た次の日、たまたまカーネギーメロン大学にお邪魔して、そこのロボット学の教授数人に取材する用事がありました。映画とはまったく関係ない取材なんですが、数日間に渡って蛇ロボを脚に這わせたり、やわらかいロボットアームが手を振るの眺めたり、自立歩行ロボにキャンパスを案内してもらったりして過ごしました。「いつ包丁もって向かってくるんかな」と思ってドキドキしましたが、どうやらカーネギーメロン大のロボ研究は「安全第一」らしく、杞憂に終わりました。

AI実現の夢で一番怖いのは結局、ロボットじゃないんですね。「Ex Machina」鑑賞後にしばし言葉を失ってしまったのは、ロボの残忍な暴力に底冷えしたからではなく、自分自身がつくり出した餓鬼に対峙してなす術もない人間というところに心底ゾッときたからです。この映画では(現実でもそうかな)、その餓鬼はAIではない。餓鬼はデータ・コレクションなんです。

…はあ?

150414dots.jpg


…ってなると思うので、本題に入る前に映画のストーリーを少々。

世界最大のネット企業で働くひ弱な若いコード書き(Domhnall Gleeson)が、ある日、勤務先のコンテストで優勝して、山奥で隠遁生活を送る創業者(Oscar Isaac)の家に1週間招かれます。創業者は「Blue Book(青色本)」という検索エンジンを開発して巨万の富を築いたマッド・ビリオネアな髭男。到着したコーダーは、そこで美しきアンドロイド「Ava」(Alicia Vikander)に会い、惹かれてゆきます。

…とまあ、どことなくGoogle、Facebookを彷彿とさせる設定で、現実にあってもおかしくないようなシナリオなのですね。ウィトゲンシュタインの著書「青色本」が出てきたのは不意打ちでしたが、幸い映画の中で「青色本と茶色本は1930年代中期、ウィーンの哲学者が講義内容をまとめた2冊のノート」と解説がありました。ルートヴィヒ・ウィトゲンシュタインを出すことで、この映画は哲学的作品だというメッセージをそれとなく伝えてます。論考を促す意味では、うまい仕掛け。

検索エンジンはAI研究の出発点としてはまさに理想的です。リアルタイムの情報をアルゴリズムで整理するものなので。実際、Googleには恐ろしく精密なAIソフトウェアが既にあるんですが、人間のように考える機械を作るには、人間の思考をまず知らないとダメ。世界中の人間の検索履歴はまさに人間心理がわかる最高の覗き窓ですからね。

マッド・ビリオネアが映画の中でいみじくも言うように、昔ながらのチューリングテストをクリアするのは今のAIには、もうそんなに難しいことじゃないんです。ロボットはもう記者に代わって記事も書くし、子守りもできる。言語習得は特に問題ではなくて、難しいのはロボに人間のような見た目と素行、動きを与える部分です。人間の行動、表情、感情は本当に微妙で、検索語だけじゃわかりませんからね。


150414machina_a.jpg


で、マッド・ビリオネアはどうしたのか? ありとあらゆるデータを集め始めるわけですよ。

映画で彼が言うことがこれまた脳内で回転灯がバチバチ瞬き出すほどリアルでして、自分にはもう政府から、地球上のありとあらゆるスマホとパソコンのカメラおよびマイクに侵入して検索データとそれに付随する顔の表情、会話まで回収できる権限が与えられているんだ、って言うんですね。そんな馬鹿なことがあるわけ…あるんですよ、思いっきり! PRISMとか、バックドア仕込むとか、その技術がもう政府側にあるって話はスノーデン文書で嫌というほど耳にしましたもんね。使ったかどうかは知らんけど。


150414dots.jpg


察しのいい人はもうその先がわかってると思いますが、最初コンテストで優勝したのも実は運が良かったからとかそんなんじゃなく、 検索履歴で「優れた倫理規範」を備えた一番理想的な人間と判断されたからだったんですね。新種のチューリングテストを試す相手として。

このテストというのが単にロボットと人間の違いを検出するだけじゃなくて、AI自身がこうなると賭けた行動に人間をおびき寄せることができるかどうかを占うものなのです。そして劇中のAvaが賭けた行動は、マッド・ビリオネア(←たぶんね)が管理するガラス張りの牢獄から脱出することでした。実現するには、ひ弱な若いコーダーをたぶらかし、人類よりAvaの方が大事と思わせるところまで持っていかなければなりません。

こうして、Avaは見事テストをクリア。そして残りの全人類には酷い結末が用意されているのでした。

当然、この最悪の結末は人一倍強い倫理規範を備えたひ弱なコーダーを打ちのめします。最愛の美人ロボと脱出するどころか、気づけばこの人里離れた山奥のラボでひとり朽ち果てて死んでいくばかり。なぜか? ひ弱なコーダーは大量の個人情報(ポルノの好みまで)を検索エンジンに自分から渡してしまっていたので、ロボットはそれを駆使していくらでも先を読んで操作できちゃうからです。

ったく滅入る話だよ。


150414machina_b.jpg


でも考えてみれば、これってGoogleが毎日やってることですよね。間に暴れるロボが介在しないだけで、やってることは映画と同じ。僕らは自分がほしいもの、希望するもの、必要なものを随分細かく教えていて、今はそれで関連広告が表示されるだけで済んでるけど、近い将来、それと同じ情報がAIにフィードされて、それでAIが自分を潰しにかかったら…。AIにとっては人間は頭の悪い害虫みたいなものですから、AIがデータを学習して、人間同士が抹殺するように仕掛けてきたら…。


150414dots.jpg


映画館を後にしながら、「いま自分の居場所知ってるロボット何台いるんだっけな(グーグルの)」って考えてみました。映画の広報担当とはGmailで日程詰めたでしょ。映画館までの道順はGoogle Map。映画監督と俳優のことはGoogle検索。なんだ、全部グーグルのAndroidスマホじゃん!

もう慣れてしまってなんとも感じないけどね。グーグルは巨大企業で、便利なツールをつくってて、その多くは無料です。情報を惜しみなく明け渡しているのは、他の誰でもない自分の意志でやってること。グーグルに自分の情報明け渡さない日なんてもう久しくないし、情報を渡すことに抵抗感じることも、なくなって久しいです。


150414machina_c.jpg


グーグルのような企業が人類を滅ぼすAIロボ作るなんてことまずないだろうし、そこは心配してないんですが。心配してる人もいますよね(スティーヴン・ホーキングはじめ各界著名人多数!)。僕はテクノロジーに関しては楽観主義で、時代に逆行するラッダイト運動も危険だと思ってるので、あんまり深く考えたことなかったけど、それでもこの映画観た後ではなかなか寝付けなくて苦労しました。

ロボットは怖くない。怖いのはデータです。僕らが想像もしなかったようなかたちで僕らを潰す方向でそれが使われるかもしれないと思うともうね…。



*Ex Machina: デウス・エクス・マキナ。収集がつかないほどもつれた劇の最後に、唐突に上からクレーンで吊った役者(機械仕掛けの神=デウス・エクス・マキナ)が降臨し、あっと驚く結末にまとめてシャンシャンと幕になる演劇技法のこと。エウリピデスが好み、アリストテレスが命名した。

image by A24

Adam Clark Estes - Gizmodo US[原文
(satomi)

  • このエントリーをはてなブックマークに追加
  • 論理哲学論考 (岩波文庫)
  • ウィトゲンシュタイン|岩波書店
特別企画

家事で空気は汚れる? 「Dyson Pure Cool Link」でチェックしてみた

Sponsored by Dyson 風が強くて気持ちいい扇風機と、微細なアレルゲンも取り除いてくれる空気清浄機。2in1なダイソン・エアマルチプライアーシリーズ最新モデルが、さらなる進化を遂げました...
続きを読む»

・関連メディア