AIは人を殺すのか。人工知能の是非を問いかける映画『AI崩壊』入江監督&松尾豊さんインタビュー

  • author 中川真知子
AIは人を殺すのか。人工知能の是非を問いかける映画『AI崩壊』入江監督&松尾豊さんインタビュー
Image: (c)2019映画「AI崩壊」製作委員会

私の概念が崩壊した話。

私たちの生活はAI無くして成り立ちません。「そんな大袈裟な」と言われるかもしれませんが、少なくとも私は日常的にAlexaで音楽をかけてもらっていますし、Siriに話かけてメッセージを作成してもらいます。他にも、気づかないうちにAIを使っていることでしょう。

しかし、私たちはAIを正しく理解できているのでしょうか。私は自信がありません。仕事柄、その概念と仕組みはわかっているつもりですが、自分の理解を遥かに超える複雑さと発展速度なので、漠然とした恐怖心を抱くことがあります。AIは便利だけれど、果たして、盲目的に信じていいのでしょうか…?

そんな私たちの疑問をテーマにしたのが映画『AI崩壊』。大沢たかおさん演じる、天才科学者の桐生浩介が開発した医療AI<のぞみ>が国民の個人情報を完全に掌握し管理する近未来。ある日突然AIが暴走して、人間の価値を選別し、殺戮を始めるという内容です。

そんな『AI崩壊』は、AIの第一人者として知られる東京大学大学院工学系研究科教授の松尾豊さんが監修しています。AIの第一人者が、AIが暴走して人の命を奪う映画の監修とはどういうことなのか

ギズモードは幸いにも、監督/脚本の入江悠さんと松尾豊さんに単独インタビューする機会に恵まれました。不安を解消すべく、率直に質問をぶつけてきましたよ。

20200115gizmodo_ai_3B0A7142
Photo: ささきたかし



AIが危険視されかねない作品になぜAIの第一人者が監修を?

── 本作を通して観客に何を伝えようとしていますか。入江監督はAIを学んでから脚本を書いていますし、AIの第一人者である松尾さんが監修したとなると単なる娯楽と思えません

入江悠監督(以降入江)僕は人工知能について門外漢だったのですが、 新しいテクノロジーには常に興味を持っていて調べていました。松尾先生の本も読んでいました。そして、AIは今が過渡期なんだと思ったんです。これからの僕たちの社会はどうなっているのだろうと、観客の人たちに一緒に考えてもらいたいと思いました。結論ありきではなく10年後、20年後にどうなっていくのだろうと問いかける意味を持たせました。

── 作中には、少子高齢化の進行や国家予算の不足といった、日本が直面している問題が登場しますし、リアリティがあるからこそ怖いと思いました。

入江こういうパニックもの、サスペンスものって危機感から始まるんですよね。

── ただ、この映画の怖いところはそこだけでなく、暴走して命を奪うAIが登場する映画に、AIの第一人者である松尾先生が監修として参加している部分です。AIがネガティブに捉えられかねないストーリーですよね。

松尾豊先生(以下松尾)最初は心配したところはありました。でも、出来上がってきたものを見たら、いい内容だと思いました。テクノロジーの描写にしても、間違った部分がなくて。多くの作品で間違った描写があるんですけど。

入江本当にありがたいですよね。この映画には扇情的なタイトルをつけたので、監修に入っていただくのを断られたらどうしようと思っていました。

AIは人を殺すのか

── 間違った描写がないということは、AIが実際に人を殺すこともあるということですか。

松尾僕はそこも上手に描写していると思いました。結局、人間が悪いんですよね。AIが勝手に人を殺しているわけではありません。それはどんな犯罪でも同じです。そこを変に誇張しているとか、妄想でなく、技術的にもきちんと伝えていると思いました。

── 優秀な科学者がたった1人で国の医療をコントロールできるAIを作れるものなのでしょうか? 1人で作ったものが、大惨事を引き起こすポテンシャルが怖いです。

松尾映画の中では桐生さんという天才科学者がひとりでAIシステムを構築していましたが、今のGoogle(グーグル)やFacebook(フェイスブック)でもそうなんですが、開発は数百人のチームでやっています。なので、ひとりの人がこの規模のものを作るという点では難しいとは思います。

── 映画のようなリスクがあるのに、おふたりはAIに賛成ですか。

入江これは車の是非を問うのと同じだと思うんです。車の事故はありますが、「車は悪ですか」と聞かれたら…?

── なるほど…!

入江それが今、AIがホットだから問われていることなんですよね。結局、そこは技術の進化と共に発生することなのだと思います。僕が今興味を持っているのがAIなだけで、同じような歴史は繰り返されている。ただ、AIは他と違って、人間の認知や存在論に関わってくるので、一際面白いと思っています。

映画の中の設定で現実に起こりうるのは「ランク付け」

── この作品の展開で、AIに関してあり得ることは何ですか。

入江:人間の格付けですかね。中国ではそういうことが起こっていますよね。

松尾中国ではランク付けが始まっていますね。例えば、赤信号を無視すると顔が表示されるんです。だからみんな信号を守るようになります。すでにスコアリングが始まっているということです。

── 日本もそういう風になるのでしょうか。

松尾それはわかりません。社会の選択なので。

入江以前、松尾先生にお話を伺った時に、自動運転車について聞いたんです。自動運転車の開発はかなり進んでいますし、僕らのイメージとしては近いうちに公道を走れるだろうと思う。でも、そこは社会インフラの問題があるので、開発できたとしても自動運転車が走れるような道を整備しないと走れないんです。

松尾今でも車の事故で多くの人が亡くなっていますよね。自動車がなかった時代に、新たに自動車を導入しようとして、「何千人死にます」となると絶対に導入されません。大きな問題になります。

どの程度まで安全性を高めたら使っていいのか、線引きが難しいんです。自動運転にしたことが原因で死ぬ人は出てきます。一方で、自動運転にしたからこそ助かった人も出てきます。しかし助かった人は見えません。そうなると自動運転にしたから死んでしまった人が注目されて、社会で起用していいのだろうかと議論されるわけです。実際に死んだ人1、助かった人10の割合だとしても、1が注目されるんですね。

入江手塚治虫が描いた空飛ぶ車なんて、どうやって社会に導入されていくのだろうと考えると面白いですよね。

残るアナログ変わるデジタル

── 映画の中に新聞社が出てきますが、そこはアナログに描かれていましたよね。

入江そうなんです。スタッフ間で紙をどう扱うかという話し合いがもたれたのですが、自分はいまだに紙じゃないとダメで。Amazon(アマゾン)のKindleとかありますが、触覚に頼る部分は残るのではないかと考えました。

── 昔ながらでありつつも、そこにAIが入り込んでいるという、妙にリアリティを感じさせるシーンでした。それもあって、どこまでが現実的な話でどこまでが創作なんだろうと考えさせられました。

入江今後iPhoneが登場した時と同様に、とてつもないイノベーションが起こって生活が一気に変化する可能性だってありますよね。

松尾いまだとメガネコンタクトレンズでしょうか。

入江確かに! 今はみんなスクリーンを見るために下を向いていますが、今後はそれがなくなるかもしれないんですね。「歩きスマホ禁止」って言われますが、スマートコンタクトレンズやスマートメガネが一般化すれば、まっすぐに前を見ながら歩きスマホができちゃいます。

AIに管理させるべきでないもの

── 松尾先生が考えるAIに絶対に管理させるべきではない部分はどこですか?

松尾:恋愛だと思っています。

── 恋愛?

松尾マッチングアプリですね。結婚相手は自分の意思で選んだ方がいいとおもいます。

入江それってパラメーターにパートナー選びを委ねない方がいいということでしょうか。

松尾そうです。二人の人が出会って子供を作るというのは、遺伝子プールで多様性を持たせるためにやっているわけです。

ある日、突然隕石が降ってきて平均気温が10度下がるかもしれません。たまたま寒い環境に強い人たちが何%か存在して、その人たちが生き残るということが考えられます。多様性が大切なんです。何かあった時にそういう人が生き残るというのが生物の仕組みなのです。

それを今の社会の価値観、例えば勤勉で社交性があるのが良いという価値観は、今は良いかもしれないけれど、違う環境ではマイナスかもしれません。なので、今の価値観に合わせてペアを作るのではなく、本能のまま、フィーリングでやった方がいいと思っています。

入江なるほど。多様性がなくなっていくんですね。

松尾そうなんです。今の社会では、優秀な子供がたくさんできるかもしれませんが、それは全体としてみれば弱体化しているかもしれないんです。マッチングアプリではAIが使われていますし、成功確率を上げるためにAIに最適化させようという動きはあります。それはあまりよくないな、と思いますね。

── 『AI崩壊』ではAIが医療管理をしていましたが、医療は大丈夫なのでしょうか。

松尾:医療は今の世代だけで終わる話なので、いいんじゃないですか。




このインタビューを通してわかったことがありました。それは、政府にしろ研究者にしろ、何かを導入する段階になると世代単位で考えているということです。

私は「AI管理のマッチングアプリは外れのない人を探せるからGood」だけど、「AI管理の医療は、何かあったら私が死んじゃうかもしれないからNot sure」だと思っていました。でもそれって、人類単位で物事を考えていなかったということなんですね…。『AI崩壊』を見て、インタビューしたら、「私の概念が崩壊」しましたよ。

AI崩壊』はワーナー・ブラザーズ映画配給で1月31日(金)から公開です。

20200115gizmodo_ai_poster
Image: (c)2019映画「AI崩壊」製作委員会


    あわせて読みたい