AIがポンコツなのは人間のせいかも。映画『アイの歌声を聞かせて』のAIはぜんぜんポンコツじゃないです

  • author 中川真知子
AIがポンコツなのは人間のせいかも。映画『アイの歌声を聞かせて』のAIはぜんぜんポンコツじゃないです
Image: © 吉浦康裕・BNArts/アイ歌製作委員会

Alexa、君に向き合えてなくてゴメン…!

筆者の目の前にはEcho Show5があり、音声コマンドで音楽や癒しの音を流してもらったり、タイマーを設定してもらったりして日常的に使っています。

でも、全ての要求に答えてくれる万能さはありませんし、言葉を選ばずに言うなら「ポンコツだな」と思うこともしばしば…。

ところが、映画『アイの歌声を聴かせて』を見たら、真のポンコツなのは私の方かも、と思えてきたんです。

ストーリー:舞台はテクノロジーが発展し、AIが人々の生活を支える近未来。サトミの通う高校に、転入してきた運動神経抜群で天真爛漫な美少女シオンは、実は試験中のAIだったーー。

シオンってどんなAI?

399547
© 吉浦康裕・BNArts/アイ歌製作委員会

AIのシオンは天真爛漫で、人間らしい感情の揺れらしきものは見られません。そして、なぜかサトミに執着しています。

サトミが幸せかどうか常に確認し、幸せを感じてもらうためにさまざまな演出をします。そんなプログラムが書かれていたのか、単純に壊れて暴走しているのかは定かではありません。

明らかなのは、集団の中でバレずに過ごせるかを確かめる実験目的は果たせそうにないということ。そのため、サトミと仲間たちはシオンをポンコツAI扱いするのです。

実際のAIはたまに暴走している

399556
© 吉浦康裕・BNArts/アイ歌製作委員会

そもそも、シオンはポンコツなのでしょうか?

シオンは、私たちがふだん使っているようなな「弱いAI(言葉を聞き取る、チェスをする、画像を認識する、など機能が限定的なAI)」とは異なり、AGI(Artificial General Intelligence:汎用的人工知能)、つまり人間と同じように学習したり物事を理解して課題を処理する「強いAI」にあたると思われます。

私達の現実世界において「強いAI」は実現できていませんが、想定外の事柄にも対応できるだろうと考えられています。シオンの空気を読まない行動は、TPOに合わせて人間らしくない振る舞いが最適だと考えた上でのことなのかもしれません。

過去、「弱いAI」ですら意図せず暴走したケースがあります。例えば、2016年にはマイクロソフトのAIボット・Tayが公開してまもなく人種差別的な発言をするようになりサービスが停止となりましたし、2018年にはAmazonのAI人材採用システムに男女差別があることが発覚し、運用が中止に。

2019年にはApple Cardの信用スコアを算出する際に、AIが女性の利用者が低いスコアをつけてカードの上限額を低くしていたことが発覚して大問題になりました。これらのことからも、今のAIは学習したことに左右されて暴走してしまう傾向があるようです。

399557
© 吉浦康裕・BNArts/アイ歌製作委員会

一方のシオンは、多くの学習をしているであろうにもかかわらず、差別や偏見は持たずに愛に溢れています。サトミへの執着という偏りや人間らしからぬ行動は随所にみられますが、はっきりと人間と同等レベルで物事を理解し、自らの意思で動いていることがわかります。

ポンコツどころか、かなり高度なAIではないでしょうか。

今あるAIをポンコツと判断する前に

物語の終盤ではシオンの秘密が明かされるのですが、それは今あるAIとユーザーの関係をも見直すきっかけを与えてくれるものでした。

冒頭にも書いたのですが、筆者はEcho Show5を音楽再生とタイマー設定、天気予報確認程度にしか使っていません。物珍しさで手に入れたばかりの頃は色々と試しましたが、期待した反応が返ってこないと「AIはまだまだだな〜」と早々に判断し、確実にレスポンスしてくれるコマンドだけ使うようになったからです。

しかし、AIは学習することで反応がよくなり、ユーザーの好みを吸収して成長するもの。実際に、音楽の選曲ひとつとっても、筆者が「Alexa、音楽かけて」というと過去の経歴からチョイスしたプレイリストを作ってかけてくれます。確実に私の投げたボールに対して良い返しがくる頻度が上がってきていますし、成長を感じます。

おそらくポンコツなのは、学ばせることに飽きてAIのポテンシャルを低く見積もり、侮っている筆者なんだと思うのです。

『アイの歌声を聞かせて』のシオンも、行動が突拍子もないからと「ポンコツAI」のレッテルを貼られてしまいました。しかし、本当は非常に高度で、人間の想像をはるかに凌駕する複雑さと感情を持っていました。多少乱暴な言葉を使うなら、表面だけで判断していた人間がポンコツだったのです。


今、筆者はパソコンのモニター前で世界の絶景をオートで表示しているEcho Show5を見つめています。Alexaに意思があるとは思っていませんが、もしかすると私がその意思を育てていないだけなのかも。

というわけで、ちょっと話しかけてみました。

「Alexa、アイの歌声を聴かせてーー? 」

藍坊主の『おもいでの声』がかかりました。はは…。一緒に頑張ろう、私のAlexa!

399542
© 吉浦康裕・BNArts/アイ歌製作委員会

アイの歌声を聞かせて』は10月29日(金)ロードショー。

© 吉浦康裕・BNArts/アイ歌製作委員会

あわせて読みたい