「自分は犠牲になりたくない」自動運転車の抱える倫理ジレンマ、意見調査でも明らかに

「自分は犠牲になりたくない」自動運転車の抱える倫理ジレンマ、意見調査でも明らかに 1

だれだって自分が犠牲になるのはイヤですよね。

自動運転車の実用化がどんどんとみえてきました。それにともなって現実的な問題として議論に上がりつつあるのは「自動運転車はどんな倫理観を持って、誰を救おうとするべきなのか」という点。

極端な話、「大勢の人を救うために運転手を犠牲にするようにプログラムすべきなのか」という疑問です。ギズモードでも扱ってきました

科学誌「Science」に発表されたリサーチ結果では自動運転車が抱えるこのジレンマが明確になっています。このままテクノロジーが発展すると、自動運転車に人命を救うための"倫理観"をプログラミングする段階がやってきます。その時にどのようなプログラムがより倫理的だと思うかを約2,000人に質問したそうです。

「自分は犠牲になりたくない」自動運転車の抱える倫理ジレンマ、意見調査でも明らかに 2

image and caption credit: J. Bonnefon et al., 2016

1番左の(A)のケースでは、脇の道を歩く1人の通行人か、目の前の複数の歩行者たちのどちらか

真ん中の(B)のケースでは、目の前の1人の歩行者か自動運転車に乗っている人間のどちらか

1番右の(C)のケースでは、目の前の複数の歩行者たちか自動運転車に乗っている人間のどちらか

を自動運転車は殺してしまうことになります。それぞれのケースにつき、どちらがより倫理的な選択か、リサーチの参加者たちは自分たちの意見を述べたそうです。

調査の結果、大多数の人が功利主義的な倫理プログラムで問題がない考えていることがわかりました。「大勢の人の命が救われるなら、1人か2人の命が失われても仕方ない」という考え方です。上の(C)のケースのように「10人の歩行者の命を救うためなら自動運転車に乗っている1人の命を犠牲にする」ように自動運転車がプログラムされても問題がない、と答えたのは参加者の75%にまでのぼりました。

しかし、自分がその自動運転車に乗っている乗客だとしたら...回答は大きく変わるんです。参加者自身が乗客だと考えた場合「10人の歩行者の命を救うために乗客1人を犠牲にする自動運転車は倫理的である」との回答は減少し、全体の3割ほどになったそうです。

さっきは倫理的だって答えたじゃないかー!って突っ込まれそうですが、まあ、わかりますよね。社会全体で犠牲者の数が減るのはもちろん大賛成、でもじゃあ自分が犠牲者になるのかっていうと...それは別問題なわけです。

また、こういった功利主義的なルールを政府が自動車メーカーに強制することに対して、人々は反対することもリサーチの結果でわかりました。少人数を犠牲にして多くの命を救う原理には賛成でも、政府によって強制されるのは嫌だと。政府によるこのような規制を受けた自動運転車を購入したいと答えた参加者の数は、規制を受けない自動運転車を購入したいと答えた人の数のなんと3分の1しかいませんでした。

研究チームは、規制にたいするこういった抵抗感は「安全性を高めるテクノロジーの導入を遅延させ、かえって犠牲者の数を増やしてしまうという矛盾を生む」と警告しています。

カリフォルニア州立理工大学の「倫理 + 科学新分野グループ」のディレクターであるPatrick Linさんは米Gizmodoの取材に対して「人間は考えをコロコロと変えるものだし、自分が何がほしいのか、どんな条件なら満足するのか、自分もわかっていないことがある」と語りました。

「私たちが頭で真実だと信じていることと、私たちが実際に行なうことは全く異なる2つのものであることがあります。口では人のために行動すると言っていても多くの場合人間は利己的です。そのため自動車メーカーたちがハンドルを握る人間をAIやロボットで置き換えようとしても、この人間の抱えるパラドックスをよく理解できないかもしれない」とPatrickさん。

また自分が運転している時にこういった場面にあったとしたら、人は全く合理的でない行動をとることだってあります。机上のテストで「自分はこう行動するだろう」と考える答えと、実際に自分がとる行動は違っていても不思議ではありません。

Patrickさんはこのような研究の有効性についても次のように述べています。

一般人は倫理について深く考えたことがなく、彼らの倫理観が一貫していないことは驚くべきことではありません。倫理と聞くと、ほとんどの人が自分の直感を信じる、ということしか考えません。しかし倫理はそれよりももっと大きなものです。実用的な倫理とは科学的なものであり、法律とガイダンスとなる原理によって補完されるものです。

人間がリスク評価が非常に苦手なことはよく知られています。私たちは飲酒運転をしたり、スマホをいじりながら運転したり、速度制限を大幅に越えて運転をしたり、と挙げたらきりがありません。なので、このような形で一般人から意見を聞いても、理解が足りていない状態での回答を集めているにすぎず、広告やマーケティングといった分野で有益かもしれませんが、法律や倫理という分野でのジレンマを解消するにはあまり役に立ちません。

自動運転車がどのような形で導入されるかは世論の影響を非常に強く受けるでしょう。

たとえばハリウッド映画で、自動運転車が夢のような快適さと便利さを持って描かれていたらそれだけで世間は自動運転車を喜んで迎え入れるかもしれません。もしくは逆に自動運転車による大規模な事故が起きてしまったら、それひとつでテクノロジー全体が存続の危機に陥る可能性もあります。そういった意味でも自動運転車メーカーたちは慎重にならなければいけません。

今回の研究の共著者でもある、マサチューセッツ工科大学(MIT)のIyad Rahwan教授は「今回集まった意見が長続きするという保証はない」と言います。人々が自動運転車についてもっと多くを知るにつれて意見は変わる可能性があるとのこと。私たちが自動運転車についてより多くを学びながら、どのような倫理プログラムを組み込むべきか議論していく必要がありますね。

image by pathdoc / Shutterstock.com

source: Science

George Dvorsky - Gizmodo US[原文

(塚本 紺)