テスラの自律運転AI、ドローンに照射された「幽霊」画像にダマされる

  • 7,975

  • author 岡本玄介
テスラの自律運転AI、ドローンに照射された「幽霊」画像にダマされる
Image: Ben Nassi

どっちかというと『オペラ座の怪人』のファントム(幽霊)だそうです。

ニューラル・ネットワークが信号の色や障害物などを検知しながら走るTeslaの自律運転。Tesla車はLiDER(レーザーを利用した距離センサー)を使わず各種のカメラを使っているのですが、路上や路肩の木々に人物や交通標識をプロジェクター照射すると、それに騙されてしまうことが判明しました。

幽霊にドッキリするTesla車

この研究を行ったのは、イスラエルのネゲヴ・ベン=グリオン大学にある、サイバー・セキュリティー研究センター。彼らは照射された「幽霊」画像を人間だと誤認した車両が、急ブレーキをかける可能性があることを報告しています。

Video: Cyber Security Labs @ Ben Gurion University/YouTube

タキシード姿の幽霊画像はイーロン・マスクが元ですって。

先進運転支援システムの怪人

この研究は「Phantom of the ADAS」と名付けられました。「ADAS」は「Advanced driver-assistance systems」の略で、先進運転支援システムと訳されます。

騙されたのは、搭載カメラの「Mobileye 630 PRO」で、実在しない人物像や車線も誤認しました。ドローンから125ミリ秒だけ照射された画像でも騙されるとあって、悪意のある攻撃でこれをされたら事故に繋がりかねません。

これは訓練不足の欠陥

研究者はこれをバグや脆弱なコーディング、エラーではないものの、本物と偽物を区別するよう訓練されていない機械は欠陥だ、と論じています。また動画にもありますが、「Mobileye 630 PRO」は16cm以上の道路標識を認識してしまう特性を持っています。

もしもですが、車両にイーロン・マスクが嫌うLiDERが搭載されていれば、実体との距離を測定して、真贋を判断できるのかな? と思ったり。

特に都市部では偶然が起こるかも

大都会にはネオンや電光掲示板、巨大モニターなどがあり、地面に向かって店のロゴを照射している店もあります。これが誤認されてしまう可能性はありそうですし、たまたまいくつかの条件が重なれば、車両がホログラムのような人物像を検出してしまうこともあるかもしれません。

それにもしかしたら、心霊スポットでホンモノの幽霊を認識したりして!?

騙された別の例

以前にはマカフィーが速度制限の標識を黒いテープでちょこっとイジり、Tesla車を騙してスピード違反させることに成功したこともありました。そちらのハッキングはTesla車のシステム改善で直りましたが、ちょっとした偶然で自律運転がトラブルを起こしたら恐ろしいですね。まだ新しい技術なのでしょうがないこともあるでしょうけども、完全な無事故無違反はなくならなさそうです。

Source: Ben Nassi via YouTube via SciTechDaily
Reference: Wikipedia

    あわせて読みたい