音楽に隠されたサブリミナルメッセージで、SiriやAlexaは操ることができる

  • author scheme_a
音楽に隠されたサブリミナルメッセージで、SiriやAlexaは操ることができる
Image: Zapp2Photo / Shutterstock.com

スマートスピーカーに怪奇現象を起こせそう…。

とあるコンピューター科学の生徒たちで構成されたチームは、音楽にサブリミナルな音波信号を隠すことで、スマートスピーカーなどの音声コマンドに反応するデバイスを、密かにコントロールすることに成功しました。

先日New York Timesで報じられたところによると、カリフォルニア大学(U.C.)バークレー校及びジョージタウン大学の生徒たちは、スマートスピーカーを出し抜く実に恐ろしい研究を発表しました。

チームは、人間には聞き取ることのできないサブリミナルコマンドを、心の休まるホワイトノイズに埋め込みました。人間には何の変哲もなく聞こえますが、SiriやAlexaは反応してしまうというわけです。研究では、デバイスを飛行機モードにしたり、ウェブページを開いたり、ショッピングリストにこっそり商品を追加することが可能でした。

Video: guoming zhang/YouTube

「できることを証明したかったんです」とTimesに語るのは、U.C.バークレー校の博士課程学生であり、論文の執筆者の一人でもあるNicholas Carlini氏。「そうすることで、企業に警鐘を鳴らして問題を解決して欲しかったのです」。

昨今、家庭のスマートホーム化が進み、それらの管理をスマートスピーカーに任せる人も少しずつ増えてきました。そんな中、家で流している音楽が原因で、急に家のドアのロックが解除されたり、照明が勝手に消えたりしたらと思うとかなり恐ろしい…。

ここで一つ重要なのは、SiriやAlexaは「ハック」されているのではなく、「騙されている」ということです。プログラムを強引に改変されたのではなく、それ自体は仕様通りに動作しているわけですね。サイバーセキュリティの専門家たちは、AIが騙されて間違った認識を行なう危険性を「adversarial example(敵対例)」と呼んでいます。他の例としては、メイクアップやメガネなどを使って顔認識システムを騙したり、標識にカモフラージュを施すことで自動運転車に誤認識させるなどもこれにあたります。

スマートスピーカー自体ができることはまだ限られているので、銀行口座や家の金庫まで任せ始める前にちゃんと対策して欲しいですね。


Image: Zapp2Photo / Shutterstock.com
Source: New York Times

Sidney Fussell - Gizmodo US[原文
(scheme_a)

gather round 特集ページ

あわせて読みたい

powered by

こちらもおすすめ