モダンホラーな脅迫。
AIが作り出した画像、文書、ディープフェイクな画像・動画が溢れている今日この頃。大統領や有名人のフェイク動画は出るたびに話題になります。一方、話題にならないところで脅迫に怯えるひとたちも。ネタ元、Viceの報道によれば、声優をしている人たちの一部に｢自分の声｣で脅迫音声が届いているというのです。もちろん本物の｢自分の声｣ではなく、ネットにアップされている自分の声を元にAI生成された｢自分の声｣なのですが。
実際に自宅住所を晒された人も
Doxxing攻撃（個人情報晒すぞ？という脅迫）のターゲットにされていると報道されたのは、主にポッドキャストやYouTubeなどでも配信をしている声優の人たち。米Gizmodoが一部の被害者に取材したところ、『Fallout 4』でも声優を担当しているZane Schachtさんと、インディーズ系ゲームやアニメで声優をしているTom Schalkさんが、体験談を語ってくれました。
Schachtさんは、Twitterにフェイク音声をポストされ、人種差別的暴言とともに自宅住所を晒されてしまったといいます。現段階では、自分の声に寄せているだけでそっくりとはいかなかったそうですが、今後さらに精度があがり、いよいよ自分の声と瓜ふたつとなった時は法的処置を考えているといいます。
ふたりいわく、自分たち以外にも同様の被害を受けている声優がいるということですが、どうやらAI生成音声について不安や懸念、反対意見を述べたことのある、声のお仕事系の人が狙われているようです。
使用されたのはVoice Labソフトウェア
一部報道によれば、AI生成音声にはElevenLabsのVoice Labソフトウェアが使用されていたそう。Voice Labは、クローン音声を作り、テキストを読み上げさせることができます。過去に、これを使った有名人にセクハラ・人種差別フェイク発言が問題となり、今ではVoiceLabソフトは課金ユーザーのみへの公開となっています。
Schachtさんいわく、AI生成音声技術が向上することで最も恐ろしいのは、自分が言っていないはずの発言で人から誤解されてしまうことだといいます。
コンピューターのプログラムを使って誰かの声を奪い、編集してしまうなんて極悪卑劣な行為です。ファンタジー世界の悪夢みたいですよ。人間の声って本当に美しいものなのに…。
ソフトウェア制作会社も憤慨中
米GizmodoがElevenLabsにメール取材したところ、ElevenLabsも不当にサービスが利用されていることを把握しており、それをいっさい許容しない姿勢で対応に臨んでいるといいます。
テキストから音声を生成するソフトウェアが不快なコンテンツ作りに使われてしまっていることは把握しており、これは我々の技術の誤った使い方です。我々のソフトウェアを使って作られたコンテンツはすべてこちらで確認できるようになっており、調査も行なっています。
ただ、今回問題となっている音声のひとつは、我々のソフトを使ったものではありませんでした。
Doxxing攻撃を受けた人の中には、TwitterのDM経由でElevenLabsから謝罪文が届いた人もいるようです。
ElevenLabsが他のソフトの使用があったと指摘する通り、AIで音声を作ることができるソフトは、UberDuck、FakeYou、Storytellerなど他にもあります。
ドクター・エッグマンの声で知られる声優のマイク・ポロック氏は、次々とYouTubeにアップされるドクター・エッグマンのフェイク音声に辟易。UberDuckやFakeYouに連絡し、偽音声の取り下げ依頼を出しているそうですが、それでは追いつかないのが現状。｢やめてねって丁寧にお願いするしかないのか？｣と、Twitter上でもAIディープフェイク音声の取り扱いをどうすればいいか議論を投げかけています。
Schalkさんは、声優の労働組合など団体がAI生成音声関連企業と話し合いをもつべき時期が来ていると語っています。また、AI生成が進むことで、ある程度キャラを演じたら声優不要（続編からはAIでやる）とならないような対策（声の著作権）も進めていく必要があると指摘しています。
