Appleは私たちの個人情報を使って実験をしようとしている? iOSが導入する「Differential Privacy」

Appleは私たちの個人情報を使って実験をしようとしている? iOSが導入する「Differential Privacy」 1

Appleはプライバシーに対して、これまでと真逆の立場を取るのでしょうか?

AppleはWWDCで、iOSに搭載される多数の新機能を発表しました。

変換予測ソフトウェアのQuickTypeや強化されたSpotlight検索などの登場で、今後Appleの人工知能は多くのユーザーのデータを一斉に解析する必要が出てきます。そこでAppleは、「Differential Privacy(ディファレンシャル・プライバシー)」と呼ばれる技術を導入します。しかし、暗号技術に詳しい専門家は、この実験的な技術を実用化することに疑問を抱いているようです。

Appleのソフトウェアエンジニアリング担当の上級副社長クレイグ・フェデリギ氏は、今回のWWDC 2016にてこう述べています。

ソフトウェアをより賢くするために必要なのは、複数のユーザーのデバイス使用パターンをより多く見つけ出すことです。ディファレンシャル・プライバシーは、統計学やデータ解析の分野のリサーチトピックであり、ハッシングやサブサンプリング、ノイズ・インジェクションを用いることで、個人情報を、完全に匿名性を保ったまま解析することを可能とします。

つまりAppleは、ユーザーから集めたデータ群に偽物のデータを加えることで、個人を特定するのが困難になるようにしているのです。

ここで注目したいのは、ディファレンシャル・プライバシー技術がリサーチトピックと呼ばれている点です。

ジョンホプキンス大学の暗号学教授であるMatthew Green氏は、この技術がじゅうぶんな実験を行なっていないどころか、危険であると考えています。WWDC 2016の最中、Green教授はこのAppleのディファレンシャル・プライバシーについてのツイートを投稿しました。

多くの人々は理論を立て実行へと移し、その後に広く展開していきます。しかしAppleはディファレンシャル・プライバシーを実用化するうえで、間のステップを飛ばそうとしているようです。

もちろん、Appleのディファレンシャル・プライバシーが安全なのかどうかは、Appleがこの技術をどの程度まで用いようとしているかによって変わってきます。今のところAppleは詳細について、まったく明かしていません。これまでAppleはすべての個人情報を持ち主のデバイス内に保存していましたが、新しいiOSの機能は個人情報を1カ所に集めて解析しようとしています

この点について、Appleは米Gizmodoにこのように説明しています。

iOS 10からAppleはディファレンシャル・プライバシー技術を用いることで、個人のプライバシーを侵害することなく、多くのユーザーのデバイス使用パターンを発見するのに役立てようとしています。個人の特定を防ぐため、ディファレンシャル・プライバシーでは個人の使用パターンの小サンプルを取り、数学的ノイズを加えます。より多くの人々が同じパターンを有すると、一般的なパターンが見えてきます。それを活用することがユーザーエクスペリエンスの向上へとつながるのです。iOS 10においてこの技術は、QuickTypeや絵文字の予測変換、Spotlightのディープリンク予測、Notesアプリの辞書機能の改善に使われるでしょう。

そしてGreen教授はGizmodo対し、以下のように述べています。

ここで疑問なのが、どのようなデータに、どのような値を加え、そしてそれらで彼らが何をしようとしているかという点です。ディファレンシャル・プライバシーはとても優れたアイディアではありますが、私は今までこれが実際に使われるのを見たことがありません。つまるところ、この技術では集めたデータの正確性と、プライバシーがトレードオフの関係にあります。プライバシーがより確実になるにつれ、データの正確性は失われます。私が今まで見たトレードオフは、どれもそれほどよいものではありませんでした。再度になりますが、私は今までこの技術を実際のプロダクトで使った例を見たことがないのです。よって、もしAppleがこの技術を使うとすると、彼ら独自の実装を行ない、彼ら自身ですべての決断をしたということになります。

ディファレンシャル・プライバシー技術を開発したのち、Appleはペンシルバニア大学コンピュータサイエンスの准教授であるAaron Roth氏にこの技術を見せています。アップルがWWDCの最中に見せたコメントでは、Roth氏は賞賛こそしているものの、その内容は釈然としません。

Appleは私たちの個人情報を使って実験をしようとしている? iOSが導入する「Differential Privacy」 2

ディファレンシャル・プライバシーを広くAppleの技術に取り入れることはヴィジョナリーであり、テクノロジーカンパニーの中でもAppleがプライバシーのリーダーであるというはっきりとした立場を示しています。

結局のところ、実際にこの新しい技術がどの程度ユーザーのプライバシーを担保できるのかは、Appleが詳細を明かすまでわかりません。しかし、Appleが自らのソフトウェアを今まで以上にオープンにしようとしているということは確かです。また、たくさんのハッカーたちがこれまで強いとされてきたセキュリティを破ろうと試みるのも明らかではないでしょうか。

Appleは私たちの個人情報を使って実験をしようとしている? iOSが導入する「Differential Privacy」 3

source: Apple

William Turton - Gizmodo US[原文

(kazoomii)