プライバシー強化技術の紹介動画「A day with PETs」

本ページでは、動画内で言及されていた4つの技術
（フェデレーテッド学習、差分プライバシー、秘密計算、ゼロ知識証明）
の詳細や動画内での使われ方等についてご説明します。
 

フェデレーテッド学習は、データセット自体を共有することなく、あたかも共有したかのような機械学習モデルの学習効果を獲得できる技術です。動画の5:19〜5:55において、ユーザーの端末内にある写真データから、健康状態を分析するためにフェデレーテッド学習が用いられていました。

フェデレーテッド学習では、まず、アグリゲータ（モデルの統合を担当する機関、動画では健康保険組合）がモデルを準備し、それをクローンしたものを各ユーザーの個人端末に送信します。

この送信されたモデルが各ユーザーの端末内で各ユーザーの写真データを利用した分析を各々独立に行います。そのため、各ユーザーは個人の端末でモデルの出力結果を、健康保険組合等に送信することなく、そのまま利用することができます。

また、各ユーザーの端末内で行なった処理から、さらにモデルの性能を向上させるため、モデルの改善に必要なパラメータのみをアグリゲータに送信します。このパラメータから各端末内の写真データを復元することはできません。その後、アグリゲータは各端末から受信したこれらパラメータを用いてモデルの性能を改善させ、再度クローンを各個人端末に送信します。

この仕組みによって、学習元データを保護したまま、データ分析とモデルの性能向上が可能になります。

差分プライバシーは、分析対象データまたは分析結果にノイズを加えることにより、プライバシーを保護しながら分析する技術です。動画の3:10〜3:35において、広告リコメンドのために差分プライバシーで保護されたデータを利用していました。

差分プライバシーではユーザーが保有する機微情報にノイズを付加することで、ユーザーのプライバシーを保護することができます。この付加されるノイズは、データ分析の内容や精度と保護するプライバシーのレベルとの兼ね合いで調整します。これにより、データの利用目的に対する影響を抑えつつ、個々のユーザーが保有するデータのプライバシー保護を数学的に保証できます。

秘密計算はデータを暗号化したまま分析できる技術です。動画の4:00〜4:24において、人材マッチングにおいて、マッチングの計算を秘密計算にて行うことで、顧客データを保護していました。

通常の暗号化では、暗号化された状態で計算することはできません。秘密計算は、暗号化された状態のままでも、計算が行えるような機能を備えた暗号です。

通常の暗号化では、ユーザーのデータを暗号化したまま転送したとしても、マッチング処理等の計算を行う時にはそれを復号しなければならず、復号して処理を行っている最中のシステムに対して、外部の攻撃者からのハッキング等があった場合には、攻撃者に内容を知られてしまいます。

一方で、秘密計算の場合は、ユーザーのデータを暗号化したのち、これを転送する時も、マッチング処理等の計算を行う時もそれを復号する必要はありません。従って、万が一、上記と同様の手法により、攻撃者に計算途中のデータを盗まれた場合にも、これを復号するための鍵を持たない攻撃者は内容を知ることはできません。

ゼロ知識証明は、データそのものを明かすことなく、当該データがある条件を満たしていることを検証できる技術です。動画の1:59〜2:50 において、個人の端末内にある機密データを加工して、加工後のデータのみをレンタカー会社に提出していました。

ゼロ知識証明を実際に利用する一例として、企業がユーザーの端末（スマートフォン等）に保管されているデータを分析したいが、ユーザーは実際のデータを当該企業へ開示したくない状況があります。ゼロ知識証明を利用することにより、企業は、ユーザーのデータを得ることなく事前に指定した方法でこれらを分析できます。

ユーザーはゼロ知識証明を利用して証明を生成します。この証明は、企業が事前に指定したユーザーのデータおよび方法で分析した事実を保証します。ユーザーはデータを分析した後、その結果と生成した証明を企業へ送り、企業はこの証明を利用することにより、その分析が事前に指定した方式によるものであることを検証できます。
 

このような仕組みを利用することで、企業はユーザーから分析対象データそのものを受け取らなくても、ユーザーの端末内にある分析対象データから得られる分析結果をビジネスに利用することができます。

デロイト トーマツは、PETsに関する調査研究を積極的に行い、論文やレポート、書籍（※1）を執筆するほか、セミナー（※2）を開催し、PETs周辺技術の発展に貢献してきました。データが本来帰属するべき主体の権利を守りながら、データの持つ価値を解き放つことで、一層豊かな事業活動や生活ができる時代の実現に向けて、デロイト トーマツは今後とも産官学金の連携を促進し、研究から実装まで幅広く貢献して参ります。

※1 「ゼロ知識証明入門」 有限責任監査法人トーマツ、2021年3月、翔泳社
※2 Webinarシリーズ:次世代データ活用とプライバシー強化技術2021年6月9日(水) ～2021年8月31日(火)