Posted: Sep 09, 2019 3 min. read

待ったなし。AIプロファイリングで生じるリスクへの対処

AI技術の進化によって、個人の属性データや行動履歴データから、その人固有の嗜好や思惑を推定する「プロファイリング」が発展した。うまく利用すれば、顧客に最適化されたサービスを提供でき、企業と顧客の双方にメリットをもたらす一方で、企業のみに利するような使い方をすると、顧客との信頼関係を揺るがしかねない問題に発展することがある。最近でも、求職者個人の行動履歴などから推定される内定辞退率の販売が問題となった。技術革新による個人データ利活用は日々進んでおり、様々な企業で他人事ではない。

AIによるプロファイリングで生じるリスクを低減するために何が必要か――。

まず、1点目は、企画段階から法的、倫理的な観点でレビューする仕組みだ。近年では企業においてAIの実用可能性を評価するためにPoC(Proof of Concept)といった形式で各部門が独自に取り組み始めることも多い。様々な部署がAIを利用するようになったため、その使われ方を第三者的な観点からレビューを行う全社的なルールと組織が必要だ。特に、現時点では規制が成熟化しておらず、AIプロファイリングに関わる法規制だけ遵守すれば社会的追及を受けないというわけではない。企業としての顧客への姿勢や社会情勢も踏まえたルール作りが求められる。

2点目は、データ提供者である顧客たちとの、AIプロファイリングに関する継続的なコミュニケーションだ。つまり、データ取得の際に説明する「利用目的」について、これまではできる限り汎用的なものを指定し、一度取得したデータを多様な目的で再利用できるようにすることが一般的であった。しかし、最新のAI技術は顧客の機微な情報も推定できると社会的不安が高まっており、従来のコミュニケーション方法では不十分である。顧客の不安を払拭し信頼関係を維持するためには、AIの使われ方を具体的に説明しながら、継続的に利用への同意を確認する、新たな顧客とのコミュニケーションスタイルが必要となるだろう。

AIによるプロファイリングはビジネスに大いに資するものの、それを利用するためには大きな責任が伴う。そのことを認識し、しっかりとした責任を果たせる、いわば「AIガバナンス」の体制を構築することで、自信をもってAIの活用へと邁進する日本企業がこれから増えていくことを期待する。

 

関連するリンク

▼日本企業におけるAIのビジネス実装の勘所https://www2.deloitte.com/jp/ja/pages/deloitte-analytics/articles/ai-business-application.html

 

▼人工知能(AI)とリスクマネジメントhttps://www2.deloitte.com/jp/ja/pages/deloitte-analytics/articles/ai-risk-management.html

 

D-nnovation Perspectives その他の記事はこちら

D-NNOVATION スペシャルサイト

社会課題の解決に向けたプロフェッショナルたちの物語や視点を発信しています

プロフェッショナル

立脇 裕太/Yuta Tatewaki

立脇 裕太/Yuta Tatewaki

デロイト トーマツ グループ スタッフ

有限責任監査法人トーマツ ビックデータ及びクラウドのアーキテクトとして、データ分析プラットフォームのサービス化や企業のデータ活用を推進。現在はデータ分析に関わるコンサルティングに従事しつつ、高度化したAI活用がもたらすリスクへの対策方法である「AIガバナンス」の研究を主導。機械学習モデルの解釈性や頑健性の向上といったテクニカルな分野だけでなく、データ・AIに関するプライバシーや法規制に関する研究に