Posted: 11 May 2022 3 min. read

「AIの信頼」に向けて、提供者・利用者が共に関わる

AIとそのサービスの「信頼」獲得のための多層的アプローチ(後編)

AIは発展が期待される一方で、信頼獲得が課題になっています。課題解決に向けて、開発、サービス提供、サービス利用の異なる階層(レイヤ)における枠組み(アプロ―チ)が、同時に推進され、相互に補完し合うことが必要です。3つのアプローチのうち前編では開発者に関わる「信頼できるAIの原則」を説明しました。今回はより広範な人々が関わる、「サービスの中に組み込まれたAIのリスクコントロール」、そして「ユーザー視点での保証されるべき権利」といったアプローチについて紹介します。

※前編はこちらからご覧ください。

AIとそのサービスの「信頼」獲得のための3つのアプローチ

サービスの中に組み込まれたAIのリスクコントロール:実務上のユーザーとのインタラクションを踏まえた現実的なアプローチ

AIが単体で信頼されるものとして機能する上での設計原則や機能要件は、開発における「信頼できるAIの原則」のアプローチの領域です。しかしそれはAIそのものの製品としての品質保証とその活用における心構えというもので、それだけでは不十分です。実際には、多くのケースにおいては、AIはシステムやサービスの中の一部の機能として組み込まれ、エンドユーザーに価値を提供しています。AIが用いられているサービス全体のリスクを分析し、サービス提供者、ユーザーのそれぞれの留意事項を踏まえた上で、運用要件やユーザーコミュニケーション上の論点も明らかにする必要があります。

このようなテーマに応えるべく、東京大学とデロイトトーマツが共同で、「リスクチェーンモデル(RCModel)」というモデルを開発しています。これは、様々なAIサービス提供の形態の存在を踏まえつつ、AIサービス提供者が自らのAIサービスに係るリスクコントロールを検討することを助ける枠組みとなっています。AIを用いるサービス全体のリスクを分析する視点を与え、AIの技術的構成要素に加え、サービス提供者の行動規範、ユーザーの理解・行動・利用に関する論点の明確化に活用することができます。

参考) https://ifi.u-tokyo.ac.jp/news/7036/
 

ユーザー視点での保証されるべき権利:最新の論点に着目したアプローチ

昨今、デジタル時代におけるプライバシー保護の気運を受けて、例えば、EUを中心にいくつかの国で、「透明性」「選択」「コントロール」というユーザー原則が打ち出されています。これはそれぞれ、「AIの判断過程がユーザーに公開可能か」、「ユーザーがAIの利用を選択できるか」、「ユーザーが自分のデータをコントロールできるか」を意味します。MicrosoftやGoogle等の企業もこれら3つの原則を満たす形でのデジタルマーケティングの運用やAIの適用を始めています。

現代のプライバシーに関する不安は、デジタルサービスの裏側で一体何が起きているのかを把握し自分自身で選択してコントロールしたいというユーザーの意識につながっています。前述のユーザーとのコミュニケーションという観点をこえて、このようなユーザーの根源的ニーズの変化にきちんと応えれるかどうかも、信頼できるAIとサービスの実現には欠かせなくなっているといえるでしょう。

以上、AIの信頼獲得に必要な3つのアプローチについて前後編で紹介しました。このような多層的なアプローチを実施することは、企業にとっても多くのメリットがあります。例えば、ユーザーは、AIが適切な判断をしていることや企業がAIに対して厳格なガバナンスを実施し説明責任も果たしていることを知り、信頼できるようになることで、製品やサービスの顧客体験やエンゲージメントの向上につながります。また、AIのリスクコントロールへの理解とその成熟を通して、企業はAIの活用をより推進していくことができ、そのポテンシャルを最大化していくことができます。加えて、ステークホルダーを巻き込んだAIの戦略的活用とガバナンスの実現につながります。

AIは今後ますます社会の隅々で使われていくことでしょう。企業や私たち一人ひとりが、AIの多層的なアプローチの必要性と意義、そして、その実務的な価値を認識して、歩みを進めておくべきです。信頼できるAIとそのサービスを共に目指すことで、将来におけるその果実を分かち合うことができるのです。

プロフェッショナル

森 正弥/Masaya Mori

森 正弥/Masaya Mori

デロイト トーマツ グループ

デロイト トーマツ コンサルティング 執行役員 外資系コンサルティング会社、グローバルインターネット企業を経て現職。 ECや金融における先端技術を活用した新規事業創出、大規模組織マネジメントに従事。世界各国の研究開発を指揮していた経験からDX立案・遂行、ビッグデータ、AI、IoT、5Gのビジネス活用に強みを持つ。CDO直下の1200人規模のDX組織構築・推進の実績を有する。2019年に翻訳AI の開発で日経ディープラーニングビジネス活用アワード 優秀賞を受賞。 東北大学 特任教授。日本ディープラーニング協会 顧問、企業情報化協会 AI&ロボティクス研究会委員長。過去に、情報処理学会アドバイザリーボード、経済産業省技術開発プロジェクト評価委員、CIO育成委員会委員等を歴任。 著書に『クラウド大全』(共著:日経BP社)、『ウェブ大変化 パワーシフトの始まり』(近代セールス社)、『大前研一 AI&フィンテック大全』(共著:プレジデント社)がある。 記事:デロイトデジタル「新しい世界へのマーケティングは、人とAIのコラボレーションによりもたらされる」 関連サービス ・ カスタマー・マーケティング(ナレッジ・サービス一覧はこちら) >> オンラインフォームよりお問い合わせ