「AIの信頼」に向けて、3つのアプローチを同時進行

AIの華々しい発展が希求される一方で、処理過程のブラックボックスや、データバイアスに伴う公平ではない判断や出力結果といった信頼性や信ぴょう性に関する懸念が課題視されています。AIの処理過程やデータの偏りを説明する方法論として、説明可能なAI、Explainable AI（XAI）という解決策も生まれました。しかし、技術面を中心とした説明可能性の確保だけでは、AIにまつわる全ての懸念やリスクがなくなるわけではありません。AIの利活用が多岐に亘り社会で実装されるには、AIに関わる人々がそれぞれの場面で、信頼されるAIやそのサービスの実現を目指していくことが必要です。

そういった動きは既に始まっています。AIの信頼獲得の観点から、開発、サービス提供、サービス利用の3つの異なる階層（レイヤ）で、解決に向けた枠組み（アプローチ）が提示され、実行されてきています。それらは具体的には、開発者に関わる「信頼できるAIの原則」、サービスの提供者と利用者に関わる、「サービスの中に組み込まれたAIのリスクコントロール」、最後に「ユーザー視点での保証されるべき権利」の3つであり、同時に進められ、相互に補完し合うことでAIの信頼が獲得されていくと考えます。

信頼できるAIの原則：AIの設計原則やAIが備えておくべき機能的な要件

「信頼できるAIの原則」はAIが様々な技術や製品に応用されていき、社会で活用されていくことを想定して主に開発に際して求めることです。AIに関する透明性や説明可能性を確保し、公正・公平でない活用を防止すべく、ELSI（倫理的・法的・社会的影響）に考慮した開発上の原則や指針であり、多くの組織・団体によってまとめられています。AIの安全性を研究する非営利団体 Future of Life Instituteによる「アシロマ 原則」や、Microsoft や Google によるAI原則はよく知られています。

デロイトでは、公平性・透明性・説明可能性に加えて、頑健性（ロバストネス）やセキュリティ、プライバシー等の観点も踏まえた「Trustworthy AI」というフレームワークを開発しており、これに準拠したAI開発のためのプラットフォームの提供も行っています。

参考） Trustworthy Artificial Intelligence (AI)™ | Deloitte US

「信頼できるAIの原則」は、社会や人とAIの関わりについてあるべき原則を考えていくことでもあり、こういった動きは、60年近い開発の歴史があるAIそのものの歴史に比べて、まだ始まったばかりです。今後、いくつかの国際的なイニシアティブや標準を通じて収れんされていくことが予想されます。

後編ではサービスの提供者と利用者のインタラクションにおける現実的な課題への対応や、ユーザーの意識に焦点を当てたアプローチについて紐解いていきます。