Posted: 05 Jan. 2022 10 min. read

リスクマネジメントの未来

Deloitte AI Partners│vol.2

Deloitte AI Institute(以下、DAII)は、グローバルで約6000人が所属している、AIの戦略的活用およびガバナンスに関する研究活動を行うプロフェッショナルネットワークです。国内外のAI専門家やデロイト トーマツの様々なビジネスの専門家と連携することで、AIによるビジネスや社会の変革と、人々に信頼されるAIの実現を支援しています。

本連載「Deloitte AI Partners」では、デロイト トーマツにおける各領域のリーダーとの対話を通して、AIを単なるビジネスやサービスを強化するだけの道具という位置づけから、多様なステークホルダーに価値をもたらす全く新しいビジネスモデルやエコシステムを実現するエンジンへと進化させるためのヒントをお届けします。

今回は、リスクアドバイザリー事業本部 デロイトアナリティクス・パートナーの神津友武にリスクマネジメントの未来について話を聞きました。

森: DAIIでは、「AIの戦略的活用」と「AIガバナンス」をテーマに掲げています。神津さんのチームで実施したAIガバナンスサーベイやグローバルでも実施している各種サーベイから、AIに関する企業の意識の変化が見えてきています。AIを不良品を発見したり在庫を最適化したりするといったピンポイントのツールとしてではなく、もっと大きなインパクトのあるソリューションとしてとらえ、積極的に用いようと考える企業が増えています。AIの持つポテンシャルを活かし、ビジネスプロセスやビジネスモデルの変革、ビジネスパートナーや顧客との関係を変える等、次のステージに進むための戦略的活用が重要であるという認識が広がっているように感じます。
一方で、AIを活用するためのデータが自社にない、プロセスが整備されていない、人材がいない、リスクがコントロールできているのか分からないなど、マネジメントやガバナンスの欠如についても議論され始めているという状況もあります。ここら当たりの状況や課題も踏まえながら、リスクコントロール、リスクマネジメントなどに関して本日は伺いたいと思います。神津さん、始めに簡単に自己紹介をいただいてもいいでしょうか。

神津:まず私のプロフィールから説明します。私はもともと金融機関を中心にサービス提供を行っており、金融工学の数理モデルを使って新しい金融商品を開発したり、定量的リスク管理などを行ったりしてきました。現在は、そこで培ったデータ分析のノウハウを利用して、事業会社や官公庁などのデータドリブン変革のご支援をしています。業務内容は、リスク管理やマーケティング、需要予測、サプライチェーン分析など多岐に亘っています。また、機械学習技術やAI技術を使って新しいアルゴリズムを開発したり、ビジネスに活用したりすることを目的とした研究開発組織もリードしています。ここ10年ほどで、企業には多くのデータが集まるようになり、データに基づいた意思決定ができるのではないかという動きが顕著になってきました。企業が高品質のデータを使えるようになり、状況が大きく変わってきたのでしょう。それに加え、AI技術が発展して数理モデルの技術も大きく変化しています。

金融やマーケティングという領域では、以前からデータ活用が進んでいました。たとえば、既に1980年代には信用リスクを判断するための「与信」に対し、数理モデルが活用されていました。それ以前は人間が審査していましたが、それを数理モデルで判断できるようになったのです。当時の与信モデルの精度はまだ低かったのですが、人による審査をアジャストする仕組みを組み合わせて信頼性を向上させ、90年代には当たり前のように使われる仕組みになりました。さまざまな議論を通じてモデルをブラッシュアップしたことで、デファクトスタンダードとして活用されています。

現在、AI技術を使うことで、与信モデルの精度をさらに向上させる取り組みが進んでいます。しかし精度が上がっても、「どうしてそういった判断をAIが行ったのか、その理由がわからない」といった状態では、この判断で正しいのかどうかを判断することができません。そのため、AIの説明可能性の議論が進んでいます。

森:以前の人が与信業務を行っていた仕組みにおいては、そのプロセスが明確でした。そのため、プロセスをチェックすることでコンプライアンスやガバナンスを効かせることができました。そういう観点から言うと、AIの説明可能性に加えて、AIに対してどうガバナンスを効かせるかといったことも重要なテーマになりますね。

神津:確かにAIを使ったモデルはプロセスを追うことが困難なため、出てきた「結果」からも検証をしていくことが必要になったというのは大きな変化だと思います。
そうなると、「結果」を中心にどう判断すればいいのかという議論になります。大規模な金融機関の場合、AI技術の知見を持つ人材を審査部や内部監査部に配置できます。しかし中小規模の金融機関では、そういった人材を配置できません。そのため、AIに関するガバナンスを効かせることができないことが課題になっています。

森:海外と国内とでは状況は違うのでしょうか。

神津:まずガバナンスという点では3ラインディフェンスが重要と言われています。フロントとなる営業部員で最初のコンプライアンスを効かせ、管理部門でもチェックし、最後の砦となる内部監査部門でチェックを行うことで、内部統制を強化・推進していくという考え方です。海外では、フロントや管理部門にも多く技術が分かる人材が多く配置されていますが、日本では、そういった人材の絶対数がまだまだ足りていないです。そのため3つのディフェンスラインに適切な人材を配置できていないのが問題なのだと思います。

森:なるほど。人材の厚みが異なるということですね。それは実際に企業支援をしていても感じます。また、欧州ではAIガバナンスに関する指針の話題が活発になっており、個人情報に関してもかなり議論が進んでいますね。

神津:個人情報は、海外ではかなりセンシティブな話題ですね。AIを使ったモデルでは、学習もとになったデータによっては人種やジェンダーなどで判断されている可能性が否定できないものもあります。もし与信に関して人種やジェンダーなどで判断されてしまったとしたら、それは大きな問題に発展します。最近では、どの項目が判断に影響したのかを後から判定できるアルゴリズムも登場していますが、十分なモデルはまだ開発されていません。

森:インターネットサービス企業などでも「顔認識技術」の使用を停止するといったアナウンスもされていますね。これも人種やジェンダーバイアスによる差別を強化しかねないことを危惧した対応といえます。技術に何を使うのか、あるいはどうやってコントロールして行くのか、アカウンタビリティをどうやって果たすのかということは、今まで以上にクリティカルなテーマになってくると思います。
その一方で、新しい技術のリスクを過大評価してしまうことでその技術が一切使えなくなり、成長戦略から離れてしまうのも望ましくありません。そういうことを考えていくと、AI人材をいかに獲得していくのかという点がとても大切です。人材を厚くしていけば、きちんと新しいテクノロジーを使っていけるのですから。

神津:攻めの人材に加えてリスクマネジメントなどの守りの人材も必要不可欠でしょう。守りを固めておかないと足元を掬われてしまい、AIのシステム自体が使えなくなることもありますからね。

森:ESG投資という観点からもリスクマネジメントは重要です。たとえば、顔認識技術の使用に関しては国内ではさほど問題になっていませんが、海外の機関投資家からは問題視される可能性もあります。たとえ国内企業であっても、グローバルでテーマになっている事柄については、どういったことに気をつけるべきか敏感である必要があると思います。

森 正弥/Masaya Mori デロイト トーマツ グループ パートナー。Deloitte AI Institute 所長。グローバルインターネット企業を経て現職。eコマースや金融における先端技術を活用した新規事業創出、大規模組織マネジメントに従事。世界各国のR&Dを指揮していた経験からDX(デジタル・トランスフォーメーション)立案・遂行、ビッグデータ、AI、IoT、5Gのビジネス活用に強みを持つ。日本ディープラーニング協会 顧問。

 

説明可能性が高いレベルで必要になる

森:最近ではプログラムが状況を判断し、自動的に取引・執行するアルゴリズムトレーディングもよくみられるものになりました。AIを使った複雑なアルゴリズムも登場しています。監査などでは、AIがどう判断したのかという評価が求められると思いますが、こちらはどのような状況になっているのでしょうか。

神津:確かに監査でもアルゴリズムの判断について評価が求められます。情報システムや運用体制などを全部見る形にはなっていますが、自動執行に対して、どのようにガバナンスを効かせていけばいいのかという点については議論が必要な領域だと思います。
また、アルゴリズムで運用が失敗した場合、投資家に対してどう説明をするのか、誰が責任を取るのかといった問題が残ります。これは自動車の自動運転などでも同様ですが、意思決定がうまくいかなかったときの説明や責任の取り方は大きな問題です。

森:説明可能性が高いレベルで必要になることはもちろんですが、その一方で「知財」の問題も出てきます。説明可能性を上げるため、優位性についてもオープンにしてしまうと、アルゴリズム取引を行う意味がなくなってしまう。様々な論点でどうバランスを取っていくのかという観点も重要です。

神津:データそのものの信憑性も課題になります。たとえばESG投資を促すため、見せかけだけ環境に配慮している企業が一部で見受けられますが、そういった情報に惑わされて投資行動をしている機関投資家も少なくありません。
そのため、AIで情報の真偽を見分けたいというニーズも高まっています。しかし、「正しい」ことを検証するのは、さまざまな情報を網羅的に探索し、それらを検証していく必要があり、それらの情報が正しいということの担保も必要になります。実は、正しいことを判断するのは簡単ではないのです。

森:さらに最近では、学問的に正しいとされている学術的知識でも、確認していくと反証されるケースも出てきていますよね。そうなると、情報の信憑性はどういったものなのかといった枠組みが必要になります。

神津:経営者の方々からは、「昔と比べてリスクが複雑化しており、意思決定の際に考えなければならないことが増えている」と言われることが増えました。専門領域ごとに人材を揃え、外部と連携しながら内部で抱えていくということが難しくなっているのです。私は、その中で1つでもリスクを取り除いてあげられればいいと考えています。そのためにはエコシステムの構築が必要になるでしょう。

森:新しい技術がどんどん出てきている今、全てをキャッチアップするのは難しいですよね。優先順位を付けるところは自社で行い、細かいところについては外部と連携するという方向性には未来を感じます。神津さんのチームで、具体的に取り組んでいることはありますか。

神津:AIについて言えば、説明可能性を担保しつつ、データにバイアスがどのように入っているかを検知するモデルを海外メンバーファームと連携をして作っています。
また、秘密計算や連合学習技術などの、データを秘匿化しながら、AI技術を使っていく仕組みについても研究しています。
技術的には、ブロックチェーンやニューロサイエンスの領域についても研究を開始しています。

神津 友武/Tomotake Kozu  有限責任監査法人トーマツ パートナー。 金融機関、商社やエネルギー会社を中心にデリバティブ・証券化商品の時価評価、定量的リスク分析、株式価値評価等の領域で、数理統計分析を用いた会計監査補助業務とコンサルティング業務に多数従事。 現在は金融、エネルギー、製造、小売、医薬、公共等の領域で、デロイト トーマツ グループが提供する監査およびコンサルティングサービスへのアナリティクス活用を推進すると共に、データ分析基礎技術開発を行う研究開発部門をリードしている。

 

伴走者とともに、フレームワークを構築することが重要

——AIガバナンスサーベイを見ると、AI人材の不足が顕著になっているように感じますが、それぞれどのように受け止められていますか。

森:アプローチに対し、どういう観点を網羅して、どう気をつけていけばいいのかといった方法論、フレームワークが見えてきていないのだと思います。フレームワークは外部と連携して、考えるべき「論点」を網羅していく必要があるでしょう。たとえば、AIに想定外のインプットをした場合にはどうなるのか。「ロバストネス」を考慮する必要がありますが、あらかじめその論点おさえておかないと適切に対処できません。そういった論点を網羅できるフレームワークやアプローチは外部連携して備えていく必要があると思います。
しかし、単に「ここができていない」というような指摘だけでは、「がんじがらめ」になって取り組みが後退してしまいます。重要なのはその企業が何をやりたいのかを踏まえ、そのために必要な守りを行うということ。企業の目指す先を理解できる「伴走者」が重要になっていくと思います。デロイトはそのような伴走者になるための取り組みを強化しています。

神津:実際に、そういったお客様の事例が出てきています。たとえば保険会社のお客様は、解約者の予測モデルを作って運用していきたいという話がありました。われわれは、予測モデルを作るとともに、そのモデルの運用をどのように行っていけばよいのかのご支援をさせていただいております。

この際、運用局面で「何が問題になる可能性があるか」ということを理解することがとても重要になります。AIモデルは従来のシステムとは違い、精度が時間経過とともに劣化をしたり、先に述べたバイアスが生じて問題になる場合もでてきます。伴走をしながら、適時に適切な対応を行っていく必要があります。

森:
以前は、PoCしているといった企業が多かったのですが、現在ではAIが本稼働している企業も増えています。PoCはリスクを考えずに実施できますが、実際に運用するとなると慎重になる企業が多いようです。本稼働に移行していく中で、多くの企業の行動が変わりつつあるのだと思います。そういった観点からもデロイトの重要性が増していると感じています。

神津:我々も、多くのお客様がAIモデルの実運用の段階に来始めていることを感じています。コンサルティングチームと一緒に実際に運用できる環境を整えるだけではなく、そういった体制を含めた教育をしてほしいといった依頼も増えていますね。以前は「データを使って何かビジネスに有益な示唆を出して欲しい」といった要望が多かったのですが、現在は実際に自分たちの環境の中で動くモデルを作り、社内検証しているケースが多いです。その際に我々は技術的な部分に加え、人財育成や組織体制の整備などのご支援もさせていただくことが多くなってきました。
自社の中で全てを解決できるといった社会ではなくなっているように感じます。リスクも多様化しており、自分たちだけではコントロールできないものも増えています。強みのある企業とコラボレーションしながらエコシステムを作っていくといった視点を持って、新しい技術にも積極的に取り組んでいかれると良いのではないかと思います。

 

—ありがとうございました。

 

森 正弥/Masaya Mori

森 正弥/Masaya Mori

デロイト トーマツ グループ

デロイト トーマツ コンサルティング 執行役員 外資系コンサルティング会社、グローバルインターネット企業を経て現職。 ECや金融における先端技術を活用した新規事業創出、大規模組織マネジメントに従事。世界各国の研究開発を指揮していた経験からDX立案・遂行、ビッグデータ、AI、IoT、5Gのビジネス活用に強みを持つ。CDO直下の1200人規模のDX組織構築・推進の実績を有する。2019年に翻訳AI の開発で日経ディープラーニングビジネス活用アワード 優秀賞を受賞。 東北大学 特任教授。日本ディープラーニング協会 顧問、企業情報化協会 AI&ロボティクス研究会委員長。過去に、情報処理学会アドバイザリーボード、経済産業省技術開発プロジェクト評価委員、CIO育成委員会委員等を歴任。 著書に『クラウド大全』(共著:日経BP社)、『ウェブ大変化 パワーシフトの始まり』(近代セールス社)、『大前研一 AI&フィンテック大全』(共著:プレジデント社)がある。 記事:デロイトデジタル「新しい世界へのマーケティングは、人とAIのコラボレーションによりもたらされる」 関連サービス ・ カスタマー・マーケティング(ナレッジ・サービス一覧はこちら) >> オンラインフォームよりお問い合わせ

神津 友武/Tomotake Kozu

神津 友武/Tomotake Kozu

デロイト トーマツ グループ パートナー

有限責任監査法人トーマツ パートナー。物理学の研究員、コンサルティング会社を経て、2002 年から有限責任監査法人トーマツに勤務。 金融機関、商社やエネルギー会社を中心にデリバティブ・証券化商品の時価評価、定量的リスク分析、株式価値評価等の領域で、数理統計分析を用いた会計監査補助業務とコンサルティング業務に多数従事。 現在は金融、エネルギー、製造、小売、医薬、公共等の領域で、デロイト トーマツ グループが提供する監査およびコンサルティングサービスへのアナリティクス活用を推進すると共に、データ分析基礎技術開発を行う研究開発部門をリードしている。 東京工業大学大学院 イノベーションマネジメント研究科技術経営専攻 客員准教授