Posted: 18 Nov. 2022 10 min. read

テクノロジーと社会の隔たりを埋める

Deloitte AI Institute │Spirits #4

ディープラーニングへの注目からはじまった第3次AIブームも開始から約10年。その間も、AI技術は驚くほどのスピードで進化を続け、いまや人間を凌駕する性能を持つものも少なくありません。しかし、AIは決して万能ではなく、常に正しい答えを導き出すとはかぎりません。一歩間違えば、人や社会に不利益を与えるリスクを抱えており、AIを適切に使用するには、技術への正しい理解に基づいたリスクへの対策、すなわちAIガバナンスの視点が欠かせません。

 

デロイト トーマツ グループの Deloitte AI Institute には、人とAIが協調する社会「The Age of With」の実現に向けて、日夜精魂を傾けつづける先駆者たち「AI Spirits」が多数在籍しています。このインタビューシリーズでは、そんなデロイト トーマツの「AI Spirits」1人ひとりに焦点を当て、AI導入の最前線とその魅力についてお伝えします。

 

第4回は、AI技術のエキスパートとしてコンサルティング業務をこなす傍ら、東京大学の客員研究員として主に技術側面からAIガバナンスの実践に関する研究を進める有限責任監査法人トーマツ リスクアドバイザリー事業本部 デロイトアナリティクスの山本さんに話を聞きました。

 

 

パンデミックによる社会的な困難がテクノロジーで解決されていくのを目の当たりに

 

--まずは自己紹介をお願いします。

 

山本優樹です。有限責任監査法人トーマツ リスクアドバイザリー事業本部 デロイトアナリティクスに所属しています。2022年10月からは東京大学未来ビジョン研究センターの客員研究員も兼任することになりました。

 

 

 

--AIに関して、どのような経験を積んで来ましたか?

 

AIとの関わりは情報学を専攻した大学院からです。それ以来、データ分析、機械学習、人工知能など、データ活用技術の研究や開発などに携わってきました。卒業後は電機とエンターテインメントを扱うグローバル企業に入社し、研究開発部門にてAI等の先端技術の研究開発を行い、その成果を製品やサービスに組み込んだり、国際標準に導入したり、おもに技術者として特定の技術を深く探求する活動をしていました。

 

ターニングポイントとなったのは、COVID-19のパンデミックです。当時、アメリカの研究拠点に在籍していましたが、さまざまな社会的な困難がテクノロジーで解決されていくのを目の当たりにして、これをきっかけに、それまでのように特定の技術を深く探求するだけでなく、技術を広く世の中に展開する側に回れたらいいなと考えるようになりました。そこで、日本へ帰国したあと、グローバルに多様な業界で広くビジネスを展開しているデロイト トーマツに入社しました。

 

--パンデミックは多方面で技術導入を推進しました

 

特に私にとって印象的だったのは、今では普通となったビデオ会議です。外出ができないなか、ミーティングも英会話レッスンもオンラインでできるようになりました。テクノロジーのおかげで人や社会とのつながりが持てるというのは感動でした。コロナ禍の経験は、特に技術に深く関わってきた私にとって、その重要性や可能性を見直す大きな転機となりました。

 

 

--最終的に転職先をデロイト トーマツ グループに決めた理由は?

 

まず、これまで専門として研究してきた機械学習やAIなどのデータ活用技術を、これからは具体的な事例に適用して、広く社会やビジネスに貢献したいという思いがありました。なかでも監査法人を母体としているデロイト トーマツであれば「フラットにいろんな企業や人と接することができるのでは」という期待があり、実際に面接の場で、多様なプロジェクトに関われるとの話を聞いて、転職を決断しました。

 

 


技術を知っているからこそ、隔たりを埋める役割が担える
 

--現在はどのような仕事をしていますか?

 

すごく抽象化・単純化して言うと、テクノロジーと社会の隔たりを埋める仕事だと思っています。

 

大学や研究機関、企業でさまざまな技術がすごい勢いで開発されている一方、まだ社会に浸透していない技術も多く、解決可能な課題がそのまま残されていると感じます。私は技術を知っているからこそ、そうした隔たりを埋める役割が担えると自負しています。

 

課題には2種類あります。すでに表面化している課題と潜在的な課題です。今見えている課題だけでなく、潜在的な課題を見つけだして言語化することも重要です。日々、多くのお客様から相談を受けますが、本質的な課題を特定できていないケースは少なくありません。その場合、まずは課題を明確にすることがコンサルタントの仕事の第一歩となります。課題が明確でなければ次には進めないからです。

 

 

-- 課題はどのように見出していくのですか?
 

探求の方向性は大きく2つあると考えています。1つは社会に共通する課題です。先ほどお話ししたCOVID-19のパンデミックや貧富の格差、デジタルデバイドや人種差別など、社会全体を通じ認識されている社会問題や環境問題がこちらに当てはまります。もう1つは企業ごとに固有の課題です。現代はVUCAと呼ばれる不確実性が高い時代であり、企業が持つ課題は多岐にわたります。この2つ、社会に共通する課題とお客様固有の課題を統合的に把握し、ここにさらに私たちの経験や知見を合わせることで、課題を探っていくことになります。

 

 

実社会に不公平が存在すると、AIはそれをそのまま学習して表現してしまう
 

--現在はAIガバナンスについて、技術的な側面から携わっているとのことですが、AIガバナンスの現状についてどのように見ていますか?
 

アメリカでパンデミックやBlack Lives Matterなどの社会運動を目の当たりにしたことは、公平性を強く意識するきっかけになりました。

 

例えば、特定の人種ではAIによる顔認識の精度が落ちるなど、AIの出力結果に人種差別的なものが存在するという指摘が話題になりました。AIの学習フェーズでは、社会に実在するデータが使われます。そのため、実社会に不公平が存在すると、AIはそのような不公平をそのまま学習して表現してしまいます。私も、「不用意なAIの使用によって不公平を恒常化してしまうのではないか」という点に懸念を抱くようになりました。これが今AIガバナンスに関わる動機にもなっています。

 

AI活用が「攻め」とすると、AIガバナンスは「守り」です。AIの活用にはリスクがあり、そのリスクに対応するのがAIガバナンスです。

 

このようなリスクには、技術的に性能が良すぎるために起こる問題などもあります。例えばディープフェイクのように人間を騙す技術です。最近、日本でもSNSで偽の洪水被害の画像が拡散されて話題になりました。AIが生成した偽の画像によるフェイクニュースが流布されるリスクは現実に迫っています。
 



一方で、人間がAIを騙すケースもあります。例えば、道路標識に特定のシールを貼ると、自動運転中の自動車が標識を誤認識してしまうという問題が話題になりました。



AIはあくまで学習したデータを表現する技術

--騙すほうの進化と騙されるほうの対策の攻防が続きます
 

ディープフェイクのような画像生成では、GAN(敵対的生成ネットワーク)の技術が応用されています。これは、偽物を生成する機能と偽物を判別する機能のように、敵対する機能を競わせることで精度を高めて、どんどん本物らしいものに近づけていく技術です。現代では、偽物を見分けるのがますます難しくなっています。

 

AI活用が多岐にわたるにつれ、リスクの範囲もますます広がっています。こうしたリスクにきちんと対策していかないと、今後のAI活用に悪影響が出てしまいます。

 

 

--このようなAIの悪用は、AIの不完全な部分を狙うのでしょうか
 

そもそもAIは完璧ではありません。現状の技術レベルを正確に把握して、「現状の技術がここまでなので、こういう悪用が起こりうる」ということを認識しておくことが重要です。

 

AIが完璧でないことは声を大にしてお伝えしたいです。AIはあくまで学習したデータの特徴を表現する技術ですから、データの与え方で結果は変わりますし、開発者が選ぶアルゴリズムや評価の仕方によっても、性能差やバイアスが現れてきます。

 

AI開発には、「データを準備する」「使用するアルゴリズムを決める」「評価指標を選択する」など、さまざまなステップがあります。そして、それぞれのステップに何らかのバイアスが含まれるリスクがあります。偏りのない優れた性能を得るには、あらゆるステップで気を配る必要があります。
 


 

AIガバナンスには、全社一丸、部署横断的に取り組む必要がある
 

--こうしたリスクにAIガバナンスではどのように対処していくのですか?


従来のITプロジェクトではリスク対策の中心はIT技術にあったのですが、AIには公平性など人や社会に関わる問題も含まれるためリスクの幅が広がります。そのため企業では社会規範を扱う部署(例えば法務部やコンプライアンス部など)がそれらへの対応を考える必要があります。一方、そこで出された対応策は、実際にAIやサービスを開発する部署が製品やサービスに組み込んでいくことになります。つまりAIガバナンスには、全社一丸、部署横断的に取り組む必要があります。ここが従来のITプロジェクトとの大きな違いです。

 

幅広い視点が必要であるという点では、デロイトが強みを発揮できるところでもあります。デロイトには多様な企業に対して課題を解決してきた豊富な経験があり、さまざまな分野で専門性の高いメンバーがいます。もちろんAIの専門家もいますし、知見もあります。これらの組み合わせで、多岐にわたるリスクにきちんとガバナンスをかけることが可能となります。
 

 


--
 AIガバナンスは今後どのように進みますか?

 

現状は、AI活用に伴うリスクは広く認識されてきており、今後はどう規制をかけるか、法整備をしていくかが焦点となっています。AIは様々な分野や用途に適用可能なため、その膨大な領域を具体的な法規制のみでカバーすることは困難です。そのため、AIやその規制の在り方について、より抽象度の高い、AIの基本的な考え方であるAI原則を定め、それを目指していく形になります。

 

このAI原則というのは、「公平性や透明性を担保する」など、とても抽象的なものになります。そのため、これを達成するには、例えば公平性であれば、企業自身が「公平性をどう定義するか」「公平性を担保するためにどのような手段をとるか」を決めることになります。ただし企業の独りよがりになってはいけないので、ステークホルダーと合意形成をとるとか、第三者機関にチェックしてもらうことも重要です。

 

日本においては、ビジネスを推進する「産」、ルール作りをする「官(政府)」、技術から社会まで幅広く世の中を見る「学」、これら産官学の連携がとても重要になってきています。冒頭に述べたとおり、私が最近、東京大学の客員研究員に加わったのは、AIガバナンスの産官学連携に加わるためです。私には技術者としてのバックグラウンドがあるので、技術的な観点からAIガバナンスに貢献できることがあるのではと考え、大学での研究に参加することになりました。具体的には、AIガバナンスの実践において特に重要で難易度の高い実施項目である「AIの用途ごとに異なるリスクの特定」、「規制並びに社会の関心の変化の把握」について、データに基づき社会を定量的に解明していく計算社会科学のアプローチ等を適用することで、これらを効果的・効率的に行えるようにする研究を行っています。

 

 

 

金融業や製造業などをはじめ、すべての業界がクライアント

 

--デロイト トーマツで働きはじめて約1年。やりがいを感じるところは?

 

入社前の希望どおり、多様な企業の課題解決に携われる点に大きなやりがいを感じています。顧客企業にとって門外不出となるような非常に重要なデータにアクセスできることに感銘を受けました。現在の所属が監査法人ということもあり、第三者性や独立性、誠実性を強く意識して業務に取り組んでいますし、それだけ信頼されていることを実感しています。

 

特に入社後の1ヶ月は、「こんなに多様なクライアントのプロジェクトに関われるのか」と衝撃をうけたのを覚えています。前職もグローバル企業でしたので取引先は多数ありましたが、多くは電機やエンターテインメント業界の関連企業でした。しかし監査法人となると、金融業や製造業などをはじめ、すべての業界がクライアントになりえます。さらに、官公庁向けの仕事もあります。その幅の広さに本当に驚きました。世界が広がったと実感しています。





 

テクニカルスキルとビジネススキルをあわせ持つ「パープルピープル」
 

-- デロイト トーマツが求める人材像について教えてください。

 

テクノロジーと社会との隔たりを埋めるには、テクノロジーについての専門知識、社会やビジネスについての専門知識の両方が必要になると考えています。デロイト トーマツでは2つの特性を兼ね備えた人物を「Purple People(パープルピープル)」と呼んでいます。テクニカルスキルを赤、ビジネススキルを青として、2色あわせて紫になるためです。

 

ただしテクノロジーもビジネスもどちらも多様化していますので、現代は多様化を2乗したような状態です。1人ですべてを網羅することはほとんど不可能ですので、プロジェクトはチームを組んで推進します。さらに、後述するように、デロイト トーマツにはとても優れた人材育成の仕組みがあります。

 

デロイト トーマツには本当に多種多様な専門家がいるので、プロジェクトチームを組むときは、たがいの弱みを補完し合い、強みを伸ばせるようなメンバーが集まります。このようなチームの中で、メンバーと刺激し合い自分のスキルや知見を広げていけることもデロイト トーマツで働くメリットだと思います。

 

私自身はテクノロジー寄りの人間なので、1人ではビジネスコンサルティングには不十分かもしれませんが、その方面に強いメンバーと組むことでプロジェクトに関与することができます。今こうして多岐にわたるプロジェクトや企業と関われるのもチームのおかげです。

 

製造業では商品として販売するのは製品であるため、莫大(ばくだい)な時間と労力をかけて製品開発を行います。一方、私たちのようなプロフェッショナルファームですと、商品にあたるのがそこで働く人そのものです。ですので人材育成にはとても力を入れています。

 

 

--どのような人材育成の仕組みがありますか?

 

Purple Peopleを構成する赤の「テクニカルスキル」と青の「ビジネススキル」、それぞれに対応するeラーニングや社内専用研修が用意されています。前者について言えば、外部企業が提供する一部のeラーニングは受講し放題です。eラーニングですので、自分の仕事や生活の都合に合わせて受講可能で、興味がある分野、伸ばしたい分野があれば、どんどん自分自身を磨く環境が整っています。後者については、部署ごとに研修が設定されています。
 

 

 

--山本さん自身、受講してためになった研修はありますか?

 

入社後の1ヶ月はかなりみっちり研修が続きました。最も印象的だったのが「誠実性」についての社内研修です。誠実性はデロイトが重視している価値でもあります。私たちの目標は、単純に売上を伸ばすことだけではなく、社会を正しく成長させ、より良い方向に進めることです。この「正しさ」や「良さ」は一意的に定まるものではありませんが、デロイトが考える一つの解釈をこの研修を通じて知ることができ、デロイトの価値観やデロイトでの仕事について深く理解できたとともに、自分自身も人間的にすごく成長できたと感じました。

 

同時に、この研修は私がAIガバナンスに注力する大きなきっかけになりました。誠実性の研修を通じて、AIに限らないガバナンス全般の重要性をより深く理解できましたし、AIがもたらすリスクや社会課題に真剣に関わりたいと思うようになりました。

 

 

仕事の合間には会話をするようにピアノを弾く
 

--気分転換ではどのようなことをしますか。

 

ピアノ演奏や音楽制作をしています。3歳からピアノを習いはじめ、学生時代はバンド活動に明け暮れていました。バンドではポップスやジャズを演奏することが多く、ロックバンドでオルガンを弾き倒したこともあります(笑)。もともと何かを作るのが好きで、それが最初は音楽だったのですが、現在の「技術を作る」「解決策を作る」というキャリアにもつながっています。

 

今は仕事が忙しいので音楽にあまり時間をかけられませんが、仕事部屋にはピアノを置いてます。休憩時間に弾くとすごくリフレッシュできますね。そういうときは、哀愁漂うバラードとか、あとはゆっくりした癒し系の曲を演奏します。ピアノの鍵盤を叩くと、仕事の新しいアイディアが見つかることもあります。何も考えずに演奏してるだけなんですが、「1つの音を弾いて、その音を聴いて次の音を返す」という繰り返しには、自分自身と会話しているような感覚があり、それが良いのかもしれませんね。


レコーディングの最後の段階で音質調整をするマスタリングや、楽器ごとの音圧を調整するミキシングでは、昨今、AIによる優れたツールが登場しており、それまでエンジニアがやっていた制作作業をAIが担えるようになってきています。私のような音楽のプロフェッショナルではない人間でも、AIの助けを借りれば高いクオリティの制作が可能になるわけで、そういった面でも、AIは人の可能性を広げてくれる存在だなと感じます。作曲するAIも登場しており、音楽を含め、人が作ってきた芸術と呼ばれる領域の作品やその創作活動が、AIの影響を受けどう変化していくのか、これからが楽しみです。


 

--最後に、読者にメッセージをお願いします。

 

我々はAIが浸透し、社会が変わりはじめる、まさにそうした時代を生きています。そのような視点に立つと、AI導入やAIガバナンスといった仕事は未来の社会を作る仕事ととらえられます。こうした未来の社会作りやAIに興味がある方と、仲間またはパートナーとしてご一緒できれば幸いです。どうぞよろしくお願いいたします。