企業の戦略的なAI利活用とAIのリスク対策を考える

図表1: デロイト トーマツ グループ「AIガバナンスサーベイ2022」より作成。昨年度と比較してPoC実施比率は下落し、PoC10件以上実施比率・本番運用10件比率が増加。企業間におけるAI利活用比率の格差が拡大した。

AI利活用とリスクについて

有限責任監査法人トーマツ 松本 清一（以下、松本）：
今回のAIガバナンスサーベイでは企業がAIを既存のビジネスに活用しようとする動きが見られました。またリスク対策についてもデータ取扱基準などの社内のルール作りも進められており、利活用の促進に伴いガバナンスについても意識されつつあることが読み取れます。(図表2参照)

図表2: デロイト トーマツ グループ「AIガバナンスサーベイ2022」より作成。本サーベイにおいては、AI利活用の目的についても調査を行った。業務効率化・コスト削減のほか、新規ビジネス創出の目的でのAI利活用も進んでいる。

それではまず、中外製薬様がどの様にAIを活用されているのかについて教えてください。また、その中で意識されているAIのリスクがあればお伺いしたいです。

中外製薬株式会社 中西 義人様（以下、中西様）：
当社でのAIは、創薬という領域で医薬品の候補となる抗体の配列をデザインしたり、研究員が1枚1枚見ていた病理画像の解析をAI画像解析に置き換えて効率化したりするなど、研究開発での使用が先行しています。マーケティング領域にも使っていますが、基本的には患者さん・医療従事者に直接提供するサービスではなく、社内の意思決定のためにAIを活用しているため、社外に対するAIリスクなどは顕在化していません。

中西 義人／Yoshihito Nakanishi　中外製薬株式会社
専門は分子生物学。東京大学大学院農学生命科学研究科卒業後、鎌倉研究所にバイオロジーの研究員として2005年新卒入社、途中、米Genentech社にてバイオマーカーを研究。10年以上創薬研究に従事し、博士号取得。その後、抗がん剤開発のグローバルプロジェクトリーダー/ライフサイクルリーダーとして部門横断チームを率いる。2019年10月よりデジタル戦略推進部を立ち上げ、全社デジタル戦略をリードする。

一方、患者さんの病気の有無や疾患の状態を客観的に可視化する「デジタルバイオマーカー」^（注2）といった取り組みの中では、バイタルデータから痛みを予測するAIモデルを作り、臨床試験で使おうとしています。こういったAIが実装されれば、患者さんに対してAIサービスを提供することになるため、AIガバナンスやAIリスク、AI倫理などの対応が必要になるでしょう。

現在、デロイト トーマツ グループにサポートしてもらいながらデジタルコンプライアンスについて取り組んでいますが、その延長線上でAIガバナンスやAIリスクへの取り組みも行っていく形になると思います。

有限責任監査法人トーマツ 松永 一郎（以下、松永）：
他の業界と比較すると、製薬業界はデータ保護やデータの品質に関して高いレベルでの取り組みを実施しています。また、業界のベースに「倫理」という存在があります。それらがあるからこそ、データ活用やAI活用の土台がしっかりしているのではないかと感じています。そういった中で、一歩一歩着実に進められているという印象を持ちました。

松永 一郎／Ichiro Matsunaga　有限責任監査法人トーマツ　パートナー
製薬・医療機器などのライフサイエンス企業に特化し、ガバナンス、リスクマネジメント、コンプライアンス、内部監査、IFRS導入といった領域におけるアドバイザリーサービスを提供する。著書に、『最新 コーポレートガバナンスのすべて』（共著、日本実業出版）、『リスクマネジメントのプロセスと実務』（共著、レクシス・ネクシス・ジャパン）がある。2003年 有限責任監査法人トーマツ入社後、法定監査業務や上場支援業務へ関与、2009年から2011年まで米国デトロイト事務所に駐在。公認会計士。

中西様：
高い品質やデータインテグリティが当たり前という世界なので、ともするとオーバークオリティになってしまう部分はありますが、ご指摘の通り、倫理という素地があるため、変な活用をしにくいということはあると思います。

有限責任監査法人トーマツ 金 英子（以下、金）：
規制がしっかりとしている領域と、これから作られていく領域がある中で、このバランスをどのようにとっていくのかという課題があると思います。製薬企業の場合、レギュレーションが決まっている中で活動することに慣れていますが、そういった文化の中で新しいものやルールが未整備なものをどうやって解釈すればいいのかわからないといった難しさもあるのではないでしょうか。

中西様：
当社の場合、攻めと守りの両輪でバランスを取りながら動いているという状況です。具体的には、デジタル戦略推進部が攻めつつ、コンプライアンス部門が新しいルールやガバナンスを作り、一緒に取り組んでいます。そのため、お互いに必要な情報提供などをしています。

松永：
AIを適用する領域やテーマも、創薬やメディカル、コマーシャルなどで異なりますし、それによってステークホルダーも変わります。そうなると、バリューチェーンによってAIリスクや考慮する観点が変わってきます。実際にAIを活用する中で、そのあたりは意識されていますか。

中西様：
創薬における研究開発という点でいうと、AIがデザイン提案した配列などは最終的に実験で確認するというプロセスがあるので、100％の精度で正解を出すAIでなくても十分に活用できます。しかし患者さんにサービスを提供する場合は、より多くのことを考慮しなければいけないと思っています。また、社内の意思決定の使用に限定されたとしても個人情報の不適切な扱いやバイアスリスクは避けなければいけません。そういった領域ではデジタルコンプライアンスと一緒に活動していくことになると思います。

デロイト トーマツ コンサルティング合同会社 森 正弥（以下、森）：
AIのリスクをコントロールするという文脈で言うと、人の生命や権利に関わる部分に関してAIが自動処理するのを禁止しようという動きが出てきています。自動意思決定の禁止については、欧米や中国、ロシアなどでも規制する法令があります。その中で重要なのは、どう人が関わっていくかということ。御社では、人がプロセスの中でどうやって関わるのかといった検討はされていますか。

中西様：
たとえばAIを使おうといった議論をする際、あまり慣れてない人だと「AIで全部やろう」と考えてしまい、「100%の精度でなければ使えない。99%の精度の場合1％のミスはどうするのだ」といった議論になりがちです。そういった議論の場にも我々が参加し、「どこかに人が関わるプロセスを組み込み、これまでと比較してより正確に、より効率的にするプロセスをトータルで設計してください」と伝えています。教育ではありませんが、「AIだけで全てが解決できないという前提で議論していきましょう」ということは伝えるようにしていますね。

森：
研究や開発、工場などでプロセスは異なるはずなので、「標準化」していくことができるのかという疑問を持つ人もいるのではないかと思います。

森 正弥／Masaya Mori　デロイト トーマツ コンサルティング合同会社　執行役員
外資系コンサルティング会社、グローバルインターネット企業を経て現職。ECや金融における先端技術を活用した新規事業創出、大規模組織マネジメントに従事。世界各国の研究開発を指揮していた経験からDX立案・遂行、ビッグデータ、AI、IoT、5Gのビジネス活用に強みを持つ。CDO直下の1200人規模のDX組織構築・推進の実績を有する。2019年に翻訳AI の開発で日経ディープラーニングビジネス活用アワード 優秀賞を受賞。Deloitte AI Institute所長を務める。

いわゆるシステム開発の場合、設計した後でテストしていきますが、このテストについては手順がしっかりと決められています。一方、AIの世界では、プロジェクトごとに独自のツールを使っており、AIにおける単体テストについて語れる人はほとんどいません。そういったことから繋がっている問題なのかもしれませんね。

有限責任監査法人トーマツ 山本 優樹（以下、山本）：
少し視点を変えると、AIの失敗事例を次の開発にどう活かしていくのかというところと「標準化」は近いのかもしれません。中外製薬には、過去の経験や事例を次に活かすための仕組みや工夫などがありますか。

中西様：
当初は部門それぞれがバラバラでAIに取り組んでおり、情報が共有されず、同じツールを使ったり、同じ技術開発にトライしたりしていました。中には、すでに失敗していることをやろうとしているケースもありました。そういったことが起きないように、デジタル戦略推進部の発足当初に社内のAI関連プロジェクトをすべて洗い出し、成功事例も失敗事例も継続的に共有できる仕組みをつくりました。

創薬領域においては全社的なタスクを作ってAI活用を推進しています。R＆Ｄ領域の部門ごとに扱っている課題は違いますが、使っている技術は似ています。例えば画像解析技術などは全社共通で使えることが多いので、我々デジタル戦略推進部のデータサイエンティストがハブとなり議論・情報収集し、それを全社に展開したりしています。

山本：
私も以前AIの企画側でデータ活用などを推進してきました。そこでは研究者の中からさまざまなアイデアが出て、実際の取り組みが推進されていきました。一方、「リスク」という観点から見ると、企画側がリスクの多様性を生み出す組織なのではないかと感じています。そうなると、攻めと守りを最も意識しなければいけない組織になります。中外製薬で企画側に対して行っているリスク対策などがあれば教えていただけますか。

山本 優樹／Yuki Yamamoto　有限責任監査法人トーマツ　シニアマネジャー
世界的な電機・エンタテインメント企業の国内および米国の研究拠点にて、AI等の先端テクノロジーの研究開発および同成果の製品・サービス・国際標準への導入等を経て現職。企業のビッグデータ分析、AIのビジネス活用に向けた組織構築・人材育成、AIの利用に伴う社会的なリスクの回避に向けたAIガバナンスの実践等の経験を通じ、テクノロジーとデータを活用したビジネスの改善に強みを持つ。2022年から東京大学未来ビジョン研究センター客員研究員。AIガバナンスの実践の高度化に関する調査研究に従事。

中西様：
我々には、ビジネス部門とデータサイエンティストを橋渡しする「AIコーディネーター」と呼ばれるメンバーがいます。AI活用に関する案件には必ずAIコーディネーターが参加しており、AI案件を横断的に把握しているため、類似のリスクの可能性に気づける体制はできています。

データサイエンティストの専門家とデータサイエンスがわからないビジネス部門の人たちだけでは、うまく議論できません。そうすると、議論がかみ合わないままリスクが高い方向に向かうこともあり得ます。そこをコーディネートするメンバーが必要だということで役割分担をしています。

金：
ビジネスもデータサイエンスも理解できる人は、そう多くは存在しません。人材のところに関わる部分かもしれませんが、その確保は難しい課題ですね。

金 英子／Yingzi Jin　有限責任監査法人トーマツ　マネージングディレクター
情報理工学博士。国内大学院や海外研究所での研究員職、IT事業会社や総合コンサルティングファームでの経験を経て、現職にいたる。現在は、幅広い業界・業種のクライアント向けに、顧客分析、知財分析、人事データ分析、介護・医療データ分析、異常検知など、データやデジタル技術を活用したデータドリブン経営のコンサルティングプロジェクトをリードしている。

例えば、コーディネーターの力が強すぎると開発の力が弱まり、おそらくリスク側に傾く。そうするとイノベーションの阻害が起きてしまいます。一方、開発側が強すぎても問題が生じますからね。

森：
難しいのは、ガバナンスの専門家です。基本的に「あれもダメ、これもダメ」と、ダメばかりになってしまう。特に他業界で活躍していた専門家は、これまで業界的にOKだったことも「ダメだ」と言い始めてしまうことがあります。そこでがんじがらめになってしまうケースもありますからね。

中西様：
どこまで許容できるのかということをきちんと議論していかなければいけないのですが、やはり「守り」に振れることが多く、やりたいことができないということもよくありますよね。

松永：
我々はリスクを中心に掲げたコンサルティングやアドバイザリーを提供していますが、常にそこの部分については考えています。強いリスク管理と良質なリスク管理は明確に違いますから。例えばアメリカの企業のリスクマネジメントは、ビジネスのアクセルを思いっきり踏むために必要なブレーキというイメージです。しかし日本はもともとしっかり管理できる国民性があるため、アメリカと同じように考えてしまうとブレーキが効きすぎてしまいます。だからこそ、その質を上げていくことにチャレンジする必要があると思っています。

中西様：
「小さく始めてみたら意外と大丈夫だった」ということをガバナンス側に伝えながら取り組みを進めることも大事かもしれませんね。

AI利活用領域の拡大に向けた取り組み

松本：
それでは、AI利活用領域の拡大に向けた取り組みについてお伺いします。中外製薬では、研究領域を中心に幅広くAIが活用されていることがわかりました。今後更なるAI利活用拡大にむけて、社外パートナーとの関わり方などAI利活用推進のポイント等お話しくださいますか。

中西様：
我々のデジタル戦略の基本は、「新薬創出」にデジタルを掛け合わせ、我々の強みをさらに強めていくということです。薬の分子のデザインなどは我々のコア中のコアで、AI以外のノウハウも全部詰めた上でやっていきます。そこは時間がかかっても内製でやっていこうとしています。

一方、画像解析や自然言語処理など、我々が元々持っているノウハウやデータが優位性にならない領域はどんどん外注し、スピード重視でやっていこうとしています。

AIを使った患者さん・医療従事者向けのサービスや、医薬品の開発と直接関係ないサービスについては、優先順位を下げています。先ほど申し上げたようなデジタルバイオマーカーなどは、AIを活用して、その延長線上にもしかしたらそれ単体でのビジネスになり得るかもしれないという形で進めています。

新しく始めた領域だと、どこが競争優位性の源泉になるかわからないため、いろいろ試しつつ……というところはあるかもしれません。競争優位性の源泉が決まったら、そこについては社内でやることになります。

山本：
AIの活用については、ある程度範囲を絞って深くしていくという方向と、汎用的な技術は外注しつつ幅広く取り組むことで効率性を挙げていくという２つの方向があると思います。

特に幅広く取り組むことに関しては、人のアイデアがキーになると思っています。

色々な業務がある中で、実際に業務にあたっている担当の方から色々なアイデアが生まれます。担当の方が自分たちの作業に照らし合わせてAIの活用やデータ活用を考え始めたら、活用の幅が広がるでしょう。そういったところに関しての取り組みはありますか。

中西様：
社内で「CHUGAI DIGITAL ACADEMY」^（注3）を作り、データサイエンティストを育成しようとしています。2022年12月現在、在校生や卒業生を含めて100名ほどがこのプログラムを受講しています。また、日本ディープラーニング協会の「G検定」（Generalist検定）の合格者は500名以上となっています。もちろん、合格したからといってすぐにコードを書けるというわけではありませんが、基本知識を学んでもらうためにサポートしており、全社的なリテラシー向上には大いに役立っていると思います。

研究本部ではPythonを学ぶプログラムも作っていますね。データサイエンティストが研究員にデータの扱い方を教え、その卒業生が次の人に教えています。簡単なデータ処理は表計算ソフトではなくPythonを使っていきましょうというような基本的なことですが、このような草の根の活動から全社的な取り組みまで含めて、AIのリテラシーを上げていこうとしています。

活用という意味では「Digital Innovation Lab」^（注4）という仕組みがあります。これはデジタルを使って自分たちが感じているビジネス課題を解決するアイデアを募集し、いいアイデアには予算を付けてトライアンドエラーで試すことができるというもので、その中にAIもありますね。

松永：
デロイト トーマツが実施したAIガバナンスサーベイではPoCから活用の段階に入った企業が増えているという結果が出ていました。そのためには「アイデア」を出せる人材がとても重要です。(図表3参照)

図表3: デロイト トーマツ グループ「AIガバナンスサーベイ2022」より作成。AI利活用のほとんどのステージで、戦略立案や企画の人材（＝アイデアを出す人材）が不足している、という回答が多数を占めた。

もちろん活用まで行かないことも多いと思いますが、アイデアの数に相関して活用に繋がっていく確率が高まります。中外製薬の取り組みを伺って、取り組みの幅広さがAI活用の一つの要因ではないかと感じています。

中西様：
実は、2021年まではAIのトライアル数をKPIにしていましたが、2022年からは本番運用に至った数をKPIにしています。それはつまり「とにかく使ってみよう」というステージが終わったからに他なりません。そういったステップで進めているのが奏功しているのかもしれません。

森：
お話を伺って、強みをコアとしつつもアイデアを広げ、さらに視野を広げているということが見えてきました。エコシステムという観点では、アカデミアや製薬、ベンダーなどと一緒にやっていかなければいけないと思います。そういったパートナー企業とコラボレーションしていく中でどのようなことを考えているのか教えていただけますか。

中西様：
実は、難しい部分が多いのです。我々はデータをあまり渡したくない。しかし当然、データがないと取り組めません。そうすると、権利関係などの整理が必要になります。そういった議論を曖昧にしたまま進めてしまい、後から困るというケースもありました。そこで、今はきちんと事前に整理してから進めるようにしています。

AIベンチャーの方々は、製薬会社が求めているコンプライアンスやガバナンスのレベルをご存じないことも多いので、その認識合わせもしています。

もう一つの観点として、製薬のビジネスそのものを知ってもらわないとデータサイエンスの力を発揮できないということもあります。例えば創薬に近いところでは、生物学的なことを理解した上でデータサイエンスをしなければ、我々がこうしてほしいということが伝わりません。

最初は通じない部分もありますが、メンバーを固定していただければ共通理解が進みます。そういった枠組みでやっていく方法もあるかなと思います。

松永：
こういった議論は非常に重要だと思います。知財をどう守るのかとか、リスクをどう管理するのかということに悩む企業も多いですからね。いろいろな部門を巻き込んでいくことが重要なのかもしれません。中外製薬では特許や法務との連携、知財との連携はどのようにされていますか。

中西様：
ここ数年で多くのAIに関する案件が出てきているので、知財部や法務部を中心にある一定の方針を作っています。我々もその方針をベースに、データサイエンスの目線からはこう思うといった議論もしています。新しい領域なのでお互いの専門性を掛け合わせることが重要だと思います。

今後のAIガバナンス展望

松本：
今後のAIガバナンス動向について、お考えをお話しください。

中西様：
製薬企業はAIガバナンスやAI倫理の指針などをこれから整えていこうとしている段階だと思います。業界共通の倫理規定などが作られると、短期間で高いレベルまで到達できるのではないでしょうか。デロイト トーマツ グループ様でそういった活動はしていますか。

松本：
現在さまざまなところからガイドラインが出始めていますが、デロイト トーマツ グループではAIリスクの体系を整理していこうとしています。またAIガバナンスとその評価などを行う研究会をアカデミアと共にリードするといった取り組みも行っています。

デロイト トーマツとしてはRobust Intelligence社と協業^（注5）し、業界ごとのガイドラインや規制などを考慮しつつ、テストのチェックリストに落とし込むといった活動もしています。そういった中でもご協力できるのではないかと思っています。

森：
個別のトピックでいうと、業界団体が自主規制のガイドラインも出しています。例えば、保険業界では与信に対してAIを使う場合のガイドラインや、労働者の権利に関わるAI適用のガイドラインなどが労働者組合から出されています。そういったピンポイントの話と全体的なアプローチを組み合わせながら進んでいくのだと思います。

山本：
ニューヨークでは人材の採用に関わるプロセスに関する法律もできています。公聴会などの文書をみると、データやモデルの客観的な指標のしきい値について、どの程度の値であればよしとするのかということが具体的に書かれています。おそらく、AIリスク対策に関して最も具体的に書かれている文章でしょう。今はガイドラインが色々な組織から出ていますが、いずれも抽象的なので、実際に第一線のモニタリングにどう適用するのかという部分で悩んでしまうのだと思います。かなり技術的な話になるので、研究者などが自主的にやっていかないといけないのかもしれません。

松永：
最近、AI医療機器が登場していますが、米国でAIに関する品質保証ガイドラインが追加されたという話もあります。いまは金融が先行していますが、今後は厚労省などがガイドラインを作るという話になっていくでしょう。

松本：
現在、国内には全体をリードしていこうとしている企業や団体がありません。そのため、我々が政策提言みたいな形でどんどん動いていかなければいけないと考えています。今後も意見交換をさせてください。
 

――本日は貴重な意見交換をありがとうございました。

※本記事の写真や所属等の情報は2022年12月現在の情報です。

（写真左から）
有限責任監査法人トーマツ マネージングディレクター 金 英子
有限責任監査法人トーマツ パートナー 松永 一郎
デロイト トーマツ コンサルティング合同会社 執行役員 森 正弥
中外製薬株式会社 デジタル戦略推進部 桑子 朋子様
中外製薬株式会社 デジタル戦略推進部長 中西 義人様
有限責任監査法人トーマツ マネージングディレクター 松本 清一
有限責任監査法人トーマツ シニアマネジャー 山本 優樹

＜語句解説＞

注1: AIガバナンスサーベイ
デロイト トーマツ グループでは、2018年から毎年「AIガバナンスサーベイ」を発表、日本企業におけるAIガバナンスの取り組みや、AI利活用に向けた投資の状況、AI固有リスクへの対応を概観している。
AIガバナンスサーベイ : Trustworthy AIの社会実装に向けた日本企業の概況

注2: デジタルバイオマーカー
スマートフォンやウェアラブルデバイスから得られるデータを用いて、病気の有無や治療による変化を客観的に可視化する指標
出所：デジタルバイオマーカーへの取り組み｜CHUGAI DIGTAL｜会社情報｜中外製薬 （外部サイト）

注3: CHUGAI DIGITAL ACADEMY
中外製薬株式会社のCHUGAI DIGITAL ACADEMYは、データサイエンティストなど社内デジタル人財を体系的に育成する仕組み。充実した講義・OJTによる実務への適用サポートといった社内コンテンツの提供に加え、社外での研修プログラムや人財交流、大学・研究機関との連携の中で、「製薬×デジタル」のスキル・経験を高める。
出所：デジタル基盤の強化・すべてのバリューチェーンの効率化｜CHUGAI DIGTAL｜会社情報｜中外製薬 （外部サイト）

注4: Digital Innovation Lab
中外製薬株式会社のDigital Innovation Lab（DIL）は、すべての社員に開かれたアイデア創出・インキュベーションの仕組み。目先のROI（return on investment）ではなく、先進性や拡張性、将来性等の観点を重視したプロジェクトに予算・人を配分し、迅速にPoC（Proof of Concept）、本番開発へと進める。
出所：参加社員約9割のDX取組み意識が向上。中外流、ボトムアップの公募制のアイデア実現プログラム『DIL』。挑戦者のDXにかける想いとビジネス課題解決への期待。｜CHUGAI DIGITAL｜中外製薬 （外部サイト）

注5: Robust Intelligence
2022年12月、デロイト トーマツ グループのデロイト トーマツ リスクアドバイザリー株式会社は、企業の健全なAIモデル運用を支援するRobust Intelligence Inc.と協業契約を締結した。
出所：デロイト トーマツ、Robust Intelligenceと協業し、AIガバナンス体制構築支援サービスを強化