第12回 AIガバナンスの未来と課題～産学官連携による新時代への挑戦～

生成AIの爆発的普及とAIガバナンスの変化

長谷： 本政策提言の公表時、生成AIは補章として締め切り間際に追記した状況でした。それから1年以上が経過し、生成AIは爆発的な普及を見せています。この変化について、どのようにお考えでしょうか。

江間： この1年でAIガバナンスを取り巻く状況は大きく変化しました。しかし、様々な機関の政策や提言を見ると、生成AIに注目が集まりながらも、AI全体を包括的に見ていく必要性が指摘されています。OECDがAIの定義を更新し、EU AI Actも生成AIに限らない幅広いAI規制を検討していることは、その好例と言えるでしょう。

生成AIを使っているかどうかというよりは、リスクが高いか低いか、どのような分野で実際に使われているのかといった実際のケースに合わせて議論をしていくことが重要となってきています。

東京大学 東京カレッジ 准教授 江間 有沙 氏

2017年1月より国立研究開発法人理化学研究所革新知能統合研究センター客員研究員。専門は科学技術社会論(STS)。人工知能やロボットを含む情報技術と社会の関係について研究。主著は『AI社会の歩き方－人工知能とどう付き合うか』(化学同人 2019年)、『絵と図で分かるAIと社会』(技術評論社、2021年)。

染谷： 現場では混沌とした状況が続いています。多くの企業がAIガバナンスへの対応を本格化させており、ポリシーやガイドラインの整備、AIプロジェクトの審査プロセスの構築など、具体的な取り組みが進む一方で、実務面では国や地域による規制の違いや人材不足など様々な課題が浮き彫りになっています。

長谷： IT監査の現場でも大きな変化が生じています。従来は情報システム部門との対話が中心でしたが、最近では経理部門をはじめ、様々な部署からAI活用に関する相談が増加しています。この2年間で業務環境は大きく様変わりしたと言えます。

江間： AIユーザーのすそ野が爆発的に広がったことが、最も重要な変化の一つです。従来のIT部門や専門家中心の利用から、誰もがAIを活用できる時代となり、それに応じた各種ガイドラインの整備も進んでいます。

長谷： 大学をはじめとした教育現場では生成AIの扱い方はどのようなものになっているのでしょうか？

江間： 一例ですが、文部科学省が初等中等教育向けガイドラインを公開しました。昨今では小学校でも生成AIを使った授業など意欲的な授業もありますが、一方で生成AIの13歳以下の直接利用は制限されるなど、どのように活用していくか現場も試行錯誤をしています。

大学では授業での利用やレポート作成における生成AIの使用について、生成AIが出力する内容にバイアスや誤りが含まれている可能性、著作権侵害などのリスクも指摘し、単純な禁止ではなく、適切に活用をしていくことを発信しています。また、生成AIを活用するためのツールの提供も積極的に行われています。

長谷： ビジネスや教育など、様々な現場でAIの活用についての試行錯誤が続いている状況だと思いますが、AIガバナンスの枠組みをどのように構築していくべきだとお考えですか？

江間： 企業や国・自治体におけるAIガバナンスの枠組み構築では、技術進化への柔軟な対応が重要です。AI利用目的とリスク度に応じた柔軟な枠組みの構築が求められるようになるでしょう。

染谷： 実務の観点からすると、AIリテラシーの向上は実務における喫緊の課題となっています。多くの企業がAIプロジェクトのリスク判定の仕組みを導入していますが、運用面で様々な課題が顕在化しています。例えば、ビジネス現場の担当者がチェックシートを適切に記入できない事例が多く見られ、AIモデルの学習データと参照データの区別やデータバイアスの判断ができないなど、基礎的な理解が不足しているケースが目立ちます。企業がガイドラインや審査プロセスを整備したとしても、それらを適切に運用できる人材が不足していては、実効性の確保は困難です。

江間： おっしゃる通りです。利用される分野や現場によって個別の問題もあるため、政府が出しているAI事業者ガイドラインなどはあくまで参考として、自分たちでAIガバナンスに必要な項目を考えていくことが重要なのですが、なかなか利活用が難しいという声も聞こえてきます。

AIガバナンスのあり方と日本の進むべき道

長谷： 日本のAIガバナンスのあり方について、どのようにお考えですか。

江間： 現在、安全性の議論ではサービスやシステムといったソフト面に組み込まれるAIに関して、ハルシネーション防止や誤情報対策、バイアスの問題や諸権利の保護などが重視されます。

一方で、日本で安全性というと、工学系やロボット研究者などは製品安全などハードなシステムの安全性の議論が行われてきました。そのため日本の製造業、特に自動車・家電産業の製品安全に関する高い技術力と信頼性は、海外でも高く評価されています。

日本企業は、これらの強みをより戦略的に活用できる立場にあります。特に製品安全分野での実績は、AIガバナンスにおける重要な資産となり得ます。ロボットやIoT機器でのAI活用は、日本の安全技術と革新性を組み合わせた独自のアプローチが可能な領域です。

また、日本は豊富なコンテンツ資産も強みです。漫画やアニメ、SF作品などのクリエイティブコンテンツは、今後のAI開発で重要な役割を果たすでしょう。これらを適切に保護しながらイノベーションに活用する方法が必要です。特に、クリエイターの権利保護と適切な対価の支払いの仕組みが不可欠です。創作者への適切なサポートなくしては、新たな創造的作品は生まれません。

日本企業のもう一つの強みは、現場の視点を重視する企業文化です。AIの導入過程で、実際の利用者の声に耳を傾け、課題や懸念に向き合う姿勢は、持続可能なAI活用の重要な要素となります。

染谷： 一方で、日本企業のデータやAIの活用は海外と比べて遅れています。その背景には、経営者のデータに基づいた意思決定の重要性への理解不足があります。

例えば、ある企業では一旦始まったAIガバナンスの体制構築プロジェクトが中断してしまいました。マルチステークホルダーという表現が使われるようにAIのガバナンスでは多様な関係者による社内横断的な取り組みが必要なのですが、一部の部門から「ここまでの対応は過剰ではないか」との声が上がり頓挫してしまいました。企業経営におけるデータやAIの活用とそのためのガバナンスの重要性が十分に理解されていなかった事が原因です。

デロイト トーマツ リスクアドバイザリー合同会社 パートナー 染谷 豊浩

長谷： なるほど。実際の企業での取り組みについて、もう少しお聞かせいただけますか？

染谷： 最近の傾向として興味深いのは、ESG投資の文脈でAIガバナンスを捉える企業が出てきていることです。AI活用に伴う環境負荷の低減や公平性や倫理的な側面などから「AIガバナンスが今後のESG評価の要素として組み込まれるのではないか」という声を聞くことが増えています。

こうした声を受けて、ゆくゆくはAIガバナンスの構築を単なるコンプライアンス対応ではなく、企業価値を高める戦略的な取り組みとして位置づける必要があると考えています。そのためには、各企業の事業特性や組織体制に即した、実効性のあるアプローチが不可欠です。

長谷： 国際的なAIガバナンスの議論の場で、日本の参加状況についてはいかがでしょうか？

江間： EU AI Actに関して特徴的なのは、欧州委員会が世界的にコンサルテーションをオープンにしている点です。いい意味で見れば、全世界的に意見を募っているということですが、一方で「機会は十分提供したのだから、後から文句は言わないでほしい」という意図も感じられます。

ただ、実際の国際会議での日本の参加スタイルには課題があります。例えば、意見を出す機会が3回しかないような重要な場面でも、日本の参加者は最初のターンを「質問をさせていただきます」という形で使ってしまう。質問に対する回答を持ち帰って検討し、次の機会に意見を出すというアプローチを取りがちなのです。

しかし、生成AIのような進展の速い分野では、そんな悠長なことは言っていられません。一回持ち帰って、「では次の質問の回のときに話しましょう」と言っても、もうその話は終わってしまっています。「何を言いたいのかは前回の会議で言いなさい」と指摘されるような状況です。

対照的に、海外の参加者は、その場である程度の裁量を持って判断し、決定を下せる権限を持って参加しています。会議の場で予期せぬ展開があっても、その場で議論して持ち帰ることができる。この違いは大きいですね。

日本企業は、特に力のある企業ほど「ルールが決まったら、それに対応できます」という自信や余力があるせいか、ルールメイキングの段階からの参画にあまり積極的ではありません。しかし、ルールメーカーになれることの重要性を、もっと理解する必要があるでしょう。

長谷： 法規制の面では、今年に入って政府から悪質なAI事業者の名前を公表するという方針が示されましたが、これについてはどのようにお考えですか？

江間： 日本はレピュテーションリスクへの高い社会的意識が特徴です。噂レベルや炎上でも大きな影響力を持つ一方で、ペナルティを課す以外の方法、例えば優良事例の評価・表彰など、ポジティブな仕組みの導入も検討に値します。染谷さんが挙げられたAIガバナンスのESG評価への組み込みは、新たな方向性の一つかと思います。

プロフェッショナルファームへの期待

長谷： 最後に、デロイト トーマツのようなプロフェッショナルファームに期待することをお聞かせください。

有限責任監査法人トーマツ パートナー 長谷 友春

江間： プロフェッショナルファームに期待される役割は、長期的視点での関与です。目先の利益を超えた制度設計への参画と、金融業界、製造業界、サービス業界など多様な業界の知見を持つプロフェッショナルファームだからこそ、業界全体を見渡した議論に貢献ができるのではと思います。

長谷： 具体的にはどのような形での協力が可能だとお考えですか？

江間： 例えば、若手人材の柔軟な交流も期待されます。AIに関しては、技術の視点や社会の問題など議論すべきことが次から次へと起こり、それに柔軟に対応していく体制が必要になります。そのようなときに、期間限定で対応をするプロジェクトとかに機動的に協力いただけるような体制があるとありがたいですよね。AI監査の政策提言もそのような形で議論させていただきました。

染谷： デロイト トーマツが目指す「専門家の社会インフラ」としての役割を果たすために、AIガバナンスの領域においてもアカデミアと実務の知見や経験を組み合わせて活躍できる人材を育成・輩出していきたいですね。

江間： 継続性が成功の鍵です。単発プロジェクトで終わるのではなく、緩いネットワークを形成しておくことが重要であり、プロフェッショナルファームの組織力を活かした持続可能なAIガバナンス支援体制の構築に期待しています。

長谷： ありがとうございました。

デロイト トーマツではAIガバナンスに関して様々な知見を発信しております。AIガバナンスの策定・実行を支援するサービスも提供しておりますので、下記のページよりお気軽にお問い合わせください。

AIガバナンス – 生成AI時代に求められる信頼できるAIの実現の道筋

連載一覧

• 第1回 AIガバナンスとは何か？リスクと必要性
• 第2回 グローバル企業のためのAIガバナンス
• 第3回 AIシステムに対する内部監査
• 第4回 AIの保証・認証制度
• 第5回 外部監査におけるAIテクノロジーの活用
• 第6回 海外のAI関連の法律、規制、ガイドライン
• 第7回 日本のAI関連の法律、規制、ガイドライン
• 第8回 AIと知的財産権の基本とリスク～恐れることはない、AIの活用のために～
• 第9回 生成AIを用いた内部監査
• 第10回 AIとプライバシー
• 第11回 AIとサイバーセキュリティ
• 第12回 AIガバナンスの未来と課題～産学官連携による新時代への挑戦～