【開催レポート】AIリスク対策のはじめの一歩

講演内容

1. 開会挨拶
デロイト トーマツ コンサルティング合同会社　松本 敬史

2. ヒトのように振る舞う汎用目的AIに対するプロンプト・ガバナンス
デロイト トーマツ コンサルティング合同会社　松本 敬史

3. リクルートが目指すAIガバナンス
株式会社リクルート 渡部 純子 氏

4. HR領域における生成AIの在り方
デロイト トーマツ コンサルティング合同会社／HRテクノロジーコンソーシアム 東海林 幹生

5. パネルディスカッション
株式会社リクルート プロダクト本部HR執行役員 山口 順通 氏
シスメックス株式会社 人事本部 グローバル人事企画部 本庄 大介 氏
富士通株式会社　AIトラスト研究センター　リサーチディレクター　稲越 宏弥 氏
慶應義塾大学 山本 龍彦 教授

6. 閉会挨拶
デロイト トーマツ コンサルティング合同会社　首藤 佑樹

１．開会挨拶

本ウェビナーの開会挨拶として登壇したのは、デロイト トーマツ コンサルティング合同会社の松本敬史です。この１年を振り返り、AIの社会実装が急速に進んだ一方で、AIを悪用したフェイクニュースなどのリスクが問題視されたことを述べました。

こうした背景も踏まえて、AIの規制や倫理に関するガイドラインが発表され、AIガバナンスの必要性が高まっていることにも言及がありました。本ウェビナーではAIガバナンスの実践例の紹介や、AIに携わる様々なステークホルダーとのパネルディスカッションを行う旨が伝えられました。

２．ヒトのように振る舞う汎用目的AIに対するプロンプト・ガバナンス

続けて松本が登壇し、最初のテーマであるプロンプト・ガバナンスについて講演しました。

松本は、AIが社会の様々な分野で急速に導入され、その活用が進んでいると述べ、例として企業が自社のオリジナルAIを使った業務の効率化や、AIアバターでカスタマーサポートを行っている事例を紹介しました。また、松本は自身が開発した「デジタルMatsumoto」というAIを用いて今後のさらなるAI活用の広がりを紹介しました。これは、自身が書いた論文や記事、ウェビナーでの発言などの松本個人に関するデータを活用して、自分らしいAIを作成するプロジェクトの成果物です。このAIは、ニュース記事に自動的に考察を付けることができ、このAIによる考察は松本本人がチェックしても示唆を深めるものであると説明されました。すでにデジタルMatsumotoは様々なニュースについての考察を生成し、その結果を多数発信しているということです。

利活用が急速に進む一方、AIへの過度な依存が問題になる可能性も指摘しました。これらのリスクに対しては、入力と出力のチェックや情報補足を行う「プロンプト・ガバナンス」機構が必要だと主張しました。また、不適切な表現や誤った情報の提供、著作権やプライバシーの侵害といった問題も考えられ、これらのリスクに対しては、ガイドラインの策定、攻撃的なプロンプトからのシステムの保護、データの管理、テストやチェック処理の実施などの対策を取る必要があると述べました。

^{デロイト トーマツ コンサルティング合同会社　松本 敬史}

３．リクルートが目指すAIガバナンス

次のセッションでは、株式会社リクルートの品質管理室 室長である渡部純子氏が自社のAIガバナンスについて講演しました。

渡部氏は、リクルートではAIガバナンスのフレームワークを単体で作るのではなく、これまで構築してきた商品やサービスのガバナンスフレームワークにAI独自の観点を組み込む形を取った背景とその概要を説明しました。

ガバナンス体制を構築するためには、現場が主体となり形骸化しない仕組みを作ることが重要だと述べ、システム化や仕組み化を進めていることを紹介。取り組みの一部として、管理部門と事業部門の混合体制で検討を行い、「標準プロセス」と呼ばれるプロダクトのレビュー体制を構築したことを解説し、現在はそのプロセスのなかでAI観点のリスクレビューも行っている旨を紹介しました。

また、たとえ「標準プロセス」を通過したサービスであっても、AI活用が予期しない結果を生んでいないか等を確認するため、サービス提供後継続して「フェアネスモニタリング」を実施していることが紹介されました。管理部門と事業部門がデータを様々な視点から分析し、偏りや多様性の排除が生じていないかを確認しながら、改善の必要性や方向性を議論しています。

株式会社リクルートの詳しい講演内容はこちら（外部リンク）
HR領域で進むAI活用、リスクとガバナンスに対するリクルートの考え方【セミナーレポート】

^{株式会社リクルート 渡部 純子 氏}

４．HR領域における生成AIの在り方

次のセッションでは、デロイト トーマツ コンサルティング合同会社／HRテクノロジーコンソーシアムの東海林幹生がHR領域での活用とリスクについて講演しました。

東海林は、HRテクノロジーコンソーシアム※における自身の活動について、産官学連携で共同研究を行い、その成果をガイドライン作成や論文執筆、セミナーでの発信を通じて広めており、人事部におけるデータ活用レベルに応じたAIの生成や活用方法について研究を行っていると紹介しました。研究活動を通じて感じていることとして、人事部におけるデータ活用への準備の進み具合は企業ごとに大きく異なると述べ、例えば紙で管理している企業から電子化されている企業まで様々であることに触れました。

これまでのAIソリューションでは退職意向が強い方を予測することは出来ましたがその理由や対策の示唆までは踏み込めませんでした。AI技術の進展により退職意向予測だけでなく、実務上より重要となるその理由や対策方針まで扱える範囲を拡大しつつある例を示し、HR領域におけるAI活用の広がりと可能性を示しました。また、AIの判断根拠を可視化するダッシュボードツールによって誰もがデータを理解・解釈することが可能となるため、そのような可視化が経営戦略を高度化させる重要な論点になると述べました。一方で、企業ごとに従業員の特徴は異なるため、AIの出力結果を正確に読み解き、適切な人事施策につなげることの重要性も指摘しました。

加えて、人事評価は個々のキャリアに大きな影響を与えるため、AIが評価を行う場合、その判断基準を明確にすることが重要であると指摘しました。人事評価を代行するようなプロダクトを作る際は、プロダクト導入の目的を従業員に明確に伝え、人事評価全般に対する誤解を生む余地をなくすよう、ヒトによる適切なコミュニケーションが求められると述べました。

※経営・組織・人事領域におけるHRテクノロジー活用と人的資本の情報開示の有用性を啓発・推進する団体（外部リンク）

^{デロイト トーマツ コンサルティング合同会社／HRテクノロジーコンソーシアム
東海林 幹生}

５．パネルディスカッション

パネルディスカッションでは、テーマを「HRプラットフォーマーがAI活用をする上で、ユーザー・社会から信頼を得るために何を大事にしているか」とし、松本の進行のもと、パネリストとして下記４名が登壇し、見解を述べました。

• 株式会社リクルート プロダクト本部HR執行役員 山口 順通 氏
• シスメックス株式会社 人事本部 グローバル人事企画部 本庄 大介 氏
• 富士通株式会社　AIトラスト研究センター　リサーチディレクター　稲越 宏弥 氏
• 慶應義塾大学 山本 龍彦 教授

山口氏は、リクルートが提供するHRサービスについて語り、AIの活用についての期待とその価値について述べました。山口氏は、AIを用いて求職者の仕事探しを支援し、より多くのユーザーに対して簡単に自分に合った仕事を見つけられるような価値を生み出したいと考えています。また、彼は転職活動に関する調査結果を引き合いに出し、転職をしなかった理由として「時間がない」や「自分に合う業種や職種がわからない」という声が多いことを明らかにしました。これらの課題解決に向けて、AIの可能性を感じていると述べ、一人一人が自分らしい選択ができる世界を実現するために、AIを活用していきたいとの考えを示しました。さらに、山口氏は、AIのガバナンスへの取り組みにおいて、規律と挑戦のバランスをとる必要があると考えており、それを実現するためには、ステークホルダーとの対話を続けることが非常に重要だと述べました。

株式会社リクルートの詳しい講演内容はこちら（外部リンク）
HR領域で進むAI活用、リスクとガバナンスに対するリクルートの考え方【セミナーレポート】

本庄氏は、企業の人事部門における、従業員の気持ちに寄り添った人事施策を目指していると語りました。人材は経営リソースの中でも特に重要であり、その扱い方が企業の成功に直結すると考えています。東京大学マーケットデザインセンター（UTMD）と開発した新入社員配属マッチングシステムでも、結果に対する説明責任を果たすために何度も議論が重ねられているように、システムを利用する以上に、説明責任が最も重要であるとの見解が示されました。また、AIの社会実践やプロジェクトに潜むリスクを評価するためのツールキットが公開されたことに触れ、それはガバナンスやリスクマネジメントの考え方に慣れ親しむ助けにもなると述べました。従業員のことを最優先に考えて進めるためには、データサイエンスや心理学などの分野の知識も必要だと感じており、従業員ファーストをどのように実現できるのかを深く考えていきたいと語りました。

稲越氏は、AIが人間の価値観に沿った使われ方をすることで、人の幸福に貢献することを強く望んでいると述べました。AIが全ての問題を解決するわけではないと認識しており、特にジェンダー問題に対しては、AIの定量的な判断力と人間の価値観を組み合わせたアプローチが必要だと提言しました。また、アルゴリズムに潜むバイアスについても触れ、その問題を解決するためには、心理学や社会学などの様々な異分野を融合して研究することに期待を寄せています。稲越氏は、社会にシステムや技術を提供する企業として、AIのリスクから顧客を保護することができるようにいろいろなサポートをしたいと述べました。

山本教授は、AI規制の動向に注目していると述べました。AIを用いたプロファイリングやスコアリングなどの本当に保護すべき領域が十分に守られていないと指摘し、リスクベースで考えるべきだと主張しました。そして、日本で議論が進まず、企業が使いにくい状況に懸念を示しました。また、AIについては、技術が進歩し続ける中で、一部の問題に対しては従来の法律では対応できないと指摘しました。そのため、AIに関する新たな法律やフレームワークが必要とされ、その中でも特に重要なのは、価値の保護や序列の確立といった基本的な要素だと述べました。最後に、企業が行うAIガバナンスの実施範囲を明確にすることの重要性が強調され、企業側からの生の声を聞き、どのようなルールやガバナンスが良いインセンティブを生むのかを探求したいと述べました。

^{左上から、株式会社リクルート 山口 順通 氏／シスメックス株式会社 本庄 大介 氏／富士通株式会社 稲越 宏弥 氏／慶應義塾大学 山本 龍彦 教授／デロイト トーマツ コンサルティング 松本 敬史}

６．閉会挨拶

最後に登壇したのは、デロイト　トーマツ　コンサルティング合同会社の首藤です。首藤は、AIの利用が人権や個人の人格に関わる問題を引き起こす可能性があると指摘しました。特に、人事や営業マーケティング領域でのAI利用は、個人データの取り扱いやサービス提供の公平性に影響を及ぼす可能性があり、AIのリスク管理やガバナンスは、技術者だけでなく経営層も関与すべき課題であると強調しました。そして、企業が主体的にリスク管理する姿勢を持つべきだと述べ、その重要性を社内で共有することを呼びかけました。

^{デロイト トーマツ コンサルティング合同会社　首藤 佑樹}

（文責：デロイト　トーマツ　リスクアドバイザリー合同会社　原嶋瞭）