デロイト トーマツ、Citadel AIとAI品質検証・モニタリングにおいて協業開始、企業のAI活用を守りの観点で支援

2025年3月19日

デロイト トーマツ グループのデロイト トーマツ コンサルティング合同会社（東京都千代田区、代表執行役：神山 友佑、以下、「デロイト トーマツ」）は、AIの自動品質管理システムを提供する株式会社Citadel AI（東京都渋谷区、代表取締役：小林 裕宜、以下「Citadel AI」）とAI品質検証・モニタリング分野における協業を開始しました。

生成AIの登場により、企業におけるAI導入が加速化すると共に、手軽にAIが利用できるソリューションも数多く提供され、誰もがAIを活用できる“AIの民主化”は進展しています。さらに今年はAIが自律的に判断し複数のタスクを実行するAIエージェントの普及も見込まれています。AIは現在のコーポレート業務を始めとする社内利用中心から、生産性向上のみならず価値創造の領域まで全社で幅広く活用されていくことが予想されます。他方、AIのリスクは認知され始めているもののAI活用と両輪での推進には至っておらず、企業はより積極的にAIリスク対策に目を向ける必要があります。さらに、対象となるAIモデル数は現在ごく少数でも、AI活用の対象ケース増加に伴い増え人手によるAIリスクモニタリングが限界に達することが見込まれます。より効果的な手法としてリスクモニタリングのデジタル化、自動化も視野に入れることが肝要です。

このような現状に対し、デロイト トーマツではAIリスクについて対策の検討から実行、運用まで包括的にサポートできる体制が急務と考え、AI品質検証技術を有するCitadel AIとの協業に至りました。デロイト トーマツでは従来からAIリスクガバナンスの実現に向け、「Trustworthy AI™」フレームワークを活用し、AIリスク対策方針の策定からガイドライン・プロセス・体制の構築と運用までを支援するAIガバナンス策定・実行支援サービスを提供しています。本協業を通じて、企業がAIのリスクを効率的にモニタリングしながら、幅広い領域でAI活用を進められるように支援し、企業が直面するAI活用における課題解決に寄与することを目指します。

本協業においてCitadel AIは、学習時のAIモデルやデータを自動で検証し、品質改善の高速化を実現する「Citadel Lens」、運用時のAIモデルやデータを継続的に監視し、安定した運用を支援する「Citadel Rader」、大規模言語モデル評価ツール「Lens for LLMs」を始めとした、先進的なAI品質検証・モニタリング技術を提供します。

デロイト トーマツ コンサルティング合同会社 パートナー 吉沢 雄介

Citadel AIとの協業により、AI活用の先進企業には推進スピードとスケールに見合ったAI品質保証とモニタリングの手段を、リスク対策が障壁となりAI活用を積極推進できていなかった企業には一歩踏み出すための手段を、それぞれ包括的に提供できることを非常に嬉しく思います。この協業を通じて、企業が直面する課題を迅速かつ的確に解決し、AI・デジタル時代における競争優位性の確立を支援します。

株式会社Citadel AI 代表取締役 小林 裕宜

デロイト トーマツ コンサルティングとの協業は、当社のAI品質検証・モニタリング技術のオファリングをさらに強化し、より多くのクライアント企業に価値あるソリューションを提供するための重要な一歩となると考えています。この協業を通じて、AIを活用した企業のデジタル変革を加速させるとともに、安心してAIを活用できる社会の実現に貢献して参ります。

【Citadel AIの概要】

会社名：株式会社Citadel AI
所在地：東京都渋谷区
代表取締役：小林 裕宜
設立：2020年
主な業務内容：開発〜運用に至る全ステージにおいて、AIの脆弱性に起因するリスクを瞬時に自動検知・防御するシステムを提供