デロイト トーマツ、LLMに企業独自データを組み込む技術ノウハウを集約した「多機能RAGアプリ」を開発

2024年7月8日

デロイト トーマツ グループのデロイト トーマツ コンサルティング合同会社（東京都千代田区、代表執行役：神山 友佑、以下、「デロイト トーマツ」）は、企業が独自のデータを生成AIを通じて利活用するために、大規模言語モデル（以下、「LLM」）に企業のデータベースを接続するRAG（Retrieval Augmented Generation）の実装を推進しています。今般そのサービス強化のために、RAGの利便性や精度を向上する複数技術を搭載した多機能RAGアプリケーション（以下、「多機能RAGアプリ」という）を開発しました。

RAGは、生成AIが企業内の既存知識や蓄積されたデータを活用するにあたり有用な手段である一方、ビジネスで利活用するための技術課題が複数顕在化しています。具体的には大量のドキュメントの中から必要な情報を検索できない、ドキュメント中のグラフやチャートなどの視覚的情報が読み取れない、複数の問いを含む複合的な質問に回答できない、自社独自の用語をLLMが理解していないため回答が正確ではないといった課題です。デロイト トーマツでは、様々な生成AIプロジェクトにてこれら課題に対峙し、その技術ノウハウの中から、特に利便性や精度の向上に寄与する技術を集約しました。

多機能RAGアプリの主な機能

ユーザーの問いから回答の処理の過程で利用可能な次のような機能を具備しています。

• 検索精度向上のための機能：複雑な質問をシンプルな質問に分解し複数回の検索を経て回答を生成する「サブクエリ検索」、最初に複数のドキュメントを検索し選別したのちに特定ドキュメントに絞ったチャンク（意味のまとまり）単位での検索を行う「2段階検索」
• LLMの回答分野拡張のための機能：テキストのみならずドキュメント中のグラフやチャートなどの視覚的情報を読み取り可能とする「マルチモーダル」、業界や自社特有の用語の定義を登録しその定義を踏まえた回答を生成するための「独自用語集」
• 回答精度向上のための機能：評価の高い回答を優先的に表示するために一次保存し検索を経ずに回答を生成する「回答キャッシュ」、管理者がFAQデータ登録しそれをもとに回答を生成する「FAQ回答」

多機能RAGアプリに付随する「インデックス作成ツール」では、検索用データの作成にあたり検索精度を向上させるための様々なメタデータの付与や、マルチモーダルに対応したインデックス作成機能などが実装されています。これにより、ドキュメントを投入するだけで多機能RAGに対応したインデックスデータを作成します。

操作画面上では、回答のもとになった引用箇所や、より詳細な質問を促すフォローアップ質問が表示され、各機能の選択もON/OFF設定の切り替えにより可能にしています。多機能RAGアプリは、デロイト トーマツのコンサルタントおよびエンジニアがクライアントのニーズに合わせた生成AIの実装において活用することで、RAGに関する開発期間の短縮および品質の向上を支援します。

多機能RAGアプリ処理イメージ

多機能RAGアプリ機能（一部）

• サブクエリ検索：複合的な質問を分解し、複数回のチャンク検索を経て回答を生成
• 2段階検索：最初にドキュメントを検索し、そのドキュメントに絞ったチャンク検索を実施
• マルチモーダル：ドキュメント中の図表等を検索し、その内容を踏まえた回答を生成
• 独自用語集：業界や自社特有の用語の定義を登録し、その定義を踏まえた回答を生成
• FAQ回答：管理者がFAQデータを登録し、それをもとに回答を生成
• 回答キャッシュ：評価の高い回答をキャッシュし、検索を経ずに回答を生成

インデックス作成ツール機能

• チャンク分割：ドキュメント中のテキストおよび図表データを分割し、検索インデックスに登録
• メタデータ作成：ドキュメントの内容を表す様々なメタデータを付与
• インデックス管理：インデックスデータの追加・削除および複数インデックスへの分割登録

デロイト トーマツでは企業のデジタル変革（DX）に関して戦略策定のアドバイザリーとシステムの開発・導入、保守までの技術サービスを統合的に提供しています。業界や業務の知見を持つコンサルタントとエンジニアが連携したサービスにより、クライアントの固有の課題解決を支援しています。さらに、生成AI関連については、全社横断のGenerative AI タスクフォースを組成し、生成AI技術の研究・開発、各プロジェクトへの展開、各プロジェクトからのノウハウの集約・モジュール化を一気通貫で行っており、今回の多機能RAGアプリもその活動の一環として開発しました。他にも、「マルチエージェント」や「AIアバター」、「特化型LLM」等の先進技術に日々取り組んでおり、最新技術の把握・研究を継続し、ビジネスへの効果的な生成AI技術の適用を通じて、クライアントのDXの加速化を支援しています。