DX：特化型LLM～業務の専門家AIの構築～

デロイト トーマツの特化型LLM開発サービスの特徴

デロイト トーマツでは複数ベンダーの有力LLMを検証しながらクライアントニーズに最適な特化型LLMの開発を行います。ベースとなるLLMについてクローズドモデルとオープンモデルも含めパラメーター数やバージョンによる違いを比較・検証することで、ノウハウを蓄積しています。また、ファインチューニングについても、LLM自体のウェイトを書き換えるフルファインチューニングとメモリの消費量を押さえながら効率的に学習するPEFT(Parameter-Efficient Fine Tuning)を比較することで、最適な手法を見出します。

 また、プライバシーやデータセキュリティの観点から、クラウド提供型の汎用LLMの利用が困難な業種・業界もあります。デロイト トーマツでは、顧客環境でのオンプレミス運用可能な特化型LLMを提供することで、企業のLLMの活用を促進します。

^{※クリックまたはタップして拡大表示できます}

さらに、現在主流の生成AIを用いた企業のデータ利活用アプローチである、RAG（Retrieval Augmented Generation）※ についても、デロイト トーマツは特化型LLMと共にRAGを実装することで、データベース検索や回答生成の精度向上を実現します。また、すでに汎用LLMとRAGを実装している企業に対しても、特化型LLMとの使い分けや組合せによって、企業のニーズに最適なシステムを提案、構築することが可能です。

_{※クリックまたはタップして拡大表示できます}

デロイト トーマツは、特化型LLMをはじめとする生成AIに関する高度な技術のみならず、あらゆるユースケースを熟知した戦略面とセキュリティ・レギュレーションといったリスク面の双方での高い知見を保有しています。テクノロジー・プロバイダーであると共に、生成AI導入の構想策定から、基盤構築等の実装フェーズ、保守・ガバナンス体制の構築に至るまで、企業の生成AIの利活用を総合的に支援するケイパビリティを持ち合わせています。デロイトグローバルの6,000人超のAI専門家のネットワークも活用し、日本企業のニーズや課題を包括的に理解し、生成AIアプリケーションの導入にとどまらない、システムと事業・業務の両面の改革を含めたトータルなソリューションを提供します。

特化型LLM開発の流れ

特化型LLMの開発では、顧客企業の業務課題に応じた特化型LLMのユースケース策定、ファインチューニングに使用するデータの収集、特化型LLM検証機の作成と評価を含む、PoC(Proof of Concept：概念検証)を実施し、その後にプロダクト版の特化型LLMを構築するという流れが一般的ですが、業務の複雑さやデータの整備状況によってその難度は大きく左右されます。デロイト トーマツはグローバルの先行事例や経験豊富なメンバーのノウハウを活用し、顧客企業に最適な解決策を提供します。

特化型LLMの想定ユースケース

• 自社製品や保有技術の情報と競合・マーケットの情報を学習した特化型LLMを活用した、自社製品の新規用途探索
• 自社の業務用語や作業手順の情報を学習した特化型LLMを使った業務担当のお悩み相談AIアシスタント
• 法律や法務関連の業務手順を学習した特化型LLMと、最新の規制情報を検索するRAGを組合わせた規制情報アドバイス
• 高いセキュリティ性が求められる金融業界の業務に使用可能な、オンプレミス運用型の特化型LLM

 ※LLMと企業のデータベースを接続し、ユーザーからの質問に応じてLLMがデータベースを検索して回答を生成