第11回 AIとサイバーセキュリティ

AI×サイバーセキュリティ

AIによって作成されたマルウェアやフィッシングメール、AIを利用した組織のITインフラの監視、サイバー攻撃により妨害されたAIへのログイン等、今日AIとサイバーセキュリティには日常的に話題になるほど様々な関わり合いが見られています。本稿では、そうしたAIとサイバーセキュリティの関わり合いを、①AIを悪用した攻撃(Attack using AI)、②AIを利用した防御(AI for Security)、③AI自体を対象にした攻撃(Security for AI)に分解して、それぞれのトレンドについてお話します。

AIを悪用した攻撃

利用者に多くの便益をもたらすAIは、残念ながら、サイバー攻撃の攻撃者のスキルを拡張することにも役立ってしまいます。最近ではサイバー犯罪に特化した生成AIまで開発されていて、一定のスキルを持った者は、より高度な攻撃を行えるようになり、また逆にあまりスキルを持たない者でも容易に攻撃を行えるような環境が整ってしまっています。

冒頭で触れたフィッシングメールやマルウェアの作成以外にも、AIは偽画像・偽音声を作成することに悪用でき、そのようにして得られた偽画像・偽音声が本人のなりすましに用いられて、海外では詐欺や本人認証の不正な突破といったインシデントが起こっています。その他、パスワードを効率的に見破る、システムの脆弱性や不具合を調査する、攻撃を自動化する、といったAIの使われ方も知られています。その一方で、こうした既存の脅威の発生件数が増え、攻撃の手口がより巧妙になることはあるものの、脅威の新規性という点では、これまで想定されなかったような新たな脅威は今のところあまり見られていないかもしれません。

AIを利用した防御

AIは企業側において防御に利用することもできます。デロイトが昨年実施した”Global Future of Cyber Survey“(※1)の調査結果では、約40%の企業が、なんらかの形でAI機能を自社のサイバーセキュリティの取り組みに「大いに活用している」と回答しており、防御におけるAIの活用の広まりが見られます。

また、上のグラフで記載されたAI機能以外にも、例えば、ユーザーの操作状況にもとづいて認証の方法を調整するリスクベース認証、最新のセキュリティ上の考慮点を踏まえたセキュア開発やセキュリティポリシーの自動評価、機密データや個人データの検出等にAIは利用可能と考えられています。前述のように、攻撃者側がAIを悪用する中、防御する側もAIを用いてより適切にセキュリティ対策を講じていくことが可能になってきています。

AI自体を対象にした攻撃

前述の「AIを悪用した攻撃」は、企業におけるITシステム全般にかかわる脅威を挙げたものですが、ここでは「AI自体を対象にした攻撃」について紹介します。AIへの攻撃には、例えば次のようなものがあることが知られています。

• データのポイズニング/インジェクション：　機械学習システムのモデルの入力に利用されるデータやモデルに、細工したものを紛れ込ませることで誤動作させる
• データの漏えい/推測：　機械学習システムへの入力に対する出力を分析することで、訓練データに含まれる情報を復元する
• サービス停止：　大量のリクエストの送信によりシステムを過負荷の状態にして、サービスの提供を滞らせる
• 不正アクセス：　流出したAIのログインID・パスワードを使って不正アクセスを行う

このようなAIへの攻撃は、AIの開発者、提供者、利用者において発生しうるもので、AIにかかわる企業は既存のシステムに関するセキュリティ対策以外に、AIへのセキュリティ面での対応を進めることが求められています。

まとめ

AIは企業側だけでなく攻撃者にも多くの便益を与えてしまいます。AIが悪用されることで、セキュリティにかかわるリスクの発生可能性がより高まる中、企業側ではこれまでのセキュリティ対策の取り組みを見直す動きが見られます。そのような見直しの中で、テクノロジーの進展を踏まえながら、企業側もAIの利用をより積極的に検討し、セキュリティガバナンスをアップデートすることが重要と考えられます。

以上、本連載第11回では、AIとサイバーセキュリティと題して、AIを悪用した攻撃、AIを利用した防御、AI自体を対象にした攻撃について紹介しました。次回をもって本連載「AIガバナンスの最前線」は最終回となります。最終回では、日本におけるAIガバナンスの取り組みについて有識者との鼎談を掲載する予定です。

デロイト トーマツではAIガバナンスに関して様々な知見を発信しております。AIガバナンスの策定・実行を支援するサービスも提供しておりますので、下記のページよりお気軽にお問い合わせください。

AIガバナンス – 生成AI時代に求められる信頼できるAIの実現の道筋

執筆者

大場 敏行
デロイト トーマツ サイバー合同会社　マネージングディレクター

参考

※1 “2024年 Global Future of Cyber Survey” デロイト トーマツ サイバー合同会社
https://www2.deloitte.com/jp/ja/pages/risk/articles/cr/future-of-cyber-survey.html

連載一覧

• 第1回 AIガバナンスとは何か？リスクと必要性
• 第2回 グローバル企業のためのAIガバナンス
• 第3回 AIシステムに対する内部監査
• 第4回 AIの保証・認証制度
• 第5回 外部監査におけるAIテクノロジーの活用
• 第6回 海外のAI関連の法律、規制、ガイドライン
• 第7回 日本のAI関連の法律、規制、ガイドライン
• 第8回 AIと知的財産権の基本とリスク～恐れることはない、AIの活用のために～
• 第9回 生成AIを用いた内部監査
• 第10回 AIとプライバシー
• 第11回 AIとサイバーセキュリティ
• 第12回 AIガバナンスの未来と課題～産学官連携による新時代への挑戦～