量子コンピューティングが企業にもたらす倫理的なリスク

本ページはデロイト グローバルで発表された記事『Quantum computing may create ethical risks for businesses. It’s time to prepare』の翻訳をベースに日本に関する情報を追記したものです。英語原文と日本語訳との間で相違や矛盾が発生する場合は、英語原文を優先します。

イントロダクション

企業のリーダーは、今後数年間で量子コンピューティングがもたらす可能性がある倫理的な落とし穴を避けるために、今すぐ準備が必要だ。

新しいテクノロジーは新たな機会を創出するとともに新しいリスクをもたらす。量子コンピューティングも例外ではない。企業や政府は量子技術に数十億の投資を行っているが、使用法やユースケースについては多くの疑問が残る。乱用、誤用、または意図しない結果に伴う潜在的な倫理的な考慮事項は、量子の「既知の未知」の一つである。組織とその評判を守るために、リーダーはその能力やアプリケーションが未だ明確でないテクノロジーのために適切なガードレールを設計する必要がある。

量子コンピューティングが一般的に普及されるようになるのがいつになるのか確実にわからないことを踏まえると、量子コンピューティングの倫理的影響について心配するのは時期尚早に思えるかもしれない。

しかし、起こりうる倫理的な落とし穴を先回りして対応しなければ、何が起こるか皆過去のビジネス経験から分かっているはずだ。倫理的な開発に対するトップダウンの命令がなければ、技術者はビジネス目標を実現するが、技術者が作ったものは意図しない、倫理的に問題をはらんだ結果をもたらす可能性がある。機械学習が組織の顧客や評判にどれほどの損害を与える可能性があるかを大半の人が理解する前に、どのくらい早く機械学習がビジネスプロセスに組み込まれたかを思い出してほしい。

量子コンピューティングがもたらすおそれのある3種類の倫理リスク

技術的制約があるにもかかわらず、量子コンピューティング技術活用の勢いは増し続けている。今後ますます技術的制約が取り払われ、量子コンピューティング技術はいずれは企業の柱になるだろう。

量子コンピューティングの使用が増え、研究から事業別アプリケーションへの適用に移行するにつれて、いくつかの異なる分野で倫理リスクが発生するのを目にするだろう。これらの問題は、既存の保護を無効にするもの、既存の問題を深刻化させるもの、そしてまったく新しい種類のリスクを生み出すものに分類することができる。以下に示す問題は、全てのリスクを記した最終リストではなく、私たちが経験しうる種類のリスクの代表的なものとして捉えてほしい。
 

量子は既存のセキュリティを脅かす可能性がある

サイバーセキュリティ：一部の専門家は、10年以内に量子コンピューティングがハッカーや敵対的な国家に既存の暗号化プロトコルを破るのに利用されるおそれがあると予測している。これは、暗号化に依存しているeコマース取引やその他の仮想金融取引など、様々なインターネットサービスへの大きな打撃になるだろう¹。イーサリアムやビットコインなど、広く使われているブロックチェーン技術のサイバーセキュリティプロトコルも、こうした攻撃に対しては脆弱となるだろう。これは、ブロックチェーン開発者がポスト量子暗号の使用に向けてプラットフォームを更新する必要性を浮き彫りにしている²。

量子コンピューティングによってもたらされる増大するサイバーセキュリティリスクへの対処に関して、組織は「暗号のアジャイル化」を実施することで恩恵を受けられるかもしれない。暗号のアジャイル化とは、新しいプロトコル、標準、およびセキュリティ脅威が急速に進化するにつれて、それらにより適切に対応するために、暗号化アルゴリズム、パラメータ、プロセス、およびテクノロジーを迅速に更新できる組織の能力のことをいう³。このアプローチでは、組織はデータ、データ交換、およびそれらを保護する暗号化アルゴリズムのインベントリを作成することが求められる。米国国立標準技術研究所は耐量子暗号化標準の特定に取り組んでおり、企業はそれらが使用可能になったときに導入できるよう準備を開始すべきである⁴。

アクセス：量子コンピューティングは物理的および技術的に複雑であるため、一般的な個人や小さな企業が所有することはまずないだろうが、そのことは我々がメリットを得られないという意味ではない。テクノロジー普及曲線に沿ってあらゆる人々に公平に普及させたいと考える政府や組織は、量子コンピューティングから収集した知識を共有する方法を検討する必要がある。彼らは、助成金、補助金、その他の政策など、裁量権を有する様々な仕組みを持っており、社会として私たちが重要であると判断した場合に、そのような仕組みを通じて広くアクセスを加速することが可能である。

テクノロジーを構築して所有するベンダーにも、果たすべき役割があるだろう。投資先候補の企業を評価するのに環境、社会およびガバナンスの指標を使用する投資家は増加しており、今では多くの企業が、多様性、公平性および包括性を最優先事項と捉えている。量子コンピューティングシステムを開発しているテクノロジー企業は、公平なアクセスを両方のイニシアチブの中核にすることができる。
 

量子は既存リスクを深刻化させる可能性がある

人工知能、データハーベスティングおよびプライバシー：ここ数年間、データプライバシーの保護と、公益になる形での公正なAI技術使用の確保に向けて大きな後押しがある。こうした取り組みにも関わらず、見境のないデータ収集は依然として横行している。未来の量子コンピューティングは、今日の最も高度なサーバーよりも高速に大量のデータを処理できるようになるため、量子コンピューティングが利用できるようになると、組織がさらに多くの消費者データを収集する動機となり、既に行われているデータハーベスティングがさらに加速する可能性がある。

説明可能性：量子コンピューティングと、特に量子機械学習は、究極のブラックボックス問題になる可能性がある。機械学習の開発者はこの問題についてよく知っている。ディープラーニングニューラルネットワークは不透明なことで有名である。しかしながら、この分野の専門家は、モデルの隠された処理レイヤーを解明して、どのようにして答えを導いたかをわかるようにするツールを開発している5。これらの答えには制約を伴うが、説明は少なくとも理論的には可能である。

説明可能なモデル実現への望みは、量子機械学習により悪化する。量子コンピューティングにおける説明可能性はプログラミングの問題というより、物理の問題である。量子アルゴリズムは、今日の機械学習モデルよりもさらに多くのデータポイントの中からさらに複雑なパターンを認識するため、量子アルゴリズムの意思決定プロセスを評価して判断することは困難だろう。現在の説明可能性の問題は増大するだろう。

グローバルな緊張関係と量子「軍拡競争」：今日のほとんどの先進国が、量子技術の開発に多額の投資を行っている。中国、インド、日本、ドイツ、オランダ、カナダ、米国は、2022年に合わせて50億米ドルを量子技術に費やすと予想されている⁶。この状況は、量子コンピューティングが将来の防衛技術にとって重要であると考えられているため、新しいグローバルな「軍拡競争」と呼ばれることがある。現在がテクノロジージャーニーの初期段階であることを踏まえると、「軍拡競争」という言葉が適切かどうかは明らかではない。しかしながら、そのような恐怖を煽るような話というのは独り歩きするのが世の常であることを私たちは知っている。量子能力開発の取り組みを軍拡競争と位置付けることは、国家間の緊張を高めるという意図しない結果をもたらす危険がある。現時点では、各国の量子技術研究が続く中、これを「軍拡競争」と描写することについては強く注意を促したい。
 

量子は新たなリスクを生み出す可能性がある

新たなリスクについて考えうる多くのシナリオの中から、一部の例を以下に紹介する。

ヘルスケアとライフサイエンス：量子コンピューティングは、生物医学研究者が微妙な遺伝子変化の影響を理解するのに役立つことにより、遺伝子編集において重要な役割を果たすことが期待されている。遺伝子編集自体に議論の余地があるが、量子コンピューティングは新たな形での迅速な研究を可能にすることにより懸念を増長させる可能性がある。これは、DNA編集を避けるべきという意味ではない。DNA編集は、多くの遺伝子疾患の根絶など、多くのメリットをもたらす可能性がある。しかし、この分野の研究者は、自分たちの研究が意図しない結果を招く可能性があることに引き続き留意する必要がある。

先端マテリアル（材料・素材・物質）：量子コンピューティングは、新しいマテリアルの研究開発を加速させると期待されている。小さな分子レベルの変化がマテリアルの特性をどのように変えるのかについて高度なシミュレーションを行い、創薬、炭素回収、化学品生産などの分野で大きな恩恵をもたらすだろう。しかし、新しいマテリアルの歴史を振り返ると、一見有益に見えるものが結局は害を及ぼすことがいかに多いかがわかる。例えば、殺虫剤DDTが初めて導入されたとき、昆虫媒介感染症を減少させる能力を持つこの化学物質は明らかに良いものに思われた。しかし、最後には、その使用が鳥の個体数を壊滅的に減少させていることがわかり、世界の多くの地域で禁止された。同様に、プラスチックは当初、熱狂的に受け入れられた。今はそれらが環境にどれほど有害になりうるかが認識され始めている。マテリアル研究者は、新しいマテリアルの発見に取り組む際、この歴史を心に留め、将来のブレークスルーが同様の環境問題を引き起こさないように努める必要がある。

未来に備え、今から準備を始めよう

量子コンピューティングの倫理的な落とし穴の多くに遭遇するのはまだ遥か先であるため、すぐには対応できない。しかし、その時は日に日に近づいてきている。量子の未来が到来する日に備えて、企業や政府が今すぐ取れる行動がいくつかある。

各ステークホルダーは起こりうる問題について考え始め、自分たちが量子コンピューティングを使用することで将来どのように倫理リスクが引き起こされる可能性があるかを理解することができるだろう。ありがたいことにゼロから始める必要はない。テクノロジーによる影響を把握するための既存の倫理枠組みがあり、重要な考慮事項の多くは量子コンピューティングに一般化することが可能である。これらは、企業の幹部が最初に自分たちの取り組みに倫理を組み込む方法を考えるのに役立つだろう。

これらは、組織の量子戦略を検討する際に役立つ材料となるはずである。倫理と量子コンピューティングに関して直接行動を起こすのは時期尚早である。しかし、企業は自社の幹部や専門家を招集して、新技術の進歩や競合他社の行動など、行動や投資の増加の必要性を示すトリガーイベント（引き金となる出来事）を洗い出し、最新の情報を収集・判断していく必要がある。その際、倫理リスク軽減へのアプローチは、確かな量子技術戦略の策定には組み込まれるべきことである。

問題が完全に表面化するまで待っていては、手遅れになる可能性がある。量子コンピューティングがどのように倫理リスクを生むのかを今理解することで、将来、長期的な落とし穴への対処の手間や困難を軽減することができる。

量子コンピューティングは、非常に強力なものになることが期待される。これらの脅威から身を守るために、テクノロジー業界だけを頼ることはできない。政府の規制は解決策の一部となるべきだが、規制を進めるには通常何年もかかる。当面の間、量子の導入に備えている企業の幹部は、自社と顧客を守る必要がある。今こそ、「素早く行動し破壊せよ」という時代が残したような倫理的な落とし穴を潜在的に回避する機会である。

日本企業における量子コンピューティングの活用に向けて（日本版執筆者の意見）

本レポートは、デロイト グローバルの量子チームリードである、Buchholz ScottおよびBeena Ammanath（両者ともに米国のメンバー）が執筆したレポート『Quantum computing may create ethical risks for businesses. It’s time to prepare』を翻訳したものである。

量子コンピューティングの活用は米国やEU、そして中国などで進んでいる領域であるが、既に日本の企業においても多くが興味を持ち、特に化学業界や製薬業界、物流業界などの企業はPoCを進めている。そのため、当レポートに記載した倫理的なリスクは隣の畑で起こっている問題ではなく、まさにこの日本で起こりうる問題・近い将来直面する可能性の高い問題として捉えていただきたい。

しかし、多くのリーダーはどういった取り組みから始めて良いのか悩むのではないだろうか？まずは、上記で記したように量子コンピューティングの引き起こす問題が、近い将来直面する可能性の高い問題であるということを理解すること。そして、それに過剰に恐怖・期待することのないように量子コンピューティングについて正しく知識を身に着けること（特に現時点で過剰な期待を寄せているケースが散見される）。

そして、本レポートで記されているような倫理的なリスクについて準備ができることはないか検討することから始めるのはいかがだろう。

その一助となるべく、本章ではデロイト トーマツ コンサルティングが考える量子コンピューティングについて今から理解をしておいていただきたいこと、そして今から考えておくべき倫理的な論点について記す。
 

量子コンピューティングによる計算と機械学習の違い

倫理的な観点を語る前提として、混同されがちであるが、機械学習と量子コンピューティングは一つの問題に対してもアプローチが違う技術であるということを理解いただきたい。

まず、機械学習は企業や個人が所有する数多くのデータをもとにAという事象、Bという事象それぞれが起きた際のデータの特徴を学習し、学習結果をもとに、次の結果を予測する技術。いわば過去から未来を予測するという技術である。これは多くの企業で取り組んでいるものであるため、感覚がつかみやすいかもしれない。

一方で、量子コンピューティングは、アルゴリズムのような形で量子コンピューティングに組み込まれた理論・条件をもとに、計算を行う。その結果の量子の状態を観察することで、計算結果を解釈するという技術である。つまりよく言われる最適化というのは、量子コンピューティングにあらかじめ、これが最適であるという理論・条件を定義・設定しておき、そこから各ケースでそのルールにのっとり、最適なパターン（正確にいえば現時点では近似値）を算出するという技術となる。

機械学習の難点は、データに偏りがあると正しい学習（＝量子コンピューティングでいう理論・条件）ができない。しかし、量子コンピューティングは人が理論・条件を設定するため、データの偏りには依存しないというところが大きな違いである。（量子機械学習は、量子の技術をもとに機械学習を行う技術であるため、記載とは異なる）
 

量子コンピューティング特有の倫理的な課題：結果解釈の恣意性リスク・ビジネス導入の説明責任

しかし、先述の特徴を持つ量子コンピューティングだからこそ出てくる倫理的な課題が存在する。特に量子コンピューティングの活用が期待される、量子化学計算・物質科学の領域であるが、専門家による結果解釈の恣意性のリスクが存在すること。そして、ビジネスに導入する際には説明責任が存在する（⇒しかしそれは量子コンピューティングの特性上、難しい）という点である。上記レポートにも量子機械学習の説明可能性の問題が記載されているが、デロイト トーマツ コンサルティングの意見として、量子化学計算・物質科学の領域における説明責任・難解さを挙げたい。

例えば創薬に使うことを考えた場合、創薬にどういったタンパク質を用いるべきか、触媒を用いるべきかなどを算出するための量子コンピューティングへの条件の設定、そして結果の観察・解釈は量子の専門家が行う。それはつまり、本来であれば、製薬会社が数々のデータをもとに根拠をもって決定していくはずのプロセスが、外部の専門家が設定した量子のふるまいという製薬会社が深く理解していないものの営みによって決められるということになる。

これらのことは同様のユースケースで活用が期待される化学業界にもいえることだが、実ビジネス導入の際には、その量子のふるまいをどのようにして正と解釈し、ビジネスに導入するのか、説明づける必要があるだろう。

また、その他倫理的な観点については、量子コンピューティングを含むAI・機械学習やメタバース・Web3などEmerging Technologyと呼ばれる技術群を活用・導入する際には共通して議論をするべき論点を紹介する。データを用いる際の権利の保護、そして健康的な市場成長・技術成熟のための公平な参加を保つという観点だ。
 

権利の保護

Emerging Technologyの活用検討をするにあたって、代表的な論点として、権利の保護が挙げられる。考慮しなければならない代表的な権利はデータプライバシーや知的財産である。データプライバシーの観点から考慮すべきこととして、データの真正性確保や、個人のプライバシーを尊重したうえでデータを活用すること（EUのGDPRなどはガイドラインとして代表的である）、活用に関して、公平性・バイアスがかかっていないかが挙げられる。

また、知的財産の観点から考慮すべきことは、データセキュリティの担保、著作権に違反するようなデータ利用方法になっていないかなどが挙げられる。

これらは一つでもかけてしまうと企業のレピュテーション低下、訴訟問題などに発展し、大きな損失に繋がる可能性が高い。最近では、AIの活用に際して同様の観点で検討を進めている企業が多い。量子コンピューティング利用に関しても、量子機械学習の利用の際は、多くのデータを用いて学習を行う。その場合は、この権利の保護というアジェンダについて検討が必要となってくるだろう。
 

公平な参加

もう一つ、これはユーザー企業というよりも量子コンピューティング技術を開発している企業にいえることだが、量子コンピューティング技術成熟のためには、公平に参加できる市場であり続ける必要があるということが挙げられる。

この時論点として挙げられるのは、包摂性（いかなる属性の人・モノも排除されないこと）やデジタルデバイド（情報格差）の観点。専門人材の拡充やユーザーの参加に関わるハードル軽減などである。

例えば、現状量子コンピューティング技術を扱える人材は数少ない。特に量子コンピューティングで問題を解くための定式化などについては、専門家の知見を得なければユーザー企業で行うことは不可能に近いだろう。また、量子コンピューティングが開発途中であるということもあるが、マシンのリソースにも限りがある。これは開発が進むとともに徐々に解決される問題でもあるが、より多くのユーザーがアクセス・そして多くのユーザーが扱いやすいように開発側が努力することが、より健全な市場成長、そしてさらなる技術成熟に繋がるだろう。

終わりに

量子コンピューティングは発展途上の技術である。しかし、全く未知の技術ではなく、現時点から備えておくために出来ることはあるだろう。量子コンピューティングが実現する未来は明るいものだと信じているが、一方で明るいものには影も存在するのが事実である。

量子コンピューティングが実現した未来に、その影に怯えることなく量子が活用できる未来を迎えるために、本レポートが一助となれば幸いである。また、レポートに執筆した以外にリスクに備えるためにはどのような論点を検討する必要があるか、現時点量子コンピューティングはどういったことができるのか等、さらに詳しい情報については問い合わせいただきたい。
 

参考

¹ Deborah Golden et al., Preparing the trusted internet for the age of quantum computing , Deloitte Insights, August 6, 2021.
² Deloitte Insights, Quantum computers and the Bitcoin blockchain , accessed May 2, 2022; Itan Barmes et al., Quantum risk to the Ethereum blockchain—a bump in the road or a brick wall? , Deloitte Insights, accessed May 2, 2022.
³ Golden et al., Preparing the trusted internet for the age of quantum computing.
⁴ National Institute of Standards and Technology, “Post-quantum cryptography ,” modified March 10, 2022.
⁵ Wojciech Samek et al., “Explainable artificial intelligence: Understanding, visualizing and interpreting deep learning models ,” Cornell University, August 28, 2017.
⁶ Yasmin Tadjdeh, “Spending on quantum tech on the upswing ,” National Defense, February 26, 2021.

Disruptive Tech

デロイト トーマツ グループは、AI、量子技術、Web3、メタバースといったエマージングテクノロジーについて、各業界の支援実績等に基づく幅広い知見を有しています。また、グローバルを含むアカデミア・産業界・政府系機関との繋がりを有しており、先端テクノロジーの最新動向を踏まえた価値提供・創造が可能です。

Disruptive Techに関する各種コンテンツはこちら