書籍『リスクマネジメント　変化をとらえよ』特別対談企画　第２弾

第一部：伊藤穰一氏による特別講演

特別講演におけるトピックス

• リスクをどう理解するのか（アップサイドリスクとダウンサイドリスク）
• トレンドを見極める（web3等、テクノロジーの変遷から時流を読む）
• ブロックチェーンは会計の未来にも影響する
• web3＋AIで透明性とアカウンタビリティが向上する
• AIの利活用時におけるリスクとは
• 日本におけるIT人材不足が大きな課題

■リスクをどう理解するのか

伊藤： まずは投資家の目線でリスクの話をさせていただきます。英語で「Buy Low, Sell High」（安く買って高く売る）という言葉があります。この「Buy Low, Sell High」をリスクという観点から考えると、「他の人が思っているよりリスクを安く買い、高く売る」ということになります。

上場したばかりのスタートアップが注目されて多くの人が投資するケースがありますね。メディアは、そのスタートアップに関する良い話題ばかり報道しますから、株価は本来より高くなりがちです。優秀な投資家は株を高く売りたいから、このタイミングで株を売ります。

伊藤穰一氏／Joi Ito　株式会社デジタルガレージ 取締役 共同創業者 チーフアーキテクト・千葉工業大学学長

デジタルアーキテクト、ベンチャーキャピタリスト、起業家、作家、学者として主に社会とテクノロジーの変革に取り組む。民主主義とガバナンス、学問と科学のシステム再設計など様々な課題解決に向けて活動。2011年から2019年まで米マサチューセッツ工科大学 (MIT) メディアラボ所長を務め、デジタル通貨イニシアチブ設立を主導。クリエイティブコモンズ取締役会長兼最高経営責任者ほか、ニューヨーク・タイムズ、ソニーなどの取締役を歴任した。デジタル庁web3研究会構成員。web3変革コミュニティで様々な実験に取り組み、「AI DRIVEN AIで進化する人類の働き方」を出版。
 

では、株を買うタイミングはいつなのでしょう。安く売られるのは、起業したばかりで誰も知らない時期ですね。たとえそのスタートアップが高い技術を持っていたとしても、まだあまり世間に知られてなかった場合、多くの人が投資することに対してリスクを感じます。実際、既に成長している企業と比べると、スタートアップにはそれなりのリスクはあるでしょう。しかし投資する側が業界の事情や最新技術に詳しければ、価値を正しく見積もることができるため、リスクを見定めたうえで買うことができますし、他の人が注目し始めたタイミングで売ることもできます。

この仕組みを理解していなければ、「高く買って安く売る」ことになりかねません。実際、日本の大手企業がバブルのピーク時にアメリカでビルを購入し、バブルがはじけて会社の状態が厳しくなったタイミングでそのビルを売ったという事例がありました。リスクがないと思って買い、リスクがあると思って売った結果、「高く買って安く売る」ことになってしまったのです。

安く買って高く売るにはリスクを理解することが重要ですが、日本人はリスクの話をしたがらない傾向があるため、こういったことができていないように感じます。

ある日本企業の社長に「あなたは何をリスクと考えますか」と質問したとき、「１億円で請け負った仕事があるが、契約上きちんと最後までやらなければならない。もしかすると10億円以上のコストがかかる可能性もある……」と回答しました。確かに、この契約で１億円の売り上げは立ちますが、同時に無限のダウンサイドリスクを抱えることにもなります。社長の立場だと、そのリスクを考えるだけで不安になるでしょう。

一方で、創業してまだ間もない企業に資金を供給する「エンジェル投資家」は、ダウンサイドのリスクを抑えることができます。例えば、私の平均投資金額が500万〜1,000万だとすると、損する最大の金額は1,000万となります。無駄な手をかけなければ、この額以上の損失はでません。その一方で、アップサイドリスクは無限です。そうなると、エンジェル投資家は多くの企業に投資し、成長しそうな企業に注力するというアップサイドのリスクに注目するようになります。日本企業の考え方とは真逆ですね。
 

■トレンドを見極める

リスクを把握・解析し、マネジメントしていけば、利益を上げることができます。その中で「トレンド」はとても重要な要素となります。

例えば、いまweb3が注目されていますが、Web以前のマーケットはあまり複雑ではなく、コミュニケーションとコラボレーションにコストがかかっており、中央集権になっていました。Web1.0によって多くのプロバイダが生まれ、中央のデータベースが分散されたWebページになり、非中央集権になっていきました。その結果コストが下がり、複雑性が上がっていきます。利用者が増えると同時に合理化が進み、マーケットのプレッシャーは増大します。その結果、中央集権化が進みました。 Web2.0では個人ブログが台頭し、ユーザー自身がサーバーを構築するようになり、非中央集権にプッシュされていきました。しかしソーシャルメディアの台頭が注目を集め、インフラにもクラウドが使われました。ここで再び、中央集権化したのです。 web3では、プラットフォームに自分の個人情報を持たせず、ブロックチェーンで分散することで、自分自身で管理・コントロールできるようになりました。非中央集権化が進み、複雑性は上がっていますが、コラボレーションコストとコミュニケーションコストが下がっています。これが今の大きなトレンドです。私は、このトレンドの中で新しいリスクと可能性が登場すると考えています。
 

■ブロックチェーンは会計の未来にも影響する

私は、ブロックチェーンを使うことで会計のあり方が変わると考えています。紀元前2000年頃に生まれた簿記は、今の資本経済の根幹を担っていますが、そういった技術をデジタル化・分散化し、スマートコントラクトをいれることで、人間のコーディネーションの複雑性は増すものの、コントロールできるようになると思っています。例えば、暗号通貨で知られるイーサリアムは「人間のコーディネーションのプロトコル」と考えられますし、スマートコントラクトが入ってくればプログラムできるようになるでしょう。

これまでは、お金を渡してカギをもらったり、カギを渡した相手からお金をもらったりする際、弁護士、会計士、裁判官、カード会社、契約書、印紙などのさまざまなシステムが保証してきました。これらはすべて手動のインフラだったんです。 これがコントラクト上でできるようになれば、AIや不確実性コンピューティングなどを使ってプログラムできるようになります。つまりビジネスもプログラマブルになるし、ガバメントも社会もプログラマブルになります。デジタル化することでやれることは増えますが、リスクも増えます。web3では犯罪も増えており、多くの被害が起きています。アメリカでは暗号通貨に対してネガティブな意見もでており、価格も下がってきています。しかしinformation is in the price（情報が反映されている価格）を考えると、価格が下がっているときこそ正しいリスクテイキングが可能になるかもしれません。
 

■web3＋AIで透明性とアカウンタビリティが向上する

未来を見据えると、web3とAIをかけ合わせることで、透明性とアカウンタビリティが大きく向上する可能性があります。web3は全て情報の塊で、誰もが見ることができます。これを解析・理解すれば、確実な情報を取得できるからです。 現在はまだそういったマネジメントを適切に行えるAIは登場していませんが、web3やAIが進化していけばできるようになると思っています。

DAO（Decentralized Autonomous Organization）はweb3の重要なパーツで、分散型自律組織と訳されます。実際、DAOと呼ばれる組織も増えています。DAOの「トークン」は、流動性の高い株のようなものなので、ある意味、株式公開に似ています。 歴史を振り返ると、株の発行の仕方によって組織とケイパビリティが変化しました。株ができた時、マネジメントと投資家という2つのカテゴリーが生まれ、ストックオプションによって働いている社員が株主になったり、ベンチャーキャピタルといった職業が生まれたりしました。 そして現在、トークンが登場しています。トークンは顧客に配る用途で使われることが多く、その結果、顧客がプロダクトに口を出せるようになるのです。 DAOは新しい技術で詐欺も多いため「怪しい」と感じている人もいますが、これが進化すると今の株式会社のように信頼されるものになると思っています。またDAOはブロックチェーン上で見えるので、解析すればリスクが分かりますが、まだそういったことが広く知られていません。

ガバナンスの形態も、これからどんどん進化していくでしょう。ガバナンスには「法律」「技術」「経済」「文化」といった4つの方法があり、これらを組み合わせてコントロールしていますが、DAOの登場によってそのバランスがシフトしつつあります。 様々な人がオンラインで集まる際に上手くいかないことの一つが投票ですが、DAOでは新しい投票のメカニズムが研究されています。また、プログラムを使ってトークンや会話の中身を解析し透明性を向上させ、リスクを可視化するツールも開発されています。
 

■AIの利活用時におけるリスクとは

次に、AIの利活用についてお話します。AIには50年ほどの歴史がありますが、現在は生成AIが話題になっています。AIは、人間のやっていることを拡張することができます。例えるなら、我々が行動を起こす時、背中にジェットパックを背負うイメージです。いい方向に向かってジェットパックを付ければパフォーマンスが上がりますが、きちんとマネジメントできていなければ、より悪い方向に向かうリスクがあります。そのジェットパックがAIなのです。

現在の生成AIは、Hallucinationと言って、堂々と虚偽の回答を繰り返すことがあり、信頼性が低いのも事実です。そのため、ファクトチェックが必要です。ですが、それをせずに問題になっているケースもあります。

また、AI、特にニューラルネットワークは、多くのパターンを学習し、確率を計算して結果を表示する仕組みのため、ある物体に少し手を加えるだけで、別の物体だと誤認させることができます。私の教え子が行った実験では、亀の置物の甲羅の模様を変えるだけでライフルであるとAIに認識させました。このように、人間であれば間違えないような間違い方をするのが、AIの大きな弱点といえるでしょう。現在、こういった誤認を防止する手段はありません。

もう1つ「バイアス」にも気をつけなければいけません。アメリカのAIの事例をご紹介します。逮捕歴のデータを使って麻薬犯罪が起きるエリアを予測するAIがありますが、医学の研究論文によると、AIが予測したエリアから外れた白人が多く住む居住地でもドラッグが使われていることが分かっています。しかしAIは、白人が多く住む居住地で麻薬犯罪が起きると予測しません。なぜなら、白人の家でドラッグを使っていたとしても、警察が捜査せず、誰も逮捕されていないため、麻薬犯罪が起きていないエリアとされ、それがデータ化されてしまうからです。これは、警察の捜査にバイアスがかかっているため、起こる事象と言えるでしょう。このようなデータでも、AIの学習を通すとファクトとして扱われるため、気をつけなければいけません。 

歴史を振り返ることで見えてくるAIの課題もあります。1930年代から拡大したレッドライニング（金融機関が低所得層の方々が多く居住する地域を融資対象から除外する差別的な行為）が違法であると判断された際、保険会社が「フェアネス」の定義を変更しています。もともと保険は共助の仕組みで、様々なリスクをみんなで分散するというものでした。しかし保険会社は利益を上げるため、フェアネスを「Actuarial Fairness」と定義し、リスクの高い低所得層は保険料を高くするなど差別が始まりました。このように、社会のフェアネスから「Actuarial Fairness」であるアルゴリズムや数字のフェアネス「Algorithmic Fairness」に切り替わっていきました。しかし、この「Algorithmic Fairness」とAIが組み合わさった場合、過去のデータでモデルを作って、そのモデルをいじることはアンフェアですがこのようなことが行われており、実は大きな課題だと考えています。

この課題を解決するには、いくつかの方法があります。私がデロイト トーマツと一緒に取り組んでいるのは、Probabilistic Computing（ProbComp）の開発です。ProbCompでは、人間が確認できるモデルを作っています。それにより、モデルを変更したり解析したりすることが出来るようになり、先ほどのHallucinationを無くせます。また、バイアスも可視化されるので、バイアスを修正するためにモデルをいじることも可能になります。 また、Large Population Modelsも一緒に開発しています。自国よりも巨大でプログレッシブな国のモデルを合体させることで、解像度を上げるという取り組みです。
 

■日本におけるIT人材不足が大きな課題

AIやweb3を考える中、「人材不足」は日本の大きな問題です。日本のITプロフェッショナルは80万人ほど足りないというレポートもあります。特に中小企業にはほとんど存在していません。 中学生までは数学や科学の順位が高いのに、サイエンスやエンジニアリングのキャリアを歩んでいません。その理由は、サイエンスやエンジニアリングの給与が安く、社会的地位も低いからでしょう。この部分にロングタームのリスクがあります。そのため、人材育成は最も優先度の高い課題であると言えるでしょう。
 

■最後に

本日は、「テクノロジーの発展に伴うリスクへの影響」に関して様々な角度からお話してきました。繰り返しになりますが、リスクマネジメントしながらAIというジェットパックを身に着け、「安く買って高く売る」を実践していきましょう。

第二部：伊藤穰一氏×リスクアドバイザリー対談
 

■日本企業のリスクテイク

高津： ありがとうございました。これまでの経験やデータから正しいとされている事柄にもバイアスがかかっているケースがある、フェアネスの根幹にはさまざまな思惑があるというお話を聞き、本当に驚きました。我々が外部の第三者としてサービス提供する際も、データに加え、社会常識や規範などのレギュレーションに照らしつつ考える必要があるでしょう。新しいリスクにレギュレーションが追いついていない部分も多いと感じました。

また、web3とAIとの組み合わせがより使いやすくなるというお話もありました。変化が激しい時代だからこそ、日本企業は積極的にリスクをテイクするのだという意思決定が重要になると感じました。ベンチャーキャピタリストという観点から、日本企業のリスクテイクの課題や意見などを伺えますか。

高津 秀光／Hidemi Takatsu　デロイト トーマツ リスクアドバイザリー　パートナー　Risk Advisory CSIO (Chief Strategy and Innovation Officer)

コンサルティング会社にて業務改善コンサルティングに従事し、2006年監査法人トーマツ（現有限責任監査法人トーマツ）に入社。その後、業務改善、内部統制整備、リスクマネジメント強化などの案件に多数従事し、現在は大手製造業を中心としたグループガバナンス強化に向けた組織の設計、ポリシー整備、HD（ホールディングス）化・子会社統合等のグループ再編、PMI (M&A後の業務標準化)　に関連する業務を数多く手がける。

伊藤： 先ほどの「フェアネス」の話と似ているのですが、金銭的な価値と感情的な被害、社会的な被害は、少しずつ異なります。日本人はよく「お金の問題じゃない」と言いますよね。お金のことを考えるとリスクをとるべきだが、気持ち的にはそのリスクを取れないということも結構あると思うんです。そうすると、本来であれば会社として取るべきリスクを担当者が取れないというケースも出てくる。その結果、リスクが残ってしまうこともあるんです。こういった文化的な要素は、数字だけ見ていても分かりません。デロイト トーマツ リスクアドバイザリーでは、そういった文化的なリスクをどのように計測しているのでしょうか。

高津： クライアントに対して、そのようなリスクを定量的に測定してアドバイスするのは難しいですね。コンサルタントの積んできた経験やノウハウなどがベースになっています。クライアントの状況を正しく客観的に理解しなければ「これが正しい」とは言えないため、クライアントの経営環境や人との関係も組み合わせてアドバイスすることが大切だと考えています。

川津： リスクアドバイザリーではクライアントがリスクテイクするための手段として「保証」するというサービスも提供しています。最近は、さまざまな新しいリスクが生まれています。伊藤さんのお話の中で「フェアネスの定義を変える」という衝撃的なお話もありました。そういった中、我々のサービスのあり方や方向性などについて何かヒントを頂けないでしょうか。

伊藤： 僕も、保険の話を知ったときには本当に衝撃を受けました。民間企業が、お金のために社会の倫理を引き込んでいくんですからね。社会の倫理をどうやってガバナンスやAIに表現するのかが重要でしょう。それには一般の人達のリテラシーを上げ、みんなで未来を考えていく必要があります。

倫理の問題は往々にしてトレードオフというケースが少なくありません。例えば、社会の安全性と自分のどちらが大事かというのはその一例です。環境問題と高齢化もそうですよね。こういった話は、みんなでディスカッションして決めていかなければいけませんし、それを経済の原理やAIの原理にしていかなければならない。 将来のリスクについて把握し、さまざまな事柄がトレードオフの関係になっているということを一般に理解してもらうには、さまざまなステークホルダーを教育していく必要があります。そうやって全体のリテラシーを底上げしていくのも、デロイトのようなプロフェッショナルファームの仕事だと思います。
 

■日本はリスクが話題に上らない

伊藤： 最近とても気になっているのが、サイバー保険の不人気です。実際に契約している企業は数％程度ということですが、サイバー攻撃のリスクが高まっている中、保険がかけられないのは危険なシグナルではないかと感じています。しかし、実際にはそういったことは話題になっていません。これはどう考えればいいのか、皆さんのご意見を聞かせてくれますか。

高津： セキュリティは、限られたリソースでリスクをどこまで低減するのかということに尽きます。しかし、リスクがどこまで広がっているのかを見極めることは容易ではありません。リスクテイクする際、それらを見極めないと判断するのが難しいということが背景にあるのだと思います。

川津：クライアントからも「どこまでやれば合格点なのか」と聞かれることがあります。しかし、セキュリティに「ここまでやればOK」ということはありません。結局、どこまで投資するのかが分からず、思考停止に陥っている部分はあるのだと思います。 

川津 篤子／Atsuko Kawazu　デロイト トーマツ リスクアドバイザリー　パートナー

総合電機メーカーにてシステム企画・開発業務の経験を経て、2002年に監査法人トーマツに入社。 大手金融機関やインターネット系金融機関を中心とした銀行・証券等に対するシステムリスク管理態勢の監査やセキュリティ管理態勢整備にかかるコンサルティング業務、内部監査支援業務、システム更改プロジェクトの監査に従事。現在は大手金融機関やフィンテック企業、大手製造業の日本基準および米国基準の法定監査としてのIT評価等を行っている。経済産業省 デジタルガバナンスに関する有識者検討会およびSociety5.0時代のデジタル・ガバナンス検討会 委員、DX銘柄2023評価委員会 委員を務める。
 

伊藤： 投資家の目線で考えると、もっと保険を掛けたい人がいるはずです。今のマーケットができていないことは、今後のチャンスに繋がると思うんですよ。

高津： そうなるとリスクをどうやって定量化するのかというのは難しい命題かもしれません。金額的なインパクトを算出するにも膨大なパラメータが必要になります。どこまでリスクをとるのか、そのキャパシティを金額的に示すことに難しさがあります。

しかしリスクをとらないと成長しない。必要十分なリスクをテイクしながら成長に向けて投資できているのかという考え方に変えていく必要があるでしょう。「リスクは怖いので取らない」のではなく、「ここまではとるべきだ」という考えをベースに議論していかないと、成長に向けたドライブはかかりにくくなります。

伊藤： ブロックチェーンを使えば証券化が楽になり、流動性を高めることができます。リスクを含めたポートフォリオやリスクアペタイトなどは、これまでは保険会社がビジネスにしていたのですが、トークン化することでリスクのマーケットを作ることもできると思います。そういったマーケットメーカーにデロイト トーマツが参加し、リスクの格付けなどをしてもいいかもしれませんね。

高津： なるほど。それは面白いですね。
 

■合理的なリスクテイクができるアメリカ

川津： 日本企業は事業をトランスフォーメーションして事業を広げようとしていますが、新しいリスクや見えないリスクが生じています。リスクを畏れ、ビジネスの立ち上げが遅れたり、投資ができなかったりといった悪影響もあります。米国の状況はどのようになっているのでしょうか。

伊藤： アメリカは競争が激しい上に、あまり会社を守ることがありません。何でもお金で測るため合理的なリスクテイクができる部分もあると思います。

一方、日本は「社員ファースト」など、お金に換算できない価値を重視している会社が少なくありません。それをアメリカ的な合理性で進めると、お金に換算できない価値はどんどん消えることになりますし、倫理的な部分も削られてしまう。 イノベーションが必要なときにはアメリカ型が強いかもしれませんが、AIの話になるとまた違います。私は、利休や僧侶のようなAIが世の中にあってもいいと思います。困った人を助けたいというのは、日本人の感覚にも合っていると思うんですよね。

伊勢神宮は1300年の間、拡大していません。しかし、そこには拡大無き生きがいを感じることができます。確かにDXには向きませんが、文化やAIガバナンスには向くかもしれない。台湾のオードリータンは、国がweb3やAIを活用することで国民の理解や共感を深め、民間に落とし込もうとしています。こういった取り組みは本来日本でやってもいいと思うんです。
 

■カルチャーの醸成には多様性が不可欠

高津: 先ほどのIT人材不足も大変衝撃的な内容でした。我々も、サイバーやデータサイエンティストなどでテクノロジー系の人材を必要としています。そういった人材をどうやって増やし成長させていくのかは大きな課題です。高等教育の過程で離れていくというお話もありましたが、企業の中で経験を積んで成長させることができるのではないかとも思うのですが、いかがでしょうか。

伊藤： この問題の根底には、エンジニアの給与が低いという問題があると考えています。給与が低ければ、優秀な人は就職しようと思いませんよね。デロイトのようなプロフェッショナルファームが優秀な人材を採用し、育てるということが、ひとつの解決策になると思います。これが最も直接的にできることでしょう。もう一つは、政治家や大企業の幹部に必ず、理系の人間を入れることですね。経営トップにもエンジニアを入れることも必要でしょう。

以前、ハーバードの法学部とMITのエンジニアリングの両方でAIの授業をしたことがあります。その結果、エンジニアが法学部に行ったケースはありますが、法学部からエンジニアには一人も来ていません。実は、理系は若いときにかなり努力する必要があるため、文系の人材を理系に変更するのは難しいんです。そういった意味でも、理系の人材を幹部に送り出すということが重要だと思います。

川津： もう1つ、カルチャーについても伺いたいと思います。新しいこと、新しいビジネスを立ち上げようとするとき、会社のカルチャーが醸成されていなければ上手くいかない。社風やカルチャーを醸成するための取り組みなどで何かヒントはありますか。

伊藤： そうですね。カルチャーは最も重要で、最も難しい。カルチャーがないと、何をやっても上手くいかないですからね。一番簡単なのは、役員に女性や外国人、理系の人などをいれて役員会を多様化することですね。人間の多様性がないと、いくらやっても文化は変わることがありません。

高津： 我々も多様性を大切にしています。さまざまなタレントに来てもらわないと、我々自身も強くなれないと感じています。また、閉じた世界では外の変化に気づくこともできません。リスクをテイクするためにも、色々なリスクに気がつくチャンスを増やす必要があります。そのためにも多様性は必要です。

伊藤： 数学的にも多様性はレジリエンスに繋がります。モノカルチャーのリスクはとても高いですからね。

高津：本日はさまざまな示唆をいただきました。我々は、リスクマネジメントはリスクテイクを支えるものであり、成長するために必要と考えています。伊藤さんのお話を伺いながら、非常に勇気をいただきました。本日は、ありがとうございました。