最新動向/市場予測

「強い」は脆い?―「弱さ」が生みだすレジリエンスとセキュリティ ― 《後編》

豊橋技術科学大学 岡田美智男さんと

人を守る、子供を守る、地域を守る、社会を守る、日本を守る、地球を守る――さまざまな舞台で活躍する「守る」エキスパートたちに、デロイト トーマツ サイバーセキュリティ先端研究所 所長の丸山満彦がお話を訊きます。第2回に登場いただくのは、ロボット研究者、岡田美智男さんです。

弱さの開示とレジリエンス

岡田 それで、「弱さの情報公開」というキーワードがあるんです。北海道浦河町の「ベてるの家」という、精神障害者施設というのがあって、そこの施設のキーワードのひとつが「弱さの情報公開」なんですね。いわゆる精神疾患のある人たちというのは、自分の弱さをなかなか人に見せられなくて、自分のなかで折れてしまうことがけっこう多かったのです。この施設では施設のなかで自分の弱さをみんなで公開しあうんですね。すると、そこで関係性がだんだん生まれてきて、という話なんですね。いま、社会システムってみんな強がりを言っているんですよね。防潮堤もそうですね。「これは、大丈夫だよ、大丈夫だよ」といっていたけど途中で折れてしまったり、原発なんかもそうですね。サイバーセキュリティなんかも弱さを見せちゃうと攻撃されてしまうので、みんな強がりを言っていますよね。でも、内情は弱い要素があるわけです。だから、部分的には弱さをうまく自己開示してくれると周りの工夫とか手助けを引き出す余地が生まれてくる。

丸山 そういう考え方に切り替えないと、もう、本当に防潮堤だけがどんどん高くなっていくという。ビジネス的にはそっちのほうが儲かるんですよね、きっと。次から次のほうがね。ただそれが社会全体の幸せになっているかというと少し話は別ですよね。

岡田 防潮堤が時々弱さを情報公開、自己開示してくれると、「あぁ、そろそろやばい、水が漏れちゃう」となったら、そこに住んでいる人の工夫を引き出して、一緒になってレジデントな社会がつくれるはずなんですよ。

丸山 ですよね。サイバーセキュリティにもレジデンスが必要なんですよ。

岡田 それで、社会システム全体をそういうもの社会実装したいなぁと思ったと、僕なんかは思っているのです。例えばですね、バスの運行システム、1分でも遅れたらみんなクレームを言ってしまうんですね。「なんで遅れたんだ」と。「もう、遅れちゃうじゃないか」とクレームの嵐なんだけど、バスの運行システムも時々弱さを自己開示してくれるとおもしろいなぁと。「いま一生懸命頑張っているんだけど、ここ渋滞なんだよね」と自己開示してくれると待っている人も、「あぁ、バスのやつ頑張っているんだな」という余裕が生まれて、工夫が生まれる。
いま路線バスでも「いまここ走っていますよ。次この駅に着きますからもう少し待ってくださいね」というように自己開示してくれるものもありますね。そうすると、待っている方も余裕が出て、少し遅れても「あぁ、こいつも頑張ってたんだな」という気持ちになるということですよね。そういう対話が社会の中で生まれてくる感じですよね。

丸山 それは、システムとしてね。コンピューターとしてではなく、システムとして、何かお互いに目的を達成するために、補いあうというか。

岡田 ですよね。ですから、コンピューターシステムなり、サイバーセキュリティシステムがそれなりの働きがあるわけだけど、弱さもあって。我々人も、ちょっとした働きもあるし、弱さもある。でも、そこをうまく補いあうことの仕組みができるとね。

丸山 補いあうということをお互いに引き出し合う。そして、全体としては強くなるみたいなのが。

岡田 それで、人と人との共同性を引き出すひとつのポイントはですね、自分の状態を常に相手が参照可能なように表示しているということがけっこう重要なんですね。

丸山 さきほどの、コミュニケーションをとるために、ということでね。

岡田 それもあるんですけど、こういう社会的に相互行為を行っている時というのは、常にいま自分が何を考えて、どんなことをしようとしているかを相手にもわかるようにディスプレイしているということが重要なんですね。それがいまパソコンとかセキュリティシステムが非常に寡黙なんです。何を考えているかわからない。どういう状態なのかわからない。そうすると人も不安だし、不安だと複雑すぎるからもう関係性を切っちゃって、距離が生まれてしまう。ということがいま起こっているわけです。ですから、常にシステム側も自己開示するというか、ディスプレイしてくれるとこちらが補う余地が生まれる。

丸山 なるほど。その弱さの開示というか、ピンチの開示かもしれないですけど、「オレは弱くなってきているんだ」という。

岡田 だけど、いまは弱さを見せられない社会になっているのでなかなかそういうふうなことにすぐには行かないんだけども、本当は社会システムをそういう方向に持って行くと面白いかなと。

丸山 弱さの開示も、「この情報システムの、うちはこんなことができてません。なので、みんなで協力してね」というのを全世界に開示する必要はなくて、協力をお願いしたい人だけ開示をすればよいんですよね。

岡田 ええ。ユーザーとの間とか、会社内とか、

丸山 開示する範囲というのは、いろいろ調整はできるので、うまく調整すれば、その中のシステムとしては、レジリエントにしていけるような気はできますよね。弱さの開示、そこを助けてもらわないといけないような部分の開示をして引き出すということを組み合わせると、ひとつひとつの要素が完璧じゃなくてもシステムとしては、強くなるレジリエントになる。そういう風な持って行き方をしないと、要素の強さを積み上げていったところでコミュニケーションが希薄になったらシステムとしては弱くなってしまう。全体としてはね。

岡田 それは、国と国との関係も。

丸山 全部一緒ですよね。

岡田 結局みんな強がっているから戦争になってしまうんですけど、「オレはちょっとここをPM2.5で弱っているんだけどどうしよう」とか、みんなで弱さを情報開示してくれると、「いや、それだったらここで助けられるよ」ということで、社会全体のレジデントが向上する、という話になる。

丸山 あれは、なんで弱さを出せないんですかね?

岡田 いやいや、それは、弱さに対して攻撃をするやつがいるからなんですよね。

丸山 そうか。

岡田 弱いところを突っついて、相手を負かしてしまう。国と国だったらば、日本も近隣諸国も自分の弱さを自己開示できない、「実はいまおれここが弱いんだよ」とは言えないですよね。

丸山 言えないですよね。そうすると、強さ。「これだけ強いです」という強がりの連鎖になる。

岡田 会社のなかにもありますね。

丸山 あれは、社内政治があるからかな? 給料に響くとか。よくわからないけど。できてなくても「できたふりをする」ということをよく見ますよね。

岡田 それは、最近の不正会計なんかも同じでみんな強がっているんですよね。だから、弱くても外に出せないからごまかしちゃう。

丸山 わからないですね。弱さを見せることへの恐怖でしょうか。だとしたら、身体的なものだからさ、逆に言うとそれを取り除くの難しいかもしれない。

岡田 それでいろいろな議論が巻き起こっているわけですよね。どうしたらいいか。

丸山 弱さを開示する。ま、コンピューターなら別にいいよね。そういう意味では。「つけこまれる」とか、そんなことを考えなくてもいいから。「やばくなってきたら、こういうふうにやろうやろう」とできますからね。

岡田 そういう議論が学校の場の中でも同じように、いじめとか、子どもが自分の弱さを見せちゃうと相手の攻撃にあってしまうとか、相手の弱さを潰しちゃうとか、いろいろなせめぎ合いがあるんだけど、そういうのをどう克服するかということは、けっこう教育関係者の間で議論していますね。こういう考え方をサイバーセキュリティなんかに少し応用できないのかなと。

丸山 いや、できると思います。それってサイバーセキュリティって結局100%機械でするわけではなくて、かといって100%人間でするわけでもなくて、機械の要素と人間の要素が混じっている。先日、新聞を読んでてね、ロボットというのが実はそんなにいまのところ恐怖じゃないのは、人間が考えたことをやっているからですよねって話が書いていました。現在のロボットは人間の思考の範囲内にいて、そういう意味で結局人間なんです。人間がやる作業を「こうしてくれたら楽になるのに」とかいうのを実現している。自動改札機と一緒で、結局人間の活動の一部をロボットにしていて、ロボットが何かを考えてロボットをつくっているわけではないからいまのところ大丈夫だという話があったんです。まだ人間が、サイバーセキュリティの中心で、人間が考えている範囲からは超えてないです。だからやっぱり、人間の弱さというのは、ちゃんと認め合うというか、そんなのがあれば結局、セキュリティでも何でも同じことが言えると思いますね。結局人間の弱さが起こしていることに違いはないので。

岡田 そうですね。人間がつくった穴なわけだから。セキュリティホールなわけだから。

丸山 そうそう。結果的にはね。意図的か意図的じゃないかは別としても、結局人間の思考からは超えてないです。いまどれだけロボットの技術が進んでいるといっても。いまのところね。所詮人間のなかでやっているから、その道具がコンピューターになろうが結局人間の問題なんですね、これは。そこで、弱さを認め合うという社会というのは、重要な課題です。国同士の問題だって同じですね。システムという意味でいると。

岡田 話が大きくなっちゃうのですが、システムか、その脆弱なシステムとそれを使う人との間のことを考えれば何かいけそうな気がする。

丸山 同盟という、国同士の取り決めなどがありますが、あれも一緒ですよね。お互いに「おれね、ちょっと金はあるんだけど兵隊がない」「兵隊はあるねんけど、ちょっと金が足らんのや」ということで同盟が組まれるわけで。共通の目標があるから、その目標に向かってお互いの弱さを認め合って協力していくということですよね。

岡田 同盟ということは、お互い自分の弱さを開示しあうから関係しあえるんですよね。

丸山 やっぱり、国と国でもできるんですよね。弱さを開示するということは。だから、目的がちゃんとあって、それに対して目標を達成しようと思ったときにお互いの弱さを認め合うようなことができればできるんですね。だから、ただ単に「弱さを出せ」と言われても出せないけども、「何かを達成するために、お互い足らんものがあるよね」というふうにしたときにはできるなといま思いました。だから、その浦河の施設も何かをするためにお互いに弱さを出し合うんですよね。普通の社会生活を送れるようにするためか、何かは知らないけれど。

岡田 そういうことですけどね。

丸山 そのためには、「お前、自分ができないことを周りに黙っていてもできないよね」と言わないというところをどんなふうにするか。

人工知能とのつきあいかた

岡田 一般社会や会社の中っていま能力主義とかがあって、自己責任とか、それでみんな孤立してしまって精神的におかしくなって、不眠症だとかになってしまう。先ほど紹介した北海道の「べてるの家」に入るとお互いの弱さを認め合った中で、それで、関係性を取り戻すというか、本来の状態を取り戻す。そういう場を作っていますね。そこも、会社経営のことをやっていて、もう「さぼってもいい」とかいろいろお互い寛容な関係のなかで関係をだんだんつくり上げて、また社会に戻るという施設で、そのときにキーワードになったのがお互いの「弱さの情報開示」というものでした。

丸山 やっぱりそこで完璧を求めていた自分に対してのね、それがやっぱり障害になってしまってというかね。たしかに、弱さを認めるというか、当たり前と思うけどね。できてないのが。「できてる」と言っているほどあやしいですよね。「できてないでしょ?」「大丈夫じゃないよ、ほんとはね」ってね。

岡田 いま人工知能のシステムなんかもけっこう強がっているんですけど、でも、内容は大したことはないわけですよね。それで、じゃぁどう関わりをつくるかなんですよね。「脅威」「脅威」と言っているけど、本当はそんなことないはずなんですよね。うまくこう、お互いの欠点を開示していけばですね。

丸山 苦手な分野とか、得意じゃない分野というのをお互いに開示して、協力を引き出すということ。その引き出し方も「オレ弱いんだけどちょっと手伝ってよ」ではなくて、何かうまくやり方があるのでしょうね。協力をお互いに引き出すということで、社会全体を強くする。というか、社会全体を強くするためにそういう仕組をやっていかないといけない。

岡田 デザインしていく。

丸山 デザインしていかないといけない。それは重要ですね。システムを強くするという意味で言うと、それはサイバーセキュリティでもなんでも同じです。形としては一緒で、テーマが違うだけ。テーマが「サイバーセキュリティ」なのか、「社会」なのか、「国」関係なのかは別として、構造としては一緒なので、同じロジックでできますよ。弱さの開示というのは。

岡田 さっき少し話していたのは、いま自動運転の車っていろいろ各社競いあってつくっているんですよね。自動運転の車って意外と強がりを言っているわけですね。「オレひとりで運転できちゃうよ」と。だけど、実際は非常に信頼性の低いシステムだったりするので、自信満々に運転してくれているよりはむしろ時々はね、「ちょっといまここやばいぞ」という弱さの開示をしてくれると、そこにドライバーが「ちょっと手伝ってあげようか」という余地が生まれる。そういう関係性をつくっていかないと、突如折れちゃうと事故になってしまうので、そういう関係性も面白いかなと思いますね。

丸山 そうそう。それはそうですね。確かに。

岡田 だから、いつも弱々しいと、車というのは信頼性を売っているシステムなので、それはまずいんだけど、時々は自信満々に自動運転してくれていてもいいんだけど、センサーの信頼性なんかが落ちてきたときに「ちょっとやばいぞ」ということをうまく表現してくれるとそこにドライバーが関与する。オプションがある。そこに協力人がいるということですね。

丸山 「ちょっと最近僕右寄りに走ってない?」とか、メッセージが出てくると「ちょっとセンサーが消耗しているかもしれないから確認してよ」みたいなのがくると「そうなの?」みたいな感じでちょっと見てみようかなという感じになるけど、いきなり「センサーが故障しました」とアラートがあらわれても「いやいやいや・・・」と。

小泉 だから、何か、こういう考え方がちゃんともっと広まって、人がこういう機械に完璧を求めないというか、「使う自分も含めて機械なんだ」みたいな。ルンバの話がわかりやすいと思うんですけど、あれ、椅子やコードを片付けることも含めてルンバと使う人の関係なんだ、という考え方がないじゃないですか。

丸山 一番重要なのは、最初の話に戻ると、個々の要素を強くしたら全体が強くなるのではなくて、個々の要素が弱くても関係性が強くて補完しあえるのであれば、システムとしては強くなるということですよね。それはコンピューターも一緒で、コンピューターのそれぞれの機器のソフトウェアはうまく完璧を求めていくとか、システムとして守るのを完璧にするということをするのではなくて、全体としての関係性、コミュニケーションの取り方ね。「いまちょっと弱くてやばいよ」というメッセージを出すとか、そういう関係性も含めた上でシステム全体を強くしましょうという発想に、というか、設計に、システムの設計を変えないと防潮堤の話になるんですよ。

岡田 いままでは「システムに完全に任せることが便利である」という錯覚のなかでシステムを設計してきたわけで、それで、関係性がだんだん希薄になってきて。

丸山 対立的になっていく。関係性がなくなって。

岡田 「便利だ」ということが、そういう状態を生んできたということですね。それを少しだけ引き戻すという意味で、「弱さの復権」みたいなことがあるのではないかなと。

丸山 それは、「できていないこともちゃんとコミュニケートして関係性のなかで、関係性を持ってシステムの運用を強くしていく」、そういうことですね。「おれ、弱いからできないから」ということを隠してコミュニケーションをとっていなかったら突然そこがポキっと折れてしまったらシステムがこけるので、そうならないように「やばいやばいやばい」といって「じゃぁ、オレが支えるから」という助けを求めるメッセージを出し、それを受け取ってそれを助けようとするみたいな、そういう関係がシステムの中で起こるということが重要なことで、それが全体のシステムとして必要なことで。

岡田 システムを全体として強くするためには、個々の弱さというのが、個々が弱ければ関係性のなかで補っていくというか、関係性のなかでそういう強さを求めていくしかないんですね。

丸山 コミュニケーションがとれなくなってしまって、結局ポキっと折れてしまうから、だからお互いに支えあって、言ったらひとつひとつの要素は弱くてもお互いがつながっているから倒れないみたいな。そういうふうな感じだと思う。

インターネットはそもそも穴だらけだった

岡田 量販店に行くと毎年毎年新しい冷蔵庫とか電子レンジとかが出てきて、少しずつ機能が追加されているんですね。それで、まぁ、同じ値段だったら機能の追加されたものをユーザーは買ってしまうから、技術者も毎年少しずつ加えないといけない。それの繰り返しをしていると、そういうのを「なし崩しの機能追加主義」と言うのですが、「もっと、もっと」いう要求のなかで日本のものづくり企業がどんどん疲弊してしまう。ということになるんですね。そういうものも限界。いろいろな機能をつけてももう限界で、値段も下がらないと、他のところに負けてしまうのですが、だったら引き算でいいじゃないかという話になるんですね。たぶんセキュリティシステムも、「セキュリティ、セキュリティ」ってどんどん追加、追加、追加しても限界があって、だったらものごとの考え方を変えましょうという話ですよね。

丸山 それは確かにそう。なんて言ったらいいかな。最近っていろいろなセキュリティ製品がバーっと出てきたりするので「これ、使ったほうがいいですか?」って、それは状況によるからね。これを使ったらよいかどうかは環境による。どういう攻撃を受けているかとか、いろいろな刻みのシステムで、どういうふうに守られているかによって、「これを入れるのもダブりだし」とか、「これいま全然守られてないから入れたほうがいい」とか、「そんな攻撃受けてないから関係ないよ」かもしれないですよね。でもわからない。複雑すぎて。だから、やっぱりもう少し本質的に何が重要かって、もっとシンプルに考えるようになることからやっていかないといけないと思いますね。

岡田 インターネットはもともとね、軍事的に、単一のシステムが壊されるとどうにもならないので、並立化、分散化しようということで作ったんだけど、それがいまは穴だらけになってしまっているらしいので。

丸山 いや、あれはもともと「通信が途切れないようにしましょう」でつくったから、その設計思想ですよね。ネットワークって。

岡田 どこからでも入り込めてしまうという……。

丸山 だからどこからでも入り込めちゃうんですよね。逆に言うと。でないとシステムが途切れないといけないということになる。だから、そういう設計思想のもののなかで情報が漏れないようにしましょうというものをやろうとするから無理なんです。

岡田 無理なんですよね。

丸山 無理なんです。

岡田 ずっと穴が開いてるから。

丸山 だから、元々が無理なんです。無理なことやろうとするからすごいコストがかかる。設計思想が違うものの中に載せようとするから間違いなんですね。

岡田 だから、弱さがきちんとわかっていれば、重要なファイルをそこに置くというふうにはならないんですね。

丸山 そうそうそう。

岡田 「なんであんな大事なものをサーバーに置いちゃうかなぁ」と思うんですけど、置いちゃうんですね。

丸山 だから、そこをわかってない。それは、全部そうです。設計思想が違う、っていうのがありますね。もともとあれは軍事用で、経路を指定してやるから、その経路を止められるともう通信できない。インターネットは「いろんな経路でつなげられるから、ここがダメだったらこういうふうに経路を変えればつながるよね、ということで通信が確実にできます」という発想だから、「秘密を守ります」という発想はまずない。そこには。最初から。秘密は情報を暗号化して流せば取られないから、「暗号化した情報しか流しません」とやったら問題なかったかもしれないですが、普通に流すもんだからどうしようもないですよね、そもそも。そういうことです。

いや、おもしろかった。今日のお話はセキュリティだけではありませんね。社会問題。社会の全部の構造ですね。岡田先生、ぜひ頑張ってこれからも情報発信していってください。

岡田 ありがとうございます。ゆっくりとですが書いています。がんばります。

丸山 今日はどうもありがとうございました。

略歴:岡田美智男 氏

岡田美智男(おかだ みちお) 
職歴
1987年:NTT基礎研究所 情報科学研究部 入社
1995年:国際電気通信基礎技術研究所(ATR) 主任研究員
1998年-2005年:京都大学大学院情報学研究科 客員助教授(兼務)
2006年:豊橋技術科学大学 情報・知能工学系 教授
    
主たる研究分野は、コミュニケーションの認知科学、ヒューマン・ロボットインタラクション、社会的ロボティクス。編著書に『弱いロボット』(医学書院)、『ロボットの悲しみ コミュニケーションをめぐる人とロボットの生態学』(新曜社)などがある。

サイバーリスクサービスについて、詳しくは以下のメニューからお進みください

サイバーリスクサービスTOP

サイバーセキュリティマネジメントサービス 一覧

プライバシー・個人情報保護サービス 一覧

サイバーリスクサービスのお問い合わせ

サービス内容、並びに、取材・広報・講演依頼に関するお問い合わせは、下記フォームにて受付いたします。お気軽にお問い合わせください。

 

 

>> オンラインフォームよりお問い合わせを行う <<

お役に立ちましたか?