最新動向/市場予測

「強い」は脆い?―「弱さ」が生みだすレジリエンスとセキュリティ ― 《前編》

豊橋技術科学大学 岡田美智男さんと

人を守る、子供を守る、地域を守る、社会を守る、日本を守る、地球を守る――さまざまな舞台で活躍する「守る」エキスパートたちに、デロイト トーマツ サイバーセキュリティ先端研究所 所長の丸山満彦がお話を訊きます。第2回に登場いただくのは、ロボット研究者、岡田美智男さんです。

「ひとりでできないもん!」 弱いロボットの誕生

丸山 今日はロボット研究者の岡田さんということで、ロボットとサイバーセキュリティ、共通点を見い出せるかどうか、チャレンジングな対話です(笑)。まずは岡田さんの仕事を簡単に教えていただけますか。

岡田 僕は、もともとは音声言語修理とか、対話理解システムの研究をしていました。1980〜90年ぐらいですね、いまで言う人工知能の技術を使ってコミュニケーションといいますか、会話の理解、相手の意図を理解するとか、コンピューターと人との会話の研究をしていました。ところが、だんだん言葉を扱うのが大変になってきまして。

丸山 というと?

岡田 AIの冬の時代と言われた頃です。従来のAI技術ではなかなか人の言語を扱うことが難しい時期がありました。どういうことかというと、相手の意図やプランを理解することが難しいということがわかってきた。コミュニケーションというのは、相手の意図やプランを理解することだというように議論されていた時代があるのですが、どうもそれが難しいということで、AIの冬の時代になった、みんないろいろな分野に流れて行ったんですね。脳科学やいまで言うデータサイエンスの分野にいく人もいました。

丸山 岡田先生はそこでロボットのほうへ向かわれた?

岡田 はい。僕らはコミュニケーションの中で、身体をベースとしたコミュニケーションの研究をしたいということを考えはじめたんですね。「伝え合う」っていうことには、「相手と自分とが同じような身体を持っている」っていう前提がとても大きいんですね。「相手が何を考えているのか?」と考えるときに、自分の身体が感じ取っていることを手がかりにして、相手が感じ取っていることを探ろうとする……そんな、身体を媒介にしたコミュニケーションを研究しようと。それで、それをやるためにロボットを作り始めたんです。要は、相手も同じような身体を持つという意味で、ロボットという身体を作りながら、そういう身体を備えたシステムと人とのコミュニケーションを生み出そうということです。

丸山 なるほど。最初からロボット屋さんだったわけではなくて、コミュニケーションの研究の延長としてロボットを作り始めたんですね。

岡田 そう。で、僕らは最初からロボット屋さんじゃないから、いろいろな技術が何もないんですよね。どうしてもローテクなロボットしか作れなくて。
そういう中でなんとなく弱々しいロボットとか、要は、高機能なロボットを作るのがなんとなく、しんどくなってきて……(笑)

丸山 「なんとなく、しんどくなって」って正直ですね、いいですね(笑)

岡田 それで、たとえば「ロボットがゴミを拾う」というようなことを考えた場合、普通は、自分で手を伸ばしてゴミを見つけて拾ってくれば、「ゴミを拾うロボット」になるのですが、そういう高機能なロボットを作るよりは、ゴミを拾う機能を実現するのが難しいんだったら、周りにいる子どもたちに拾ってもらえばいいんじゃないかなと。

丸山 それは、大きな発想の転換ですね。

岡田 それで、じゃあ、ゴミの分別というのも、きちんとした画像処理とか、センサー技術を使えばゴミを分別することはできるのですが、それが技術的に難しいのであれば、周りにいる子どもたちにゴミを分別してもらえばいいんじゃないの?という発想ですね。

普通はロボットの機能を、どんどん足し算していって高めるという方向でものづくりがされるのですが、こういう発想をしてくると、不要なものをどんどんそぎ落としてだんだんシンプルなロボットになるんです。技術的にもとてもチープなロボットになるのですが、周りとの関係性がリッチになるので、結果として目的、この場合は「ゴミを拾い集めること」を達成してしまう。だから、ロボットとしては何もできないんだけども、周りのアシストを上手に引き出して、結果としてゴミを拾い集めてしまう、そういうタイプのロボットをいろいろと作ることになったんです。

丸山 ロボット単体の機能ではなくて、周りの関係性がリッチになることで完成するわけですね。周りとコミュニケーションをとって、周りの人のサポートを得ながら目的を達成する。

岡田 そうですね。本来は自分ひとりで勝手に動くということが自律的なロボットの使命なんだけど、人の助けをうまく引き出しながら結果として目的を達成できればいいんじゃないかな?ということですね。

丸山 たしかに人間の場合も、みんな得手不得手があって、不得手を助け合いながら、補いながら社会が成り立っていますよね。ロボットが「何でもできます」じゃなくて、「俺、これはできるけど、これはできないから誰か手伝って」とコミュニケーションすることによって、目的を達成できると。

岡田 僕らは、生まれてずっと、ひとりでできることをよしとする文化の中で育っている感じがするんですよね。子どものときは、「はやくひとりでできるようになるんだよ」とか言われながら、お母さんが一生懸命世話をして、だんだん大きくなると「あぁ、もうひとりで靴下履けるね」なんて言われるようになって、少し得意がって靴下を履いていたりする。そういう価値観の下で育ってきたわけですね。学校教育なんかでも、テストはひとりで受けるものであって、誰の力も借りてはいけないことになっている。僕は最近、「なんでひとりで定期テストを受けるの?」って言っているんですが。

丸山 ああ、それはわかります。僕も、受験勉強をしているときにすごく思ったことがあって。僕は周りの受験校の中では優秀な人が集まっていた塾に通っていたんです。20人ぐらいのクラスで、灘高のトップとかも来てました。勉強していて、ちょっとわからないことを「わからない」と言うと、「それ、こうしたらええで」とお互いに「わからんけど」「わからんけど」と聞いたらすぐ答えが出てくるから、あっという間にみんなできるようになるんです。本当に。でもそれが、試験の時はひとりじゃないですか。でも試験だって頭がいい人が集まっているんだから、協力してやればあっという間にできるやん、というのがあってなんで試験ってひとりでうけるんだろうって思いましたよ。

岡田 ロボットも同じなんです。自律的なロボットの研究というのは、ひとりで勝手にできることを前提に設計されているところがある。なかなか周りの助けを借りるという発想がなかった。そういうスキルを考える研究があまりなかったんですね。結局人間も、さきほどの「みんな助けてもらっていますよ」という話なんですけど、我々の身体というのも、外から人の身体を見るとそれが自己完結している。人として。そのように見えてしまうのですが、自分の内側から自分の身体を見てみると、意外と自分の顔でさえ見えないとか、自分の背中でさえ見えない。だから、外から人の身体を見ると自己完結しているように見えるんだけど、自分の内側から見ると自分の身体って意外と完結していない。不完結であることが特徴なんですね。不完結だからこそこうやってしゃべりながら、相手の表情を見て、今自分がどんな表情で話しているか? ということを類推しながら、そのイメージをここにくっつけて、相手と話していたりする。

丸山 なるほど。

岡田 そうして考えてみると、人の身体の不完結さというのが、コミュニケーションのひとつの原動力になっていたり、人と関わる原動力になっていたりということなんです。だから、コミュニケーションを考える上で、「我々の身体が自己不完結である」ということがけっこう重要なんです。要は、完結したものと完結したものが並んでいると、そこではコミュニケーションがいらないんですよね。自己不完結で相手から支えてもらって、自己完結させるということをお互いやっている。それで社会が作られているというか。

丸山 これは面白いですね。面白いですよ。もし人間が本当に強い動物であったら、ひとりとしてね、人間の社会ってできていなかったかもしれない。

岡田 そうですよね。

丸山 身体が自己完結していたら、ひとりでライオンに勝てて、ひとりでマンモスでも何でも捕れていたら、別に助けはいらないから、そういう社会が必要ない。ひとりではマンモスは倒せない。けど、お腹空いているからなんとかしたい。「あいつとあいつとあいつと組んだらどうにかできるんじゃないか?」というところでコミュニケーションが生まれて、言葉はなかったけれども、何かボディーランゲージみたいなもので、マンモスを倒してみんなで分配するみたいなこととか。最初はどうだったか知らないけど、きっと、そんなことがないとできなかったでしょうね。

岡田 で、ロボットを使ってコミュニケーションを研究しましょうということで、こういうロボットをふたつ並べて、ここでコミュニケーションさせようとすると、何のためにやるかが全然わからないんですね(笑)。完結したロボットをふたつ並べても。

丸山 あー、言われてみれば確かにそうです。

岡田 いろんなことを考える中で、「あ、我々の身体というのは不完結だから、他者との関係を作り上げる、多少支えてもらうような関係を作るんだな」とだんだんわかってきたということですね。ゴミを拾うロボットなんかも、ひとりでは何もできないような、本当に弱いロボットなのですが、子どもたちのアシストを上手に引き出してそこで結果としてゴミを拾い集めるわけですよ。それと同時に周りの手伝ってくれた人もそんな悪い気がしない。やってあげたことで「なんかいいことしたな」という気になる。

丸山 ゴミ箱ロボットというのは、本当に何もしないんですか?

岡田 要は、ただのゴミ箱なんですよね。それがヨタヨタヨタヨタしながら。

丸山 かわいい(笑)

岡田 子どもたちが集まるような施設の広場で、ただこうやってヨタヨタして、自分でゴミを拾えないんです。周りの子どもたちも何だかわからない。

丸山 ゴミ箱だとわかったらみんなで捨て始めるわけですね。

岡田 ええ。ゴミを集めてきてくれるんですね。

丸山 勝手に。

岡田 ええ。それで、ゴミを入れてくれると少しお辞儀をしたりする。

丸山 お辞儀はするんですね(笑)。お辞儀もコミュニケーションですね。

岡田 こういう、少しヨタヨタ系のひとりでは何もできないロボットをあえて作ってみて、人とどういうインタラクションがあるのかということを探っている。先ほど言っていたのは、単に人からのアシストを引き受けるだけでなく、人の方、手伝っている方も何か悪い気がしない。ロボットを助けてあげているという意味で、ロボットの存在によって自分が価値付けられているような、お互いに支えつつ、支えているような関係が生まれてくるのではないかということなんですね。

協力を引き出す何か

丸山 こうして考えてみると、ロボットやシステムというのは、そもそも全部弱いところがあって、完結していない。要は、自己完結していないという意味において弱いということにあらためて気づかされますね。ゴミ箱ロボットは極端な例というか、そのことに気づかせてくれる。

岡田 僕はけっこうルンバの話が好きで。

丸山 お掃除ロボットですね。ゴミ箱ロボットよりは働きますよね。

岡田 そう、ルンバって、ひとりで勝手にお掃除をしてくれると僕らは想定して家に置きますよね。ところがルンバって、部屋の隅あるコードに引っかかってギブアップしたり、段差に弱かったりするじゃないですか。

丸山 はい。袋小路になったところに入っていって出られなくなっちゃったり(笑)。

岡田 そういう要素がだんだんわかってくると、僕らはスイッチを入れる前に最初にコードを直してあげるとか、椅子を並べてあげるようになっていて、結果として部屋はとてもきれいになってしまう。

丸山 ルンバと人間のコラボレーションによって部屋がきれいになっている。

岡田 それは誰が片付けたかというと、僕ひとりでもないし、ルンバがひとりでやってくれたわけでもなくて、ルンバというのは、僕らを味方につけながら一緒になって部屋をきれいにしてしまう。そういう人とロボットの関係性もある。これを「弱いロボット」と僕らは呼んでいるんですね。

いままで機械として捉えたときに、その弱さというのは単なる欠点だったり、潰すべきものだったわけですけども、ロボットとして、かわいらしく動いた途端にですね、その弱さが僕らの手助けを引き出すための非常に大事な要因になっているのが面白いなと。これまでの家電の考え方とは全然方向性が違うと感じたんですね。そのような機械の弱さというか、ロボットの弱さが周りの手助けを引き出しているというのは、なかなか面白いということで、弱いロボットの研究をいろいろ始めています。

丸山 ロボットができないところを「ごめんね。できないけど許して」みたいな感じで、相手の協力を得るコミュニケーションを「かわいさ」という感覚を通じてやっているのかもしれないけど、引き出す何か、そういうことをやっているんですね。

岡田 そうですね。

丸山 「協力を引き出す」というところが面白いですね。ゴミ箱ロボットがヨタヨタしていて、子どもが興味を持って、何かやったらお辞儀をしてくれて、そういうコミュニケーションのなかで「手伝おうか」という気にさせている。それは、ゴミ箱が単にクルクル回っているだけだったら、「ふーん」で終わってしまうと思う。そこを何か考えないといけないですよね。協力を引き出すための何か。

これ、コンピューターシステムに置き換えて考えてみても面白いと思います。自分のできないところをうまくちゃんと伝えて、「これできないんだけどなんとか協力して」みたいなことを引き出すようなシステム。もともとシステムって全部完璧じゃないですからね。会社で使っていてもシステムができないと、普通は腹が立ちますよね。「反応遅いな」とか「肝心なデータが取り出せない」とか。それは、できて当然と思っているから。そこは、何か違う要素があれば「しゃぁないな。オレがなんとかしたるわ」と、そういう、できないところをうまく「そこは人間がするからいいよ」というふうに持っていくインセンティブが働くような仕組みにしないといけないですね。

岡田 バグですよね。

丸山 バグです。本来は機能としてあるべきものがない。ゴミ箱ロボットと似ていますね(笑)。ゴミ箱ロボットとしても、本当は拾ってきてゴミを捨てるなり、掃いていくとか、そういうのがロボットとしての機能として必要なんだろうと多くの人が思うども、できない。「僕できないからそこ助けて」「じゃぁ、しゃぁないな」というその「しゃぁないな」を引き出す何かがあることが重要ですね。自分のできないところを助けてもらう。最終的には何か目標を達成するために本当は全部揃ってないといけないんだけど、もう諦めて、他人に助けてもらう前提で考える。

岡田 けっこうそういうロボットを作ってきました。もどかしいロボットとかですね、あと、このフラフラというのは、おぼつかないとか、おしゃべりするときもたどたどしいとか、そういうものをいろいろ利用して人の手助けとか、人のやさしさとか、人の工夫を引き出してそこで少し価値あることを実現しようと。

丸山 相手の協力を引き出すときのポイントって何なんですか?

岡田 やはり身体ですね。その対象も自分と同じような身体を持っているということがけっこう重要な要素です。思わず、自分の身体を相手に重ねて考えようとする。共感を引き出すようなことをですね。そのときに、目の前のものが機械であると共感を引き出せないわけですよね。だから、自分と同じような身体を持っていることが重要で、それは必ずしも形が同じという意味ではなくて、環境との関わり方とか、関わりの様式が似たものに対して僕らは思わず自分を重ねてしまうことがある。

丸山 自分に近い何かがあるとそこで共感しやすくなりますね。しかも、身体と言っても形が同じという意味ではないということは、いわゆるヒューマノイドである必要はないということですか?

岡田 ロボットの人らしさということにアプローチするには二つの方法があって、ひとつは、やっぱり、目の前に実態として手本があるんだから、その実態に近づけていけば人らしくなるのではないかという発想がアンドロイドとかジェミノイドといったものがあるわけですが、僕らは実態に近づけなくても周囲との切り結びの様式が同じならば、人らしさを作り出せるのではないかという発想なんですね。それは、実態としての造形性に対して、関係としての造形性と言っているのですが、同じ「人らしさ」もですね、周囲との関わり方、関わる様式がとても近ければ、人のように感じることができるのではないかと。

丸山 面白いですね。そういう、弱さというか、引き出す力というのがあるということが重要なんですね。そして、引き出す力は、自分の身体、身体的なものと共感できる何かがあったらそこでできると。

「する人」「される人」という線引きが作る脆さ

岡田 なかなかセキュリティの話とつながっていきませんけど、こんな感じで続けて大丈夫ですか(笑)

丸山 大丈夫です(笑)。サイバーセキュリティもシステムの一部ですから、まずはシステムということで考える。システムを強くするためにはどうるかということですね。同時にシステムを構成する要素、たとえば機械を完璧にすることはできない。これは当たり前なんですが、いまはなんとなく人間が機械に完璧を求めているように思えるんですよね。すると機械と人間が対立的であるように思えますね。

岡田 たとえばルンバがですね、もっと完璧に掃除をするものであったらどうかというと、僕らはどうしても委ねちゃうんですよね。それで、「掃除をしてくれるルンバ」と「掃除をしてもらう人間」というふうに二手に分かれてしまう。やってくれる人とやってもらう人との間にひとたび線が引かれてしまうとけっこうね、「もっと静かにできないの?」とか、「もっと速くできないの?」とかというふうに、相手に対しての要求水準をどんどん上げてしまうということがあるんですね。

だから、「やってくれる人」「やってもらう人」。それは、教師なんかもそうですけど、「教える人」と「教えてもらう人」というふうに役割が分かれた途端にですね、相手に対する要求水準をどんどん上げてしまう。僕らも一生懸命講義の準備をして完璧な講義をしようとすると、学生は「もっとわかりやすく、もっと大きな声で」というように、やってくれる人とやってもらう人との間にひとたび線を引いた途端に、相手に対する要求水準をどんどん上げてしまうということがあるのですね。

それが、世の中のいろいろなところで当てはまってですね。例えば、単におばあちゃんを世話をするということが職業になった途端に、「介護する人」と「介護される人」との間に線が引かれた途端に、相手に対する要求水準をどんどん上げてしまう。もっともっと、ということですね。あるいは、例の防潮堤。防潮堤があると避難行動に遅れが生じるなんていう話があります。変な話ですが、津波が来るたびにですね、「なんでこの防潮堤こんな低かったの?もっと高くしないと」と。

丸山 スーパー堤防になってしまう。

岡田 「守ってくれる人」と「守られる人」との間に線を引いた途端に、相手に対する要求水準をどんどん上げてしまうということで、津波が来るたびに「あの防潮堤を高くしよう」という議論になってしまって、そこに国のお金がどんどんつぎ込まれるものだから国が疲弊してしまう。あるいは、介護分野でも介護する人、介護される人というふうに二項対立的に分かれた途端に相手に対する要求をどんどん上げてしまうものだから、国の社会制度が疲弊してしまう。そんな感じなんですね。それをセキュリティの話にも持っていけないのかなというふうに思いますよね。

「守ってくれる人」と「守ってもらう人」との間に線を引いた途端に相手に対する要求をどんどん上げてしまって、こちらはもうなにもしない。本当に受動的な存在になるだけになっちゃうので、レジリエンス、つまり社会のしなやかさがどんどん損なわれている感じがするんですね。役割をきちんと作っちゃうとですね。で、「自己責任」とか、そういうことなどもはびこってしまって、「このパソコンは、ちゃんとやるべきだ」というさっきの話になるわけですよね。「守ってくれるのが当たり前」「こっちは守られて当たり前」というふうにですね。その二項対立を解消して……、僕らは個体能力主義とか呼んでいるのですけど、それと関係論的なシステムとの間を行ったり来たりして議論していますね。

丸山 「守る側」と「守られる側」。確かに、二項対立にすると役割がはっきりするだけに「あなたの役割はこれです」「できてますか? できてませんか?」「できてないよね。どうして?」みたいな話になってしまって。そういう対立軸で、お互いに「じゃぁ、それをやるためにどうしましょう?」となってそれができると「もっとしてほしい」という話で要求水準が、できたらできたで「じゃぁ、これはどうなの?」という話になって、いつまでも上がってしまう。確かにスーパー堤防につながっていく。

岡田 社会の中にいろいろなそういうものがあって、例えば、電子部品なんかもですね、モジュール化がすごく進んでいて、「あなたはこれをやる」というモジュールがある。「私はこれをやる」というモジュールがあるということで、きちんと役割を分けた途端にですね、相手に対する要求水準をどんどん上げちゃうんですね。信頼性を期待されたものが掛け合わさるので、全体のシステムはすごく脆くなってしまうということがあるんですね。

たとえば、ビルとかマンションなんかもオール電化になる。それは便利だということなんだけど。トイレもお湯をわかすのも全部電気だとなってしまうと、電気が切れた途端にですね、何も出来ない脆い状況になるんですね。原発なんかのシステムも、原発は電気をつくり上げているシステムだから電気があるのは当たり前かというと、全部モーターで回そうとするわけですよね。でも、電気が来なくなってしまうとダメになってしまうとても脆いシステムなんですね。そういう、やってくれる人とやってもらう人の間に線を引いた途端にいろんなところですごく脆くなる。レジデンスがどんどん損なわれているという感じがあるんですね。

丸山 それはどうしてだろう。いや、結局、システム自体を強靭にしようと思っているのに、なんかその二項対立なるとシステムを構成する要素に完璧をもとめてしまい、結局システム自体が強靭にならない。そうではなく、何かうまいことシステム的に強くなる方法があればよいということですよね。システム全体を見たときに、ひとつひとつの要素がそんなに完璧じゃなくても、不安全な要素同士が補完しあってシステム全体を見たときには、なんて言うのかな、強くなっているというか。そういうことですよね。

岡田 そういうことですね。

サイバーリスクサービスについて、詳しくは以下のメニューからお進みください

サイバーリスクサービスTOP

サイバーセキュリティマネジメントサービス 一覧

プライバシー・個人情報保護サービス 一覧

サイバーリスクサービスのお問い合わせ

サービス内容、並びに、取材・広報・講演依頼に関するお問い合わせは、下記フォームにて受付いたします。お気軽にお問い合わせください。

 

 

>> オンラインフォームよりお問い合わせを行う <<

お役に立ちましたか?