Posted: 15 May. 2020 2 min. read

「フェイクニュース」に人はAIとどう向き合うべきか

【シリーズ】The Age of With:人とAIが協調する社会

新型コロナウイルスの影響で「トイレットペーパーが不足する」といったデマがSNSを発端に広がり、また、「4月1日からロックダウンに入る」という情報も流れました。これらはいずれも誤った情報、”フェイクニュース”です。このように、世界のどこかで発信されたデマが別の場所で暴発し思いもよらない損害を被る時代が到来したことを、新型コロナウイルスをめぐるフェイクニュースにより実感されている方々も多いでしょう。冷静に考えれば、裏付ける情報等を自ら確認することも出来るのでしょうが、平時とは異なる精神状態によって信じ込んでしまうことも懸念されています。フェイクニュースが瞬く間に広がる理由のひとつには、自分がよく知る信頼した人物からの情報を鵜呑みにしてしまう人の特性にもあります。ソーシャルメディアが隆盛を極める現在は,誰でも簡単に情報の発信やシェアを出来ることから,デマの拡散に拍車がかかっており、フェイクニュースを瞬時に見分けることがますます課題になっています。

公開が見送られた人工知能「GPT-2」

2019年2月にイーロン・マスク氏などが共同会長を務める非営利団体のAI(人工知能)研究企業OpenAIが発表した、文章を生成する言語モデル「GPT-2 (Generative Pre-Trained-2)」は、通常とは異なる公開方法をとりました。OpenAIはGPT-2がフェイクニュース作成に悪用されるとして、この技術革新の影響について考える時間をとるため、開発した4つのモデルを一度に一般公開せず、段階的に公開していくという対応に出たのです。 GPT-2は特定の個人が過去に書いた文章を学習することで、その個人が書きそうな文章をこれまで発表されてきた言語モデルと比べ「説得力」を持って、自動で作成出来る可能性を示しました。

GPT-2をはじめとする最新の言語モデルは、TwitterやFacebookへの投稿用の短い文章なら納得感が得られる文書を生成できても、ニュース記事などの長文になると単調で同じような文章が出力されるため、疑問が生じることがわかっています。しかし、技術の進展により、ネット上に大量に溢れるフェイクニュース、スパムメール、不正論文まで人間によるものか人工知能によるものか判別できなくなる未来はそう遠くないかもしれません。

「人間的洞察」と「AIによるインサイト」との融合

しかし、「人間か機械か」という対立軸ではなく、「人間的洞察力」と「AIが提供するインサイト」が融合した高度で新しいアナリティクスにより問題解決に貢献することができないでしょうか。

近年、企業経営において、企業価値に占める無形資産、特にテキストデータの重要性が増しており、それに伴い財務情報など構造化データからだけでは得られない情報をあらかじめ機械がセンシングする需要が高まっています。このようなニーズにおいて、人間の認知に迫る数々の記録を出している最新のディープラーニングを駆使したとしても、依然として「人間的洞察」が必要とされる課題定義が重要な点には変わりなく、高度なアナリティクスを用いたパターン認識と機械学習(ディープラーニング)は、データから従来人間が認知し得なかった要素を意思決定に資する情報として的確に人間に提供することに意味があります。

フェイクニュースの真偽を人工知能に判別させる試みも始まっています。人間が処理できないほどの大量な記事に対して人工知能を応用すれば、「機械」がリスクシナリオを構成するひとつの”トピック(主題)”を分析して定量的な指標を人間に提供することが出来ます。そして、「人間」が事象を俯瞰して社会に及ぼす影響(世論や政策対応・制度化など)の進行度合いなど整理することで、定性的なインサイトが得るといった高度なリスクセンシングが可能となります。このように機械と協業することでより良い社会を人は作っていくことが出来るのです。

【シリーズ】The Age of With:人とAIが協調する社会

>>AIにより見直される”紙”のカタログによるマーケティング

D-NNOVATIONスペシャルサイト

社会課題の解決に向けたプロフェッショナルたちの物語や視点を発信しています

プロフェッショナル

毛利 研/Ken Mohri

毛利 研/Ken Mohri

デロイト トーマツ グループ マネジャー

有限責任監査法人トーマツ 所属。国内最大級のインターネットサービス企業におけるR&D部門にて、機械学習およびディープラーニング、自然言語処理技術の研究および同テクノロジを利用した機能開発をプロダクトマネージャーとしてリード。 研究開発の他、AIやブロックチェーンテクノロジを含む最新技術をビジネスモデルのコアとするベンチャー企業への投資実行の経験も有する。その後、有限責任監査法人トーマツに勤務、経営の課題解決やアナリティクス組織の立ち上げから高度化に繋がるデータ分析活動の推進支援に関わる。大手メーカー時代は、防衛事業を主にする部署にて情報システムの開発、米国拠点において国防省・諜報機関の先端技術動向調査に従事。