人とAIを統合したシステム”Human-in-the-Loop”

人とAIとの対立構造から、両者を統合したシステムへ

AI導入企業が増加の一途を辿る時代においては、人とAIがチームを組み課題解決にあたる新たな動きが広がっています。この、「人とAIを統合したシステム」は、“Human-in-the-Loop (HitL)”と呼ばれ、「人とAIの協調」という新たな領域が認識されはじめています。現在、AIと意識されずとも、AIが組み込まれたサービスの利活用が進んでおり、そこには、人とAIとの対立構造ではなく、両者を統合したシステム“Human-in-the-Loop”が確かに存在しています[2]。

AIの判断や制御に介在する人間の役割とは

Human-in-the-Loopのコンセプトは、当初、宇宙船が遭遇する未知なる事故の原因究明や訓練、新型駆逐艦が対応するべき特異な戦闘様相の定義づけといった防衛・宇宙分野におけるModeling & Simulation（M&S）のひとつとして研究されていました[3]。現在は、機械学習やディープラーニングをコアとしたAIシステムにおいて、一部の判断や制御にあえて人間を介在させるプロセスデザインとして発展しています[4]。また、その活用領域は利用データに内在するバイアスや絶え間なく変化する外部環境、例えば法令・社会の倫理観の潮流とそれに基づくポリシーの変化によって引き起こされるコンセプトドリフト（※1)などの修正から、現在ではより広く捉えられています。具体的には、AIの判断結果によってもたらされる“違和感”を人間が低減する、人間の認知バイアスを機械が除去する、など人間と機械それぞれの長所で弱点を補い合う領域に渡り、この両者の協調を前提とするチームがデジタルトランスフォメーション（DX）の成功要素のひとつとして認知されています[5,6]。

人とAIの協調は公正、安心、安全なサービス提供や社会全体にも好影響を及ぼす

少し視点を変えましょう。私たちの日常生活では、施設やサービスに対する口コミやレーティングが重要な役割を果たすようになりました。宿泊施設やレストランに対して、人は写真や動画を1日に数千件以上も投稿しています。特に、シェアリングエコノミーのサービスを提供する企業、Uber Eatsのような宅配業者が仲介する無店舗型レストランでは、これらの情報はとても大切です。またO2O（※２）からオムニチャネル（※３）、そして近年ではオンラインとオフラインを連携させてマーケティング施策を行うOMO（※４）へと移行するリテール業界で展開されるECサイトやマーケットプレイスが”公正かつ安心、安全な”サービスであり続けるためには、AIがサポートする意思決定を保証する人間の判断が必要であり、Human-in-the-Loopは欠かすことができない観点です。これは、「AI では処理できない判断は人間に委ね、単調な作業は機械に行わせることで人間はもっと高次元の仕事に集中する。」といった従来の議論を超えて、AIと協調する仕事への”進化”の一つを示しているのです。さらに、人間が持つ想像力、共感、好奇心、創造性、社会的な倫理感などを含めた “リベラルアーツ” を用いてAIと協調することで、国境を超えて難民や発展途上国へのIT教育支援のあり方にも変化を及ぼし、そこに対価の高い仕事をもたらし得る可能性もあります。

人間が公正さを念頭に置いてAIを展開できるように基準を策定するには、社会科学、法律、倫理などの分野を利用して、人の判断とAIが一体となって設計されたシステムにてプロセスを自動化することも一つの解決策として模索され始めました[7]。そのためには、かつてのような「人かAIか」という「対立（versus）」の価値観を、「協調（with）」の考え方へとシフトさせなければいけません。この動きはまだ始まったばかりです。

※1   機械学習モデルのパフォーマンスは、データの多様性によって時間の経過とともに低下し、再学習が頻繁に必要になる。そのために、利用しているモデルが劣化したかどうかの指標または判断基準が必要になる。

※2   Online to Offline。オンラインでの情報接触行動をもってオフラインでの購買行動に影響を与えるような施策のこと。

※3   小売業における販売戦略の1つで、店舗やアプリなど顧客とのあらゆる接点で最適な購買体験を提供すること。

※4   Online Merges with Offline。オンラインとオフラインの融合によりチャネルを総合的に考えることで、適切なタイミングで適切なチャネルを提供する「顧客目線」に沿ったシームレスな顧客体験を提供すること。

参考文献

[1]    Frey and Osborne, “The Future of Employment: How Susceptible are Jobs to Computerisation?“, Technological Forecasting and Social Change (114), January 2013, DOI: 10.1016/j.techfore.2016.08.019.

[2]    Lage, Isaac, Andrew Slavin Ross, Been Kim, Samuel J. Gershman and Finale Doshi-Velez. “Human-in-the-Loop Interpretability Prior.” NeurIPS (2018).

[3]     "DoD Modeling and Simulation (M&S) Glossary", DoD 5000.59-M, January 1998, Retrieved 2009-04-22.

[4]    Xin, Doris, Litian Ma, Jialin Liu, Stephen Macke, Shuchen Song and Aditya G. Parameswaran. “Accelerating Human-in-the-loop Machine Learning: Challenges and Opportunities.” ArXiv abs/1804.05892 (2018).

[5]    Civil Service World, “Augmented Intelligence: digital transformation with humans in the loop”, 20 August 2019, <available from>https://www.civilserviceworld.com/articles/partner_article/bt/augmented-intelligence-digital-transformation-humans-loop (accessed 2020-04-29).

[6]    Guszcza, Lewis, and Evans-Greenwood, “Cognitive collaboration”; Evans-Greenwood, Lewis, and Guszcza, “Reconstructing work.” View in article

[7]    Jonathan Shaw, “Artificial intelligence and ethics: Ethics and the dawn of decision-making machines,” Harvard Magazine, January–February 2019; Lynda Spiegel, “The dangers of asking AI to evaluate a job candidate’s interview,” Wall Street Journal, October 16, 2019. View in article

【シリーズ】The Age of With：人とAIが協調する社会

>>「AIにより見直される”紙”のカタログによるマーケティング」
>>「フェイクニュース」に人はAIとどう向き合うべきか