创新与信心偕行 – 德勤人工智能与风险管理报告

人工智能（AI）成为越来越多企业的战略方向，有效风险管理不应是抑制人工智能创新的因素，而是公司成功运用AI技术的基础，本篇报告旨在让相关受众理解AI时代的监管环境和AI相关风险管理方式。通过关注这些领域，我们希望帮助企业在制定AI风险管理框架时，提供更加高效的解决方案和监控机制。

AI的应用存在潜在风险。

AI技术与传统技术的一个重要的区别是，后者通常在那些预先设定清楚的规则框架完成任务；AI应用则可以自行分析海量历史数据来制定决策。因此当企业大规模采用AI技术时会遇到以下几方面挑战：（1）数据--AI系统对数据量和数据质量十分依赖，AI应用中遇到最棘手的困难就是缺少大量高质量数据；（2）透明性--AI算法在训练过程中有许多决策制定的隐藏层，这将增加可审计性和可溯源性的难度；（3）接受度-- AI被认为会加剧企业的现有风险，改变风险出现的方式，甚至会为公司带来新的风险。

AI风险管理框架是在现有企业风险管理体系中嵌入AI相关风险管控。

德勤AI风险管理框架提供了一种识别并管控AI相关风险的机制。AI的应用和一般的创新过程一样，都要求企业要经历一次不断学习的过程。但事实上，企业并不需要一套全新的流程来应对AI，只需要在与公司整体风险偏好保持一致的情况下，改进现有流程和风险管控措施，例如在对算法模型、技术、合规等领域风险评估时把AI因素纳入评估，填补一些必要的管理空白。

全球监管部门对于AI应用风险的监管日趋严格。

监管机构越来越关注受监管企业因使用AI而可能带来的潜在风险和意外后果。其中，网络安全问题（如个人隐私泄露）、数据滥用问题（即大数据“杀熟”）等可能影响准确性、公平性或合规性的问题都成为监管者关注的重点。

本报告全面、系统地介绍了AI时代的风险管理。AI已经成为众多企业战略的核心组成部分，在未来将发挥巨大竞争优势。但风险与机遇并行，企业需要考虑AI技术的潜在风险和意外后果，以及如何在支持良性创新、市场诚信和财务稳定之间找到一个平衡点。