生成式 AI 正在引发一场风险风暴
风险是创新的货币,但失控的风险会对企业构成生存威胁。为了实现生成式AI驱动的转型承话,CEO必须确保新增的风险不会盖潜在的回报。
随着生成式AI的发展,各种新的威胁不断涌现-44%的受访 CEO认为这项技术给社会带来了重大风险。57% 的受访首席风险官(CRO)和受访首席财务官(CFO)表示其组织使用生成式 AI将增加整体风险敞口。他们在考虑生成式A1投资时最关注的风险包括合规和监管风险(6396)、客户和员工隐私(5896)以及决策中的偏见和错误信息(5696)。超过一半的受访高管担心计算资源的成本和新型网络安全威胁。
60%6 的受访 CE0 表示正在考虑为生成式AI引入额外的护栏来控制风险。但许多企业并未落实到行动上。例如,在监管和合规风险方面,尽管63%的CRO和 CFO 表示关注这些风险,但只有 29% 的受访者表示已经有效缓解这些风险。68%的CRO和CFO表示在应对与生成式A1相关的风险方面准备不足。
技能短缺使形势变得更加复杂。70%的CRO和CFO表示,为了适应生成式A1的快速发展并不断应对新的风险,其组织需要引入当前所欠缺的专业知识。60%的CRO和CFO表示其组织目前采用的是临时性的生成式 AI风险管理方法,仅适用于特定流程,或者根本不存在。
设定激发创新而非引发混乱的风险阈值
理解生成式AI引入的全域风险及其对现有风险状况的影响,然后明确意承担多大的风险来推动转型。确保CRO 处于黄金平衡点(既不过于激进,也不过分回避风险),并为团队配备“恰到好处"的生成式AI工具,帮助他们灵活应对最不可预测的威胁。
定义生成式 AI的整体风险容忍度。与 CRO 合作评估组织过去管理风险的成功经验、承受损失的财务能力以及风险对运营的潜在影响。为每个类别概述可接受的、可量化的风险水平。设定风险限度。
采取正式的生成式 AI风险管理方法。为生成式 AI计划建立结构化风险评估。与 CRO 合作建立适合组织需求且具有明确责任划分的AI治理结构。提供关于如何应对已识别的风险和漏洞的缓解策略指导。
建立生成式 AI风险的持续监测和监督机制。由 AI负责人来监控生成式 AI的部署,进行风险评估,并向高管团队报告。使用AI助手整理风险数据以供AI负责人审查。促进与利益相关者的开放沟通和合作。
免责声明:我们尊重知识产权、数据隐私,只做内容的收集、整理及分享,报告内容来源于网络,报告版权归原撰写发布机构所有,通过公开合法渠道获得,如涉及侵权,请及时联系我们删除,如对报告内容存疑,请与撰写、发布机构联系
科技新知 2024-12-17
车视界科技 2024-12-17
科技新知 2024-12-17