Gartner调查显示，生成式AI已成企业面临的重大新兴风险
这项调查涵盖249名企业风险高层管理人员，汇总出2023年第二季度最严峻的五大新兴风险。
根据Gartner公司发布的数据，生成式AI（包括OpenAI ChatGPT和谷歌Bard）的大规模普及已经成为2023年第二季度企业风险管理者们最关注的问题。
Gartner风险与审计实践研究总监Ran Xu表示，“在我们第二季度的调查当中，生成式AI已经成为第二大常见风险，这也是其首次出现在风险因素的前十名中。由此看来，随着公众认知和生成式AI工具普及度的快速增长，再结合潜在用例的巨大广度，这些工具带来的潜在风险已经不容小觑。”
2023年5月，Gartner对249名企业风险高层管理人员进行了调查，其中提出20种新兴风险的基准观点。这份季度新兴风险报告提出了这些风险的潜在影响、时间范围、关注程度和感知机会等细节信息。
而在第二季度的最新调查当中，第三方生存能力成为各类组织最为关注的首要新兴风险（见表1）。财务规划不确定性排名第三，位列第四的则是云集中风险。对中国的贸易紧张局势排名第五，具体又分为当前宏观经济疲软，以及因地缘政治的广泛波动所引发的现实影响与技术担忧。
2023年第二季度最常被提及的五大新兴风险
来源：Gartner（2023年8月）
生成式AI的大规模普及
Gartner此前已经确定了生成式AI的六大风险，以及与功能保障相关的四大AI监管领域。Gartner专家表示，在管理企业风险方面，必须解决以下三大核心难题：
- 知识产权
- Xu解释道，“被输入给生成式AI工具的信息，可以作为其训练数据集的一部分。也就是说，其中包含的敏感或机密信息可能最终会被输出给其他用户。此外，使用这些工具生成的输出，也很可能会在无意间侵犯其他工具使用者的知识产权。”
解决问题的关键，是教育企业领导者在使用此类工具时保持谨慎态度和透明公开，以便立足生成式AI工具的输入和输出层面妥善控制知识产权风险。
- 数据隐私
生成式AI工具可能会在不事先通知的情况下，与其他第三方（例如供应商或服务提供商）共享用户信息，而这很可能违反多个司法管辖区的隐私法条款。例如，中国和欧盟已经开始实施监管，美国、加拿大、印度和英国等国家也提出了监管建议。
- 网络安全
- Xu指出，“黑客总是出于自己的目的积极测试新技术，寻求能够损害新技术的方法，生成式AI当然也不例外。我们已经看到有生成式AI在诱导之下生成恶意软件和勒索软件代码的例子；还包括「提示词注入」攻击，即通过精心设计的提示词诈骗AI工具泄露自己本不该输出的信息。种种趋势正导致高级网络钓鱼攻击走向工业化、量产化的道路。”
第三方生存风险的根源和影响
Xu解释道，“持续不断的通货膨胀几乎不受加息政策的缓解，而且持续时间也比预期更长，这加剧了第三方机构的成本和利润压力。随着美国央行不断提高利率以对抗通胀，信贷紧缩周期必然随之来临，且很可能迫使供应商暂停运营、甚至因借贷成本上升而资不抵债。”
如果经济状况普遍恶化，也可能导致需求进一步下降，从而影响第三方供应商的生存能力、或者是及时交付商品/服务的能力。Gartner专家指出了由第三方生存问题引发的三种潜在后果，供风险管理者根据实际情况进行监控：
- 关键投入与材料损失：如果第三方供应商因为宏观经济形势而提高价格，则会引发关键投入与材料方面的显著损失，因为第三方会更青睐愿意支付更高价格的客户。
- 财务规划假设或将不成立：当供应商提高价格或者意外倒闭时，原本的成本假设将不再成立，因此需要调整成本并提高获取商品/服务的价格。
- 供应链之外的挑战：各合作伙伴（包括托管服务提供商、商业合作伙伴、债权人或者技术供应商）可能会收缩甚至停止正常运营，给客户方的业务运转造成重大影响。
