AI时代的IT审计 | 平衡科技创新与责任边界

人工智能 (AI) 可以说是一项革命性的技术。人工智能的加速应用有力地推动着生产方式、企业管理和治理方式的深刻变革，成为数字社会发展最主要的动力。企业已经在越来越多的业务运营和管理中使用人工智能工具。生成式AI因其强大的自然语言处理能力和非技术员工的使用潜力，被认为将使AI更加易于访问和广泛采用。毕马威曾对300名全球高级管理人员进行了调查，发现他们普遍认为生成式AI是一种可能产生变革的技术。三分之二的受访者预测，生成式AI将在接下来的三到五年内对公司产生重大影响。然而，风险与机遇共存，尽管业务领导者意识到实施生成式AI对于商业上的价值，但是仍然顾虑其在应用过程中潜在的不确定性。

毕马威结合为全球众多使用或研发人工智能企业提供审计的经验，建立了专属于人工智能审计的知识库，并沉淀了成熟的方法论。通过开展针对人工智能的IT审计，为审计客户的人工智能运用和管理保驾护航。

人工智能的发展历史

人工智能的应用场景

机器学习、自然语言处理等技术的进步大大拓宽了人工智能的应用边界，使人工智能在医疗、汽车等众多行业得到了丰富的应用。

医疗健康行业场景应用

人工智能已经在医疗健康领域取得了广泛应用。为提高医学知识传播、提高临床医学诊断效率、提高药物研发成功率提供了诸多帮助。

• 智能平台：某人工智能药物研发平台将人工智能工具ChatGPT与其自有平台结合，为用户提供疾病等问题的全面描述。
• 临床诊断：人工智能的动态影像技术提高了临床医学视频影像的清晰度和及时性。同时，机器学习也可以更好地帮助医生对影像结果进行判断，降低病变漏诊率和误诊率。

汽车行业场景应用

随着人工智能技术的蓬勃发展，智能汽车成为了汽车行业发展的重要方向。人工智能技术与汽车制造进行融合，为客户提供更加安全、便利的行车服务。

• 自动驾驶：通过对大量驾驶数据的分析和学习，让车辆自主感知和理解周围的环境，做出更加准确和可靠的驾驶决策。
• 自动泊车：在寻找车位途中，汽车自动监测停车位，寻找最佳停车路线，并完成停车操作。
• 自动启动：当需要用车时，用户使用手机“召唤”智能汽车，智能汽车会自动启动并移动到用户的身边。

大数据行业场景应用

大语言模型的快速发展为文字处理提供了极大的便利，也推动了人工智能在文本理解和生成领域的大量运用。

• 文献整理：使用大数据技术整合各个科研网站专用信息库中的庞大数据，最终产出最贴合研究方向的参考内容。
• 文字写作：通过AI算法内置行业资料数据库，自动撰写行业背景贴合，术语表达规范的文章。
• 智能决策：运用大数据处理和人工智能文本识别，帮助商家洞悉市场和竞争态势，制定更合理的产品布局策略和更精准的运营决策。

人工智能的潜在风险

01. 可靠性和责任风险

系统或模型的失败与错误将严重影响公司业务/产品的正常运行。

示例：2018年，一款自动驾驶汽车的人工智能系统出现故障。汽车无法识别某些物体，导致该车无法识别过马路的行人。

02. 隐私和透明度风险

模型会根据数据对用户的性格、消费习惯和个人偏好等进行预测，可能会给个人、机构和整个社会带来错误、伤害和风险。

示例：2016年，某人工智能实验室从英国国家卫生服务局收到了机密患者的信息，患者没有意识到他们的医疗数据被用于测试新的移动应用程序。

03. 知识产权与版权风险

人工智能生成的信息或代码复制到任何可交付成果或产品中可能构成侵犯知识产权与版权，导致法律和声誉损害。

示例：2023年初，某媒体网站因使用人工智能撰写文章而面临审查，这导致了大量的事实错误和抄袭。

04. 员工滥用和结果的不准确性风险

员工需要正确使用AI模型，并对结果保持谨慎和怀疑，否则可能导致滥用和结果不准确。

示例：某航空公司被法庭责令向一名乘客支付赔偿金，该乘客声称被一个聊天机器人误导购买了全价机票。

05. 误导、偏见和歧视风险

人工智能按照设计者的意愿运行。开发者很容易在无意中插入个人的偏见和歧视。这些偏见会使算法偏离了应有的状态。

示例：对于同一个事物，人们的主观差异可能会给出不同的答案。比如，毕加索的代表作是什么？可能的回答有格尔尼卡、哭泣的女人、梦等。

人工智能审计的关注重点

毕马威在人工智能审计领域有着丰富的经验和能力，成立了人工智能IT审计小组，并在全球范围内参与众多使用或研发人工智能的知名企业审计工作。基于卓越的行业洞察和项目实践，毕马威建立了丰富、全面的人工智能审计知识库、审计模型和方法论，帮助企业快速、准确、全面地核查运用人工智能技术过程中存在的问题，反哺企业在人工智能治理和管理方面的能力。

多元并治：快速评估企业人工智能治理成熟度水平

毕马威基于“以人为本、以价值为导向、以值得信赖为基础”三大核心理念，从企业战略发展、数据使用、建模、评估、部署监控五大领域切入，围绕使用人工智能的十大基本原则，建立了“毕马威人工智能治理成熟度评估模型”，快速诊断企业对人工智能的治理水平，发现治理中存在的不足。

图：毕马威人工智能治理成熟度评估模型

多标融合：精准定位企业人工智能领域管理缺漏

毕马威在为全球客户提供人工智能领域审计过程中，广泛搜集和梳理了各地区关于人工智能的监管要求、行业标准和制度规范，建立了“毕马威人工智能审计制度库”，覆盖了大量权威机构和行业组织对人工智能的管理要求和规范。我们可以帮助企业精准定位在运用人工智能过程中存在的制度缺漏，促使企业建立更完善的人工智能管理要求。

图：毕马威人工智能审计制度库

多维并举：全面识别企业人工智能领域控制缺陷

结合大量行业项目经验，毕马威总结了人工智能全生命周期审计方法论，全面识别企业在人工智能模型/系统开发阶段和使用阶段所面临的主要风险，评估企业存在的控制缺陷，促进企业提升人工智能管理水平，更安全、更规范、更准确地运用人工智能技术。

图：人工智能全生命周期审计方法论

毕马威将持续关注人工智能领域的最新动态，并及时与各位分享。随着客户的新AI技术的应用，我们亦需不断更新知识、迭代IT审计方法，“与时俱进、数智审计”已融入每位毕马威审计人的血液，我们将运用前沿科学与技术，不断推动审计技术能力的提高，为客户提供高质量的审计服务！

本文内容仅供一般参考用，并非针对任何个人或团体的个别或特定情况而提供。虽然我们已致力提供准确和及时的资料，但我们不能保证这些资料在阁下收取时或日后仍然准确。任何人士不应在没有详细考虑相关的情况及获取适当的专业意见下依据所载内容行事。本文所有提供的内容均不应被视为正式的审计、会计或法律建议。

©2024毕马威华振会计师事务所（特殊普通合伙）、毕马威企业咨询（中国）有限公司及毕马威会计师事务所，均是与毕马威国际有限公司（英国私营担保有限公司）相关联的独立成员所全球组织中的成员。毕马威国际及其关联实体不提供任何客户服务。各成员所均为各自独立的法律主体，其对自身描述亦是如此。毕马威华振会计师事务所（特殊普通合伙）——中国合伙制会计师事务所：毕马威企业咨询（中国）有限公司——中国有限责任公司；毕马威会计师事务所——香港合伙制事务所。版权所有，不得转载。毕马威的名称和标识均属于毕马威国际的商标或注册商标。