报告解读：生成式AI技术风险曝光，CISO不得不看！
生成式AI（GenAI）和大语言模型（LLM）是当前的颠覆性技术，重新定义了企业的经营方式，激发了对于未来AI能在多大程度上改变人类文明与计算机间互动方式的讨论。社会科学家和权威人士大谈特谈更智能的主动计算可致人类文明走向末日，关于AI能力的种种夸张描述添油加醋。或许，其中某些观点也有几分道理？
以色列风投公司Team8最近发布《生成式AI与ChatGPT企业风险》报告，描述了GenAI和LLM在技术、合规和法律方面给企业董事会、高管和网络安全人员带来的一些现实风险。报告强调了GenAI潜在的运营和监管漏洞，但也提醒称，某些担忧或许为时过早。其中一个担忧，即暴露提交给ChatGPT等GenAI应用的私有数据可能会让其他人近实时地获得这些数据，在报告中就被认为是杞人忧天。
报告中写道：“截至本文撰写之时，大语言模型（LLM）无法实时更新自身，因此无法将某个人的输入返回到另一个人的响应，从而有效消除了这种担忧。但是，这类模型未来版本的训练情况就未必还是这样了。”
报告按风险类型列出了几种潜在的威胁，其中属于高风险的有：
· 非上市企业和私有数据的数据隐私和保密。
· 非公开及企业数据的企业、软件即服务（SaaS）和第三方安全。
· 企业数据的AI行为漏洞，比如提示插入。
· 法律与监管合规。
归属中风险类别的威胁有：
· 网络钓鱼、欺诈和社会工程等攻击方法的演进。
· 可致企业面临法律风险的版权和所有权漏洞。
· 不安全的代码生成。
· 偏见和歧视。
· 信任与企业声誉。
参与编撰这份报告的Team8常驻首席信息安全官Gadi Evron表示：“CISO处在一个需要具备技术知识来支持各个流程的位置，但这些流程未必在其掌控之下，这就可能会影响其职能的发挥。在涉AI问题上，对即将出台的欧盟法规的一些解释可能会将CISO推上责任人的位置。这或许会将CISO的地位提升到充当‘信任大使’的高度，对CISO而言是件好事。”
纳斯达克网络安全顾问、Panzura客户安全咨询委员会主席Chris Hetner表示，初步风险评估可以发现一些问题，比如谁有访问权限、能够做些什么，以及AI如何与现有应用和数据存储交互等。
“你需要确定谁有权限访问平台、他们会引入什么级别的数据和代码、这些数据和代码会不会给企业带来什么所有权风险。这些决策一旦做出，就会有个推进的过程。”
企业面临的GenAI威胁并不是什么新鲜事物，但这类威胁可能会加快私有数据曝光的速度。
Traceable AI首席安全官Richard Bird认为：“说到安全问题，在缓解公司和客户数据被盗或遭泄露的风险方面，大多数公司的表现明显比六个月前要糟糕得多。如果我们客观理智地对自己坦诚以待，在生成式AI兴起之前，大多数公司其实已经难以保障这些数据安全了。”
“几乎没有安全控制措施的AI技术便于使用和访问的特性早已为员工所利用，公司所面临的风险增加的迹象显露无疑。”
1人的因素
Bird对GenAI的看法比较务实，他认为，企业会迅速行动，不会坐等合规要求来保护其数据、客户、供应链和技术。他指出，在AI使用方面，用户“毫无克制，而且意识不到可能造成的非预期安全后果”。“这两种态度的组合有毒，企业必须抓紧解决。在这方面，AI反而不是关键威胁。人的行为才是。”
尚需充分分析的一个问题是，用户如何根据其现有习惯和体验与GenAI互动。例如，Cobalt Labs首席信息安全官Andrew Obadiaru指出，iPhone用户已通过Siri拥有了AI原生体验，因而会比没有这种体验的用户更快地适应。与Bird的观点类似，Obadiaru认为，现有习惯可能会让用户更容易滥用这些应用，输入一些不应脱离企业直接控制的数据。
他表示：“问题在于，‘还有哪些其他的风险？’人人都能不经任何安全审查就利用GenAI技术，而且在个人设备上就能这么干。”
如果员工使用IT部门无法控制的个人设备开展业务，或者跟用Siri或类似应用一样使用GenAI，那就很可能会带来安全风险。像使用个人数字助理一样使用GenAI，机密数据就可能会面临风险。
2网络风险
美国印第安纳大学凯利商学院数据科学与人工智能实验室助理教授Sagar Samtani警告称，AI模型通过开源软件广泛共享。这些模型含有大量漏洞，其中一些是CISO需要注意的。
“这些漏洞促使企业了解自己在用的是哪种开源模型，其中含有哪些漏洞，应该怎么更新软件开发工作流程才能反映出这些漏洞。”
Samtani补充道，资产管理是强有力的网络安全计划所不可或缺的。
“资产管理不是令人惊艳的答案，而是其中非常重要的一环。”Samtani表示，“用于检测和分类数据与资产的自动化工具可在规划公司网络方面发挥关键作用。 生成式AI可帮助提供企业网络布局，为可能的资产管理和漏洞管理任务服务。尤其是LLM，创建库存列表、优先级列表、漏洞管理策略和事件响应计划等工作都可以借助LLM更加轻松地完成。”
Team8报告《生成式AI与ChatGPT企业风险》
https://team8.vc/wp-content/uploads/2023/04/Team8-Generative-AI-and-ChatGPT-Enterprise-Risks.pdf