当前位置:首页|资讯|生成式AI

re:Inforce 2024:在生成式AI尚未获得收益前,先考虑下怎么设计安全防护

作者:钛媒体APP发布时间:2024-06-13

亚马逊云科技首席信息安全官 Chris Betz

在国内安全厂商还在抓耳挠腮于生成式AI究竟怎么能够给自身业务带来丰富收益时,顶尖的云厂商已经在落地生成式AI时代下企业用户怎么设计安全防护,不仅让客户使用安全的产品,还要让客户利用AI构建云上安全应用。

亚马逊云科技首席信息安全官(CISO)Chris Betz认为,“要首先确保自身的云基础设施对所有人来说都尽可能安全,”这意味着,既要确保直接用户的数据安全,同时也要确保那些基于云的企业终端用户的数据安全。

6月10日开幕的re:Inforce 2024全球大会上,亚马逊云科技推出多项安全服务新功能,涵盖恶意软件防护、生成式AI驱动安全、身份访问和管理等,帮助用户降低构建安全能力门槛。具体包括将Amazon GuardDuty恶意防护功能扩展至Amazon S3,推出Amazon CloudTrail Lake基于生成式AI的自然语言查询功能(预览版),Amazon IAM支持使用通行密钥作为第二个身份验证因素,Amazon IAM访问分析器提供针对未使用的访问权限建议以达成最小权限以及为公共和关键资源的访问提供策略访问,Amazon Cloud WAN推出服务嵌入功能,Amazon Private CA引入对简单证书注册协议(SCEP)的支持。

值得关注的是,针对生成式AI三层技术栈,亚马逊云科技融入了全方位安全能力和安全文化。其中,由于Amazon Bedrock上提供了数十种高性能基础模型选择,所有模型都可通过单一API访问。为此,亚马逊云科技设计利用VPC(Virtual Private Cloud,专有网络)来控制流量,为所有内网流量和模型定制提供多租户隔离和强加密。这意味着,客户始终拥有模型的私有版本,对基础模型的任何改进或定制都是私有的,只有该客户可以访问。而此前公布的Bedrock Guardrails防护栏功能,也允许用户根据用例为任何基础模型创建和应用防护栏,可以多阻止85%的有害内容。

Chris Betz指出,“选择云提供商意味着进入一段长期合作关系,客户需要一个深度投资于安全的合作伙伴以守护其宝贵资产,因为并非所有云都是以相同的安全性构建的。”

“安全自主设计”,即安全是设计出来的,是亚马逊云科技所秉持的理念,为此,亚马逊云科技目前制定了从物理数据中心到网络设计和服务架构各个层面的实践、技术和控制措施,试图为用户提供安全数据防护。

不久前,亚马逊云科技全球企业战略总经理Ishit Vachhrajani与钛媒体APP交流中也谈到,趋势上看,“客户实际上正在以更快的速度采用云计算。如果没有云计算,就不会尝试生成式AI,在客户看来,如果需要利用这个新功能,需要关注数据,需要关注云计算,因为这才是在市场竞争中脱颖而出的关键。”

而在re:Inforce期间,Chris Betz就如何保持安全与生成式AI同步发展提出了七条建议。钛媒体APP摘录了关键要点,如下:

1、安全是验证生成式AI等新技术的关键。生成式AI能够向所有人提供强大的工具,深刻改变几乎所有类型的客户体验。然而,如果没有明确的治理,生成式AI就会引发安全和隐私问题。因此,热衷于生成式AI的员工常常将安全视为阻碍。这不仅是错误的思维,也有害于业务。安全是业务的推动器,它降低了风险、增强了韧性,并赋予客户更快速、更有信心地创新的能力,尤其是在迅速发展的生成式AI时代。

2、将安全融入组织,像功能、成本一样。报告指出,组织的安全文化不足可能是导致可避免错误的根本原因,这些错误会导致入侵得逞且长期不会被发现。选择让安全团队直接向CEO报告,目标是将安全建立在企业组织之中。每个产品团队都负责他们交付的服务或功能的安全。安全被内置在每个产品路线图、工程计划和周会中,就像功能、性能和成本一样。最佳的安全不是在过程结束时或系统外部“加装”的。

3、让客户控制自身数据。客户探索如何采用生成式AI时的最大担忧是,如何保护自身数据及最终客户的数据。从一开始,亚马逊云科技的AI基础设施和服务就内置了安全和隐私功能,赋予客户对其数据的控制权。例如Amazon Nitro,Graviton 4等芯片,从芯片设计之初就引入安全需求考量。

4、生成式AI驱动安全效能。生成式AI所带来的强大功能和易用性,不仅对客户极具吸引力,也成为IT和安全管理员不可或缺的工具,帮助他们更有效地识别和解决问题。目前亚马逊云科技也推出了两款由生成式AI驱动的安全功能:自然语言查询生成功能,用于分析Amazon CloudTrail Lake中的活动事件;Amazon Audit Manager,用于追踪Amazon SageMaker上客户实践。

5、最好的安全防御是积极地进攻。亚马逊云科技每天都在基础设施中扫描、检测并阻止网络攻击。在网络安全防护方面,亚马逊云科技曾分享一款全球分布的威胁传感网络MadPot(又称蜜罐),利用威胁情报保护客户。今年首次公开讨论内部工具Sonaris,用于分析网络流量,识别并阻止恶意连接大量客户账户以寻找漏洞的尝试。

6、良好的安全性包括把基础工作做好。虽然密码可以保护数字资产,但仅靠密码是不够的。多因素认证(MFA)要求用户在访问网站或应用程序时提供不止一个密码,作为额外的安全层。多因素认证已经存在超过20年,但仍未被广泛采用。为了使MFA更加易于采用,亚马逊云科技将Amazon IAM支持使用通行密钥作为第二个身份验证因素。密钥采用公钥加密技术,将实现比密码更强大且抗钓鱼的身份验证。

7、安全需要持续创新。不断为客户创新,使他们能够快速、安全且自信地推动业务发展,并拥有无人能及的云安全领域记录。

(本文首发于钛媒体APP,作者 | 杨丽,编辑 | 盖虹达)


Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1