关键字: [reInforce, Amazon Bedrock, Autonomous Security, Zero-Day Vulnerability Exploitation, Ai-Powered Threat Detection, Ai-Generated Phishing Campaigns, Adversarial Machine Learning]

本文字数: 1800, 阅读完需: 9 分钟

导读

在这次演讲中,Alex Ivanov和Gilson Wilson探讨了人工智能(AI)与网络安全的协同工作。他们阐释了AI可用于威胁检测、异常行为识别和网络钓鱼活动发现,从而为组织提供安全防护。然而,攻击者也可能利用AI进行AI驱动的攻击、AI生成的网络钓鱼活动以及深度伪造视频/音频。演讲重点关注亚马逊云科技如何启用AI驱动的安全工具,用于检测和响应网络安全事件、生成补救脚本并解决警报疲劳问题。它还强调了亚马逊云科技服务(如Amazon Bedrock、SageMaker和Security Lake)如何结合构建生成式AI安全解决方案。

演讲精华

以下是小编为您整理的本次演讲的精华，共1500字，阅读时间大约是8分钟。

在网络安全领域,人工智能(AI)与安全的融合一直是备受关注和探索的热门话题。来自亚马逊云科技(Amazon Web Services)的著名专家Alex Ivanov和Gilson Wilson深入探讨了这两个领域之间的错综复杂关系,阐明了它们共生共存的过去、现在和未来。

亚马逊云科技合作伙伴的首席合作伙伴专家兼全球安全能力领导者Gilson Wilson揭示了一项最新的重大发展。研究人员成功利用AI自主攻击零日漏洞,取得了惊人的53%的成功率。这一开创性的成就虽然是在受控实验室环境中进行的,但代表了利用AI用于安全目的的一个重大飞跃,尽管可能并非出于预期的目标。

更令人印象深刻的是,同一组研究人员在利用n日漏洞方面展现出高达85-90%的成功率,进一步凸显了AI在网络安全领域的巨大潜力。这些成就虽然从防御角度来看令人担忧,但强调了必须解决AI在安全领域的影响的紧迫性和重要性。

尽管新技术的诱惑和围绕AI的炒作,但Gilson Wilson强调,安全从业者必须坚持专注于基础工作。安全纪律、流程以及经常被忽视的修补任务仍然是确保网络安全态势稳健的关键支柱。他将这一观点比作传奇一级方程式赛车手马里奥·安德烈蒂(Mario Andretti)的睿智箴言,后者精辟地指出,与普遍观念相反,制动器并非让汽车减速,而是让它们能够以更快的速度行驶。同样,Gilson认为,有效的安全措施使组织能够更快地创新、迅速将产品推向市场,并更有效地运营,因为它们可以信赖现有的安全防护和治理框架。

吉尔森提供了令人信服的统计数据,强调了现代数字环境中安全性的重要性。约有80%的组织在将工作负载迁移至云端时,仍将安全性视为一大挑战。对于在医疗保健、生命科学和金融服务等高度监管行业运营的组织而言,一次违规事件的平均成本高达500万美元。然而,随着AI驱动的安全解决方案的实施,情况出现了转机,这些解决方案已证明能够比传统工具和技术快108天识别和遏制违规行为。

深入探讨AI/ML在安全领域的现状,吉尔森强调了其在威胁检测、异常识别和识别网络钓鱼活动等方面的几个应用实例。然而,他也警告说,AI与任何技术一样,都受”垃圾输入,垃圾输出”的原则的约束。如果用于训练AI系统的数据或模型存在缺陷或不足,AI的性能无疑会受到影响。

来自国家行为体和黑客组织利用AI驱动的攻击对组织构成的新兴威胁,进一步凸显了应对这一不断演变的环境的紧迫性。吉尔森探讨了具体的使用案例,首先是AI驱动安全工具的积极影响。这些已在市场上推出的工具利用了AI在模糊逻辑、概率模式匹配以及以高速度摄取大量数据的能力方面的优势,为组织内部的决策提供简洁的答复和概率指导。

AI驱动的安全工具可以在最少的人工干预下检测和响应网络事件,利用自动化和机器学习不断学习和适应不断变化的威胁环境。当发现缺陷时,这些工具可以生成补救脚本,促使AI以所需的编程语言构建修复程序,然后应用于缓解漏洞。

此外,AI驱动的系统可以减轻安全运营中心和分析师面临的警报疲劳挑战,他们每天都要应对数百万个事件和任务。通过筛选这些大量数据,AI可以确定最关键的威胁,使安全团队能够更有效地集中精力。

确保人工智能/机器学习系统本身的安全性、在安全运营中采用人工智能/机器学习,以及防范对抗性机器学习和人工智能生成的恶意软件,是当前安全领域面临的重大挑战。

Alex强调了威胁建模解决方案的重要性,包括识别潜在威胁和安全风险、实施适当的安全控制措施,并彻底测试其有效性。他指出人工智能/机器学习在自动化、注重细节以及快速处理大量信息方面的优势,使其非常适合应用于安全运营,如检测、事件响应,甚至预测攻击者的下一步行动。

然而,Alex承认威胁行为者也可能利用人工智能/机器学习来实施恶意行为,如发起攻击、策划网络钓鱼活动和生成恶意软件。他将这种局面形象地描述为”好的人工智能”与”坏的人工智能”之间的战斗,防御者和攻击者利用相同的技术进行持续的军备竞赛。

接下来,Alex深入探讨了在亚马逊云科技的安全环境中应用生成式人工智能的实际案例。他展示了如何将亚马逊云科技的安全服务(如SECURITY HUB、GUARDDUTY和SECURITY LAKE)与生成式人工智能和机器学习服务(如AMAZON BEDROCK和SAGEMAKER)相结合,以增强安全解决方案的能力。

利用亚马逊安全湖泊(Amazon Security Lake)的示例,这是一项允许客户集中存储和控制其安全日志和数据的服务,Alex阐释了如何利用生成式人工智能(AI)解决方案。虽然对整个安全湖泊存储进行矢量化是不切实际的,因为其动态性和潜在的大规模,但他建议将更加静态的亚马逊云科技(亚马逊云科技)文档作为生成式AI解决方案的一部分。

通过在矢量数据库亚马逊基岩知识库(Amazon Bedrock Knowledge Base)中存储亚马逊云科技文档,用户可以使用纯文本查询与系统进行交互,而无需了解SQL。例如,用户可以询问:“告诉我6个月前在我的环境中使用了哪些IP地址。”该请求将通过亚马逊基岩(Amazon Bedrock)防护机制进行过滤,以过滤掉不当的请求,然后由亚马逊基岩代理协调任务。

该代理将利用存储在知识库中的亚马逊云科技文档来构建针对亚马逊安全湖泊的适当SQL查询。然后,该查询将通过亚马逊云科技Lambda服务执行,该服务使生成式AI应用程序能够与外部API和服务进行交互。结果将在通过额外的防护机制后返回给用户,以确保不包含任何不当内容。

Alex强调,这只是一个示例,可能性是无限的。开发人员可以创建聊天机器人,根据纯文本输入生成IAM策略,并通过质量关卡强制执行Amazon Web Services IAM最佳实践,然后将策略返回给用户。关键在于创造力和有效地组合这些构建块的能力。

随后,他重新审视了早前提到的AI能够分析组织防御并实时适应利用的概念。然后,他引入了自主安全和合规性的概念,设想了一个”安全领域的Alexa”,能够学习组织的环境并主动防御由AI驱动的威胁。

目前,亚马逊云科技合作伙伴正在开发这一解决方案,旨在训练AI代理快速理解组织的基础设施和运营。这些代理不仅将从组织本身获取学习数据,还将从各种来源获取数据,包括常见漏洞数据库、零日漏洞利用信息以及用于入侵其他组织的恶意软件签名。

通过摄取和分析海量数据,人工智能代理可以检测到组织环境中的潜在漏洞,并自主修补它们,利用从全球观察攻击和漏洞中获得的见解。吉尔森描绘了一幅机器对抗机器的未来画面,人工智能驱动的防御以主动和自适应的方式对抗人工智能驱动的威胁。

总而言之,这段视频探讨了人工智能与安全之间的错综复杂关系,强调了这项强大技术带来的机遇和挑战。虽然人工智能在威胁检测、事件响应和自动化方面提供了前所未有的能力,但它也带来了新的风险,因为对手可能利用同样的工具实施恶意行为。亚马逊云科技的专家强调了确保人工智能/机器学习系统安全、利用人工智能进行安全运营以及防御对抗性机器学习和人工智能生成的威胁的重要性。他们展示了结合亚马逊云科技安全和人工智能服务的实际应用,并设想了一个自主人工智能代理主动为组织防御人工智能驱动威胁的未来,开启了人工智能驱动的网络安全新时代。

下面是一些演讲现场的精彩瞬间：

吉尔森·威尔逊是公司的首席合作伙伴专家,同时也是全球安全合作伙伴的安全能力领导者。

安全性成熟的组织能够更快地创新、更快地推出产品并更有效地运营,因为它们可以信赖已建立的安全防护和治理。

良好的安全意味着良好的业务。

80%的组织仍然认为安全性是将工作负载迁移到云端的主要挑战,平均违规成本高达500万美元,而采用AI驱动的安全解决方案可以比传统工具快108天发现和遏制违规行为。

AI生成的钓鱼活动可以用多种语言生成近乎完美的电子邮件,并制作出精心伪造的网站,令人难以识别。

然而,值得重点强调的是,AI能够自主利用漏洞,可以部署AI规划代理,并启动多个子代理来执行特定任务,如暴力破解密码、解密密钥管理等,这正是公司合作伙伴正在构建的自主安全和合规解决方案的未来发展方向。

总结

这篇演讲深入探讨了人工智能(AI)与网络安全之间的错综复杂关系,阐述了这种强大融合带来的机遇和挑战。它强调了网络犯罪分子如何利用AI自主利用漏洞并发动精心策划的攻击,例如AI生成的网络钓鱼活动和深度伪造视频。然而,演讲也强调了AI革新安全运营的潜力,通过自动化和数据分析实现更快的威胁检测、事件响应和预测能力。

演讲者强调了确保AI/ML系统本身安全性、实施健全的安全控制措施以及威胁建模解决方案来缓解风险的重要性。他们还讨论了如何将亚马逊云科技服务(如Amazon Bedrock、SageMaker和Amazon Kendra)与安全产品(如亚马逊云科技Security Hub和Amazon GuardDuty)相结合,以赋能AI驱动的安全解决方案。一个示例展示了使用生成式AI处理自然语言查询并从Amazon Security Lake检索相关安全数据。

最终,演讲设想了一个未来,自主安全和合规系统(类似于”组织的Jarvis”)利用AI不断学习、检测漏洞并主动缓解威胁,有效地在不断演进的网络安全领域中将”好的AI”对抗”坏的AI”。总的来说,虽然AI带来了新的挑战,但它也蕴含着巨大的潜力,可以在负责任的实施下增强安全运营,并使组织能够更高效地创新和运营。