关键字: [reInforce, CrowdStrike, Outpacing Threats, Crowdstrike Anthropic, Amazon Bedrock, Generative Ai Security, Ai-Enabled Security Operations]

本文字数: 1600, 阅读完需: 8 分钟

导读

小组深入探讨了确保人工智能系统安全性以及利用人工智能进行安全运营所面临的挑战。与会者强调了网络威胁日趋复杂和快速演变的特点,包括利用被盗凭证、零日漏洞攻击和内部威胁等手段。发言人重点阐述了人工智能在加速威胁检测、调查和响应方面的重要作用,例如CrowdStrike推出的对话式人工智能助手Charlotte AI。他们还讨论了数据隐私、模型偏差以及负责任的人工智能开发实践等问题,旨在确保生成式人工智能模型的安全和道德部署。

演讲精华

以下是小编为您整理的本次演讲的精华，共1300字，阅读时间大约是6分钟。

在不断演进的网络安全领域,组织机构正面临着前所未有的复杂和无情的对手威胁。作为网络安全领先公司,CrowdStrike一直处于跟踪这些威胁的前沿,仅在2023年就识别出了232个国家和网络犯罪对手,而且在过去一年中又新增了34个对手。令人震惊的现实是,这些对手不仅试图入侵系统,它们还在积极利用通过黑暗网络或内部威胁等不正当手段获得的已被入侵的凭证,通常是特权用户的凭证。

一旦获得这些凭证,对手就可以顺利登录并在目标环境中发起有计划的横向移动活动。它们的策略是阴险的,利用本地工具并模仿正常操作来逃避检测。这些攻击发生的速度令人震惊,从初始访问到建立立足点的平均突破时间仅为62分钟。在某些情况下,这个关键时间窗口甚至只有2分钟7秒,让防御者几乎没有时间反应。

加剧挑战的是,对手在利用云资源方面越来越熟练,专门针对云环境加速攻击。这种转变使传统的安全措施变得不够用,迫使组织必须在网络安全方面进行范式转变。CrowdStrike观察到的75%攻击都是无恶意软件的交互式攻击,人类对手会实时适应所遇到的环境。

在这个动荡的环境中,出现了一个新的前沿——生成式人工智能(Generative AI)。虽然这项技术有望增强安全运营,但它也是一把双刃剑。对手正在利用生成式人工智能来实现复杂攻击的民主化,从而规避了广泛的知识和专业知识的需求。这种民主化构成了严重威胁,因为即使是新手也可以拥有先进攻击载体的力量。

面对这一挑战,行业领导者如CrowdStrike、Anthropic和亚马逊云科技(亚马逊云科技)已经结成了一个强大的联盟,将他们的专业知识和资源结合起来,以超越这些不断演变的威胁。他们采取的方式是多方面的,包括健全的威胁建模、严格的数据治理,以及针对生成式人工智能应用程序实施健全的安全控制措施。

Anthropic作为一家开创性的人工智能研究公司,已经采取了积极的态度来减轻与生成式人工智能相关的风险。他们的方法集中在精心管理数据管道、清理数据源,并删除任何可能危及用户隐私的个人身份信息(PII)。此外,他们还采用了尖端技术,如符合人类价值观的人工智能(CONSTITUTIONAL AI),使人工智能模型更加抗拒被破解的企图——根据Anthropic的基准测试,大约比其他大型语言模型抗拒能力高出10倍。

作为云计算的全球领导者,亚马逊云科技已经开发了一套全面的工具和服务,使客户能够在其云环境中构建安全的生成式人工智能应用程序。这些产品包括健全的网络和应用程序基础设施,如虚拟私有云(VPC)和VPC端点,用于保持数据流在VPC内部;加密功能;通过亚马逊云科技身份和访问管理以及亚马逊认证授权等服务实现身份验证和授权机制;以及亚马逊云科技密钥管理服务(Amazon Web Services KMS)和硬件安全模块(HSM)等强大的数据保护措施。亚马逊云科技还通过亚马逊云科技市场为合作伙伴解决方案提供持续的合规性报告,使客户能够快速评估供应商在SOC 2或PCI等标准方面的合规状态。认识到这一努力的复杂性,亚马逊云科技已与安全供应商CrowdStrike建立了战略合作伙伴关系,使客户能够部署全面的解决方案,满足他们在HIPAA、SOC或PCI等方面的独特合规和报告要求。

在这项协作努力的核心,是由人工智能(AI)驱动的安全运营中心(SOC)。在这里,生成式人工智能的真正潜力被利用,以增强人类分析师的能力。CrowdStrike的对话式AI助手Charlotte AI体现了这种协同作用,使分析师能够以前所未有的速度和效率浏览复杂的安全数据网络。

Charlotte AI的能力非同寻常。通过自然语言对话,分析师可以无缝解释命令行、使用CrowdStrike的查询语言(如LOGSCALE)查询数据存储库、生成脚本(如PowerShell脚本)来隔离主机,并识别漏洞 - 这些传统上需要耗费数小时的手动工作。这种由AI驱动的助手不仅加快了决策过程,而且还可作为入门级人员的培训辅助工具,为掌握安全运营的复杂性提供指导。

然而,将生成式AI集成到安全运营中并非没有挑战。CrowdStrike和Anthropic高度重视负责任的AI原则,实施了保护措施来减轻潜在的滥用或意外后果。这些措施包括警告分析师需要人工审查和授权、确保所有由AI生成的输出都可查询和检查,以及实施健全的机制来防止越狱尝试或敏感信息的传播。

随着威胁形势以惊人的速度不断演变,供应链安全的重要性日益凸显。敌手越来越多地针对第三方供应商和开源代码仓库,寻找可能让他们进入受信任环境的漏洞。为了应对,组织必须采取整体方式,审查其开发链和供应商关系,以维护对信任边界的控制。

生成式人工智能创新的快速步伐已超越了政府有效监管这一新兴技术的能力。认识到这一监管缺口,Anthropic采取了积极主动的立场,制定了”负责任扩展政策”和与生物安全级别相一致的”人工智能安全级别”(ASLs)。这种方法确保了人工智能能力的部署取决于提供安全和可靠的运行环境的能力,从而减轻了无约束推进带来的风险。

在这个叙述中,我们见证了尖端技术、行业专业知识和共同致力于保护数字领域的融合。CrowdStrike、Anthropic和亚马逊云科技建立了一种超越传统界限的联盟,利用生成式人工智能的力量,超越潜伏在阴影中不断演进的威胁。

通过这种合作,组织可以获得一套全面的工具和服务,使其能够在云中构建安全的生成式人工智能应用程序。以Charlotte AI为代表的人工智能驱动的SOC(安全运营中心)彻底改变了分析师浏览复杂安全数据的方式,加快了决策过程,提高了整体效率。

然而,这种技术实力受到对负责任人工智能原则坚定遵守的约束,确保将生成式人工智能整合到安全运营中受到健全的保障和道德考量的约束。供应链安全被提升为关键优先事项,组织采用整体方法审视其开发链和供应商关系。

面对快速演变的威胁环境和努力跟上步伐的监管环境,像Anthropic这样的行业领导者正在采取积极主动的措施,确保人工智能能力的安全和可靠部署。它们的”负责任扩展政策”和”人工智能安全级别”就是一个指引,引导这一变革性技术的负责任推进。

在探索这片未知领域的过程中,CrowdStrike、Anthropic和亚马逊云科技之间的联盟体现了在追求更加安全的数字未来的过程中合作与创新的力量。通过它们的共同努力,它们不仅超越了威胁,而且重新定义了网络安全领域的可能边界。

下面是一些演讲现场的精彩瞬间：

在这一关键时刻,演讲者强调了CrowdStrike的Falcon平台如何利用专家人工智能、威胁情报和攻击路径分析,为用户提供额外的背景信息,帮助更好地评估和优先排序漏洞。

通过自然语言对话和查询底层数据,Charlotte AI可以帮助组织和分析师大幅缩短工作流程,将原本需要数小时的工作压缩到几分钟或几秒钟。

在设计应用程序时,应当考虑目标受众的人口统计特征,并确保团队中有代表这些群体的人员参与验证和监管过程,以确保应用程序的建议和输出适合不同受众群体。

总结

在这场富有洞见的讨论中,来自CROWDSTRIKE、ANTHROPIC和亚马逊云科技的安全专家深入探讨了生成式人工智能在网络安全领域所带来的挑战和机遇。他们强调了不断演变的威胁环境,其中对手越来越精明,利用诸如窃取凭证、零日漏洞利用和云原生攻击等技术。与会者强调了采用综合安全方法的重要性,将终端保护、身份管理和云工作负载监控相结合。

生成式人工智能被认为是一把双刃剑,既能让防御方加快能力提升,也能让攻击方实现攻击民主化。虽然人工智能可以帮助安全团队进行高级检测、威胁上下文丰富和自动响应,但对手也可以利用它来实现复杂攻击的民主化。专家们强调了负责任的人工智能发展的必要性,通过诸如宪政人工智能和持续风险监控等技术来解决数据隐私、偏差缓解和模型安全等问题。

讨论还展示了CROWDSTRIKE的对话式人工智能助手CHARLOTTE AI,它可以让分析师通过自然语言交互来简化调查、自动化工作流程并获得洞见。这项技术旨在提高安全团队的速度和效率,缓解行业内的技能短缺和分析师倦怠问题。

最后,与会者强调了主动威胁建模、持续合规性监控以及云提供商、安全供应商和客户之间共同负责确保生成式人工智能应用程序安全的重要性。他们强调了合作、负责任的创新以及采用整体方法来跟上不断演变的威胁环境的必要性。