网络安全与人工智能相遇：人工智能将如何影响未来的网络安全？
#ChatGPT人工智能#鉴于最近在生成性人工智能工具方面引人注目的发展，如OpenAIChatGPT聊天机器人微软的Sydney，以及Dall-E和Midjourney等图像生成工具，人工智能迅速进入公众的意识也就不足为奇了。
正如许多令人兴奋的新技术经常出现的情况一样，最新新闻发展的短期影响可能被高估了。至少这是我对应用程序安全这个狭窄领域的看法。相反，人工智能对安全的长期影响是巨大的，可能没有得到充分的重视，即使是在这个领域的许多人。
了不起的成就；悲惨的失败
退一步说，机器学习有着悠久而深远的历史。50年前，它第一次引起公众的注意可能是因为下棋软件，随着时间的推移，IBM Watson赢得了一个危险的冠军，今天的聊天机器人几乎超过了传说中的图灵测试.
图灵测试
让我印象深刻的是，这些里程碑在某个层面上是一个了不起的成就，而在另一个层面上却是一个悲剧性的失败。一方面，人工智能研究人员能够建立系统，接近并经常超过世界上最好的人类具体问题。
另一方面，这些同样的成功揭示了人工智能和人类之间的巨大差异。通常，人工智能的成功故事不是通过超越人类或更有创造力，而是通过以更快的速度或更大的规模做一些更基本的事情。
增强和加速人类
因此，当我被问及“你认为人工智能或人工智能将如何影响未来的网络安全？”我的答案是，短期内最大的影响不会来自取代人类，而是通过增加和加速人类。
计算器和计算机是一个很好的类比——它们都没有取代人类，相反，它们允许特定的任务——算术、数值模拟、文档搜索——被卸载并更有效地执行。
这些工具的使用在量化性能上提供了一个巨大的飞跃，允许这些任务被更普遍地执行。这使得全新的工作方式成为可能，例如像VisiCalc和后来的Excel这样的电子表格的新分析模式，造福于人类和整个社会。一个类似的故事在电脑国际象棋中上演，世界上最好的国际象棋是在人类和电脑之间进行的合作，每个人都对自己擅长的领域做出贡献。
对网络安全的直接影响
人工智能对网络安全的最直接影响是基于最新的“新街区男孩”生成人工智能聊天机器人。一个可以预见的例子是，无论是ChatGPT还是Taylor Swift的门票，只要有一种流行的互联网服务出现，就会出现一种模式，那就是过多的假货ChatGPT网站由犯罪分子设立，用于欺诈性地收集消费者的敏感信息。
自然，企业界也很快接受了这些好处。例如，软件工程师正在通过使用基于人工智能的代码创建加速器来提高开发效率，例如副驾驶员。当然，这些工具也可以加速网络攻击者的软件开发，减少从发现漏洞到存在利用漏洞的代码所需的时间。
几乎总是这样，社会通常会更快地接受一项新技术，而不是考虑其影响。继续以Copilot为例，AI代码生成工具的使用带来了新的威胁。
其中一个威胁是数据泄露——当AI从开发者编写的代码中“学习”并与它所帮助的其他开发者分享时，开发者公司的关键知识产权可能会被泄露。事实上，我们已经有了密码的例子被泄露通过副驾驶。
另一个威胁是对生成的代码的不必要的信任，这些代码可能没有足够的有经验的人的监督，这冒着易受攻击的代码被部署和打开更多安全漏洞的风险。事实上，最近NYU研究发现大约40%的Copilot生成的代码有常见的漏洞。
更复杂的聊天机器人
稍微看一下，虽然不是太多，但进一步看，我预计坏演员将会利用最新的人工智能技术来做人工智能最擅长的事情:允许人类，包括罪犯，以指数级增长。具体来说，最新一代的人工智能聊天机器人有能力大规模高质量地模仿人类。
这是一笔巨大的意外之财(从网络罪犯的角度来看)，因为在过去，他们被迫选择“宽而浅”或“窄而深”的目标。也就是说，他们可以针对许多潜在的受害者，但以一种通用且易于识别的方式(网络钓鱼)，或者他们可以做得更好、更难检测的假冒工作，以仅针对少数甚至仅一个潜在受害者(鱼叉钓鱼).
有了最新的人工智能聊天机器人，单独的攻击者可以更接近和更容易地模仿人类——无论是在聊天中还是在个性化的电子邮件中——攻击规模大大增加。当然，保护对策将对这一举动做出反应并进化，很可能使用其他形式的人工智能，如深度学习分类器。事实上，我们已经有人工智能驱动的探测器伪造的图像。正在进行的猫捉老鼠的游戏将继续下去，只是双方都有人工智能驱动的工具。
人工智能作为网络安全力量的倍增器
透过水晶球看得更深一点，人工智能将越来越多地被用作安全服务和使用它们的专业人士的力量倍增器。人工智能再次实现了规模上的量子飞跃——通过加速人类已经例行但缓慢地做的事情。
我预计人工智能工具将极大地提高安全解决方案的有效性，就像计算器极大地加快了记账速度一样。已经将这种想法付诸实践的一个真实例子是在DDoS缓解的安全领域。在传统解决方案中，当应用程序遭受DDoS攻击时，以人为本的网络工程师首先必须拒绝绝大多数有效和无效的传入流量，只是为了防止下游级联故障。
然后，在赢得一些时间后，人们可以进行更深入的分析流量模式的过程，以识别恶意流量的特定属性，从而可以选择性地阻止它。这个过程需要几分钟到几个小时，即使是最好和最熟练的人。然而，今天，人工智能正被用于持续分析传入流量，自动生成无效流量的签名，甚至在应用程序的健康受到威胁时自动应用基于签名的过滤器-所有这些都在几秒钟内完成。这也是人工智能核心价值主张的一个例子:以快得多的速度执行日常任务。
网络安全中的人工智能:推进欺诈检测
这种使用人工智能加速人类的模式可以，也正在被其他下一代网络安全解决方案采用，如欺诈检测。当需要实时响应时，尤其是在对人工智能评估的信任度很高的情况下，人工智能可以立即做出反应。
也就是说，人工智能系统仍然无法超越人类，也无法理解细微差别或背景。在假阳性的可能性或业务影响太大的情况下，人工智能仍然可以在辅助模式下使用——标记和优先考虑人类最感兴趣的安全事件。
最终结果是人类和人工智能之间的合作，每个人都做他们最擅长的事情，比任何一个人单独做的事情都提高了效率和效力，这再次与计算机象棋的类比相一致。
到目前为止，我对进展非常有信心。透过水晶球，我觉得“历史很少重复，但它经常押韵”这句格言很贴切。人类与人工智能合作的长期影响，即人工智能作为人类力量倍增器的结果，对我来说很难预测，就像电子计算器的设计者预测电子表格一样。
总的来说，我想象它将允许人类进一步指定安全策略的意图、优先级和护栏，由人工智能协助并将该意图动态映射到下一级的详细行动。
精选内容来源公众号：【幻影视界】