“对抗性人工智能”对军事系统的威胁
据美联社5月30日消息，乔什洛斯皮诺索创办的首家网络安全初创公司在2017年被雷神forcepoint网络安全公司收购。他的第二家网络安全公司Shift5，主要以提供硬件和软件解决方案,以保护运营技术(OT)平台,如飞机、火车、地面战车和大型采矿和施工车辆。为此主要与美国军方、铁路运营商和包括捷蓝航空在内的航空公司合作。这位36岁的前陆军上尉是2009年西点军校毕业生和罗德学者，他花了十多年时间为国家安全局和美国网络司令部编写黑客工具。最近，洛斯皮诺索对参议院军事小组委员会表示，人工智能如何帮助保护军事行动。这位首席执行官兼程序员与美联社讨论了这个话题，以及武器系统中的软件漏洞，是如何对美国军方构成重大威胁的。为确保观点清晰和篇幅的考虑，采访内容进行了相关的编辑。
Shield AI公司正在为无人系统构建自动驾驶技术，以训练它们在不使用GPS、通信或远程飞行员的情况下执行任务，例如对抗综合防空系统（图片来源：Shield AI公司）
问：在你的证词中，你描述了人工智能技术面临的两个主要威胁：一个是欺骗，这是不言自明的。另一个是数据中毒。你能解释一下吗？
答：考虑数据中毒的一种方法是数字虚假信息。如果对手能够制作人工智能技术看到的数据，他们可以深刻影响该技术的运作方式。
问：是否会发生数据中毒？
答：我们没有广泛地看到这一点，但它已经发生了。最著名的案例之一发生在2016年，微软发布了一个名为Tay的Twitter聊天机器人，它可以从网上的对话中学习。恶意用户合谋在推特上发布辱骂性、攻击性的语言。Tay开始产生煽动性内容，随后微软将其下线。
问：人工智能不仅仅是聊天机器人。长期以来，它一直是网络安全不可或缺的一部分，对吧？
答：人工智能被用于电子邮件过滤器，以尝试标记和隔离垃圾邮件和网络钓鱼诱饵。另一个例子是端点，例如笔记本电脑上的防病毒程序，或在网络上运行的恶意软件检测软件。当然，攻击性黑客也使用人工智能来尝试击败这些分类系统。这就是所谓的对抗性人工智能。
问：我们来谈谈军事软件系统。2018年政府问责局的一份报告称，几乎所有新开发的武器系统都存在关键任务漏洞。五角大楼正在考虑将人工智能应用到这样的系统中?
答：这里有两个问题。首先，我们需要充分保护现有的武器系统的安全，这是我们欠下的技术债，需要很长时间才能还清。然后，还有一个保护人工智能算法的新领域——我们将安装的新东西。政府问责局的报告并没有真正谈到人工智能。所以暂时忘掉人工智能吧。如果这些系统保持现状，它们仍然非常脆弱。
我们正在讨论突破极限，并添加人工智能支持的功能，以改善维护和运营智能等，这都很棒。但我们正在“纸牌屋”之上建造。许多系统已有数十年的历史，采用数字技术进行了改造。飞机、地面车辆、太空资产和潜艇等军事装备，它们现在是相互关联的。为此，我们正在交换数据，但这些系统漏洞百出，难以升级，可能会受到攻击。一旦攻击者获得访问权限，那么一切都就结束了。
有时，构建新平台比重新设计现有系统的数字组件更容易。但人工智能在保护这些系统方面可以发挥作用。如果有人试图破坏它们，那么人工智能可以用来防御。
问：你作证说，正如一些人所敦促的那样，暂停人工智能研究将是一个坏主意，因为它有利于大国竞争和潜在对手。但你也对人工智能产品的盲目发展感到担忧，这是为什么?
答：我讨厌宿命论的观点，但所谓的“燃烧使用”案例似乎适用。将产品匆忙推向市场往往会导致许多问题(被黑客攻击、失败、造成意外损害)。为此，我们应该建立安全机制。“我预计人工智能的发展速度将会加快，我们可能不会停下来，以一种安全和负责任的方式来做这件事。”至少白宫和国会正在讨论这些问题。
问：似乎很多公司，包括国防领域的公司，都急于发布不完全成熟的人工智能产品？
答：每家科技公司和许多非科技公司都几乎向人工智能做出了不和谐的转变。经济混乱即将到来，商业模式将从根本上改变。错位已经发生或即将到来——企业领导者正努力不让自己稿得措手不及。
问：那么人工智能在军事决策中如何应用呢？
答：人工智能在军事决策应用，主要体现在人工智能算法应用。为此，我们正在收集的数据，已经准备好让致命武器系统做出决定。但目前我们离这些要求还有很远的路要走。
本文来源：智能巅峰
关注公众号了解更多
会员申请 请在公众号内回复“个人会员”或“单位会员
欢迎关注中国指挥与控制学会媒体矩阵
CICC官方网站
CICC官方微信公众号
《指挥与控制学报》官网
国际无人系统大会官网
中国指挥控制大会官网
全国兵棋推演大赛
全国空中智能博弈大赛
搜狐号
一点号