我们需要控制人工智能代理

美国《大西洋月刊》7月2日文章，原题：现在我们就需要控制人工智能代理 尽管今天人们对人工智能的安全感到担忧，但对于新兴的人工智能代理并没有采取特别的监管措施。我们必须关注由当代人工智能代理造成的更紧迫、更司空见惯的问题。譬如，近日，加拿大航空公司公司使用一个聊天机器人帮助乘客，询问对方是否提供帮助。它以一种比航空公司实际政策慷慨得多的方式，解释了一项机票政策。加拿大航空公司试图拒绝履行机器人的承诺，但惨遭败诉。

今天的人工智能代理比聊天机器人更强大，它具有三个特质。首先，人工智能代理能够被赋予一个高层次、甚至是模糊的目标，通过自己研究或工作独立地实现目标。比如，一年前，一位技术人员开发能给自己订购披萨的人工智能。他创建了可以授权和指挥其他人工智能的“顶级人工智能”。它先被分配一个任务目标——通过拨打指定号码语音订购披萨。接着，它自行创建任务列表，开发出不同版本的自己来执行任务，包括对列表中的不同步骤进行优先级排序，生成一个能够使用文本-语音转换器拨打电话的版本。

这证明了代理的第二个特质：可以随心所欲使用不同软件工具与整个世界互动，生成型人工智能模型可以从外部世界获取信息，并反过来影响自己，不仅能与我们交谈，还能在现实世界发挥作用。它跨越了数字与虚拟、比特与原子之间的血脑屏障，值得我们深思。

此外，不难想象，人工智能代理可能会被用来完成类似哈佛假炸弹勒索案的每一个步骤。更令人担忧的是，此类威胁规模很容易远超单个罪犯单独能够做到的：想象一下，哈佛勒索案的幕后黑手能够同时在成百上千个城镇实施阴谋，密切关注某个加入社交媒体或求职网站的人，不知疲倦地发布贬低对方的回复和评论。这就是人工智能代理的第三个特质:无限期运行，允许程序员“设置好后就忘记它”。

问题是，人工智能代理可能会背离初心继续运作。人类无法获知随着环境的变化，哪些被废人工智能代理会留下来。人工智能代理可能会以意想不到的方式相互作用。目前，负责翻译模糊目标的人工智能代理也许会选择错误方式来实现目标：一个学生要求机器人“帮我应付这门无聊的课”，代理试图让课堂变“有趣”而发出电话炸弹威胁。

我们应该寻找低成本干预措施。在加拿大航空公司的案件中，法庭对航司“聊天机器人是一个独立的法律实体，对自己的行为负责”的说法持怀疑态度。评估人工智能代理的动机很重要。最高法院最近认为，如果将真正的威胁定为犯罪，需要发出威胁的一方主观上明白自己会引发恐惧。去年，OpenAI的研究人员提出了一种可能性，即运行人工智能机器人的服务器应该被识别出来，就像车牌可以用来追踪车主一样。现代科技令人眼花缭乱，很容易让我们认为，在自由市场和严厉监管之间，鱼和熊掌不可兼得。事实并非如此。合适的监管措施可以使新技术足够安全，允许市场参与者对彼此以及与客户之间的互动方式更加有辨识力。（作者乔纳森·齐特林，陈欣译）▲