英国将人工智能安全研究所扩展到旧金山

鞭牛士报道，5月20日消息，据外电报道，英国政府正在将其前沿人工智能模型测试设施扩大到美国，以提升其作为应对技术风险的全球顶级参与者的形象，并在各国政府加强与美国的合作。

美国政府周一宣布，将于今年夏天在旧金山举办人工智能安全峰会，该峰会是一个由国家支持的机构，专注于测试先进的人工智能系统以确保其安全。

美国人工智能安全研究所的目标是招募一支由研究总监领导的技术人员团队。

在伦敦，该研究所目前拥有 30 名团队，由英国著名科技企业家伊恩·霍加斯 (Ian Hogarth) 担任主席，他创立了音乐会发现网站 Songkick。

英国技术大臣米歇尔·多尼兰在一份声明中表示，人工智能安全峰会在美国的推出代表了英国在人工智能领域的领导地位。

「这是英国从全球角度研究人工智能风险和潜力的关键时刻，加强我们与美国的伙伴关系，并为其他国家利用我们的专业知识铺平道路，因为我们继续在人工智能领域领先世界。」

此次扩张将使英国能够利用湾区丰富的科技人才，与总部位于伦敦和旧金山的世界上最大的人工智能实验室合作，并巩固与美国的关系，以促进公众的人工智能安全利息。

旧金山是微软OpenAI 的故乡，病毒式人工智能聊天机器人 ChatGPT 背后支持的公司。

人工智能安全研究所于 2023 年 11 月在人工智能安全峰会期间成立，这是一项在英国布莱奇利公园（二战密码破译者的故乡）举行的全球活动，旨在促进人工智能安全方面的跨境合作。

人工智能安全研究所向美国扩张是在韩国人工智能首尔峰会前夕进行的，该峰会是去年在布莱切利公园举行的英国峰会上首次提出的。

首尔峰会将于周二和周三举行。

政府表示，自去年 11 月人工智能安全研究所成立以来，它在评估一些行业领先企业的前沿人工智能模型方面取得了进展。

该公司周一表示，一些人工智能模型完成了网络安全挑战，但难以完成更高级的挑战，而一些模型则展示了博士级别的化学和生物学知识。

与此同时，该研究所测试的所有模型仍然非常容易受到越狱的影响，用户会欺骗它们产生内容指南不允许的响应，而有些模型即使不尝试规避保护措施也会产生有害的输出。

政府表示，如果没有人类监督，测试的模型也无法完成更复杂、更耗时的任务。

它没有透露所测试的人工智能模型的名称。政府此前曾让 OpenAI、DeepMind 和 Anthropic 同意向政府开放他们梦寐以求的人工智能模型，以帮助了解与其系统相关的风险的研究。

这一发展正值英国因未针对人工智能引入正式法规而面临批评，而欧盟等其他司法管辖区正在竞相制定针对人工智能的法律。

欧盟具有里程碑意义的《人工智能法案》是同类人工智能领域的首个重大立法，一旦获得欧盟所有成员国批准并生效，预计将成为全球人工智能监管的蓝图。