财联社1月17日讯(编辑 黄君芝)在上周刚删除“禁止用于军事用途”条款后,人工智能(AI)“领头羊”OpenAI就宣布正在与五角大楼合作开展包括网络安全工具在内的多个项目,这与该初创公司早些时候禁止向军方提供人工智能的做法背道而驰。
OpenAI负责全球事务的副总裁Anna Makanju周二在达沃斯世界经济论坛接受采访时表示,该公司正在与美国国防部合作开发开源网络安全软件工具,并已与美国政府就帮助防止退伍军人自杀的方法进行了初步谈判。
上周,该公司悄悄修改了“用户政策”,拿掉了“禁止将公司AI用于军事、战争用途”的限制,引发舆论。此前的条款明确表示,禁止将公司模型用于“造成物理伤害的高风险活动”,包括武器开发、军事和战争等。
“军事”一词,极为明确地将美国国防部、美军、中央情報局(CIA)等排除出了OpenAI的用户范畴。
Makanju称,这一决定是其更大范围的政策更新的一部分,以适应ChatGPT及其其他工具的新用途。
她说:“因为我们以前基本上是全面禁止军事使用,许多人认为这会禁止许多这样的用例,人们认为这些用例与我们希望在世界上看到的非常一致。但OpenAI坚持禁止使用其技术开发武器、破坏财产或伤害人民。”
这一决定其实也并不令人感到意外,毕竟国防用途更加有利可图。作为OpenAI最大的投资者,微软公司也为美国军队和其他政府部门提供了几个软件合同。
OpenAI还表示,它正在加快其在选举安全方面的工作,投入资源确保其生成式人工智能工具不被用来传播政治虚假信息。
(财联社 黄君芝)
趣评测见闻 2024-11-02
言观见闻趣评 2024-11-02