《自然》斯嘉丽·约翰逊对OpenAI的投诉引发了质疑

在人工智能时代，正在出现挑战法律对角色权利的情况。

• 尼古拉·琼斯（Nicola Jones）

斯嘉丽·约翰逊（Scarlett Johansson）表示，她相信OpenAI聊天机器人的声音是为了模仿她。图片来源：Samir Hussein/WireImage via Getty

上周，演员斯嘉丽·约翰逊（Scarlett Johansson）抱怨OpenAI的聊天机器人声音听起来很像她之后，爆发了一场混战。它不是她的——公司用别人的录音创造了它。尽管如此，出于对约翰逊担忧的尊重，该公司已经暂停了该声音。但媒体的狂热引发了一场关于人们拥有自己角色权利的更广泛讨论。在生成式人工智能（genAI）时代，现有法律是否足以保护一个人的外表和声音的使用？

加拿大多伦多约克大学（York University）的知识产权学者卡里斯·克雷格（Carys Craig）说，答案并不总是很清楚，他将于下个月在加拿大律师协会的一次网络直播中就这个话题发表演讲。

在过去的一年里，美国国会的几位议员呼吁制定一项联邦法律，在国家层面体现这种保护措施。一些法律学者表示，需要采取行动来改善美国的隐私权。但他们也警告说，匆忙制定的法律可能会侵犯言论自由或造成其他问题。“这很复杂，”华盛顿特区非营利性消费者权益保护组织“公共知识”（Public Knowledge）的法律分析师梅雷迪思·罗斯（Meredith Rose）说。“有很多事情可能会出错。”

“急于对此进行监管可能是一个错误，”克雷格说。

假我

GenAI 可用于轻松克隆声音或面孔以创建深度伪造，其中以数字方式模仿一个人的肖像。人们为了好玩和促进教育或研究而制作深度伪造。然而，它们也被用来散布虚假信息，试图影响选举，创造未经同意的性图像或骗取人们的钱财。

克雷格说，许多国家都有法律来防止这些有害和邪恶的活动，无论它们是否涉及人工智能。但是，当涉及到具体保护角色时，现有法律可能足够，也可能不够。

克雷格说，版权不适用，因为它旨在保护特定作品。“例如，从知识产权的角度来看，我们是否对自己的声音拥有权利的答案是否定的，”她说。大多数关于版权和人工智能的讨论都集中在受版权保护的材料是否以及如何用于训练技术，以及它产生的新材料是否可以受版权保护。

除了版权法之外，一些地区，包括美国的一些州，都有“宣传权”，允许个人控制其图像的商业用途，以保护名人免受经济损失。例如，在1988年，早在人工智能进入领域之前，歌手兼演员贝蒂·米德勒（Bette Midler）就赢得了针对福特汽车公司的“声音挪用”案，福特汽车公司（Ford Motor Company）在广告中使用了一位声音相似的歌手来翻唱她的一首歌。1992年，游戏节目主持人瓦纳·怀特（Vanna White）在与三星美国分部的官司中胜诉，当时三星在广告中放了一个打扮成她的机器人。

“我们有一个案例，关于一个人已经战胜了一个真正的机器人，”罗斯说。她说，随着人工智能进入该领域，案件将变得“越来越香蕉”。

如何阻止人工智能深度伪造使社会和科学陷入困境

还有很多事情有待在法庭上检验。例如，说唱歌手德雷克（Drake）上个月发布了一首歌曲，其中包含已故说唱歌手图帕克·沙库尔（Tupac Shakur）的人工智能生成的语音片段。德雷克在收到沙库尔遗产的停止信后，从流媒体服务中删除了这首歌。但克雷格说，目前尚不清楚这首歌的人工智能成分是否非法。在田纳西州，今年通过了一项名为《确保肖像语音和图像安全法案》（ELVIS）的法律，旨在保护各级配音演员免受“对其声音的不公平利用”，包括使用人工智能克隆。

在美国，演员对人工智能有一些合同保护——去年12月结束了美国演员工会-美国电视和广播艺术家联合会（Screen Actors Guild-American Federation of Television and Radio Artists）的好莱坞罢工的协议，其中包括禁止电影制作人在每种情况下未经个人明确同意的情况下使用演员的数字复制品的条款。

与此同时，个别科技公司有自己的政策来帮助防止 genAI 滥用。例如，总部位于加利福尼亚州旧金山的OpenAI尚未向公众发布用于制作聊天机器人语音的语音克隆软件，并承认“生成类似于人们声音的语音具有严重风险”。测试该技术的合作伙伴的使用政策“禁止在未经同意或合法权利的情况下冒充其他个人或组织”。

其他公司正在寻求技术方法来阻止滥用：上个月，美国联邦贸易委员会宣布了其挑战的获胜者，即“保护消费者免受滥用人工智能语音克隆进行欺诈和其他危害”。其中包括在录制时为真实音频添加水印的方法以及用于检测 genAI 生成的音频的工具。

范围广

罗斯和克雷格说，比演员的收入损失更令人担忧的是，使用人工智能克隆人们的肖像，用于包括未经同意的色情内容。“首先，我们对未经同意的图像有非常少的、不充分的法律，更不用说人工智能了，”罗斯说。她补充说，深度伪造色情内容现在很容易生成，包括未成年人的肖像，这一事实应该引起人们的警觉。包括夏洛茨维尔弗吉尼亚大学（University of Virginia in Charlottesville）的丹妮尔·香橼（Danielle Citron）在内的一些法律学者正在倡导法律改革，将“私密隐私”视为美国的一项公民权利，与投票权或公平审判权相当。

罗斯说，目前的宣传权法不太适合报道非名人。“在商业应用中，宣传权是围绕着可识别的、与众不同的人建立起来的，”她说。“这对斯嘉丽·约翰逊（Scarlett Johansson）来说是有道理的，但对于一个16岁的女孩来说，却不是这样。

然而，罗斯说，将公开权扩大到美国私人的提议可能会产生意想不到的后果。她曾写信给美国国会，表达了对一些拟议立法可能允许强势公司滥用的担忧。例如，用于创建新奇照片的智能手机应用程序可以在其服务条款中插入一项条款，即“授予应用程序不受限制的、不可撤销的许可，以使用用户的肖像”。

罗斯说，还有一个分身问题：人工智能随机生成的人的图像或声音必然看起来和听起来至少像一个真人，然后他们可能会寻求补偿。

旨在保护人民的法律可能会走得太远并威胁言论自由。克雷格说：“当你拥有的权利过于广泛时，你就会限制言论自由。“我们允许版权所有者控制的内容受到限制是有原因的;让人们受到启发，创造新事物，并为文化对话做出贡献，“她说。她说，模仿和其他建立在原作基础上并对其进行改造的作品通常属于合法合理使用的范畴，这是它们应该的范畴。“[这些法律]过于严格的版本会扼杀模仿，”罗斯说。

doi： https://doi.org/10.1038/d41586-024-01578-4