法官提醒——警惕AI技术滥用的法律风险
人工智能技术近些年悄无声息地融入到我们生活中的各个角落：智能语音客服、AI主播、语音转文字等常见功能极大地提高了工作生活的便利性，众多AI换脸、AI绘画App或小程序也因上手简单而让普通人一秒钟实现明星梦、画家梦，去年年底美国研发的聊天工具ChatGPT一经问世更是火爆全球。不过，技术永远是把双刃剑，继“AI孙燕姿”翻唱事件后，近日，福建一男子被骗子通过AI换脸和拟声技术佯装成其好友，并通过视频聊天10分钟诈骗430万元一事，让人们更加深刻地思考：AI技术应怎样服务人类？技术滥用会带来哪些法律风险，又会造成怎样的信任危机呢？
1、AI“创作”存在侵权风险
AI技术的发展初衷在于改善人类生活，近年来，其对于视频、音频、图像、文字的处理逐渐从实验室走向大众，改变着人们的生产生活方式，且应用场景广泛，玩法多元，在降本增效、解放生产力方面有着不凡表现。
以AI视频技术为例。以往，某位演员的失德失范可能导致其参演的整部作品无法播出，给拍摄方造成经济损失。通过AI技术，就可以在作品已经拍摄完成后对问题演员进行“换脸”，及时止损。在特效制作方面，过去的AI还只是特效师的辅助，但是目前已经有多个软件可以“傻瓜式”生成大片特效，电影特效进入“平民时代”，普通人也能拥有自制特效的奇妙体验。另外，AI技术还能够在仅有文案而不添加其他图片视频素材的基础上“无中生有”创作视频，满足了创作者们更加多元化的需求。
今年春节期间，一组红色背景、毛茸茸的卡通兔子图片风靡朋友圈，成为了很多人的屏保壁纸和头像，这些图片均是由AI绘图技术生成。众多AI绘图工具已经在设计、绘画领域崭露头角，使用者只需要输入文字指令，就可以实现“以文生图”，在几分钟内得到一张不错的作品，极大地提高了生产效率。不过，这可能会对图片版权行业产生冲击。
一般来讲，想要使用一张有版权的图片，包括绘画和摄影作品等，需要付费才能够合法使用，否则便会引发版权侵权案件，在自媒体领域相关纠纷尤其明显。有些自媒体账号在发布的广告宣传中未经许可，使用了他人的版权图片作为配图，被权利人起诉索赔，有些版权代理公司还可能刻意隐瞒并诱导别人使用版权图片，等握取侵权事实后再向对方索要赔偿、逼迫签订包年合同或提起诉讼，将维权变成了牟利手段。而AI绘图技术的出现，在一定程度上能够帮助自媒体运营者控制成本，降低因不当使用图片作品引发的涉诉风险，另一方面，也对图片作品商业化维权产业链扰乱市场经营秩序的行为构成打击。
上述AI视频、AI绘图技术，以及能够帮助人们写论文、邮件、脚本、诗歌、代码的“全能”聊天工具ChatGPT，都是深度合成技术的具体应用，不论人们是否具有专业背景和相关经验，只要具备简单的表达能力，都可以借助这些AI工具进行“创作”。那么，这些生成的视频、图片、文字作品版权归属如何呢？事实上，我国著作权法对于利用AI生成的作品版权归属尚无明确规定，不过，众多的AI工具均对产出作品的权利归属设置了相应的使用规则，有些软件还对免费用户和付费用户生成作品的权利归属以及是否可商用进行了区分，可视为双方就生成作品版权问题达成了一致，用户对作品的处分应当遵照约定执行。
此外，也有人质疑AI通过对海量样本的学习、模仿后生成的作品，是否会侵犯在先作品版权人的合法权利？对此，北京市第四中级人民法院法官认为，要看AI作品对他人作品的借鉴、使用程度是否构成实质性相似。如果只是对他人创作的手法、规则、技巧、风格的学习模仿，很难认定为“抄袭”，但如果是机械地照搬、拼接了他人作品，则有可能构成侵权。因此，在前期利用AI获取灵感创意的基础上，创作者应注入自己的思想观点、人文情感等，使其内容具备实质性的改动，让作品的权属问题和后续使用更加稳妥。
2、AI“换脸”可能侵害肖像权
技术的迭代让很多不可能成为了可能，近日爆火网络的“AI孙燕姿”就是如此。很多创作者以孙燕姿的音色来训练AI，并以合成的音色翻唱其他歌手的作品，让多年不出专辑的孙燕姿瞬间多出了千余首翻唱作品，连她本人都表示“人类无法超越它已指日可待”。那么，这些AI翻唱的作品是否合法呢？
事实上，歌手的唱腔、音色本身不属于著作权法的保护范畴，但是民法典第一千零二十三条规定，对自然人声音的保护参照适用肖像权保护的有关规定，也就是说，不得利用信息技术手段伪造的方式侵犯他人对声音的权利。
此外，有人以“仅供娱乐并非商用”为由来声明免责，但是根据著作权法第四十二条的规定，录音制作者使用他人已经合法录制为录音制品的音乐作品来制作录音制品，可以不经著作权人许可，但应当按照规定支付报酬，免责声明并不是其著作权侵权的阻却事由。而且有些人上传AI翻唱作品后会获得平台收益或用户打赏，虽然并非必须付费才能收听，但制作者也的确因此获得了收益，所以也很难将其作品定义为著作权法合理使用制度中的“免费表演”。
可见，AI技术虽好，但必须谨防滥用。曾有一段时间，“杨幂”“热巴”等明星频频现身带货直播间，被眼尖的网友一眼识破，原来这些都是AI换脸技术，某些人妄图顶着一张“明星脸”吸引更多用户走进直播间。这样做，虽然有了流量，却也侵犯了他人合法权益。根据民法典第一千零一十九条规定，任何组织或者个人不得以丑化、污损，或者利用信息技术手段伪造等方式侵害他人的肖像权。未经肖像权人同意，不得制作、使用、公开肖像权人的肖像，但是法律另有规定的除外。未经肖像权人同意，肖像作品权利人不得以发表、复制、发行、出租、展览等方式使用或者公开肖像权人的肖像。明星的肖像相较于普通人更具商业价值，非法将名人肖像“移植”到主播身上，相当于零成本获取名人效应，不仅侵害了被换脸明星的肖像权及其代表的经济利益，对其他依法付费使用名人肖像的经营者也明显不公。
此外，还有网友曾上传自己的照片，用自己的脸替换影视剧中演员的脸，此种行为也存在法律风险。根据肖像权的法律规定，“反向换脸”也属于利用信息技术手段伪造的方式侵害他人肖像权的行为。特别是换脸影视剧人物并将视频上传网络发布，还可能构成对影视作品信息网络传播权、保护作品完整权等著作权的侵害，相关著作权人可保留追究其责任并获取赔偿的权利。
北京市第四中级人民法院法官提醒，“换脸”还可能引发其他人格权方面的纠纷。有视频博主近期通过AI换脸技术将影视剧中亲密戏部分男主角的脸换成了自己，造成了很多网友及演员粉丝的不适。演员在剧中的亲密戏份属于表演需要，在合同、剧本中有所体现，是在演员本人知情、同意的基础上对剧情的必要演绎。但是该博主的行为不仅构成了对女演员的无礼和冒犯，还可能因符合民法典第一千零一十条所述“违背他人意愿，以语言、文字、图像、肢体行为等方式对他人实施性骚扰”的情形而承担民事责任。更有甚者为了“造黄谣”或非法牟利，将女明星或者普通女性的肖像换脸到黄色视频中，严重侵害了他人的名誉权，给当事人造成了极大的精神痛苦，应依法予以惩处。
3、重点防范利用AI实施犯罪
在人们还在拓展AI的各种便利时，犯罪分子早已盯上了这项技术。据报道，福建郭先生的微信“好友”通过视频联系他，称要借430万元保证金。基于对视频通话的信任，郭先生在10分钟内完成了转账，不久之后发现被骗。原来，骗子先是盗取了郭先生好友的微信，知晓了郭先生的经济实力，又获取了“好友”的脸孔、声音等信息用于后期合成，最终完成了诈骗，让人防不胜防。原本远程通信是为便利而生，但AI技术的滥用反而降低了人们对于线上交往的信任。试想一下，如果有人将AI技术用于制作非法视频、虚假新闻等，这对社会信任体系无疑是不利的。
诚信对于保障交易安全至关重要，但是深度合成技术的不当使用可能增加违约风险，尤其是在以对方智力成果为标的的交易领域。当创作者的作品是通过ChatGPT、Midjourney等AI工具生成的文字或图片时，其作品的独创性或将存在瑕疵。例如在著作权许可或转让合同方面，除非合同双方就使用AI进行创作达成了一致，否则这种合成的作品可能因独创性不足而构成瑕疵履行，或者因侵犯他人著作权而存在权利瑕疵，给被许可方或受让方在后续商业化使用作品过程中造成不必要的损失。
另外，AI技术的触手可及也将提升道德风险。北京市第四中级人民法院法官表示，利用AI完成工作所需的工作量与个人开展独立智力劳动所需的工作量相比，无论时间、经济、精力成本都相差甚远，如果写作、绘画等方面的从业者大量借助AI完成工作却不予告知付费客户，仍然按照个人独立完成的标准报价，则相关行业良性竞争的秩序将被打破，职业道德也将出现危机。当然，高风险的还有学术领域。学生用ChatGPT等人工智能工具辅助写论文已经不是什么新鲜事，但是就现阶段来讲，AI创作的论文还存在很多弊端，或是缺乏新颖性，或是缺乏逻辑性表达，甚至连参考文献都可能是AI胡编滥造，这样的学术成果不仅没有任何价值可言，反而加剧了学术不端现象。
面对相关风险，我们既要做好补救，也要做好防范。国家网信办出台的《互联网信息服务深度合成管理规定》于今年1月10日正式施行，主要针对深度合成服务者的义务进行了规定，其中要求深度合成服务提供者提供智能对话、合成人声、人脸生成、沉浸式拟真场景等生成或者显著改变信息内容功能的服务的，应当进行显著标识，避免公众混淆或者误认。可见，做好风险防范首先要从技术开发者、服务提供者入手。
对于个人而言，人脸、指纹、声音等生物信息以及身份证、银行卡、社交媒体账号等个人信息的保护则变得愈发重要。假如遇到熟人在线上提出转账需求时，要通过多重验证来确认其身份，特别是对AI技术了解不多的老年人更要重点防范。
供图：视觉中国
来源：北京日报客户端 记者：袁京
流程编辑：u060