YouTube正在推出 AI 技术来检测深度伪造内容

YouTube正在推出 AI 技术来检测深度伪造内容并管理对艺术家肖像的未经授权的使用。

YouTube在一篇博客文章中宣布正在开发新工具来保护艺术家和创作者。

该平台的“肖像管理技术”专注于开发两种新工具。最有趣的是一种新技术，它使创作者、演员、音乐家、运动员和任何其他人都可以检测“在 YouTube 上露面的 AI 生成内容”并对其进行管理。

这有助于个人识别使用他们脸部的深度伪造内容并要求删除此类内容。此前，YouTube 于7 月更新了政策，允许用户要求删除模仿他们的声音或脸部的人工智能生成内容。

YouTube确认，任何人“以未经授权的方式访问创作者内容都违反了 [我们的] 服务条款”。它还重申，人工智能生成的内容需要遵守该平台的社区准则。

该公司提到了其新的生成式 AI 工具，例如用于 Shorts 的 Dream Screen，以及为防止潜在滥用而融入这些工具的安全措施。

YouTube还在开发Content ID的新技术。这项合成歌声识别技术将允许艺术家和音乐家发现和管理模仿他们歌声的 AI 生成内容。YouTube 的合作伙伴正在完善这项技术，并计划于明年初推出一项试点计划。

目前尚未公布深度伪造技术的试点计划或推出日期。

近期令人担忧的深度伪造现象的出现确保了 YouTube 的下一步是朝着正确的方向迈出的又一步。