清明将至慎用AI复活，平台约束生成式AI技术滥用
4月2日晚，抖音安全中心发布《关于清明期间内容创作的提醒》，内容包括了勿借清明节发布迷信、猎奇和有违公序良俗的内容，勿发布焚烧人民币的内容，参观英雄、烈士及遇难同胞纪念场所时保持庄重的言谈举止，勿拍摄或发布有安全隐患的“野景点”以及封闭或受限制区域的相关内容等。
其中尤其值得注意的是提及了慎用“AI复活”技术，要求用户尊重逝者及其亲友。未经逝者生前同意或逝者家属授权，请勿利用AI或其他技术手段“复活”逝者。
该内容创作提醒中所提及的AI复活技术近期在社交平台引发广发争议，此前媒体报道了多起AI复活服务案例，其中既有遗属复活去世亲人让人感动的，也有网友擅自用AI复活已去世明星引发明星遗属不满和大众反感的，同时也揭露了AI复活技术产业链中存在的种种问题：打着“技术教学”旗号卖课的，利用AI复活技术诈骗的，用AI复活当噱头引流的……生成式AI技术所面临的道德困境引发热议，这也让不少平台开始出手提示用户对AI技术滥用保持警惕，比如小红书平台，在搜索AI复活相关内容是会置顶弹出“谨防诈骗”的官方提示。
这也并非是抖音首度出手约束生成式AI技术。就在不久前的3月27日，抖音发布一则治理公告，开始明确划定AI创作的禁区，指出将重点整治利用AI生成假外国人消费爱国心理、博取关注；生成俊男美女虚假形象片骗取互动；生成精英人士虚假人设发布心灵鸡汤、厚黑学等不良内容引流卖课等内容。值得注意的是，此次治理中抖音还提到了“平台已掌握部分黑产团伙不当使用AI生成虚拟人物用于犯罪的线索，将报警打击。”这样严厉的措辞在过往的治理公告中并不常见。字节跳动旗下的学习平台学浪在3月初发布治理公告，对AI教培商品的行业审核规范进行了明确，对AI课程贩卖焦虑、割韭菜、引流等行为以及AI代写学术论文等商品进行管控。
生成式AI技术的发展创新日新月异，技术和道德伦理的挑战如影随形，从网友热议讨论去年7月《生成式人工智能服务管理暂行办法》再到网络社交平台根据各自平台出现的AI技术滥用问题制定监管方案，明确滥用标准约束相应行为对于规范使用生成式AI技术势在必行。
扬子晚报|紫牛新闻记者 沈昭
校对 王菲