当前位置:首页|资讯

AI仿冒名人带货可要求退一赔三!深度伪造名人事件频发,雷军也曾深受困扰

作者:金融界发布时间:2024-12-23

12月23日,据央视财经频道报道,今年以来,人工智能(AI)技术在深度伪造领域的应用引发了广泛关注,尤其是AI假冒名人进行直播带货等不法行为频发。近日,一起涉及知名医生张文宏的AI深度伪造事件再度将这一问题推向风口浪尖。据报道,不法分子利用AI技术,伪造了张文宏医生的脸部形象和声音,进行直播带货活动,引发了广泛争议。

张文宏医生在接受采访时表示,这一事件已经持续了几个星期,他本人也进行了投诉。他特别指出,对于不熟悉AI技术的年长市民来说,他们很容易受到这种伪造信息的欺骗。这一事件不仅损害了张文宏医生的个人名誉,也引发了公众对AI技术滥用的担忧。

专家指出,AI假冒名人进行带货等商业活动,已经涉嫌违法。根据相关法律法规,一旦消费者因相信这些伪造信息而购买了产品,他们有权要求商家进行退一赔三的赔偿。这一规定旨在保护消费者的合法权益,维护市场秩序。

事实上,用AI技术制作假冒名人欺骗网民的现象并非个例。在国庆期间,就有人利用小米集团创始人雷军的声音和头像制作了众多恶搞视频,给雷军本人带来了不小的困扰。雷军在接受采访时表示,他对这种恶搞行为感到不舒服,但同时也认为AI是一项很好的技术,具有广泛的实用价值。他希望公众能够理性看待AI技术,避免将其用于不法行为。

从国际视角来看,深度伪造在全球范围内产生了诸多严重问题。在金融领域,深度伪造技术可能被用于虚假身份认证,从而实施诈骗、盗刷等犯罪行为,破坏金融秩序稳定;在商业层面,假冒名人的广告、带货等行为不仅损害名人声誉,还会误导消费者做出错误决策,冲击正常的市场交易秩序;在社会层面,深度伪造的不实信息传播可能引发公众恐慌、社会信任危机,甚至影响国际关系与地缘政治稳定。世界经济论坛发布的《2024年全球风险报告》将AI生成的错误信息列为未来两年内最严重的全球风险之一。

为应对深度伪造带来的挑战,各国纷纷出台相关监管措施。例如,美国一些州已开始立法,要求合成媒体内容需明确标注,防止误导公众;欧盟则考虑制定全欧范围的法规,对深度伪造技术的使用进行严格限制,包括对使用深度伪造技术进行诈骗等犯罪行为加大惩处力度;英国也在探讨如何通过修订现有法律,将深度伪造纳入监管框架,规范其在网络空间的传播与使用。


Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1