AIGC扰乱美国大选，深度伪造视频成本降至几美元，全球50万条伪造信息被分享
智东西
编译 | Glu
编辑 | 李水青
智东西6月1日消息，据英国路透社报道，伴随着最新一届美国大选的启动，人们将在本次大选中看到AIGC（生成式AI）驱动的各类深度伪造（DeepFake）信息，并混淆于现实与虚幻。
这类技术工具价格低廉、容易操作，且进步速度远超监管部门的反应速度，各党派皆可利用它抹黑竞争对手，获得选举优势。这也引发许多专家对虚假信息传播及其社会影响的担忧。
一、深度伪造仅需几美元，50万条伪造信息加剧美国大选乱象
2024年美国总统竞选拉开帷幕，各党派候选者竞争激烈：知名政客希拉里·克林顿（Hillary Clinton）公开支持参选的佛罗里达州州长罗恩·德桑蒂斯（Ron DeSantis）；现任美国总统乔·拜登（Joe Biden）也撕下了对变性人的友好面具……参选的政治家们用各种方式争夺选票。
飞速发展的AIGC可能会加剧大选的混乱。如克林顿与拜登的深度伪造视频在社交媒体上流传着，这是由AI算法通过对大量网络录像的训练而制作的超逼真视频，这些视频日益模糊了虚拟与现实的边界。
▲美国总统乔·拜登
虽然这种合成媒体已经存在了几年，但在过去的一年里，Midjourney等一系列新AIGC工具的出现，深度伪造变得更为廉价且容易。
布鲁金斯技术创新中心的高级研究员说：“选民将很难区分信息的真假，政治分歧的双方都可以利用这项技术来抹黑对方。”他甚至担忧不良分子会在总选前利用AIGC作恶，最终导致无人成功当选总统。
美国CHT（人道技术协会）是一家研究技术对社会影响的非营利组织，它的联合创始人阿扎·拉斯金（Aza Raskin）提出，随着各大科技公司参与AI军备竞赛，能够用于深度伪造的工具将不断涌现，但政府与各平台对伪造信息的监管却很不完善。OpenAI的首席执行官萨姆·阿尔特曼（Sam Altman）本月也在国会表示，选举诚信是一个值得关注的重要领域，并建议迅速对该行业进行监管。
▲萨姆·阿尔特曼在参议院司法机构听证会上作证
本月，将与德桑蒂斯等人共同争夺共和党提名的前美国总统唐纳德·特朗普（Donald Trump）在其社交媒体平台Truth Social上分享了一段关于CNN（美国有线电视新闻网）主播安德森·库珀（Anderson Cooper）的伪造视频。CNN方否认了该视频的真实性，特朗普方则还没有回应，但本周这段视频还在他儿子小唐纳德的推特页面上。
虽然Facebook、Twitter和YouTube等主要社交媒体平台已经在努力禁止、删除深层伪造的信息，但它们在监管此类内容方面的效果各不相同。
DeepMedia是一家致力于开发检测合成媒体工具的公司，据它统计，与2022年同期相比，今年被发布在网上的深层伪造视频数量是过去的3倍，深度语音造假数量是过去的8倍。
DeepMedia公司估计，2023年全球社交媒体网站将出现约50万个深度伪造的视频和语音。毕竟，直到去年年底，克隆一个声音的服务器与AI训练还需要花费1万美元，但现在初创企业只需几美元即可实现。
受访者称，没有人能确定AIGC的道路会通向何方，也没有人确定如何有效地防范大规模深度伪造信息传播的影响。
二、OpenAI等企业采取措施，限制AIGC用于总统大选
路透社在分析大量AIGC服务性产品的使用条款后发现，不同于一些小型创业公司，OpenAI在努力解决深度伪造的负面影响，他们在最近几个月发布的ChatGPT与更新的GPT-4模型中改变了游戏规则，并已经采取措施限制其产品在政治中的使用。不过，这些限制依然存在漏洞。
例如，OpenAI说它的图像生成器DALL-E禁止政治家的图像创作。经过记者尝试后发现，DALL-E确实能够限制针对特朗普、拜登等政治家的图像创作，但无法适用于至少十几个其他美国政治家，包括本次竞选的参与者——前副总统迈克·彭斯（Mike Pence）。
OpenAI还限制将其产品用于政治目的规模化使用。例如，禁止使用其AI工具向选民大规模发送个性化的电子邮件。
OpenAI在采访中向路透社解释了其政治政策，但没有回应政策的实施差距，如阻止政治家的图像创作。
一些较小的初创公司则对政治内容没有明确的限制。
去年面世的Midjourney是AI生成图像的领先者，其官方Discord服务器上有1600万用户。该软件所具备的超现实名人图片生成功能，让它一跃成为众多AI设计师与艺术家最爱的应用。
在上周Discord的一次在线聊天中，Midjourney首席执行官大卫·霍尔茨（David Holz）表示，该公司可能会在总统选举前做出调整，以错误防止信息的生成与传播影响总选。
霍尔茨补充到，Midjourney希望就行业解决方案与其他公司进行合作，以实现AI生成图像的可追溯性，同时，他们也将考虑禁止政治候选人图像的生成。
三、政治竞争的工具：AIGC创作可抹黑对手、分析形势
在AI生成图像行业为如何防止AIGC的滥用而苦恼时，一些政治人物却在寻求利用AIGC的力量来增强自身的竞争力。
共和党在4月底发布了一则30秒的反乌托邦式的政治视频，利用虚假的图像，暗示拜登连任后的黑暗未来，包括中国入侵台湾、旧金山被军事接管的灾难性情景。目前，共和党、民主党都没有对该广告或更广泛地使用AI发表评论。
路透社还调查了所有共和党总统竞选活动的AI使用情况。其中，尼基·哈利（Nikki Haley）的团队明确否定对AIGC技术的使用，佩里·约翰逊（Perry Johnson）的竞选团队则透露，他们正在使用AI，但没有透露使用细节。
事实上，对于一些政治家来说，利用AIGC制作竞选邮件、帖子和广告的潜力是不可抗拒的，他们认为这种低成本的技术可以在选举中创造公平的竞争环境。
即使在密歇根州希尔斯代尔的农村，AI也在发挥作用。密歇根州第五国会选区的共和党主席乔恩·史密斯（Jon Smith）正在举行教育会议，让他的盟友能够学习AI的社交媒体运用和广告生成。
政治咨询公司也在寻求利用AI，进一步混淆了真实和虚幻之间的界限。
Numinar Analytics是一家专注于共和党客户的政治分析公司，创始人Will Long表示，该公司已经开始尝试用AI生成音频、图像、语音内容，以便利用候选人的声音来创建个性化的信息。
民主党民调和战略集团Honan Strateg在尝试开发AI调查机器人。首席执行官布拉德利·霍南（Bradley Honan）表示，他们希望在2023年市政选举前推出一个女性机器人，因为研究表明男性和女性都更愿意与女性面试官交谈。
结语：AIGC或将成为煽动社会危机的新工具，各方皆需保持警惕
与以往粗糙的合成信息不同，AI技术能够以极低的成本迅速生成逼真的音视频内容，为虚假信息的传播滋生了土壤。
当AI卷入新一届美国大选，成为党派竞争的政治工具，各类仇恨、阴谋论或将卷土重来。面对真假难辨的各类信息，亟需监管部门出台限制政策，也需要媒体、科技公司始终保持警惕。