10分钟被AI骗走430万！小心AI换走你的脸！

最近，#AI诈骗正在全国爆发# 的热搜词条冲上微博热搜榜。

微博热搜榜单

有骗子利用AI技术通过换声、换脸，10分钟就骗取了430万元，这一事件也引起了网友热议。

网友表示：太可怕了！想办法证明我不是“我”太难了 ！

也有人提出质疑：人脸识别就是最大的潜在威胁吧。

而在国外，关于AI诈骗相关的新闻也是屡见不鲜了。一封附有危险病毒伪造成谷歌CEO视频的邮件，近期让不少YouTube博主们纷纷中招，吃尽了苦头。

这两起诈骗事件都有着深度伪造技术deepfake的身影。这是一项诞生了6年之久的换脸大法，如今AIGC技术的大爆发，更使得制作难以识别的deepfake视频越来越容易。

01 AI深度合成技术

AI 换脸曾经一度热潮，如今的换脸技术却不需要技术流的复杂算法。早在2019年，一个换脸软件“ZAO”的出现，就曾让AI换脸风靡网络，网络视频平台上出现大量的AI换脸恶搞视频。

尽管，当时“ZAO”上线不久便因侵犯隐私等问题被下架，但这个由技术带来的负面影响却一直存在，直到今年AI技术的普及使得换脸再次爆发。

AI马斯克性别逆转

这些AI换脸、AI换声的背后到底是什么技术在驱动这项功能的蓬勃发展？

究其背后的原因，它就是最近几年各行各业广泛应用和不断开发的深度合成技术。它是基于深度学习、虚拟现实为代表的生成合成类算法制作文本、图像、音频、视频等信息的技术。

通过对网络内容进行处理，使其实现从原初形态到目标形态的转变，内容的形态可以是图像、音频、视频、文本等。

在实际应用中，深度合成技术可以完成声音复刻、文本生成、微表情操纵等。目前主要包括但不限于以下应用场景：

文本与图像生成

视频与音频生成

数字空间的建构

数字人的生成与操控

最为人熟知的便是人脸合成，或称“AI换脸”。

明星主播AI换脸带货

目前视频聊天或直播的AI换脸有两种方式：

第一种是事先做好的换脸视频直接播放，目前的制作成本已经非常低，有公开成熟的应用可以支持该项工作；

第二种是接入实时换脸的视频。虽然没有发现有公开的应用，但也有非常成熟的技术可以支撑。做成一段视频的时间和设备、算力等因素相关，当前技术可以做到和生成视频相等。

而在手机应用商店搜索“AI换脸”可以发现，有不少相关软件，可以实现在影视角色、写真、漫画等模板的基础上进行AI创作。这大大降低了AI换脸的入门门槛。

02 三大细节入手，破解造假视频

对于人脸识别普遍应用的今天，防深伪造假视频显得尤为重要。据了解，防深伪检测模型的算法策略可以从三个维度入手，有效破解造假视频。

首先是生成瑕疵。

具体而言，由于相关训练数据的缺失，大部分模型可能无法正确渲染部分人类面部特征，小到眨眼频率不正常，大到口型与声音不吻合等。

检测模型则能将这些“基本肉眼可见”的特征都提取出来，设计特定的分析算子，从而进行分析研判。

其次是固有属性。

由于不同摄像机拥有不同的设备指纹，在生成人脸时也会留下独特的用于识别生成器的指纹，因此经过对比就能发现端倪。

第三个细节是高层语义。

它指的是检测面部动作单元（肌肉群）协调性、面部各区域朝向一致性、视频微观连续性等方面的问题，由于这些细节建模困难、难以复制，很容易抓到把柄。

因此，在大众掌握以上辨别技巧后，面对飞涌而来AI换脸技术和真真假假的换头内容后，也能精准识别，防止上当受骗。

03 AI正渗透多领域，直播、短视频...

除了别有用心的人利用AI技术进行隐性传播达到骗人目的外，AI技术更多应用于电商、传统媒体等领域。

直播间中，换上杨幂、迪丽热巴等明星脸的主播在直播间带货，让观众真假难辨。

国内直播平台AI明星带货

AI+短视频已经可以满足从静态画面到动态视频的创作。从广告创意，内容生成到场景投放，短视频的每一环节都在与AI相关联。

AI音乐、AI绘画、AI换脸、AI换声……不知不觉中，我们每个人都已经走进了赛博世界，抖音中的#一键解锁瞬息全宇宙##一键变妆#等特效的应用，都是AI日常化的见证。

除了新兴网络媒体，传统的电视直播也早已开启AI合成技术的应用。

俄罗斯当地电视台（Svoye TV）便推出了一款人工智能天气预报器。名为 ( Snezhana Tumanova )的 AI通过使用多个神经网络创建，旨在为观众提供准确且引人入胜的天气预报。

俄罗斯AI美女主播

而在AI+直播的形态在跨境电商中则更为广泛，国外一家科技公司就通过引入AIGC功能模块，接入了ChatGPT等智能机器模型。

进一步实现了从文本、音频等低密度模态向图像、视频、实时交互等信息密度更高模态的转化，并结合多模态智能算法，完成了AIGC互动直播功能的落地。

这也成功在TikTok跨境电商直播、虚拟主播互动直播等场景中得到了实践应用。

基于人工智能的人体图像合成技术而生成的假脸（通称DeepFake），中国人可以利用换脸技术秒变“老外”脸。

TikTok跨境直播间截图

总之，深度合成技术是AI领域最有生命力的运用，必将会在今后迸发出极大的生产力。

为人们带来便利和乐趣的同时，也需要我们认真对待其中存在的问题，积极应对和解决，确保技术的良性发展和社会的和谐稳定。

只有这样，才能让AI换脸技术真正为人们带来福利。

04 AI之风下的自动化

大数据平台的算法精准又高效，往往也只有高活跃度才能获取高流量，这就对一众创作者的效率提出更高要求。

这也是无需真人出镜的AI虚拟数字人直播带货火爆的原因所在，对于虚拟直播的监管是否会更苛刻，我们无从得知。

但AI的广泛应用及成效，也带给我们的深度思考，AI背后“自动化”确实有可行之处！

我们一帧秒创作为一个AI辅助工具，利用AI帮写+文字转视频AI工具，高频输出原创视频不再是难题啦～

我们核心功能之一，”AI帮写“，行文风格和行文长度可以根据自身需要去设定。

它既可以模仿小红书、名人网红的行文风格，也可以创造娱乐化的文字内容，还可以帮你写故事脚本，上千字文本长度需求，仅需10s便能完成～

除了AI帮写，图文转视频的AI视频功能，也是我们的一大应用亮点和主打功能。

无论纯文本还是文字文件，均可一键识别。并且能够根据所需去选择不同的视频应用场景，自动为文案内容匹配对应的视频素材，为创作者提供了极大的便利～

除此之外，我们还支持自身素材库，便于创作者后期的二次编辑，视频质量也支持高分辨率输出，满足输出质量的要求。

总之，我们致力于成为AI生成内容时代的创作者的绝佳内容帮手！

大家不仅可以这里获取例如AI帮写、AI视频、AI语音等强大服务，我们还会基于你的需求，定制化各种丰富有趣的功能～

让我们一起抢先一步站稳AI风口，成为下一个时代创作者中的明星！