面对科技锋利的刀刃，世界需要保护AI安全的盾牌。

任何技术的发展，都是一把双刃剑，人工智能也不例外。

有人认为，人工智能是继蒸汽机时代、电气化时代、信息化时代之后的第四次工业革命。作为一种颠覆性的技术，它的出现给人类社会各个领域带来积极的影响。

但另一方面，其安全问题也在日益凸显。

目前，诸如AI换脸、AI换声等网络诈骗事件频发，依靠人工智能技术，这类诈骗手段欺骗性、迷惑性更强，而诈骗门槛却会反比下降。除此之外，AI换脸的滥用，大众看到的视频和新闻可能都不再保真。银行的身份认证、支付安全防护、智能门锁等应用了人脸识别技术的场景都有被别人轻松攻破的可能。AI技术的滥用带来了严重的隐私、伦理、安全问题。

有人滥用AI攻击，自然也有人持盾守护。于是在2018年，AI界“安全之盾”瑞莱智慧诞生了。

瑞莱智慧依托于清华大学人工智能研究院发起设立，始终深耕安全、可靠、可控的第三代人工智能。公司汇聚了百余名来自清北等校的顶尖AI人才，着力打造人工智能安全基础设施，提供以 AI 安全为核心能力的AI平台及行业解决方案，为人工智能技术安全、可靠、可控的落地应用筑就坚实基座。

截至目前，瑞莱智慧已经获得如国家级专精特新“小巨人”企业、最强AI公司TOP30、世界互联网领先科技成果奖等近百项国家级奖项和荣誉。基于强大的人工智能安全能力和垂类大模型实践经验，瑞莱智慧在政务、金融、教育、安防等领域实现快速产品化和商业化落地，已服务多个国家部委、央国企、民营企业等数百家客户。

“成为安全、可靠、可控的人工智能基础设施领航者”。如今，瑞莱智慧正一步步靠近曾经定下的愿景。

是参与者

也是拓荒者

在清华科技园内，从来不缺少创业故事。短短几年时间，瑞莱智慧快速成长，逐渐成为人工智能领域的一颗耀眼明星。

据瑞莱智慧CEO田天的回忆，当第一次有了创业的意图后，百度风投、水木清华校友基金就找上了他们。双方在清华内部的咖啡厅会面，关于创业的一些问题都是在这里得到解决。后续，由瑞莱智慧首席科学家朱军教授骑电动车载着田天在北京穿梭路演。

在这样的一个松弛的过程之下，一面坚固的AI盾牌诞生了。

值得一提的是，那时其他的AI初创公司基本都在做大模型，拥挤的赛道内机会越来越少。于是，瑞莱智慧团队选择另辟蹊径，将目光放到了人工智能发展的下一步上。

何为下一步？田天对此解释道：“未来的AI是要作为一种生产力的，所以它未来将更多应用到更多的严肃场景上。基于此，AI技术更加安全可控则成了一个本质的需求。”田天认为，那时的AI安全是一个新兴的需求并且在快速增长的一个全新的领域。

事实也正是如此，有国家领导人提出，AI要一边抓发展，一边抓治理，既要用好它更要管好它。但那时的AI创业者们均处于能力追赶阶段，尚未开始严肃场景的安全技术研究与落地。瑞莱智慧的出现并专注于AI安全领域，可以说填补了中国在AI安全上的空白。

所以，瑞莱智慧既是国内AI安全领域的参与者，也是拓荒者。

值得一提的是，早在2022年3月时，瑞莱智慧就成功入选了北京市专精特新“小巨人”，在短短5个月后又蜕变成国家级专精特新“小巨人”，成为公司发展过程中的里程碑事件。而根据数据，国家级专精特新企业平均成立年限为16年。但瑞莱智慧从创立到拿下小巨人称号，用时不超过4年，这股迅猛的成长速度令人瞠目结舌。

事实上，尽管瑞莱智慧在2018年才成立，但团队并不是在公司创立之时才切入人工智能领域，而是在此之前就有了诸多积累。

根据田天的介绍，瑞莱智慧是清华大学人工智能研究院孵化的产学研技术企业，在人才储备、学术研究、科研项目和产业结合等方面非常领先。此前，清华大学人工智能研究院名誉院长张钹就提出发展第三代人工智能。即把第一代人工智能知识驱动方法和第二代人工智能数据驱动方法结合，发展安全、可信、可靠和可扩展的人工智能技术。

以此为方向，瑞莱智慧的团队在处于实验室阶段就致力于推动第三代人工智能理论成果的产业转化，扎根于AI安全领域不断探索研究。

同时，因为站在清华的巨人肩膀上，瑞莱智慧拥有一支远超业界的豪华阵容。公司首席科学家由清华大学人工智能研究院名誉院长张钹院士和清华大学人工智能研究院副院长朱军教授共同担任，二人的名号在人工智能领域如雷贯耳。

其中，张钹院士是中国人工智能领域当之无愧的奠基者，是国内最早研究人工智能的学者之一。像袁进辉、马少平等AI业界大牛都是张钹院士的学生。另一位首席科学家朱军教授也是张钹院士的弟子，是近10年机器学习论文大陆学者综合排名第一，还拥有清华大学计算机系长聘教授、人工智能研究院副院长、IEEE/AAAI Fellow等多个权威头衔。除了张钹和朱军这两位技术大牛，CEO田天是清华大学计算机本硕博及特奖获得者。此外，公司还汇聚了百余名来自清北等校的顶尖AI人才。

所以，瑞莱智慧可谓凝聚着清华人工智能研究院多年的技术研究积累。回溯公司发展路径，更多是将之前积累的技术持续迭代，并寻找技术落地的市场进行落地应用。

“在AI安全领域上，我们算是国际上最领先的团队之一！”田天在采访中十分自豪地表示道。而事实也正如他所言，这面刻着瑞莱智慧的盾牌已经立起，时刻为AI安全保驾护航。

国际领先的技术实力

做AI界的安全之盾

随着不法分子的日益猖獗，AIGC内容滥用对社会造成的潜在威胁越来越大。根据《2024人工智能安全报告》数据显示，在 2023年，基于 AI 的深度伪造欺诈暴增了3000%。

就在今年1月，震惊全国的香港最大AI诈骗案诞生。诈骗者通过AI换脸伪装英国总部CFO骗走共计2亿港币。根据报道，诈骗者通过公司公开渠道获取的媒体资料，仿造了英国公司高层管理人员的形象和声音，再利用深度伪造技术制作伪冒视频，造成多人参与视频会议的效果，然而会议内只有被骗的职员是唯一“真人”。回顾整个案件经过，让人感到毛骨悚然，随着技术的普及，如若不进行防范，未来的人们或许将随时处在谎言与欺诈中。

面对科技锋利的刀刃，世界需要保护AI安全的盾牌，瑞莱智慧就是盾牌之一。

在瑞莱智慧的展厅中，呈现着多种场景之下的“攻防”演示。平平无奇的一件衣服，植入对抗样本后蜕变成“隐身衣”，可以轻而易举地攻破深度神经网络模型的识别功能；被植入对抗样本后的动物，在大模型眼中成了另一种动物，做到了“指鹿为马”的效果；植入一串对抗样本的字符后，生成式AI大模型就会被“套路”，对提问者所提出的各种违禁问题进行解答……

这些是瑞莱智慧展厅内所展示的大模型漏洞，后续技术的研发也都是基于这些漏洞与黑产所展开的攻防战。

基于贝叶斯深度学习和人工智能对抗样本两个研究方向，瑞莱智慧已构建人工智能安全平台RealSafe、生成式人工智能内容检测平台DeepReal、隐私保护计算平台RealSecure等多项产品。

其中，RealSafe是通过集成主流及瑞莱智慧的AI对抗技术，提供模型安全性量化测评及安全性提升的端到端解决方案，用户在使用中无需任何编程操作。支持针对对抗样本攻击、模型后门攻击两类安全风险的检测，提供被测AI模型的安全评分、风险报告，以及多种纵深防御方案。DeepReal则可以依托第三代人工智能技术，通过辨识伪造内容和真实内容的表征差异性、挖掘不同生成途径的伪造内容一致性特征，能够快速、精准地对图像、视频、音频、文本内容进行真伪鉴别，有效打击AI诈骗、色情黑产、虚假宣传、证据造假等违法违规行为。通过采访得知，目前瑞莱智慧的这些产品已经在政务、金融、通信、教育科研和自动驾驶等领域均实现商业化落地。

根据田天介绍，目前的瑞莱智慧在AI安全领域的技术实力处在国际领先的地位上，而这也并非空穴来风。瑞莱智慧的AI合成内容检测基座准确率高达95％，是业内最领先的防伪造攻击情报库；大模型安全底座是基于对话交互的智能体对抗攻击算法，在对抗成功率上较谷歌提高20％以上，被IBM等对抗攻防平台收录为标准算法；AI合成内容检测基座可以减少50％的计算资源消耗。

此外，在许多国际性 AI安全大赛上瑞莱智慧也都取得了出色的名次。2017年时，谷歌举办的第一届 Google Brain&NIPS 的 AI 安全竞赛，瑞莱智慧团队在无定向攻击、定向攻击、防御三个赛道内取得世界第一的成绩。后续又在GeekPwn国际安全极客大赛中连续三年斩获第一名的好成绩。

如上的种种成绩都在彰显着瑞莱智慧国际领先的技术硬实力。

值得一提的是，除了在AI安全领域有如上建树外，瑞莱智慧也在积极地布局生成式大模型。在其展厅上展示着其团队打造的政策大模型，主要功能包括政策检索、政策分析、政策预制等。据田天介绍，这款大模型已经于去年年底上线，成为北京市公务人员得力的政策辅助撰写工具。

2023年3月，瑞莱智慧还发起设立多模态大模型公司生数科技，以加速构建通用人工智能能力。田天告诉记者，生数科技与瑞莱智慧属于相辅相成的关系，生数科技的孵化可以进一步完善公司大模型基础能力，从而在未来打造更安全的通用人工智能。

人人持盾

抵御黑产

随着一例例案件的事发，AI安全的重要性也逐渐被社会所熟知。基于此，AI安全的市场空间获得了一波高速增长，而这也与田天早期的预测相符。

根据田天的介绍，目前诸如Open AI、谷歌、Mate等公司纷纷在AI安全领域进行了布局。整个AI安全领域开始繁荣起来打击黑产，这也是瑞莱智慧团队很希望看到的一幕。

但是，所谓道高一尺，魔高一丈，面对日益猖獗的黑产，持盾者必须付出更多的努力来抵御黑产们各种新招式。因为安全业务，说白了就是一次次的攻防战。其中，黑产一直充当进攻者的身份，而瑞莱智慧等AI安全公司则是被动地持盾防守。因此，技术迭代一直是AI安全领域的关键名词。

田天表示，未来公司一方面会持续迭代前沿技术，保持瑞莱智慧在安全可控AI和通用AI的技术领先性。还会围绕行业最前沿的市场需求的痛点去提供大家最需要的产品。另外一方面，大模型技术的快速演进是大众迫切的需求，至于如何在各个垂直领域中去实现更加安全可控的落地也是瑞莱智慧未来的发力点。

在回答“未来如何减少AI滥用问题时”，田天简单回答道：“我们把现在手里的事情做好了，就一定可以减少恶意使用AI犯罪的案例。”

此前，针对滥用AI犯法案例越来越多，有人提出控制AI生产的源头，限制技术流动范围，让这些技术不流传到不法分子手中。但在田天看来，随着发展，这些越来越先进的AI技术很难只掌握在某几个人的手里。再加上各国监管尺度、约束方向各不相同，那么这种限制源头的思路存在很多漏洞。

而瑞莱智慧的思路则是让每个人都拥有判断内容是否为AI合成的能力，将盾牌分到每一个人手中，以此来对抗黑产。

此前瑞莱智慧的业务普遍是To G或是To B。就在最近，让“吃瓜群众”们人人持盾的To C产品也发布了。瑞莱智慧用“尊嘟假嘟”这一个十分可爱的谐音梗命名。

根据介绍，这是一款面向每个网民的AI照妖镜。尊嘟假嘟背后的检测模型基于贝叶斯深度学习技术开发，可以支持用户方便快捷地检测吃瓜视频是否为AI创作。同时，尊嘟假嘟还支持实时监测，在接受视频电话或会议时可以自动对画面AI成分进行分析。

此前，AI造假的检测工具主要面向专业群体，检测过程较为繁琐，但如今AI诈骗愈发普及，普通网民也有随时被AI诈骗的风险。如今尊嘟假嘟的问世可以让群众更加方便、理智、安全地进行吃瓜。

这是瑞莱智慧的又一里程碑式产品，也是其对抗黑产思路的有力阐释。随着尊嘟假嘟产品的普及，人人持盾，抵御黑产的画面即将到来。