探寻新质生产力 | 瑞莱智慧田天：做AI界的安全之盾

作者：融资中国发布时间：2024-08-09

面对科技锋利的刀刃，世界需要保护AI安全的盾牌。

任何技术的发展，都是一把双刃剑，人工智能也不例外。

有人认为，人工智能是继蒸汽机时代、电气化时代、信息化时代之后的第四次工业革命。作为一种颠覆性的技术，它的出现给人类社会各个领域带来积极的影响。

但另一方面，其安全问题也在日益凸显。

目前，诸如AI换脸、AI换声等网络诈骗事件频发，依靠人工智能技术，这类诈骗手段欺骗性、迷惑性更强，而诈骗门槛却会反比下降。除此之外，AI换脸的滥用，大众看到的视频和新闻可能都不再保真。银行的身份认证、支付安全防护、智能门锁等应用了人脸识别技术的场景都有被别人轻松攻破的可能。AI技术的滥用带来了严重的隐私、伦理、安全问题。

有人滥用AI攻击，自然也有人持盾守护。于是在2018年，AI界“安全之盾”瑞莱智慧诞生了。

瑞莱智慧依托于清华大学人工智能研究院发起设立，始终深耕安全、可靠、可控的第三代人工智能。公司汇聚了百余名来自清北等校的顶尖AI人才，着力打造人工智能安全基础设施，提供以 AI 安全为核心能力的AI平台及行业解决方案，为人工智能技术安全、可靠、可控的落地应用筑就坚实基座。

截至目前，瑞莱智慧已经获得如国家级专精特新“小巨人”企业、最强AI公司TOP30、世界互联网领先科技成果奖等近百项国家级奖项和荣誉。基于强大的人工智能安全能力和垂类大模型实践经验，瑞莱智慧在政务、金融、教育、安防等领域实现快速产品化和商业化落地，已服务多个国家部委、央国企、民营企业等数百家客户。

“成为安全、可靠、可控的人工智能基础设施领航者”。如今，瑞莱智慧正一步步靠近曾经定下的愿景。

是参与者

也是拓荒者

在清华科技园内，从来不缺少创业故事。短短几年时间，瑞莱智慧快速成长，逐渐成为人工智能领域的一颗耀眼明星。

据瑞莱智慧CEO田天的回忆，当第一次有了创业的意图后，百度风投、水木清华校友基金就找上了他们。双方在清华内部的咖啡厅会面，关于创业的一些问题都是在这里得到解决。后续，由瑞莱智慧首席科学家朱军教授骑电动车载着田天在北京穿梭路演。

在这样的一个松弛的过程之下，一面坚固的AI盾牌诞生了。

值得一提的是，那时其他的AI初创公司基本都在做大模型，拥挤的赛道内机会越来越少。于是，瑞莱智慧团队选择另辟蹊径，将目光放到了人工智能发展的下一步上。

何为下一步？田天对此解释道：“未来的AI是要作为一种生产力的，所以它未来将更多应用到更多的严肃场景上。基于此，AI技术更加安全可控则成了一个本质的需求。”田天认为，那时的AI安全是一个新兴的需求并且在快速增长的一个全新的领域。

事实也正是如此，有国家领导人提出，AI要一边抓发展，一边抓治理，既要用好它更要管好它。但那时的AI创业者们均处于能力追赶阶段，尚未开始严肃场景的安全技术研究与落地。瑞莱智慧的出现并专注于AI安全领域，可以说填补了中国在AI安全上的空白。

所以，瑞莱智慧既是国内AI安全领域的参与者，也是拓荒者。

值得一提的是，早在2022年3月时，瑞莱智慧就成功入选了北京市专精特新“小巨人”，在短短5个月后又蜕变成国家级专精特新“小巨人”，成为公司发展过程中的里程碑事件。而根据数据，国家级专精特新企业平均成立年限为16年。但瑞莱智慧从创立到拿下小巨人称号，用时不超过4年，这股迅猛的成长速度令人瞠目结舌。

事实上，尽管瑞莱智慧在2018年才成立，但团队并不是在公司创立之时才切入人工智能领域，而是在此之前就有了诸多积累。

根据田天的介绍，瑞莱智慧是清华大学人工智能研究院孵化的产学研技术企业，在人才储备、学术研究、科研项目和产业结合等方面非常领先。此前，清华大学人工智能研究院名誉院长张钹就提出发展第三代人工智能。即把第一代人工智能知识驱动方法和第二代人工智能数据驱动方法结合，发展安全、可信、可靠和可扩展的人工智能技术。

以此为方向，瑞莱智慧的团队在处于实验室阶段就致力于推动第三代人工智能理论成果的产业转化，扎根于AI安全领域不断探索研究。

同时，因为站在清华的巨人肩膀上，瑞莱智慧拥有一支远超业界的豪华阵容。公司首席科学家由清华大学人工智能研究院名誉院长张钹院士和清华大学人工智能研究院副院长朱军教授共同担任，二人的名号在人工智能领域如雷贯耳。

其中，张钹院士是中国人工智能领域当之无愧的奠基者，是国内最早研究人工智能的学者之一。像袁进辉、马少平等AI业界大牛都是张钹院士的学生。另一位首席科学家朱军教授也是张钹院士的弟子，是近10年机器学习论文大陆学者综合排名第一，还拥有清华大学计算机系长聘教授、人工智能研究院副院长、IEEE/AAAI Fellow等多个权威头衔。除了张钹和朱军这两位技术大牛，CEO田天是清华大学计算机本硕博及特奖获得者。此外，公司还汇聚了百余名来自清北等校的顶尖AI人才。

所以，瑞莱智慧可谓凝聚着清华人工智能研究院多年的技术研究积累。回溯公司发展路径，更多是将之前积累的技术持续迭代，并寻找技术落地的市场进行落地应用。

“在AI安全领域上，我们算是国际上最领先的团队之一！”田天在采访中十分自豪地表示道。而事实也正如他所言，这面刻着瑞莱智慧的盾牌已经立起，时刻为AI安全保驾护航。

国际领先的技术实力

做AI界的安全之盾

随着不法分子的日益猖獗，AIGC内容滥用对社会造成的潜在威胁越来越大。根据《2024人工智能安全报告》数据显示，在 2023年，基于 AI 的深度伪造欺诈暴增了3000%。

就在今年1月，震惊全国的香港最大AI诈骗案诞生。诈骗者通过AI换脸伪装英国总部CFO骗走共计2亿港币。根据报道，诈骗者通过公司公开渠道获取的媒体资料，仿造了英国公司高层管理人员的形象和声音，再利用深度伪造技术制作伪冒视频，造成多人参与视频会议的效果，然而会议内只有被骗的职员是唯一“真人”。回顾整个案件经过，让人感到毛骨悚然，随着技术的普及，如若不进行防范，未来的人们或许将随时处在谎言与欺诈中。

面对科技锋利的刀刃，世界需要保护AI安全的盾牌，瑞莱智慧就是盾牌之一。

在瑞莱智慧的展厅中，呈现着多种场景之下的“攻防”演示。平平无奇的一件衣服，植入对抗样本后蜕变成“隐身衣”，可以轻而易举地攻破深度神经网络模型的识别功能；被植入对抗样本后的动物，在大模型眼中成了另一种动物，做到了“指鹿为马”的效果；植入一串对抗样本的字符后，生成式AI大模型就会被“套路”，对提问者所提出的各种违禁问题进行解答……

这些是瑞莱智慧展厅内所展示的大模型漏洞，后续技术的研发也都是基于这些漏洞与黑产所展开的攻防战。

基于贝叶斯深度学习和人工智能对抗样本两个研究方向，瑞莱智慧已构建人工智能安全平台RealSafe、生成式人工智能内容检测平台DeepReal、隐私保护计算平台RealSecure等多项产品。

其中，RealSafe是通过集成主流及瑞莱智慧的AI对抗技术，提供模型安全性量化测评及安全性提升的端到端解决方案，用户在使用中无需任何编程操作。支持针对对抗样本攻击、模型后门攻击两类安全风险的检测，提供被测AI模型的安全评分、风险报告，以及多种纵深防御方案。DeepReal则可以依托第三代人工智能技术，通过辨识伪造内容和真实内容的表征差异性、挖掘不同生成途径的伪造内容一致性特征，能够快速、精准地对图像、视频、音频、文本内容进行真伪鉴别，有效打击AI诈骗、色情黑产、虚假宣传、证据造假等违法违规行为。通过采访得知，目前瑞莱智慧的这些产品已经在政务、金融、通信、教育科研和自动驾驶等领域均实现商业化落地。

根据田天介绍，目前的瑞莱智慧在AI安全领域的技术实力处在国际领先的地位上，而这也并非空穴来风。瑞莱智慧的AI合成内容检测基座准确率高达95％，是业内最领先的防伪造攻击情报库；大模型安全底座是基于对话交互的智能体对抗攻击算法，在对抗成功率上较谷歌提高20％以上，被IBM等对抗攻防平台收录为标准算法；AI合成内容检测基座可以减少50％的计算资源消耗。

此外，在许多国际性 AI安全大赛上瑞莱智慧也都取得了出色的名次。2017年时，谷歌举办的第一届 Google Brain&NIPS 的 AI 安全竞赛，瑞莱智慧团队在无定向攻击、定向攻击、防御三个赛道内取得世界第一的成绩。后续又在GeekPwn国际安全极客大赛中连续三年斩获第一名的好成绩。

如上的种种成绩都在彰显着瑞莱智慧国际领先的技术硬实力。

值得一提的是，除了在AI安全领域有如上建树外，瑞莱智慧也在积极地布局生成式大模型。在其展厅上展示着其团队打造的政策大模型，主要功能包括政策检索、政策分析、政策预制等。据田天介绍，这款大模型已经于去年年底上线，成为北京市公务人员得力的政策辅助撰写工具。

2023年3月，瑞莱智慧还发起设立多模态大模型公司生数科技，以加速构建通用人工智能能力。田天告诉记者，生数科技与瑞莱智慧属于相辅相成的关系，生数科技的孵化可以进一步完善公司大模型基础能力，从而在未来打造更安全的通用人工智能。