当前位置:首页|资讯|融资|AGI|人工智能

瑞莱智慧完成新一轮战略融资,加速打造中国AGI安全基座

作者:甲子光年发布时间:2024-04-12

原标题:瑞莱智慧完成新一轮战略融资,加速打造中国AGI安全基座

近日,人工智能安全基础设施提供商瑞莱智慧(RealAI)宣布完成新一轮战略融资,北京市人工智能产业投资基金等参与投资。本轮融资完成后,瑞莱智慧将继续加速通用人工智能安全基座产品研发,并不断推进安全可控的大模型商业化落地。

随着全球范围内最大规模的人工智能浪潮掀起,人工智能的可控性和安全性成为愈发重要的发展议题。如今,人工智能大模型的通用性和泛化性大幅提升,应用也从传统的判别式任务走向生成式任务,而人工智能的内生及衍生安全问题变得愈加复杂,其带来的挑战和已经引起的各类风险事件也持续受到全球公众、企业和政府的广泛关注。当下,人工智能安全不仅要解决数据风险,模型本身的幻觉、鲁棒性不足和不可解释性等技术问题,还要着力减少伦理风险、价值观对齐风险,以及AI诈骗等滥用行为导致的影响。

2018年7月,瑞莱智慧依托清华大学人工智能研究院发起设立,始终深耕安全、可靠、可控的第三代人工智能,着力打造人工智能安全基础设施,提供以AI安全为核心能力的AI平台产品与行业解决方案,为人工智能技术安全、可靠、可控的落地应用筑就坚实基座。秉持着“智能向善”的使命,瑞莱智慧坚持源头创新和底层研究,实现对AI大模型的研发部署和应用治理环节全覆盖,建立了包括基础算法平台层、底层资源层、应用层的全方位AI安全体系,已成为通用人工智能全产业链条安全标准的制定者和践行者。

目前,瑞莱智慧已推出“大模型安全基座”与“AI生成内容检测基座”两条产品线,分别对应人工智能内生与衍生安全风险。

大模型安全基座基于博弈对抗技术打造,能针对当前大模型幻觉、输出有害内容等风险做出综合有效的自动化可控性评测,并可以通过知识嵌入、领域能力增强、模型围栏等手段,使模型在严肃场景的表现更加可控。针对对抗样本攻击、模型后门攻击、数据逆向攻击等人工智能特有的安全挑战,可提供端到端的AI红队对抗安全性测评,并提升模型抗攻击能力。基于该安全基座,可直接面向严肃场景打造更加可控的行业大模型系统应用,实现大模型落地。

AI生成内容检测基座基于贝叶斯深度学习技术开发,能够精准判断图像、视频、音频、文本等各类内容是否由人工智能生成,防止虚假信息的广泛传播,同时能够满足人脸识别等需要可信内容输入的场景需求,涵盖互联网AIGC内容标注、多媒体AIGC合成鉴定、人脸识别系统防AIGC攻击、AIGC文章检测等功能,可遏制因人工智能被恶用、滥用所带来的不良影响。

基于强大的基础通用人工智能安全能力和丰富的行业落地经验,瑞莱智慧开发了更加安全、可控的行业解决方案,成功在基础设施、政府、金融等领域实现快速的产品化和商业化落地,已服务多个国家部委以及中国银联、中国工商银行、中国建设银行、华为等300余家头部企业,服务政策大模型在北京市上线使用,累计获得近百项国家级奖项和荣誉。

瑞莱智慧CEO田天博士表示:“大模型在安全可控上的不足是其当前无法广泛落地应用的根本原因,而人工智能不安全的开发和使用,则可能给人类的发展乃至生存带来灾难性的后果。相比过往其他领域的安全问题,人工智能安全风险更加本质也更加难克服。”

未来,瑞莱智慧将发挥前沿引领者角色,持续关注世界范围内出现的前沿人工智能安全风险挑战,沉淀技术能力和实践经验,进一步创新和完善产品功能,加深立体化产品体系建设和产业化建设,为“人工智能+”赋能全行业全场景提供坚实安全保障。瑞莱智慧也将不断推动通用人工智能安全能力的基础设施化建设,与智算中心等算力基础设施深度融合,护航中国通用人工智能高质量发展,加速中国人工智能产业向国际领军地位迈进。


Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1