当前位置:首页|资讯|AI大模型|融资

开源AI大模型,能不能卡了百融云的位?

作者:Fintech在线发布时间:2023-08-16

原标题:开源AI大模型,能不能卡了百融云的位?

“下调中国股票评级,建议投资者获利了结”。市场还是如此的不负众望,每当三根阳线准备改三观时,总有一些声音会期待你过得不好,但这次让我们伤心的点,不是内资心不齐,而是洋猪还能吃细糠。但刚准备反击外媒,身后传来群众的声音:“摩根士丹利说,获什么了结?”

对岸减肥药打开创新药估值天花板,反腐却杀得中药信徒抱头鼠窜;指望着权重拉抬TMT唱戏,回头一看券商还是那个渣男。强周期算着期现差价不停套利,弱消费数着超额储蓄望尘莫及。唯一的AI信仰,英伟达忙着发布L40S,CPO公司却开始担心效率会挑战出货量;开源大模型不断升级,AIGC却迎来新一轮潜在竞争预期;AI服务器毛利率提升25%、客户现金交易买交换机路由器的白牌龙头,却被发现中报业绩已经全在估值里。A股3000点如一日、H股一路向北,果然是稳定压倒一切。别灰心别叹气,想想开心的事儿能轻松不少,比如我给你讲个笑话:“室温超导”。

指数的震荡是由板块表现决定的,而资金又在存量的情况下左右倒手,没有主线的日子里,内卷就是常态。市场在内卷、预期在内卷、资金在内卷、AI也在内卷。当Meta发布大语言模型Llama2之后,有关大模型大战是否会被开源后来居上、AIGC门槛是否越来越低的问题屡次被市场讨论。开源大模型最高700亿参数、接受了2万亿个tokens的训练、微调模型已经接受了超100万个人类注释的训练的细节,甚至让市场讨论开源能否冲进精确度要求极高的垂直领域,就比如金融业。攻城的人已在脚下,像@百融云-W(6608.HK)这种守城的人该怎么办?

评价一个AI大模型好用与否,业内现在主要用的框架仍然是MMLU,也就是考虑了57个学科,从人文到社科到理工多个大类的综合能力。但开源大模型虽然能满足生成式AI的能力,但对于金融业这种垂直领域来说,“控制”更重要,比如对用户画像的刻画,需要做到接近100%的还原和精确度,才有后续营销过程中的发散和想象空间。这就是类似百融云这种AI大模型厂商在金融业等垂直领域的壁垒——生成式AI要以决策式AI为基底,开源大模型就算开放了开发者社区,但没有垂直预训练数据也是不行的。同时,像百融云这种垂直领域的大模型厂商,拥有直接的报价体系,客户一般会衡量的也只是千亿Token的费用;但对于开源模型来说,要测算的环节更多,从部署到精调到最后上线进行推理,甚至还有算力消耗和训练数据成本。

那作为主攻金融业的百融云,它的大模型会有什么优势呢?举个例子,最起初的Transformer架构在预训练阶段,使用的是多头注意力机制,而2014年有了GANS神经网络打下的生成式AI基底,百融云这种AI公司或许就变为了分片群组的机制,把大量的Attention需要的Query(请求)分组编程,每个组放到一个训练单元里面。比如百融云的客户主要是银行,他们要处理的用户信息很多都不是以文本形式存在的,比如很多客户背景资料大多数以相邻关系及连通关系查询,百融云就会把这种“图数据库”在训练大模型的时候分成一组;而一些需要精确到具体日期的用户银行往来记录,便用“时序数据”来分组,最终实现的是并行的大模型训练效果。这也就是能比开源模型更高效进行决策式AI的前提。

有了这个基础,百融云并不像传统GPT体系下的大模型公司,在归一化的时候做层化的数据处理,而是在分层处理的基础上又加了权重系数。比如说针对一个贷款申请者,要同时评估他的资金流水、过往交易记录、抵押物、偿还能力等等,但当这些信息不能均衡满足贷款申请条件时,百融云这种在模型中已经设定好评估权重的公司,就能帮助银行实现这个目的,说白了就是用户信息审核的“侧重点”。同样的道理也可以应用在财富管理和存量运营,根据不同的客户偏好设定来推荐理财产品,最终提升银行的AUM值(资产管理规模)。这些,都是开源大模型所不具备的。

百融云自成立之初便用AI来赋能垂直行业,并且通过决策式AI和生成式AI的串、并联组合,来实现一个完整的业务流程。比如百融云为了能节省token长度来实现多轮对话,大模型中很早就引入了向量数据和相应处理方式;为了能满足更多垂直领域应用落地,AI数据的反馈也很早就被提上日程,比如同样是信贷营销,不同银行面向的客户群体差异有限,所以以点盖面后的银行AI云平台采购参考,百融云在头把交椅也就不足为奇。这些,都是开源大模型无法匹配的能力,因为如果不是先有的闭源,哪来的开源呢?

那么到了生成式AI阶段,百融云比较典型的应用就是智能营销话术的“生成”,比如说百融云要帮助银行完成存量运营,要在与客户的交互过程中明白,为什么客户有存款但是之前没有理财习惯、为什么前一次给客户推荐的理财产品客户没有申购、为什么客户每次发工资后都很快转出工资卡,这些都是为后续营销话术做的铺垫。而生成式AI的话术,肯定都要有一个类似“语料库”的支持,也就是长期积累的垂直行业促进交易规模的经验。这些,请问开源模型有吗?

所以,生成式AI和决策式AI属于底层技术,那么现在百融云的MaaS和BaaS就是业务的形式,MaaS负责给不止于金融业的客户提供模型服务,BaaS负责帮助客户输出最终业务结果,也就有了金融行业云、保险行业云,以及未来能够拓展到的电商租赁等场景,因为底层的技术都是AI,那么可复制性就会很强。

百融云是一家累计服务逾7000家金融机构的AI云服务厂商,常年客户留存率都在90%以上。从目前最新一期的财报来看,2023年一季度实现营收5.66亿元,同比增幅25%,并且是AI领域少数实现盈利的公司。确实,AI卡位战已经开打,但不是所有的位都那么好卡。


Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1