当前位置:首页|资讯|ChatGPT

中信建投 | DeepSpeed Chat开源加速AI应用落地,持续看好算力发展前景

作者:金融界发布时间:2023-04-17

原标题:中信建投 | DeepSpeed Chat开源加速AI应用落地,持续看好算力发展前景

文|刘双锋 王天乐 范彬泰 孙芳芳 乔磊 章合坤 郭彦辉

1、半导体:微软开源DeepSpeed Chat加速模型走向推理端部署,持续看好算力基础设施发展前景

ChatGPT类大模型功能的完善借助到一种称为人类反馈强化学习(RLHF)的技术对其进行微调。进行RLHF的先决条件是拥有一个已在庞大的文本语料库上进行预训练的大型语言模型,这个大型语言模型已具备广泛的知识和常识储备,以及生成连贯语言的能力。RLHF的基本思想是训练一个额外的奖励模型,从人类的角度评估模型的反应有多好,以指导模型的学习过程。经过RLHF训练微调的模型可以提供符合人类价值观的答案,生成更冗长的回答,并拒绝不合适或模型知识空间之外的问题。为使RLHF普及到AI社区,微软本周开源了DeepSpeed-Chat。DeepSpeed简化了ChatGPT类模型的训练和强化推理体验,开发者只需一个脚本,就能实现多个训练步骤,并且在完成后还可以利用推理API进行对话式交互测试。DeepSpeed的训练和推理能力整合到一个统一的混合引擎(DeepSpeed-HE)中用于RLHF训练。DeepSpeed-HE能够无缝地在推理和训练模式之间切换,使其能够利用来自DeepSpeed-Inference的各种优化。DeepSpeed-HE的优势包括:1)高效性和经济性,例如DeepSpeed-HE在Azure云上只需9小时即可训练一个OPT-13B模型,花费不到300美元和600美元。2)卓越的扩展性:在多节点多GPU系统上扩展性优异。3)实现RLHF训练的普及化:例如仅凭单颗80G A100,DeepSpeed-HE就能支持训练超过130亿参数的模型。总结来看,微软开源的DeepSpeed-Chat提升了大模型训练过程中RLHF环节的效率,一定程度上降低了类ChatGPT训练的门槛,这将起到扩大开发者群体,加速模型走到推理部署等积极作用。行业有望受益持续良性发展,加速AI应用落地。近几年云端推理算力占比逐步提升已反映出AI落地应用正在不断增加的现状,根据IDC统计数据,2022年云端部署的推理算力占比已经达到了58.5%,训练占算力只有41.5%。未来从大模型到垂直类小模型等不同参数规格的模型都有望找到其应用场景并发挥价值,各种规格的推理卡都会有对应的市场需求。人工智能模型将逐步进入广泛投产模式,算力普及也会紧随其后,持续看好算力基础设施发展前景。

2、汽车电子:禾赛科技发布轻薄机身激光雷达ET25,新一代自研收发芯片提升性能表现

禾赛科技正式发布面向ADAS前装量产市场的新款车规级激光雷达ET25,并宣布与福耀集团达成战略合作。ET25厚度接近前一代产品AT128的1/2,轻薄的特性使其能够安置在挡风玻璃后,不会影响到车身外观。为降低挡风玻璃对激光雷达信号的衰减,福耀集团特制的前挡风玻璃在激光雷达KOZ区域采用经过特殊处理的近红外增透玻璃。ET25主要性能指标方面,FOV为120°(H) x 25°(V),测距在无挡风玻璃时达250米,挡风玻璃后也可达225米,点频超过300万每秒,最小分辨率仅为0.05° x 0.05°,功耗仅为12W。与AT128相比,ET25的视场角与AT128相当,测距、点频、最小分辨率和功耗的表现均有所提升。禾赛科技长期布局核心器件自研的效益已逐步体现,ET25做到体积缩小,但性能没有牺牲,甚至更优,主要得益于禾赛科技新一代的自研收发芯片,更先进的激光收发模块使ET25接收芯片灵敏度有数倍的提升。在产品持续升级迭代的同时,麦克斯韦智造中心也预计于2023年全面投产,禾赛科技的制造交付能力将得到进一步提升,领先优势有望扩大。2022年禾赛科技已经在全球激光雷达市场量产装车上做到了全球领先,全年的营收和交付量均超过了8家美股上市激光雷达同行公司的总和。目前禾赛科技所获得的定点车型仍在继续增长,且伴随着产品力不断提升,我们看好其未来保持行业的领先地位。

3、消费电子:智能音箱2022年创下较大跌幅,关注语言大模型对行业发展的促进作用

2022年,国内智能音箱发展经历低谷期。根据IDC数据,2022年中国无线音箱市场销量为4,870万台,同比下降20.7%。其中智能音箱市场销量为2,851万台,占比接近六成,受市场周期性发展及补贴收窄影响,销量缩减近四分之一。随着经济有序恢复、户外需求回暖及人机交互优化,IDC预计2023年中国无线音箱市场销量将同比下降2%,降幅较去年有明显收窄。我们认为近期火爆的语言大模型展现出推动智能音箱产品力提升的巨大潜力,或将成为今年智能音箱行业改善的重要驱动因素。阿里本周推出了“通义千问”大模型,并表示所有产品都将接入大模型,其中天猫精灵已接入开始测试,并会在评估认证后正式发布新功能。在阿里大模型发布会之前,阿里也联动脱口秀艺人打造了一款接入个性化大模型的定制版天猫精灵“鸟鸟分鸟”,虽然只是一款DEMO产品,但已经展现出一定的多轮对话能力,使人机交互更接近真人对话。目前全球主要智能音箱厂商包括亚马逊、谷歌、阿里巴巴、百度等,上述厂商均具有自研的语言大模型。考虑到智能音箱本身具备对话属性,未来有望成为各厂商语言大模型试水应用的场景之一。接入语言大模型的智能音箱将在语言交互能力上有明显提升,或将提振消费者换机购机需求,产业链代工环节及上游SoC芯片相关供应商有望受益。

未来中美贸易摩擦可能进一步加剧,存在美国政府将继续加征关税、设置进口限制条件或其他贸易壁垒风险;目前仍处于5G网络普及阶段,相关技术成熟度还有待提升,应用尚未形成规模,存在5G应用不及预期风险;宏观环境的不利因素将可能使得全球经济增速放缓,居民收入、购买力及消费意愿将受到影响,存在下游需求不及预期风险;大宗商品价格仍未企稳,不排除继续上涨的可能,存在原材料成本提高的风险;全球政治局势复杂,主要经济体争端激化,国际贸易环境不确定性增大,疫情仍未消散,可能使得全球经济增速放缓,从而影响市场需求结构,存在国际政治经济形势风险。

来源:券商研报精选


Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1