大模型参数高效微调技术原理综述（六）-MAM Adapter、UniPELT

作者：吃果冻不吐果冻皮发布时间：2023-11-12

ChatGPT

随着，ChatGPT 迅速爆火，引发了大模型的时代变革。然而对于普通大众来说，进行大模型的预训练或者全量微调遥不可及。由此，催生了各种参数高效微调技术，让科研人员或者普通开发者有机会尝试微调大模型。...【查看原文】

近期资讯

这家小公司，如何掀起一场光伏技术的惊涛骇浪？

光伏技术快速进步的当下，企业聚焦的方向，要么是钙钛矿这样难啃的硬骨头，要么是n型电池降本、提效的微创新。搞成了可能“一步登天”，搞不成可能就是“作死”。但是，为叠栅技术保驾护航的，却有一堆明星企业——通威股份、晶盛机电、帝尔激光等。

蓝鲸新闻 2024-11-15

天舟八号货运飞船点火发射

刚刚，搭载天舟八号货运飞船的长征七号遥九运载火箭，在我国文昌航天发射场点火发射。

央广网 2024-11-15

《中小企业数字化赋能专项行动方案（2025-2027）》即将印发

钛媒体App11月15日消息，在广州举办的第十九届中国国际中小企业博览会上，中国工业和信息化部中小企业局局长梁志峰解读了即将印发的《中小企业数字化赋能专项行动方案（2025-2027）》。该行动方案由工业和信息化部联合财政部、中国人民银行、国家金融监管总局、国家数据局印发，明确了未来三年推动中小企业数字化转型的主要思路和重点任务。

钛媒体快报 2024-11-15

小米汽车发布智能底盘预研技术为完全自动驾驶做好准备

展示了小米全主动悬架、小米超级四电机系统、小米48V线控制动和小米48V线控转向四项核心技术。仅仅一年时间，小米汽车就发布了三代底盘技术，真正做到了量产一代、发布一代、预研一代。

智选车 2024-11-15

从风头变风口，三架飞行器从高交会飞向广袤低空

在第二十六届中国国际高新技术成果交易会（以下简称“高交会”）上，新闻中心就设置在低空经济与空天产业所在的11号馆。翼展长达3米的大型无人机、六旋翼的eVTOL（电动垂直起降飞行器）、状似UFO的“载人飞碟”，往来新闻中心的路上，几乎没有一个媒体记者会忽略这些造型奇特、充满未来感的飞行器。

证券时报 2024-11-15

恒天重工这一成果获2024年度中纺联科技进步一等奖

近日，中国纺织工业联合会科学技术奖励大会举行，由恒天重工股份有限公司牵头的“单线单釜年产5万吨莱赛尔纤维成套装备及工艺”项目荣获2024年度科技进步奖一等奖。该项目成果填补国内在该领域的技术空白，并实现全流程关键核心装备的国产化，为我国纺织行业的自主创新和可持续发展作出重要贡献。

河南日报 2024-11-15

猛玛麦克风引领行业，双11再登榜首

双11购物节刚刚落幕，国内科技品牌MOMA猛玛再次证明了其市场领导地位，成功登顶天猫、京东、抖音三大电商平台的销量榜首。自2020年推出以来，MOMA猛玛就是无线麦克风行业创新的风向标，每一代新品推出，都引领了行业发展的新方向，成为自媒体圈的宠儿。

雷科技 2024-11-15

国际能源署“力挺”力挺格力空调原来我们真错怪了董明珠

国际能源署公开表态支持空调发电，用行动“力挺”董明珠背后，是对当年董明珠空调可以发电论调最好的回应。我们错怪了董明珠！格力空调才真的有超前眼光。还记得当年董明珠说“空调能发电”所引起的舆论热潮吗？在2021中国新消费品牌峰会上，董明珠表示，格力开发了一种新技术，可把光能、储能和空调结合起来，当足够的能源聚集起来后通过空调发电。

砍柴网 2024-11-15

小米智能底盘可原地掉头：对比燃油车有什么区别一文读懂

快科技11月15日消息，今天，小米官方带来了新一期问答，有网友问：“燃油车也可以原地掉头，小米智能底盘有什么区别？”小米汽车官微表示，小米智能底盘预研技术展示的原地掉头是基于超级四电机系统实现的，相比基于燃油四驱、电动四驱等方式实现的原地掉头有很多优势，具体如下。

快科技 2024-11-15

字节跳动视频生成模型PixelDance将抢先Sora推出

鞭牛士报道，11月15日消息，据外电报道，字节跳动将很快推出一款名为PixelDance的视频生成模型，领先于Sora。字节跳动在大模型领域一直表现活跃。9月24日，该公司同步发布了PixelDance和Seaweed两款用于视频生成的大模型，并通过DreamAI和火山引擎面向创作者和企业客户进行了小规模邀请测试。

鞭牛士 2024-11-15

大模型参数高效微调技术原理综述（六）-MAM Adapter、UniPELT

推荐体验

相关资讯

大模型参数高效微调技术原理综述（四）-Adapter Tuning及其变体

大模型参数高效微调技术原理综述（五）-LoRA、AdaLoRA、QLoRA

大模型参数高效微调技术原理综述（七）-最佳实践、总结

大模型参数高效微调技术原理综述（二）-BitFit、Prefix Tuning、Prompt Tuning

大模型参数高效微调技术原理综述（三）-P-Tuning、P-Tuning v2

近期资讯

这家小公司，如何掀起一场光伏技术的惊涛骇浪？

天舟八号货运飞船点火发射

《中小企业数字化赋能专项行动方案（2025-2027）》即将印发

小米汽车发布智能底盘预研技术为完全自动驾驶做好准备

从风头变风口，三架飞行器从高交会飞向广袤低空

恒天重工这一成果获2024年度中纺联科技进步一等奖

猛玛麦克风引领行业，双11再登榜首

国际能源署“力挺”力挺格力空调原来我们真错怪了董明珠

小米智能底盘可原地掉头：对比燃油车有什么区别一文读懂

字节跳动视频生成模型PixelDance将抢先Sora推出

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响