大模型参数高效微调技术原理综述（五）-LoRA、AdaLoRA、QLoRA

作者：吃果冻不吐果冻皮发布时间：2023-06-12

LoRA ChatGPT

随着，ChatGPT 迅速爆火，引发了大模型的时代变革。然而对于普通大众来说，进行大模型的预训练或者全量微调遥不可及。由此，催生了各种参数高效微调技术，让科研人员或者普通开发者有机会尝试微调大模型。...【查看原文】

相关资讯

近期资讯

都快2025年了为什么韩国这飞机还会撞鸟

年终了，还有一两天就到元旦了，这本来应该是个大家互送新年祝福，合家团圆的日子。但对于隔壁韩国人，以及全世界关注航空的人来说，这个周末是沉重的。2024 年 12 月 29 日，一架波音

2024-12-31

大疆公布2024年度中国热门航拍点TOP10：盘龙古道排第一

快科技12月31日消息，2024年岁末，大疆公布了2024年度中国热门航拍点TOP10。排名第一的是新疆的盘龙古道，它像一条巨龙盘卧在大地上，被称为"盘龙古道"。走过了人生所有的弯路，从此

随心 2024-12-31

春运开车滑惨了我告诉你为啥四驱有用

兄弟们，一年一度的春运又要开始了，今年你还会开纯电车回家吗？每一年的春运，都像是新能源车的高考。高速堵车不说，如果再碰上服务区充电排队，本来冬天续航就奔着对折砍，这下排队充电又得

2024-12-31

大部分人储蓄为0！美国信用卡违约规模创新高 400块都没

12月31日消息，据国外媒体报道称，美国信用卡违约规模创2010年以来最高水平。这表明在经历多年高通胀之后，低收入消费者的财务健康状况正在恶化。2024年前9个月，信用卡借贷方核销了460亿美元

雪花 2024-12-31

别忘抢票！2025春运火车票今日开卖：1月14日正式启动

快科技12月31日消息，2025年春运将于1月14日正式启动，按照目前火车票提前15天开始发售的规则，今日将开售春运第一天火车票。官方再次发文提醒大家，一定要通过铁路官方渠道购票。某第三方平

建嘉 2024-12-31

没想到微信出的送礼功能大家都还蛮喜欢

还记得前几天咱和大家聊过的微信新推出的 “ 小蓝包 ” 功能吗？就是微信之前开始灰度测试的送礼功能，因为 “ 包装 ” 长得有

2024-12-31

11月车企销量榜：比亚迪超越大众跃居全球第二

快科技12月31日消息，易车榜根据各车企销量数据，发布了11月份全球车企销量榜。榜单显示，11月份全球车企销冠为丰田，销量为66.79万辆，丰田依旧为全球车企的“一哥”。比亚迪在

若风 2024-12-31

2024影响重庆的十大科技事件

上游新闻 2024-12-31

中信建投：消费电子板块有望迎来新机遇

CES是全球科技创新和消费电子行业的风向标，届时，来自世界各地的头部科技玩家将展示最前沿的创新技术和卓越产品。多种创新形态的产品有望在CES2025上展出，包括卷轴屏笔记本电脑，配备摄像头的吊坠等。同时，AI技术的热潮在本届CES上将进一步升温，预计今年的展会将有更多AI应用实例。

证券时报 2024-12-31

小米宠物员工“樱桃”走失！官方发布悬赏：最高酬谢3000元

快科技12月31日消息，据小米官方消息，小米公司的宠物员工“樱桃”在宁夏银川走丢，目前已发布悬赏。樱桃的监护人愿为有效线索（拍摄到确认是樱桃的清晰照片或视频，提供确切地点）

建嘉 2024-12-31

大模型参数高效微调技术原理综述（五）-LoRA、AdaLoRA、QLoRA

推荐体验

相关资讯

大模型参数高效微调技术实战（五）-LoRA

大模型参数高效微调技术原理综述（六）-MAM Adapter、UniPELT

大模型参数高效微调技术原理综述（七）-最佳实践、总结

大模型参数高效微调技术原理综述（四）-Adapter Tuning及其变体

大模型参数高效微调技术原理综述（二）-BitFit、Prefix Tuning、Prompt Tuning

近期资讯

都快2025年了为什么韩国这飞机还会撞鸟

大疆公布2024年度中国热门航拍点TOP10：盘龙古道排第一

春运开车滑惨了我告诉你为啥四驱有用

大部分人储蓄为0！美国信用卡违约规模创新高 400块都没

别忘抢票！2025春运火车票今日开卖：1月14日正式启动

没想到微信出的送礼功能大家都还蛮喜欢

11月车企销量榜：比亚迪超越大众跃居全球第二

2024影响重庆的十大科技事件

中信建投：消费电子板块有望迎来新机遇

小米宠物员工“樱桃”走失！官方发布悬赏：最高酬谢3000元

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响