大模型参数高效微调技术原理综述（五）-LoRA、AdaLoRA、QLoRA

作者：吃果冻不吐果冻皮发布时间：2023-06-12

LoRA ChatGPT

随着，ChatGPT 迅速爆火，引发了大模型的时代变革。然而对于普通大众来说，进行大模型的预训练或者全量微调遥不可及。由此，催生了各种参数高效微调技术，让科研人员或者普通开发者有机会尝试微调大模型。...【查看原文】

相关资讯

近期资讯

比亚迪巴西供应商虐待工人，VinFast车辆存在结构性缺陷｜海外日报

12 月 25 日 EV Focus 海外日报

EV Focus 日报 2024-12-25

氪星晚报｜小米汽车携手蔚来，正式开始充电补能网络合作；大润发Super跨年连开三店；日本将放宽中国人赴日旅游签证发放条件

去哪儿：日本将放宽中国人赴日旅游签证发放条件，飞往东京、大阪的搜索指数环比上周增长二成

夏天与你的声音💤 2024-12-25

瓶颈是一份「馈赠」

用总量思维来看待一切

王智远 2024-12-25

罗永浩瞄准AI硬件，新品理念超前，能否一雪TNT前耻？

罗永浩这一次要追AI硬件的风。

雷科技 2024-12-25

CEO下岗潮来了

先断他们的社保

真故研究室 2024-12-25

2025年AI产业发展十大趋势

易观分析：通用人工智能（AGI）之路虽充满挑战，但技术进阶从未停歇，从2024年开端，向2025年延续，人工智能的发展，将由模型开发与竞赛，转向产品为先与场景打磨的新阶段，加速AI产业落地。多元应用场景雏形初现，科技大厂占据AI应用第一梯队，夸克、剪映、豆包领跑。

易观 2024-12-25

2024年，动力外骨骼第一次现身巴黎奥运会和户外山野

外骨骼正在走出实验室，进入普通人的生活。

果壳 2024-12-25

2025美妆科研十大趋势，增长点都藏在这些细节里

科研红利仍在，但“摘果”方式变了

未来迹FBeauty 2024-12-25

2024年中国零售业十大力量

找到自己的力量和逻辑，应该是我们唯一的大事。

联商网 2024-12-25

疯狂的造车游戏：从国内到海外，苦寻改命机会

出海越是艰难，越要冷静应对。

DoNews 2024-12-25

大模型参数高效微调技术原理综述（五）-LoRA、AdaLoRA、QLoRA

推荐体验

相关资讯

大模型参数高效微调技术实战（五）-LoRA

大模型参数高效微调技术原理综述（六）-MAM Adapter、UniPELT

大模型参数高效微调技术原理综述（七）-最佳实践、总结

大模型参数高效微调技术原理综述（四）-Adapter Tuning及其变体

大模型参数高效微调技术原理综述（二）-BitFit、Prefix Tuning、Prompt Tuning

近期资讯

比亚迪巴西供应商虐待工人，VinFast车辆存在结构性缺陷｜海外日报

氪星晚报｜小米汽车携手蔚来，正式开始充电补能网络合作；大润发Super跨年连开三店；日本将放宽中国人赴日旅游签证发放条件

瓶颈是一份「馈赠」

罗永浩瞄准AI硬件，新品理念超前，能否一雪TNT前耻？

CEO下岗潮来了

2025年AI产业发展十大趋势

2024年，动力外骨骼第一次现身巴黎奥运会和户外山野

2025美妆科研十大趋势，增长点都藏在这些细节里

2024年中国零售业十大力量

疯狂的造车游戏：从国内到海外，苦寻改命机会

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响