大模型参数高效微调技术原理综述（五）-LoRA、AdaLoRA、QLoRA

作者：吃果冻不吐果冻皮发布时间：2023-06-12

LoRA ChatGPT

随着，ChatGPT 迅速爆火，引发了大模型的时代变革。然而对于普通大众来说，进行大模型的预训练或者全量微调遥不可及。由此，催生了各种参数高效微调技术，让科研人员或者普通开发者有机会尝试微调大模型。...【查看原文】

近期资讯

畅索软件科技申请车载氛围灯控制专利，实现结合中控显示屏实时动态调整灯光颜色

金融界2024年12月25日消息，国家知识产权局信息显示，畅索软件科技（上海）有限公司申请一项名为“一种车载氛围灯控制方法、装置、电子设备和存储介质”的专利，公开号CN119172905A，申请日期为2024年11月。

金融界 2024-12-25

上海芯圣电子申请 LED 灯带去抖动专利，避免电源抖动保证灯带正常点亮

金融界2024年12月25日消息，国家知识产权局信息显示，上海芯圣电子股份有限公司申请一项名为“一种LED灯带的去抖动方法、装置、电子设备及产品”的专利，公开号CN119172893A，申请日期为2024年11月。

金融界 2024-12-25

安徽福铄取得带有过滤机构的纳米矿晶用加热搅拌器专利，提高了纳米矿晶搅拌加热的效果

金融界2024年12月25日消息，国家知识产权局信息显示，安徽福铄科技有限公司取得一项名为“一种带有过滤机构的纳米矿晶用加热搅拌器”的专利，授权公告号CN222196637U，申请日期为2024年4月。

金融界 2024-12-25

上海流丹取得一种高速湿法分散装置专利，使分散搅拌液体物料和固体物料混合更加均匀

金融界2024年12月25日消息，国家知识产权局信息显示，上海流丹新型材料科技有限公司取得一项名为“一种高速湿法分散装置”的专利，授权公告号CN222196638U，申请日期为2024年5月。

金融界 2024-12-25

广州地铁设计研究院申请直流母线和基于电力载波通信的地铁直流母线照明系统专利，降低通信成本

金融界2024年12月25日消息，国家知识产权局信息显示，广州地铁设计研究院股份有限公司申请一项名为“直流母线和基于电力载波通信的地铁直流母线照明系统”的专利，公开号CN119172906A，申请日期为2024年10月。

金融界 2024-12-25

广东盈科电子申请一种 LED 灯显示驱动方法及应用该方法的电路专利，能在成本及空间有限情况下达到显示效果

金融界2024年12月25日消息，国家知识产权局信息显示，广东盈科电子有限公司申请一项名为“一种LED灯显示驱动方法及应用该方法的电路”的专利，公开号CN119172891A，申请日期为2024年11月。

金融界 2024-12-25

上海航盛智行申请智能车灯暗区大小验证专利，能够自动完成真实目标车辆暗区大小的测试验证

金融界2024年12月25日消息，国家知识产权局信息显示，上海航盛智行电子科技发展有限公司申请一项名为“种智能车灯暗区大小验证系统及方法”的专利，公开号CN119172907A，申请日期为2024年8月。

金融界 2024-12-25

江苏欧亚照明申请一种太阳能路灯的控制方法、系统及存储介质专利，实现多个太阳能路灯共同工作下的精确控制

金融界2024年12月25日消息，国家知识产权局信息显示，江苏欧亚照明股份有限公司申请一项名为“一种太阳能路灯的控制方法、系统及存储介质”的专利，公开号CN119172902A，申请日期为2024年10月。专利摘要显示，本发明涉及太阳能路灯技术领域，具体为一种太阳能路灯的控制方法、系统及存储介质。

金融界 2024-12-25

江苏能胜取得印刷专用油墨调墨装置专利，避免对调墨工作人员的身体健康产生影响

金融界2024年12月25日消息，国家知识产权局信息显示，江苏能胜科技有限公司取得一项名为“一种印刷专用油墨调墨装置”的专利，授权公告号CN222196641U，申请日期为2024年5月。

金融界 2024-12-25

四川莱福德申请用于DC-DC LED调光电源的恒流检测控制电路专利，提高BUCK驱动应用设计灵活性

金融界2024年12月25日消息，国家知识产权局信息显示，四川莱福德科技有限公司申请一项名为“一种用于DC-DCLED调光电源的恒流检测控制电路”的专利，公开号CN119172895A，申请日期为2024年11月。专利摘要显示，本发明涉及LED照明技术领域，提供了一种用于DC‑DCLED调光电源的恒流检测控制电路及其装置。

金融界 2024-12-25

大模型参数高效微调技术原理综述（五）-LoRA、AdaLoRA、QLoRA

推荐体验

相关资讯

大模型参数高效微调技术实战（五）-LoRA

大模型参数高效微调技术原理综述（六）-MAM Adapter、UniPELT

大模型参数高效微调技术原理综述（七）-最佳实践、总结

大模型参数高效微调技术原理综述（四）-Adapter Tuning及其变体

大模型参数高效微调技术原理综述（二）-BitFit、Prefix Tuning、Prompt Tuning

近期资讯

畅索软件科技申请车载氛围灯控制专利，实现结合中控显示屏实时动态调整灯光颜色

上海芯圣电子申请 LED 灯带去抖动专利，避免电源抖动保证灯带正常点亮

安徽福铄取得带有过滤机构的纳米矿晶用加热搅拌器专利，提高了纳米矿晶搅拌加热的效果

上海流丹取得一种高速湿法分散装置专利，使分散搅拌液体物料和固体物料混合更加均匀

广州地铁设计研究院申请直流母线和基于电力载波通信的地铁直流母线照明系统专利，降低通信成本

广东盈科电子申请一种 LED 灯显示驱动方法及应用该方法的电路专利，能在成本及空间有限情况下达到显示效果

上海航盛智行申请智能车灯暗区大小验证专利，能够自动完成真实目标车辆暗区大小的测试验证

江苏欧亚照明申请一种太阳能路灯的控制方法、系统及存储介质专利，实现多个太阳能路灯共同工作下的精确控制

江苏能胜取得印刷专用油墨调墨装置专利，避免对调墨工作人员的身体健康产生影响

四川莱福德申请用于DC-DC LED调光电源的恒流检测控制电路专利，提高BUCK驱动应用设计灵活性

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响