机器之心报道 编辑:小舟、泽南 用微调的方法,现在羊驼模型也可以打 ChatGPT 了,这不是随便说说,有测试结果为证。 最近,来自华盛顿大学的 QLoRA 成为了 AI 领域的热门,很多人把它形容为...【查看原文】
机器之心报道 编辑:小舟、泽南 「原驼」大模型输出的内容和 ChatGPT 比,人类也无法区分谁好谁坏。 用微调的方法,现在羊驼模型也可以打 ChatGPT 了,这不是随便说说,有测试结果为证。
ChatGPT
机器之心 2023-05-26
这是开源大模型最新成果,来自羊驼家族的又一重磅成员——华盛顿大学原驼(Guanaco)。更关键的是,与原驼一起提出的新方法QLoRA把微调大模型的显存需求从>780GB降低到<48GB。开源社区直接开始狂欢,相关论文成为24小时内关注度最高的AI论文。
量子位 2023-05-25
自动测试分数达到ChatGPT的99.3%,人类难以分辨两者的回答……这是开源大模型最新成果,来自羊驼家族的又一重磅成员——华盛顿大学原驼(Guanaco)。更关键的是,与原驼一起提出的新方法QLoRA把微调大模型的显存需求从>780GB降低到。开源社区直接开始狂欢,相关论文成为24小时内关注度最高的AI论文。以Meta的美洲驼LLaMA为基础,得到原驼650亿参数版只需要48GB显存单卡微调24小时,330亿参数版只需要24GB显存单卡微调12小时。24GB显存,也就是一块消费级RTX3090
ChatGPTLLaMA
一起学chatGPT一起学ai 2023-05-27
大杀器QLoRA终于放出了论文和相关实现。单个GPU即可部署的ChatBot,甚至达到了ChatGPT 99%的能力。只需使用消费级GPU微调12个小时就可以达到97%的ChatGPT水平。同时只用4B就可以保持16B精度的效果。QLoRA通过以下三个创新点来优化资源:1. 4Bit NormalFloat 4比特量化2. Double Quantization 双重量化3. Paged Optimizers 分页优化器QLoRA是在LORA的基础上,先对Transformer进行4Bit量化,
ChatGPTLoRA
AI研习所 2023-05-25
还推出新AI加速技术,光刻计算速度提升40倍
量子位 2023-03-22
金融界2024年12月26日消息,国家知识产权局信息显示,须眉科技(江苏)有限公司取得一项名为“一种带有放置座的电动剃须刀”的专利,授权公告号CN222200639U,申请日期为2024年5月。
金融界 2024-12-26
金融界2024年12月26日消息,国家知识产权局信息显示,宁波林佳塑业有限公司取得一项名为“一种工具刀”的专利,授权公告号CN222200629U,申请日期为2024年1月。
金融界2024年12月26日消息,国家知识产权局信息显示,江苏东成园林机械有限公司取得一项名为“一种用于收纳电动工具的刀套”的专利,授权公告号CN222200641U,申请日期为2024年4月。
金融界2024年12月26日消息,国家知识产权局信息显示,宁波奉化吉泰电气有限公司申请一项名为“智能反应器智能温控系统及控制流程”的专利,公开号CN119179346A,申请日期为2024年11月。
金融界2024年12月26日消息,国家知识产权局信息显示,高精地基导航授时南京研究院有限公司申请一项名为“一种基于北斗定位的氧气投放控制系统及方法”的专利,公开号CN119179344A,申请日期为2024年11月。
金融界2024年12月26日消息,国家知识产权局信息显示,北京他山科技有限公司取得一项名为“一种机械臂及其防护套壳”的专利,授权公告号CN222200625U,申请日期为2024年5月。线缆,共用总线。保护套壳内的电极两两形成一组互电容,在人体和机械臂即将发生碰撞时,提前检测人体所在方向,提供信号给机械臂,避免机械臂与人体的碰撞发生。
金融界2024年12月26日消息,国家知识产权局信息显示,江苏谷峰电力科技股份有限公司申请一项名为“柔性倾角式跟踪光伏支架”的专利,公开号CN119179342A,申请日期为2024年11月。
金融界2024年12月26日消息,国家知识产权局信息显示,成都莒纳新材料科技有限公司申请一项名为“一种电解水槽的温度控制管理方法、系统、设备及介质”的专利,公开号CN119179348A,申请日期为2024年11月。
金融界2024年12月26日消息,国家知识产权局信息显示,深圳天鹰兄弟无人机创新有限公司申请一项名为“无人机区域边界自动识别与避障方法及装置”的专利,公开号CN119179338A,申请日期为2024年11月。
金融界2024年12月26日消息,国家知识产权局信息显示,龙岩智康太阳能科技有限公司申请一项名为“一种用于双轴跟踪高度角调节装置及方法”的专利,公开号CN119179341A,申请日期为2024年10月。
Copyright © 2026 aigcdaily.cn 北京智识时代科技有限公司 版权所有 京ICP备2023006237号-1