机器之心报道 编辑:小舟、泽南 用微调的方法,现在羊驼模型也可以打 ChatGPT 了,这不是随便说说,有测试结果为证。 最近,来自华盛顿大学的 QLoRA 成为了 AI 领域的热门,很多人把它形容为...【查看原文】
机器之心报道 编辑:小舟、泽南 「原驼」大模型输出的内容和 ChatGPT 比,人类也无法区分谁好谁坏。 用微调的方法,现在羊驼模型也可以打 ChatGPT 了,这不是随便说说,有测试结果为证。
ChatGPT
机器之心 2023-05-26
这是开源大模型最新成果,来自羊驼家族的又一重磅成员——华盛顿大学原驼(Guanaco)。更关键的是,与原驼一起提出的新方法QLoRA把微调大模型的显存需求从>780GB降低到<48GB。开源社区直接开始狂欢,相关论文成为24小时内关注度最高的AI论文。
量子位 2023-05-25
自动测试分数达到ChatGPT的99.3%,人类难以分辨两者的回答……这是开源大模型最新成果,来自羊驼家族的又一重磅成员——华盛顿大学原驼(Guanaco)。更关键的是,与原驼一起提出的新方法QLoRA把微调大模型的显存需求从>780GB降低到。开源社区直接开始狂欢,相关论文成为24小时内关注度最高的AI论文。以Meta的美洲驼LLaMA为基础,得到原驼650亿参数版只需要48GB显存单卡微调24小时,330亿参数版只需要24GB显存单卡微调12小时。24GB显存,也就是一块消费级RTX3090
ChatGPTLLaMA
一起学chatGPT一起学ai 2023-05-27
大杀器QLoRA终于放出了论文和相关实现。单个GPU即可部署的ChatBot,甚至达到了ChatGPT 99%的能力。只需使用消费级GPU微调12个小时就可以达到97%的ChatGPT水平。同时只用4B就可以保持16B精度的效果。QLoRA通过以下三个创新点来优化资源:1. 4Bit NormalFloat 4比特量化2. Double Quantization 双重量化3. Paged Optimizers 分页优化器QLoRA是在LORA的基础上,先对Transformer进行4Bit量化,
ChatGPTLoRA
AI研习所 2023-05-25
还推出新AI加速技术,光刻计算速度提升40倍
量子位 2023-03-22
金融界2024年12月25日消息,国家知识产权局信息显示,璐宁线缆有限公司取得一项名为“一种电缆加工用切割设备”的专利,授权公告号CN222198738U,申请日期为2024年5月。
金融界 2024-12-25
不管是手机应用、家电,还是一些新兴的科技产品,掌握它们的使用方法都能让我们的生活更加便捷和高效。说到厨房,怎么能不提到烹饪呢?
新报观察 2024-12-25
五笔输入法是一种非常流行的汉字输入方式,很多人用它来提高打字速度。五笔的键盘布局与普通的拼音输入法有所不同,掌握这些布局是非常重要的。
金融界2024年12月25日消息,国家知识产权局信息显示,西安欧得光电材料有限公司申请一项名为“一种三苯甲基稠环类衍生物及其电致发光器件”的专利,公开号CN119176790A,申请日期为2024年11月。
在这个信息化的时代,手机已经成为我们生活中不可或缺的一部分。除了打电话、发信息,手机的个性化设置也越来越受到大家的关注。今天,我们就来聊聊如何设置来电图片,让你的手机在响起时更加独特和个性。想必大家都有这样的经历,当手机响起时,看到来电显示的名字,心里总会有种期待感。但是,如果能在来电时看到一张熟悉的照片,那种感觉就会更加强烈。
在这个科技飞速发展的时代,手机已经成为我们生活中不可或缺的一部分。没错,今天我们就来聊聊怎么用手机开电视,带你体验一下这种便捷的生活方式。首先,想要用手机开电视,最重要的一步就是确保你的手机和电视能够连接。
密码锁在我们的生活中越来越常见,很多地方都能见到,比如家里的门、保险箱,甚至是一些公共设施。它们的出现让我们的生活变得更加安全,不过,使用密码锁其实也有一些小技巧,掌握了这些,你就能轻松应对各种情况。一般来说,密码锁主要由输入面板、锁体和电池组成。
金融界2024年12月25日消息,国家知识产权局信息显示,江西兄弟医药有限公司申请一项名为“一种碘美普尔杂质I的制备方法”的专利,公开号CN119176785A,申请日期为2023年12月。
金融界2024年12月25日消息,国家知识产权局信息显示,杜邦特种材料韩国有限公司申请一项名为“多种主体材料、有机电致发光化合物及包含其的有机电致发光装置”的专利,公开号CN119176788A,申请日期为2024年6月。专利摘要显示,本公开涉及多种主体材料有机电致发光化合物以及包含其的有机电致发光装置。
金融界2024年12月25日消息,国家知识产权局信息显示,湖北盈锋能源集团有限公司取得一项名为“一种电缆加工用的等长切割装置”的专利,授权公告号CN222198734U,申请日期为2024年5月。
Copyright © 2025 aigcdaily.cn 北京智识时代科技有限公司 版权所有 京ICP备2023006237号-1