机器之心报道 编辑:小舟、泽南 用微调的方法,现在羊驼模型也可以打 ChatGPT 了,这不是随便说说,有测试结果为证。 最近,来自华盛顿大学的 QLoRA 成为了 AI 领域的热门,很多人把它形容为...【查看原文】
机器之心报道 编辑:小舟、泽南 「原驼」大模型输出的内容和 ChatGPT 比,人类也无法区分谁好谁坏。 用微调的方法,现在羊驼模型也可以打 ChatGPT 了,这不是随便说说,有测试结果为证。
ChatGPT
机器之心 2023-05-26
这是开源大模型最新成果,来自羊驼家族的又一重磅成员——华盛顿大学原驼(Guanaco)。更关键的是,与原驼一起提出的新方法QLoRA把微调大模型的显存需求从>780GB降低到<48GB。开源社区直接开始狂欢,相关论文成为24小时内关注度最高的AI论文。
量子位 2023-05-25
自动测试分数达到ChatGPT的99.3%,人类难以分辨两者的回答……这是开源大模型最新成果,来自羊驼家族的又一重磅成员——华盛顿大学原驼(Guanaco)。更关键的是,与原驼一起提出的新方法QLoRA把微调大模型的显存需求从>780GB降低到。开源社区直接开始狂欢,相关论文成为24小时内关注度最高的AI论文。以Meta的美洲驼LLaMA为基础,得到原驼650亿参数版只需要48GB显存单卡微调24小时,330亿参数版只需要24GB显存单卡微调12小时。24GB显存,也就是一块消费级RTX3090
ChatGPTLLaMA
一起学chatGPT一起学ai 2023-05-27
大杀器QLoRA终于放出了论文和相关实现。单个GPU即可部署的ChatBot,甚至达到了ChatGPT 99%的能力。只需使用消费级GPU微调12个小时就可以达到97%的ChatGPT水平。同时只用4B就可以保持16B精度的效果。QLoRA通过以下三个创新点来优化资源:1. 4Bit NormalFloat 4比特量化2. Double Quantization 双重量化3. Paged Optimizers 分页优化器QLoRA是在LORA的基础上,先对Transformer进行4Bit量化,
ChatGPTLoRA
AI研习所 2023-05-25
还推出新AI加速技术,光刻计算速度提升40倍
量子位 2023-03-22
金融界2024年12月28日消息,国家知识产权局信息显示,江苏冶建锌业有限公司取得一项名为“一种新型熔锌炉”的专利,授权公告号CN222211216U,申请日期为2023年12月。
金融界 2024-12-28
调节罗技鼠标的灵敏度其实并不是一件复杂的事情,但很多初学者或者对电脑不太熟悉的小伙伴,可能会觉得这个过程有点儿繁琐。如果你是个玩游戏的发烧友,或者平时需要进行精细操作的人,那么调节好鼠标的灵敏度就显得格外重要。
新报观察 2024-12-28
金融界2024年12月28日消息,国家知识产权局信息显示,通化钢铁股份有限公司取得一项名为“联通器式加热炉水封槽”的专利,授权公告号CN222211210U,申请日期为2024年4月。专利摘要显示,本实用新型涉及钢铁厂加热炉设备领域,即联通器式加热炉水封槽。可使投入式液位计能够准确、稳定检测出水封槽内液位的装置。
12月26日至28日,扬子江畔,创新浪潮奔涌,2024中国高校科技成果交易会(以下简称“科交会”)在江苏南京举办。“推介真成果,作出真贡献”“完善高校科技创新机制,提高成果转化效能”……科交会上,浓厚的科技转移转化氛围扑面而来。会议向社会推荐2716项成果,吸引了全国425所高校、2700余家企业、200多家技术转移机构和科技金融机构。
央广网 2024-12-28
《王五笔怎么打》在这个信息化的时代,打字已经成为我们日常生活中不可或缺的一部分。王五笔在传统五笔的基础上,进行了简化和优化,使得输入更加方便。
金融界2024年12月28日消息,国家知识产权局信息显示,睿泽万年(北京)科技有限公司取得一项名为“一种粉煤灰电离还原物用精炼炉”的专利,授权公告号CN222211219U,申请日期为2024年5月。
IT之家12月28日消息,HMDGlobal宣布开始向旗下手机/平板电脑推出安卓15更新,外媒Nokiamob测试获悉HMDPulsePro手机的安卓15包体积为3.12GB,而其他机型的包体积预计将与之接近。诺基亚G425G诺基亚G605G诺基亚XR215G。诺基亚X305GHMDPulseHMDCrest。
IT之家 2024-12-28
康宁杰瑞制药12月27日发布公告称,JSKN003获国家药监局CDE同意开展III期临床研究(JSKN003-306),该研究针对既往接受过1至4线治疗的铂耐药复发性上皮性卵巢癌、原发性腹膜癌或输卵管癌患者全人群。
新京报 2024-12-28
在这个快节奏的现代生活中,手机已经成为我们生活中不可或缺的一部分。无论是用来联系朋友、上网冲浪,还是拍照记录生活,手机承载着我们太多的日常。
12月27日晚间,科兴制药发布公告,终止人干扰素α2b喷雾剂的临床试验。
Copyright © 2026 aigcdaily.cn 北京智识时代科技有限公司 版权所有 京ICP备2023006237号-1