机器之心报道 编辑:小舟、泽南 用微调的方法,现在羊驼模型也可以打 ChatGPT 了,这不是随便说说,有测试结果为证。 最近,来自华盛顿大学的 QLoRA 成为了 AI 领域的热门,很多人把它形容为...【查看原文】
机器之心报道 编辑:小舟、泽南 「原驼」大模型输出的内容和 ChatGPT 比,人类也无法区分谁好谁坏。 用微调的方法,现在羊驼模型也可以打 ChatGPT 了,这不是随便说说,有测试结果为证。
ChatGPT
机器之心 2023-05-26
这是开源大模型最新成果,来自羊驼家族的又一重磅成员——华盛顿大学原驼(Guanaco)。更关键的是,与原驼一起提出的新方法QLoRA把微调大模型的显存需求从>780GB降低到<48GB。开源社区直接开始狂欢,相关论文成为24小时内关注度最高的AI论文。
量子位 2023-05-25
自动测试分数达到ChatGPT的99.3%,人类难以分辨两者的回答……这是开源大模型最新成果,来自羊驼家族的又一重磅成员——华盛顿大学原驼(Guanaco)。更关键的是,与原驼一起提出的新方法QLoRA把微调大模型的显存需求从>780GB降低到。开源社区直接开始狂欢,相关论文成为24小时内关注度最高的AI论文。以Meta的美洲驼LLaMA为基础,得到原驼650亿参数版只需要48GB显存单卡微调24小时,330亿参数版只需要24GB显存单卡微调12小时。24GB显存,也就是一块消费级RTX3090
ChatGPTLLaMA
一起学chatGPT一起学ai 2023-05-27
大杀器QLoRA终于放出了论文和相关实现。单个GPU即可部署的ChatBot,甚至达到了ChatGPT 99%的能力。只需使用消费级GPU微调12个小时就可以达到97%的ChatGPT水平。同时只用4B就可以保持16B精度的效果。QLoRA通过以下三个创新点来优化资源:1. 4Bit NormalFloat 4比特量化2. Double Quantization 双重量化3. Paged Optimizers 分页优化器QLoRA是在LORA的基础上,先对Transformer进行4Bit量化,
ChatGPTLoRA
AI研习所 2023-05-25
还推出新AI加速技术,光刻计算速度提升40倍
量子位 2023-03-22
快科技12月26日消息,今天下午,关晓彤携手华为nova 13 Pro拍摄了不少绝美大片,并且晒出了自己的华为nova 13 Pro。可以看到,关晓彤与手中拿着的华为nova 13 Pro洛登绿配色非常搭调,尤其背部
2024-12-26
快科技12月26日消息,易车榜根据终端销量数据,发布了11月各省汽车销冠品牌盘点。因为未获取到数据,榜中暂未展示中国台湾省、香港、澳门的销冠品牌。具体来看,比亚迪作为中国车企销冠,在盘
快科技12月26日消息,创维汽车近日在香港市场推出了SKYWORTH K RHD右舵车型,标志着其全球化进程的进一步加速。此次新车发布共推出三款配置:800V超充版、620舒适版以及的士版。特别值得
王略 2024-12-26
有钱人买车,看重的就是一个情绪价值。一位曾经专注迈巴赫多年,如今转战某国产豪华品牌的销售,曾经这样透露过豪车市场的选车逻辑:在入口上,对汽车品牌和车型的了解主要来自口口相传,广告
网飞今日不仅投放了苦等三年多的《鱿鱼游戏》第二季,还为体育观众提供了一场堪称丝滑,几乎体会不到缓冲之苦的NFL比赛直播——其中包括碧昂斯的中场演出,Post Malone也被拉来客串了
快科技12月26日消息,据报道,多款用于消防、救援等领域使用的无人机集体亮相,标志着北京市低空安全应急产业园正式落户房山区。据介绍,消防救援云梯的高度以及高压水枪的射程通常不足50米,
鹿角 2024-12-26
快科技12月26日消息,乘联会秘书长崔东树近日发布博文,指出中国汽车进口市场持续低迷。2024年1-11月,中国汽车进口量为64万辆,同比下降11%,已连续三年负增长。11月单月进口汽车6万辆,同
快科技12月26日消息,据媒体报道,Vanda Researc数据显示,截至今年12月17日,散户投资者净买入英伟达股票接近300亿美元,成为今年散户资金流入最多的公司。Vanda高级副总裁Marco Iachini表示
快科技12月26日消息,据媒体报道,近日,还在过圣诞节的全球首富马斯克,周三在X平台上发布的两条推文,再度聚焦全球生育率下降的严峻问题。马斯克在其中一则推文中写道,“日本人口目前
要说当前世界上最伟大的科技公司,那苹果一定算一个,自1976年成立以来,一直以其创新精神、卓越品质和对细节的极致追求,不断书写着科技史上的传奇。苹果之所以伟大,不仅是因为它的市值以及
Copyright © 2025 aigcdaily.cn 北京智识时代科技有限公司 版权所有 京ICP备2023006237号-1