ChatGPT低成本复现流程开源！任意单张消费级显卡可体验，显存需求低至1.62GB

作者：量子位发布时间：2023-02-19

ChatGPT

要知道，在单机多卡服务器上，即便把显卡规格提升为A10080GB，由于ChatGPT的复杂性和内存碎片，PyTorch最大也只能启动基于GPT-L（774M）这样的小模型ChatGPT。以ChatGPT可选的…...【查看原文】

相关资讯

ChatGPT低成本复现流程开源！任意单张消费级显卡可体验

首个开源的ChatGPT低成本复现流程来了！预训练、奖励模型训练、强化学习训练，一次性打通。最小demo训练流程仅需1.62GB显存，随便一张消费级显卡都能满足了。单卡模型容量最多提升10.3倍。

ChatGPT

2023-02-15

量子位 2023-05-07

零门槛复现ChatGPT：预训练模型数据集直接用，包含完整RLHF流程，在线可体验

这不，“首个开源ChatGPT低成本复现流程”就来了波大更新！现在，仅需不到百亿参数，利用RLHF简单微调，模型即可掌握中、英双语能力，达到与ChatGPT和GPT-3.5相当的效果。比如Meta开源了LLaMA模型，其参数量从70亿到650亿不等，号称130亿参数即可胜过1750亿的GPT-3模型在大多数基准测试的表现。

ChatGPT LLaMA

量子位 2023-03-29

近期资讯

8点1氪｜高德回应司机因“长期接不到女乘客”投诉平台；分析称失事航班机长最后举动挽救数十人生命；宠物葬礼价格最高可达数万元

长期接不到女乘客网约司机投诉平台，高德回应：平台没有此类限制。

8点1氪 2024-12-27

2024上市游企格局“洗牌”

市场爆款频出

36氪的朋友们 2024-12-27

靠出海，菲律宾人把一个产业干到了国内手游市场同等规模？

在和 AI 没什么关系的东南亚，菲律宾和 AI 正在发生化学反应。

白鲸出海 2024-12-27

祖洛夫：2025将是“投资者地狱，操盘手天堂”

投资者应该为2025年的过山车之旅和最终的下降做好准备。

巴伦周刊 2024-12-27

35亿元，中国汽车老大出海投资受阻

巴西在建工厂是比亚迪海外最大的电动汽车生产基地

车圈能见度 2024-12-27

两只老虎跨越200千米重聚产子，科学家当初为何强行拆散这对青梅竹马？

网友：“真爱”面前，距离不是问题

万物杂志 2024-12-27

京沪11月社零数据下滑说明消费降级？专家：错，这是暖冬及消费活动前置引发的

京沪社零下滑，究竟何原因？

36氪的朋友们 2024-12-27

深圳固尔琦取得储膜装置及膜带输送设备专利，解决放膜过多避免膜带破损

金融界2024年12月26日消息，国家知识产权局信息显示，深圳固尔琦包装机械有限公司取得一项名为“储膜装置及膜带输送设备”的专利，授权公告号CN222204245U，申请日期为2024年5月。

金融界 2024-12-26

智己、阿维塔接连融入大笔资金，新能源汽车背后站满国资投资人

从上海智己汽车到重庆阿维塔，再到广汽埃安、合肥的蔚来、常州的理想，地方国资出手背后是产业驱动和区域发展需求。

36氪的朋友们 2024-12-27

A股基金年内最大“遗珠”

迭创新高的上市银行

36氪的朋友们 2024-12-27

ChatGPT低成本复现流程开源！任意单张消费级显卡可体验，显存需求低至1.62GB

推荐体验

相关资讯

ChatGPT低成本复现流程开源！任意单张消费级显卡可体验

开源方案复现ChatGPT流程！1.62GB显存即可体验，单机训练提速7.73倍

开源方案低成本复现ChatGPT流程，仅需1.6GB显存即可体验

IBM加入战局！任意大模型低成本变ChatGPT方法开源，个别任务超GPT-4

零门槛复现ChatGPT：预训练模型数据集直接用，包含完整RLHF流程，在线可体验

近期资讯

8点1氪｜高德回应司机因“长期接不到女乘客”投诉平台；分析称失事航班机长最后举动挽救数十人生命；宠物葬礼价格最高可达数万元

2024上市游企格局“洗牌”

靠出海，菲律宾人把一个产业干到了国内手游市场同等规模？

祖洛夫：2025将是“投资者地狱，操盘手天堂”

35亿元，中国汽车老大出海投资受阻

两只老虎跨越200千米重聚产子，科学家当初为何强行拆散这对青梅竹马？

京沪11月社零数据下滑说明消费降级？专家：错，这是暖冬及消费活动前置引发的

深圳固尔琦取得储膜装置及膜带输送设备专利，解决放膜过多避免膜带破损

智己、阿维塔接连融入大笔资金，新能源汽车背后站满国资投资人

A股基金年内最大“遗珠”

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响