ChatGPT低成本复现流程开源！任意单张消费级显卡可体验，显存需求低至1.62GB

作者：量子位发布时间：2023-02-19

ChatGPT

要知道，在单机多卡服务器上，即便把显卡规格提升为A10080GB，由于ChatGPT的复杂性和内存碎片，PyTorch最大也只能启动基于GPT-L（774M）这样的小模型ChatGPT。以ChatGPT可选的…...【查看原文】

相关资讯

ChatGPT低成本复现流程开源！任意单张消费级显卡可体验

首个开源的ChatGPT低成本复现流程来了！预训练、奖励模型训练、强化学习训练，一次性打通。最小demo训练流程仅需1.62GB显存，随便一张消费级显卡都能满足了。单卡模型容量最多提升10.3倍。

ChatGPT

2023-02-15

量子位 2023-05-07

零门槛复现ChatGPT：预训练模型数据集直接用，包含完整RLHF流程，在线可体验

这不，“首个开源ChatGPT低成本复现流程”就来了波大更新！现在，仅需不到百亿参数，利用RLHF简单微调，模型即可掌握中、英双语能力，达到与ChatGPT和GPT-3.5相当的效果。比如Meta开源了LLaMA模型，其参数量从70亿到650亿不等，号称130亿参数即可胜过1750亿的GPT-3模型在大多数基准测试的表现。

ChatGPT LLaMA

量子位 2023-03-29

近期资讯

一个B轮老板的融资被骗经历：“让我买茅台的投资人，都是骗子！”

10家公司凑不出1个融资的。

融资中国 2024-12-25

世茂一边化债，一边打折出售香港酒店

酒店资产较难变现，为回笼资金，世茂不得不折价出售。

未来城不落 2024-12-25

如何在卷疯了的海外市场卖出高价？我们梳理出10家硬件公司赢的秘密 | 硬氪年度策划

红海时代，它们仍然翻倍增长。

袁斯来 2024-12-25

具身元年压轴，智源线虫登Nature子刊封面，具身智能迎新纪元

BAAIWorm天宝实现秀丽线虫闭环仿真。

新智元 2024-12-25

首次，大模型自动搜索人工生命，做出AI科学家的Sakana AI又放大招

Sakana AI推出ASAL，用AI自动搜索人工生命。

机器之心 2024-12-25

详解稻盛和夫拯救日航：600天起死回生，实现扭亏为盈

稻盛重塑日航，注入爱与热情。

中欧商业评论 2024-12-25

首个科学计算基座大模型BBT-Neutron开源，突破大科学装置数据分析瓶颈

谁说大模型不会计算？

新智元 2024-12-25

苹果无边框 iPhone 被曝要推迟，但「无边泳池」不远了

苹果计划无边框iPhone，三星LG面临技术挑战。

爱范儿 2024-12-25

2025，中国商旅市场如何把握新机遇？

国际出行回暖

环球旅讯 2024-12-25

一辆汽车线束长达5公里，行业急需一场革命

汽车工业的线束革命

正解局 2024-12-25

ChatGPT低成本复现流程开源！任意单张消费级显卡可体验，显存需求低至1.62GB

推荐体验

相关资讯

ChatGPT低成本复现流程开源！任意单张消费级显卡可体验

开源方案复现ChatGPT流程！1.62GB显存即可体验，单机训练提速7.73倍

开源方案低成本复现ChatGPT流程，仅需1.6GB显存即可体验

IBM加入战局！任意大模型低成本变ChatGPT方法开源，个别任务超GPT-4

零门槛复现ChatGPT：预训练模型数据集直接用，包含完整RLHF流程，在线可体验

近期资讯

一个B轮老板的融资被骗经历：“让我买茅台的投资人，都是骗子！”

世茂一边化债，一边打折出售香港酒店

如何在卷疯了的海外市场卖出高价？我们梳理出10家硬件公司赢的秘密 | 硬氪年度策划

具身元年压轴，智源线虫登Nature子刊封面，具身智能迎新纪元

首次，大模型自动搜索人工生命，做出AI科学家的Sakana AI又放大招

详解稻盛和夫拯救日航：600天起死回生，实现扭亏为盈

首个科学计算基座大模型BBT-Neutron开源，突破大科学装置数据分析瓶颈

苹果无边框 iPhone 被曝要推迟，但「无边泳池」不远了

2025，中国商旅市场如何把握新机遇？

一辆汽车线束长达5公里，行业急需一场革命

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响