ChatGPT低成本复现流程开源！任意单张消费级显卡可体验，显存需求低至1.62GB

作者：量子位发布时间：2023-02-19

ChatGPT

要知道，在单机多卡服务器上，即便把显卡规格提升为A10080GB，由于ChatGPT的复杂性和内存碎片，PyTorch最大也只能启动基于GPT-L（774M）这样的小模型ChatGPT。以ChatGPT可选的…...【查看原文】

相关资讯

ChatGPT低成本复现流程开源！任意单张消费级显卡可体验

首个开源的ChatGPT低成本复现流程来了！预训练、奖励模型训练、强化学习训练，一次性打通。最小demo训练流程仅需1.62GB显存，随便一张消费级显卡都能满足了。单卡模型容量最多提升10.3倍。

ChatGPT

2023-02-15

量子位 2023-05-07

零门槛复现ChatGPT：预训练模型数据集直接用，包含完整RLHF流程，在线可体验

这不，“首个开源ChatGPT低成本复现流程”就来了波大更新！现在，仅需不到百亿参数，利用RLHF简单微调，模型即可掌握中、英双语能力，达到与ChatGPT和GPT-3.5相当的效果。比如Meta开源了LLaMA模型，其参数量从70亿到650亿不等，号称130亿参数即可胜过1750亿的GPT-3模型在大多数基准测试的表现。

ChatGPT LLaMA

量子位 2023-03-29

近期资讯

月售三五千辆的新能源车企还能撑多久？

极越破产，中国新能源车市场竞争加剧。

炫财经 2024-12-26

房地产，终于亮出底牌了

住宅产品升级，注重绿色智能，全方位提升居住体验。

未来城不落 2024-12-26

年终置业正当时，最值得入手项目攻略

年终置业最值得入手项目，天花板级品质，首置必选人气红盘，首付约27万起。

未来城不落 2024-12-26

文化产业上游驱动力：浪潮中的数字化战略

川文投资本“领航弄潮”。

36氪VClub 2024-12-26

美国CS女硕士放弃读博，当主播狂赚100万美金，自曝学术界真相全网唏嘘

CS女硕士放弃读博，做主播模特赚百万美金还清贷款。

新智元 2024-12-26

保利四进中山东区，下半年拿地已超400亿

东区起湾道东侧地块周边相对缺乏竞争，对保利来说是一则好消息。

未来城不落 2024-12-26

北京300亿母基金来了

央企云集。

投资界 2024-12-26

现实监狱拥挤不堪，纯狱风酒店却成了大生意

花钱蹲号子，纵享纯狱风

酷玩实验室 2024-12-26

“同仁堂之争”落幕京津合并牵出百年恩怨

旷日持久的品牌之争。

投资者网 2024-12-26

美股散户力挺英伟达成最大赢家，AMD 新品发布在即，能否改变芯片市场格局？

2024年散户热捧英伟达，AMD CES 2025创新引关注。

美股投资网 2024-12-26

ChatGPT低成本复现流程开源！任意单张消费级显卡可体验，显存需求低至1.62GB

推荐体验

相关资讯

ChatGPT低成本复现流程开源！任意单张消费级显卡可体验

开源方案复现ChatGPT流程！1.62GB显存即可体验，单机训练提速7.73倍

开源方案低成本复现ChatGPT流程，仅需1.6GB显存即可体验

IBM加入战局！任意大模型低成本变ChatGPT方法开源，个别任务超GPT-4

零门槛复现ChatGPT：预训练模型数据集直接用，包含完整RLHF流程，在线可体验

近期资讯

月售三五千辆的新能源车企还能撑多久？

房地产，终于亮出底牌了

年终置业正当时，最值得入手项目攻略

文化产业上游驱动力：浪潮中的数字化战略

美国CS女硕士放弃读博，当主播狂赚100万美金，自曝学术界真相全网唏嘘

保利四进中山东区，下半年拿地已超400亿

北京300亿母基金来了

现实监狱拥挤不堪，纯狱风酒店却成了大生意

“同仁堂之争”落幕京津合并牵出百年恩怨

美股散户力挺英伟达成最大赢家，AMD 新品发布在即，能否改变芯片市场格局？

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响