ChatGPT低成本复现流程开源！任意单张消费级显卡可体验，显存需求低至1.62GB

作者：量子位发布时间：2023-02-19

ChatGPT

要知道，在单机多卡服务器上，即便把显卡规格提升为A10080GB，由于ChatGPT的复杂性和内存碎片，PyTorch最大也只能启动基于GPT-L（774M）这样的小模型ChatGPT。以ChatGPT可选的…...【查看原文】

相关资讯

ChatGPT低成本复现流程开源！任意单张消费级显卡可体验

首个开源的ChatGPT低成本复现流程来了！预训练、奖励模型训练、强化学习训练，一次性打通。最小demo训练流程仅需1.62GB显存，随便一张消费级显卡都能满足了。单卡模型容量最多提升10.3倍。

ChatGPT

2023-02-15

量子位 2023-05-07

零门槛复现ChatGPT：预训练模型数据集直接用，包含完整RLHF流程，在线可体验

这不，“首个开源ChatGPT低成本复现流程”就来了波大更新！现在，仅需不到百亿参数，利用RLHF简单微调，模型即可掌握中、英双语能力，达到与ChatGPT和GPT-3.5相当的效果。比如Meta开源了LLaMA模型，其参数量从70亿到650亿不等，号称130亿参数即可胜过1750亿的GPT-3模型在大多数基准测试的表现。

ChatGPT LLaMA

量子位 2023-03-29

近期资讯

桥田智能2024：目标全落地，任务已完成

2024年2月：2024年马桥镇企业家联谊会，桥田智能获得闵行区马桥镇2023年度经济发展贡献奖。2024年12月：2024年扶轮奖颁奖典礼在上海金陵紫金山大酒店举行，桥田智能设备有限公司获2024扶轮奖“汽车装备卓越供应商奖”荣誉称号。

极目新闻 2024-12-31

“数智文化”制造业转型发展会议在中山举办

12月30日，“数智文化”制造业转型发展会议在广东省中山市举办。会议由工业和信息化部工业文化发展中心、中山市人民政府、广东省工业和信息化厅共同主办。工业和信息化部信息技术发展司二级巡视员傅永宝、中山市人民政府副秘书长贾木浩出席会议并致辞。

每日经济新闻 2024-12-31

铠侠EXCERIA PLUS G4评测：平衡性能与发热的PCIe 5.0 SSD

在近日，铠侠（KIOXIA）正式发售了旗下首款PCIe5.0的M.2固态硬盘EXCERIAPLUSG4（VD10），相比同类产品普遍达到14000MB/s读取速度，VD10读取速度为10000MB/s，2TB上市价只要1299元，比同类产品低出不少。

ITheat热点科技 2024-12-31

从极简到极致！看华为浏览器如何重新定义上网方式

不过，不同于几年前，随着用户需求的不断变化，现在有不少用户都在追求极简风格，且能够实现极高效率的浏览器。据了解，华为手机用户在升级纯血鸿蒙系统之后，打开浏览器，点击主界面右下角进入个人中心，点击【设置】；随后在设置界面中，点击【主页设置】；最后在主页设置界面，选择【简洁主页】即可开启一个全新的浏览器体验。

砍柴网 2024-12-31

揭秘DeepSeek-V3“物美价廉”的背后：蒸馏技术存在天花板，依赖合成数据训练有风险

最近大火的深度求索DeepSeek-V3模型仅用557万美元的训练费用，就达到了顶尖模型的效果，而且产品价格低廉，因此被网友们戏称为大模型界的“拼多多”。DeepSeek-V3的训练仅使用2048个H800GPU，总训练GPU卡时为2788千小时（其中预训练为2664千小时）。

每日经济新闻 2024-12-31

新年寄语丨麒麟合盛APUS董事长兼CEO李涛：探索AI与医疗健康的无限可能

经观健康2024年，生物医药领域迎来了一个又一个令人振奋的突破与成就，这些进步不仅展示了科学技术在医疗健康行业的强大力量，也预示着未来医疗服务的巨大变革。这一年里，APUS作为最懂全球化的人工智能企业，有幸深度参与到这一波创新浪潮中，通过自身AI能力为医疗健康行业注入了新的活力和无限可能。

经济观察报 2024-12-31

5G基站数3年翻番，16城入选千兆城市，广东新基建再加速

南方都市报、南都大数据研究院“信心有数”栏目，用数据记录广东实现现代化的奋进之路，用数据描绘万马奔腾共创美好的活力之路，用数据书写每一个你我昂扬向上的信心之路。据工业和信息化部最新消息，截至2024年11月末，我国5G移动电话用户突破10亿，占移动电话用户的比例提高至56%，网络基础设施建设深入推进。

南方都市报 2024-12-31

最强性能骁龙8至尊版！一加Ace 5 Pro首销：3399元起

快科技12月31日消息，今天上午10点，一加Ace5Pro迎来首销，售价3399元起。具体来看，12GB+256GB售价3399元；16GB+256GB售价3699元；12GB+512GB售价3999元；16GB+512GB售价4199元；16GB+1TB售价4699元。

驱动之家 2024-12-31

请查收！亚太区“35岁以下科技创新35人”报名指南

（扫码报名）自1999年起，《麻省理工科技评论》每年都会进行“35岁以下科技创新35人（MITTechnologyReviewInnovatorsUnder35；简称“TR35”）的评选，希望在世界范围内找出极有可能改变世界的、极具才华与创新精神的年轻技术创新者或企业家，以此给予他们应得的关注，肯定他们在技术领域的创新工作，鼓励他们继续在...

DeepTech深科技 2024-12-31

南通斯瀚取得绗缝机夹持架移动机构专利，提高保护效果

金融界2024年12月31日消息，国家知识产权局信息显示，南通斯瀚机械有限公司取得一项名为“一种绗缝机的夹持架移动机构”的专利，授权公告号CN222226794U，申请日期为2024年5月。

金融界 2024-12-31

ChatGPT低成本复现流程开源！任意单张消费级显卡可体验，显存需求低至1.62GB

推荐体验

相关资讯

ChatGPT低成本复现流程开源！任意单张消费级显卡可体验

开源方案复现ChatGPT流程！1.62GB显存即可体验，单机训练提速7.73倍

开源方案低成本复现ChatGPT流程，仅需1.6GB显存即可体验

IBM加入战局！任意大模型低成本变ChatGPT方法开源，个别任务超GPT-4

零门槛复现ChatGPT：预训练模型数据集直接用，包含完整RLHF流程，在线可体验

近期资讯

桥田智能2024：目标全落地，任务已完成

“数智文化”制造业转型发展会议在中山举办

铠侠EXCERIA PLUS G4评测：平衡性能与发热的PCIe 5.0 SSD

从极简到极致！看华为浏览器如何重新定义上网方式

揭秘DeepSeek-V3“物美价廉”的背后：蒸馏技术存在天花板，依赖合成数据训练有风险

新年寄语丨麒麟合盛APUS董事长兼CEO李涛：探索AI与医疗健康的无限可能

5G基站数3年翻番，16城入选千兆城市，广东新基建再加速

最强性能骁龙8至尊版！一加Ace 5 Pro首销：3399元起

请查收！亚太区“35岁以下科技创新35人”报名指南

南通斯瀚取得绗缝机夹持架移动机构专利，提高保护效果

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响