当前位置：首页|资讯|ChatGPT

开源方案复现ChatGPT流程！1.62GB显存即可体验，单机训练提速7.73倍

作者：机器之心Pro发布时间：2023-02-15
ChatGPT

但ChatGPT发布已有数月，市面上不仅没有预训练权重开源，连可靠的完整开源训练流程都仍是空白，更无法实现基于千亿大模型的ChatGPT全流程高效搭建和应用。Colossal-AI以开源方式复现了ChatGP…...【查看原文】

相关资讯

ChatGPT低成本复现流程开源！任意单张消费级显卡可体验，显存需求低至1.62GB

要知道，在单机多卡服务器上，即便把显卡规格提升为A10080GB，由于ChatGPT的复杂性和内存碎片，PyTorch最大也只能启动基于GPT-L（774M）这样的小模型ChatGPT。以ChatGPT可选的…

ChatGPT

量子位 2023-02-19

开源方案低成本复现ChatGPT流程，仅需1.6GB显存即可体验

其声称已通过ZeRO、Gemini、Chunk-based内存管理等技术，极大地降低ChatGPT训练的显存开销；仅需一半硬件资源即可启动1750亿参数模型训练（从64卡到32卡），显著降低应用成本。博客内容…

ChatGPT

OSC开源社区 2023-02-21

ChatGPT低成本复现流程开源！任意单张消费级显卡可体验

首个开源的ChatGPT低成本复现流程来了！预训练、奖励模型训练、强化学习训练，一次性打通。最小demo训练流程仅需1.62GB显存，随便一张消费级显卡都能满足了。单卡模型容量最多提升10.3倍。

ChatGPT

2023-02-15

零门槛复现ChatGPT：预训练模型数据集直接用，包含完整RLHF流程，在线可体验

这不，“首个开源ChatGPT低成本复现流程”就来了波大更新！现在，仅需不到百亿参数，利用RLHF简单微调，模型即可掌握中、英双语能力，达到与ChatGPT和GPT-3.5相当的效果。比如Meta开源了LLaMA模型，其参数量从70亿到650亿不等，号称130亿参数即可胜过1750亿的GPT-3模型在大多数基准测试的表现。

ChatGPTLLaMA

量子位 2023-03-29

188GB显存 800W功耗！NVIDIA发顶级神卡 ChatGPT提速12倍

ChatGPT作为当下最火爆的AI应用，之所以能达到如此“聪明”的程度，背后离不开海量的训练，离不开强大的算力，使用的是NVIDIA A100加速计算卡。GTC 2023春季技术大会上，NVIDIA又发

ChatGPT英伟达

上方文Q 2023-03-22

近期资讯

苏州贝爱特自动化科技取得极耳焊前定位装置专利，适应不同位置极耳焊前定位

金融界2024年12月17日消息，国家知识产权局信息显示，苏州贝爱特自动化科技有限公司取得一项名为“极耳焊前定位装置”的专利，授权公告号CN222154471U，申请日期为2024年4月。

金融界 2024-12-17

配天机器人取得一种自动开盖设备专利

金融界2024年12月17日消息，国家知识产权局信息显示，配天机器人技术有限公司取得一项名为“一种自动开盖设备”的专利，授权公告号CN114477047B，申请日期为2020年10月。

金融界 2024-12-17

天银机电：54颗天银星际PST4S-H1星敏感器应用于“千帆星座”

天银机电在互动平台表示，今年“千帆星座”已发射的三批组网卫星中共应用了54颗天银星际PST4S-H1星敏感器。

金融界 2024-12-17

江西广源申请高表面张力聚乙烯填充母粒专利，有效提高 HDPE 高分子防水卷材表面张力

金融界2024年12月17日消息，国家知识产权局信息显示，江西广源新材料有限公司申请一项名为“一种高表面张力聚乙烯填充母粒及其制备方法和应用”的专利，公开号CN119119672A，申请日期为2024年9月。专利摘要显示，本发明属于填充母粒技术领域，提供了一种高表面张力聚乙烯填充母粒及其制备方法和应用。

金融界 2024-12-17

嘉兴艾可镭取得激光切割设备镜头调节机构专利，解决了现有的激光切割机镜片调节不灵活的问题

金融界2024年12月17日消息，国家知识产权局信息显示，嘉兴艾可镭光电科技有限公司取得一项名为“一种激光切割设备镜头调节机构”的专利，授权公告号CN222154291U，申请日期为2024年3月。

金融界 2024-12-17

安阳市康达齿料磨具取得激光机自动定位装置专利，能实现待加工物体自动校准定位

金融界2024年12月17日消息，国家知识产权局信息显示，安阳市康达齿料磨具有限公司取得一项名为“一种激光机的自动定位装置”的专利，授权公告号CN222154285U，申请日期为2023年12月。

金融界 2024-12-17

深圳市万顺兴科技取得聚焦调中心机构及激光切割头专利，提升了调节效率

金融界2024年12月17日消息，国家知识产权局信息显示，深圳市万顺兴科技有限公司取得一项名为“聚焦调中心机构及激光切割头”的专利，授权公告号CN222154292U，申请日期为2024年3月。

金融界 2024-12-17

上海腊久自动化科技取得一种工业机械人焊接定位工装专利，为板材焊接工作提供方便

金融界2024年12月17日消息，国家知识产权局信息显示，上海腊久自动化科技有限公司取得一项名为“一种工业机械人焊接定位工装”的专利，授权公告号CN222154481U，申请日期为2024年4月。

金融界 2024-12-17

沈阳威宁取得一种切割装置专利，提高卸料工作效率

金融界2024年12月17日消息，国家知识产权局信息显示，沈阳威宁科技有限公司取得一项名为“一种切割装置”的专利，授权公告号CN222154290U，申请日期为2024年3月。

金融界 2024-12-17

思博威激光取得一种 PCD 激光切割机专利，节省设备成本和设置空间

金融界2024年12月17日消息，国家知识产权局信息显示，深圳市思博威激光科技有限公司取得一项名为“一种PCD激光切割机”的专利，授权公告号CN222154288U，申请日期为2024年1月。

金融界 2024-12-17

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响

Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1