一块GPU搞定ChatGPT；ML系统入坑指南；理解GPU底层架构

作者：OneFlow一流科技发布时间：2023-02-27

ChatGPT

在发展技术，让大模型掌握更多能力的同时，也有人在尝试降低AI所需的算力资源。最近，一种名为FlexGen的技术因为「一块RTX 3090跑ChatGPT体量模型」而获得了人们的关注。...【查看原文】

相关资讯

跑ChatGPT体量模型，从此只需一块GPU：加速百倍的方法来了

传统上，大语言模型（LLM）推理的高计算和内存要求使人们必须使用多个高端AI加速器进行训练。尽管已有研究在训练的背景下讨论了offloading的延迟-吞吐量权衡，但尚未有人将其用于生成LLM推理，这是一个截…

ChatGPT

机器之心Pro 2023-03-01

一块GPU都没用，苹果自研大模型干翻GPT-4？

苹果AI首登iPhone！47页论文曝自研模型，多项测评超GPT-4。

苹果 GPT-4

智东西 2024-07-31

国产GPU雄起！摩尔线程又搞定一家国产AI大模型

快科技7月30日消息，摩尔线程、东华软件云筑AI创新中心联合宣布，双方已完成AI大模型推理测试与适配。基于摩尔线程的全功能GPU国产算力，东华软件打造了AI Agent平台“智多型（A.I.Cogni

AI大模型

2024-07-30

芯原股份戴伟民：GPU到LPU的共同底层

近日，芯原股份（688521）创始人、董事长兼总裁戴伟民先生，在2024上海交通大学校友投资年会上，发表了“ AIGC与芯片设计”的演讲，侃见财经的前瞻对话栏目带着粉丝的好奇心向他请教访谈。AIGC算法与自动驾驶和家居服务等场景的“硬”算法有何不同？两类场景的芯片需求是否兼容？来听一下戴总的回答。

融资 AIGC 自动驾驶

侃见财经 2024-04-16

Stable Diffusion 小白入坑指南2——模型介绍|如何下载

存档点模型(checkpoint，也称ckp大模型，勿跟LoRA搞混)是AI生图的重要依据，算图用的模型可以安装很多个。 Stable Diffusion WebUI在初次启动时，若放模型的资料夹( models/Stable-diffusion)为空，则会自动下载原始版的Stable Diffusion v1.5模型。但是，不同人玩AI生图有不同的需求，以写实风格为主的Stable Diffusion模型可能无法满足所有人。这里推荐一些不错的模型。 1. 模型下载网站目前找Stable Diffus

Stable Diffusion Stable Diffusion WebUI LoRA

CSLShare 2024-03-12

近期资讯

劲方医药向港交所提交上市申请

36氪 2024-12-27

这届年轻人爱上“老年模式”：数字生活极简化的一条蹊径？

化繁为简，当是AI科技产品的终极追求。

雷科技 2024-12-27

尤瓦尔·赫拉利：感受很重要，但请不要成为情绪的奴隶

云科技中信书院 2024-12-27

2024年中国创新药十大谜团

这一切，留待2025年来揭晓

氨基观察 2024-12-27

厦门杀出超级IPO：年入3.68亿，中国第一，打破垄断

做光刻材料的。

铅笔道 2024-12-27

怎样利用微信小店“送礼”功能赚钱？

探索微信小店“送礼”功能背后的商业潜力，本文将带你深入了解如何在微信这个庞大的社交平台上，通过创新的“送礼”功能找到新的盈利模式。

郭静 2024-12-27

国产「替代 iPhone」暗战：四大果味手机，谁让苹果焦虑？

这届国产手机更懂苹果用户。

雷科技 2024-12-27

中国饮食，又被柳叶刀点名了？

陈根谈科技 2024-12-27

28个品牌88次高管调动，美妆人事大地震

2024年，美妆人、财、物都去哪里了。

壹览商业 2024-12-27

国产076两栖攻击舰震撼登场，创三项世界第一

黑科技老黄 2024-12-27

一块GPU搞定ChatGPT；ML系统入坑指南；理解GPU底层架构

推荐体验

相关资讯

跑ChatGPT体量模型，从此只需一块GPU：加速百倍的方法来了

一块GPU都没用，苹果自研大模型干翻GPT-4？

国产GPU雄起！摩尔线程又搞定一家国产AI大模型

芯原股份戴伟民：GPU到LPU的共同底层

Stable Diffusion 小白入坑指南2——模型介绍|如何下载

近期资讯

劲方医药向港交所提交上市申请

这届年轻人爱上“老年模式”：数字生活极简化的一条蹊径？

尤瓦尔·赫拉利：感受很重要，但请不要成为情绪的奴隶

2024年中国创新药十大谜团

厦门杀出超级IPO：年入3.68亿，中国第一，打破垄断

怎样利用微信小店“送礼”功能赚钱？

国产「替代 iPhone」暗战：四大果味手机，谁让苹果焦虑？

中国饮食，又被柳叶刀点名了？

28个品牌88次高管调动，美妆人事大地震

国产076两栖攻击舰震撼登场，创三项世界第一

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响