英伟达被“偷家”？全新AI芯片横空出世速度比GPU快十倍

作者：金融界发布时间：2024-02-20

芯片推理速度较英伟达GPU提高10倍、成本只有其1/10；运行的大模型生成速度接近每秒500tokens，碾压ChatGPT-3.5大约40tokens/秒的速度——短短几天，一家名为Groq的初创公司在AI圈爆火。...【查看原文】

相关资讯

不用GPU！硅谷Groq大模型横空出世，能否挑战英伟达？

人们还没从视频生成模型Sora带来的震撼中回过神来，硅谷AI芯片初创公司Groq的大模型又引发了市场热烈讨论，其主打一个“快”，每秒能输出500个token（注：语言模型中用来表示最小文本单元）。相比之下，ChatGPT-3.5每秒生成速度为40个token。在大模型产品多如牛毛的当下，Groq为何得以爆火？

英伟达 AI芯片 ChatGPT

21世纪经济报道 2024-02-21

英伟达推出ChatGPT专用GPU，处理速度提升十倍

鞭牛士3月22日消息，生成式AI的爆火使得成立近30年的英伟达再次迎来高光时刻。针对算力需求巨大的ChatGPT，英伟达发布了NVIDIAH100NVL，这是一种具有94GB内存和加速Transformer引擎的大语言模型（LLM）专用解决方案，配备了双GPUNVLINK的PCIEH100GPU。

ChatGPT 生成式AI

鞭牛士 2023-03-22

ChatGPT横空出世

普通人的智慧眼瞅着就赶不上ChatGPT了。记得在99年刚会上网的时候，就有这么句话：你不知道对面跟你聊天的是人还是狗。ChatGPT的出现，真的是会让很多人分不清对面到底是不是人了。2023年以后不知道这个AI最终会成为什么样子。

ChatGPT

原feng不動 2023-02-07

Groq大模型横空出世，速度吊打GPT-4

2023年是人工智能进入大众视野的一年，2024年时人们见证人工智能飞跃的一年。开年以来一波未平一波又起，文生视频大模型Sora的热度还未消散，高速语言推理大模型Groq又横空出世。根据介绍，该模型的推理速度相较于英伟达的GPU提高了10倍，但是成本却只有10%。

GPT-4 人工智能英伟达

市值风云 2024-02-20

Sora横空出世影响几何？

中国小康网独家专稿文|《小康》·中国小康网袁凯面对Sora的出现，每一个热爱科技与金融的人，都无法置之不理。因为，这不仅仅是技术领域的一个亮点，它对整个经济、社会的影响，极有可能是一场革命。

Sora 金融

中国小康网 2024-04-09

近期资讯

从需求分析到需求设计的怪谈

需求分析是产品经理日常工作内容之一。本文分享了需求分析到产品方案的过程和需要注意的问题点，供大家参考学习。

陈仓了个暗渡 2024-12-30

见到神雕无人预警机后，老外们不淡定了

黑科技老黄 2024-12-30

消息称台积电美国厂近期准备投片量产，初期月产能 1 万片晶圆

IT之家 2024-12-30

大众口腔：业绩良好，分红多，股东却在上市前夕疑似未赚钱就“跑路”

钛媒体APP 2024-12-30

韩国当局将对济州航空进行严格安全检查

36氪 2024-12-30

26 岁 OpenAI 举报人离奇身亡：其母亲要求 FBI 介入调查

IT之家 2024-12-30

揭秘增长黑客中的深层力量：魔法数字对业务增长决定性影响

在产品运营过程中，某一些关键的数据能对整个效果产生极大的影响。只要找到这个关键的“魔法数字”，就能起到事倍功半的效果。这篇文章，我们来看看作者对魔法数字的分析。

佑佑和博博~ 2024-12-30

英伟达被“偷家”？全新AI芯片横空出世速度比GPU快十倍

推荐体验

相关资讯

不用GPU！硅谷Groq大模型横空出世，能否挑战英伟达？

英伟达推出ChatGPT专用GPU，处理速度提升十倍

ChatGPT横空出世

Groq大模型横空出世，速度吊打GPT-4

Sora横空出世影响几何？

近期资讯

从需求分析到需求设计的怪谈

见到神雕无人预警机后，老外们不淡定了

消息称台积电美国厂近期准备投片量产，初期月产能 1 万片晶圆

大众口腔：业绩良好，分红多，股东却在上市前夕疑似未赚钱就“跑路”

韩国当局将对济州航空进行严格安全检查

数据分析误区系列（四）：生日悖论

涉及所有婴幼儿！这种疫苗接种程序有调整

电影《胜券在握》中的必知职场生存法则，你知道多少？（深度好文）

26 岁 OpenAI 举报人离奇身亡：其母亲要求 FBI 介入调查

揭秘增长黑客中的深层力量：魔法数字对业务增长决定性影响

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响

英伟达被“偷家”？全新AI芯片横空出世 速度比GPU快十倍

英伟达被“偷家”？全新AI芯片横空出世速度比GPU快十倍