英伟达被“偷家”？全新AI芯片横空出世速度比GPU快十倍

作者：金融界发布时间：2024-02-20

芯片推理速度较英伟达GPU提高10倍、成本只有其1/10；运行的大模型生成速度接近每秒500tokens，碾压ChatGPT-3.5大约40tokens/秒的速度——短短几天，一家名为Groq的初创公司在AI圈爆火。...【查看原文】

相关资讯

不用GPU！硅谷Groq大模型横空出世，能否挑战英伟达？

人们还没从视频生成模型Sora带来的震撼中回过神来，硅谷AI芯片初创公司Groq的大模型又引发了市场热烈讨论，其主打一个“快”，每秒能输出500个token（注：语言模型中用来表示最小文本单元）。相比之下，ChatGPT-3.5每秒生成速度为40个token。在大模型产品多如牛毛的当下，Groq为何得以爆火？

英伟达 AI芯片 ChatGPT

21世纪经济报道 2024-02-21

英伟达推出ChatGPT专用GPU，处理速度提升十倍

鞭牛士3月22日消息，生成式AI的爆火使得成立近30年的英伟达再次迎来高光时刻。针对算力需求巨大的ChatGPT，英伟达发布了NVIDIAH100NVL，这是一种具有94GB内存和加速Transformer引擎的大语言模型（LLM）专用解决方案，配备了双GPUNVLINK的PCIEH100GPU。

ChatGPT 生成式AI

鞭牛士 2023-03-22

ChatGPT横空出世

普通人的智慧眼瞅着就赶不上ChatGPT了。记得在99年刚会上网的时候，就有这么句话：你不知道对面跟你聊天的是人还是狗。ChatGPT的出现，真的是会让很多人分不清对面到底是不是人了。2023年以后不知道这个AI最终会成为什么样子。

ChatGPT

原feng不動 2023-02-07

Groq大模型横空出世，速度吊打GPT-4

2023年是人工智能进入大众视野的一年，2024年时人们见证人工智能飞跃的一年。开年以来一波未平一波又起，文生视频大模型Sora的热度还未消散，高速语言推理大模型Groq又横空出世。根据介绍，该模型的推理速度相较于英伟达的GPU提高了10倍，但是成本却只有10%。

GPT-4 人工智能英伟达

市值风云 2024-02-20

Sora横空出世影响几何？

中国小康网独家专稿文|《小康》·中国小康网袁凯面对Sora的出现，每一个热爱科技与金融的人，都无法置之不理。因为，这不仅仅是技术领域的一个亮点，它对整个经济、社会的影响，极有可能是一场革命。

Sora 金融

中国小康网 2024-04-09

近期资讯

当GPT遇到Music

在网上冲浪的时候，发现一个很好玩的项目，MusicGPT，这个项目有趣的点，除了是把Music和GPT结合，还有一点，是使用Rust开发的大模型应用项目，跟通常用python开发的应用截然不同。前端使

大橙子打游戏 2024-12-30

Android 内存优化-车载图片资源

查看设备 DPI 在Android中，屏幕密度通常以DPI（dots per inch，每英寸点数）来表示。DisplayMetrics类中有几个与屏幕密度相关的字段： density：屏幕密度，即屏

BoomHe 2024-12-30

如何通过Java SDK获取Collection

本文介绍如何通过Java SDK获取已创建的Collection对象。如插入Doc、检索Doc、管理Partition等

DashVector 2024-12-30

不为人知的iOS KVO潜力

概述在 iOS 开发中，KVO（Key-Value Observing）是 iOS 中一种强大的观察者模式实现，它允许对象监听其他对象特定属性的改变。当被观察的属性发生变化时，观察者会收到相应的通知

万链飞空 2024-12-30

Solid.js 最新官方文档翻译（14）—— Stores

Solid.js，一个比 React 更 react 的框架。每一个使用 React 的同学，你可以不使用，但不应该不了解。我同时搭建了 Solid.js 最新的中文文档站点：https://soli

冴羽 2024-12-30

鸿蒙List组件使用，添加头组件

系统提供的List组件，是没有头部一说的，比如常见的使用场景如下：从系统提供的方法中，我们是找不到任何可以添加头部的方法的，但是，在实际的开发中，列表上边增加头部信息，确实很常见的。

张小炮 2024-12-30

Hamm 2024-12-30

Deno JSR包管理简单了解下

Deno的包管理工具和软件注册中心JSR(JavaScript Registry),和npm类似.可以在https://jsr.io/中搜索需要的包安装使用像导入任何其他 ES 模块一样导入包：

自律自强的鱼 2024-12-30

英伟达被“偷家”？全新AI芯片横空出世速度比GPU快十倍

推荐体验

相关资讯

不用GPU！硅谷Groq大模型横空出世，能否挑战英伟达？

英伟达推出ChatGPT专用GPU，处理速度提升十倍

ChatGPT横空出世

Groq大模型横空出世，速度吊打GPT-4

Sora横空出世影响几何？

近期资讯

当GPT遇到Music

Android 内存优化-车载图片资源

如何通过Java SDK获取Collection

不为人知的iOS KVO潜力

Solid.js 最新官方文档翻译（14）—— Stores

鸿蒙List组件使用，添加头组件

Vue3最新Router带来哪些颠覆性变化？

【LangGraph】强大的功能人类和agent的交互（上）

如此封装一个不一样的Table组件，让你的列表开发速度更快更优雅

Deno JSR包管理简单了解下

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响

英伟达被“偷家”？全新AI芯片横空出世 速度比GPU快十倍

英伟达被“偷家”？全新AI芯片横空出世速度比GPU快十倍