初创公司Groq推AI芯片500tokens/秒爆火，贾扬清：Groq成本或是英伟达H100的30倍

作者：钛媒体快报发布时间：2024-02-21

钛媒体App2月21日消息，一家名为Groq的初创公司在AI圈爆火。主要因其自研的LPU芯片在AI推理技术上，通过优化架构和减少内存瓶颈，实现了高效率和低延迟，在处理大模型时的速度远超英伟达GPU，每秒生成速度接近500tokens，而GPT-4仅40tokens。...【查看原文】

相关资讯

英伟达“超级大金矿”！H100 GPU售价是成本的近10倍【附GPU芯片市场发展情况】

随着AI大模型的爆火，英伟达的GPU供不应求，外媒此前表示英伟达的订单迅速增加，乃至已经排到2024年。其中，性能最强的AI训练H100GPU更是成为抢手货，外媒Tomshardware报道，英伟达今年内计划出售超过55万块H100加速卡，不过这种说法还没有被得到英伟达证实。

英伟达 AI大模型

前瞻网 2023-08-18

关注兔英伟达H100至尊版速度提10倍

关注兔靠着满屏的「生成式 AI」，手握一块支撑 ChatGPT 算力、提速 10 倍的 H100 NVLINK 芯片，老黄就差把这几个字写在脸上 ——「我是赢家」。AI 的 iPhone 时刻已经到来，第四次科技革命就要开启，而手握 A100 和 H100 的英伟达，或成最大赢家。在 GTC 大会上，老黄宣布了英伟达在 GPU、加速库、计算光刻、云平台上的亮眼进步，更是放出豪言 —— 英伟达就是要做 AI 圈的台积电！现在已经有人猜测，今天的演讲都是在 H100 上用 AIGC 模型生成的。ChatGPT

ChatGPT AIGC

靛酊嬭翊 2023-03-22

向英伟达发起挑战的Groq是什么来头？简单科普新型AI芯片LPU

在如今的人工智能领域，「GPU is All You Need」已经逐渐成为共识。没有充足的 GPU，连 OpenAI 都不能轻易升级 ChatGPT。

英伟达 OpenAI AI芯片人工智能 ChatGPT

机器之心 2024-03-07

英伟达稳坐AI芯片市场领导地位，A100/H100系列引领风潮

英伟达 AI芯片人工智能

驱动中国 2024-01-31

英伟达H100两大买家变心！要买AMD最新AI芯片

财联社12月7日讯（编辑周子意）Meta、微软和OpenAI公司周三（12月6日）在AMD投资者活动上表态，未来他们将会使用AMD最新的人工智能（AI）芯片Instinct MI300X。图形处理器（GPU）对于创建和部

英伟达微软 OpenAI AI芯片融资

2023-12-07

近期资讯

百代申请适用于存算一体化的方法等专利，避免神经网络内的相同网络层次使用不同的偏置值

金融界2024年12月26日消息，国家知识产权局信息显示，百代（上海）数据技术有限公司申请一项名为“适用于存算一体化的方法、存储装置及存储系统”的专利，公开号CN119181408A，申请日期为2024年1月。存储晶体管阵列中任一晶体管的权重之大小可利用其阈值电压进行调节以便为神经网络配置其权重矩阵。

金融界 2024-12-26

经济实用，海尔BC-90GHSDE0W9：519元到手，90升单开门冰箱

#年货节好物集市#选择小冰箱时，应考虑几个关键因素：容量、能效、制冷方式、噪音水平以及空间占用。对于小户型、宿舍或办公室等空间有限的环境，90升左右的单门冰箱通常是一个理想的选择，它能够提供足够的冷藏空间，同时保持低能耗和小巧的体积。

小米地瓜 2024-12-26

华为天际通开通指南：轻松享受全球网络连接

在如今这个信息化的时代，手机已经成为我们生活中不可或缺的一部分。尤其是对于经常出差或者旅游的人来说，能够随时随地保持网络连接是非常重要的。华为天际通就是这样一项服务，它为用户提供了全球范围内的网络连接，解决了在国外上网难的问题。那么，华为天际通到底怎么开通呢？接下来，我就来详细讲讲这个过程。在开始之前，先简单了解一下华为天际通。

新报观察 2024-12-26

成都态坦测试申请固态硬盘高温测试装置专利，提高测试产品的散热效果

金融界2024年12月26日消息，国家知识产权局信息显示，成都态坦测试科技有限公司申请一项名为“一种固态硬盘高温测试装置及其热管理方法”的专利，公开号CN119181413A，申请日期为2024年8月。专利摘要显示，本发明的实施例提供了一种固态硬盘高温测试装置及其热管理方法，涉及微电子封装与测试技术领域。

金融界 2024-12-26

创维BCD-186D：749元到手，186升双门小冰箱，性价比必选

#年货节好物集市#创维（Skyworth）作为国内家电品牌之一，在冰箱市场中占有一席之地。根据市场调研报告，创维冰箱在年度排行榜中位列第8名，市场份额约为3.6%。这显示了创维在冰箱市场中的竞争力和消费者的认可度。创维冰箱以其多样化的产品线和不断创新的技术，满足了不同消费者的需求，从而在激烈的市场竞争中获得了自己的发展空间。

小米地瓜 2024-12-26

节能新选择，美的BCD-235WTPM(E)：1499元到手，235升三门冰箱

#年货节好物集市#美的作为中国知名的家电品牌，凭借其卓越的产品质量和良好的售后服务，赢得了广大消费者的信任。这款冰箱总容积为235升，其中冷藏室容积为112升，冷冻室容积为90升，中门变温室容积为33升，满足不同食物的储存需求。这一数字不仅证明了BCD-235WTPM(E)在市场上的受欢迎程度，也从侧面反映了其高性价比。

小米地瓜 2024-12-26

力瑞信申请一种固态硬盘的测试机专利，解决硬盘检测提示信息显示不全问题

金融界2024年12月26日消息，国家知识产权局信息显示，力瑞信（深圳）科技有限公司申请一项名为“一种固态硬盘的测试机”的专利，公开号CN119181416A，申请日期为2024年9月。

金融界 2024-12-26

节能新风尚，海尔BCD-218LHC300GL：1019元，218升三门节能冰箱

海尔冰箱以其创新技术、优质材料和精湛工艺，在全球市场上享有盛誉。海尔不断推出新技术，如智能控温、干湿分储、宽幅变温等，满足不同用户的储存需求，其产品品类之多，几乎可以满足所有家庭的冰箱需求。海尔BCD-218LHC300GL冰箱以其1019元的到手价，成为市场上性价比极高的选择。

小米地瓜 2024-12-26

iPad充不进电的原因及解决方法详解

iPad充不进电，真是让人抓狂的一件事。想象一下，你正计划好在周末用iPad看电影、玩游戏或者处理一些工作，结果发现充电器插上去显示的却是“无效”，这时候心里那个急啊，真是没法形容。

新报观察 2024-12-26

轻松安装电脑字体的简单步骤与技巧分享

别担心，今天就来聊聊如何把那些漂亮的字体轻松地安装到你的电脑上，让你的文档、设计或者任何你想要的地方都能显得更加出彩。首先，你得找到你想要的字体。现在网络上有很多网站提供免费的字体下载，比如GoogleFonts、Dafont、FontSpace等等。

新报观察 2024-12-26

初创公司Groq推AI芯片500tokens/秒爆火，贾扬清：Groq成本或是英伟达H100的30倍

推荐体验

相关资讯

英伟达“超级大金矿”！H100 GPU售价是成本的近10倍【附GPU芯片市场发展情况】

关注兔英伟达H100至尊版速度提10倍

向英伟达发起挑战的Groq是什么来头？简单科普新型AI芯片LPU

英伟达稳坐AI芯片市场领导地位，A100/H100系列引领风潮

英伟达H100两大买家变心！要买AMD最新AI芯片

近期资讯

百代申请适用于存算一体化的方法等专利，避免神经网络内的相同网络层次使用不同的偏置值

经济实用，海尔BC-90GHSDE0W9：519元到手，90升单开门冰箱

华为天际通开通指南：轻松享受全球网络连接

成都态坦测试申请固态硬盘高温测试装置专利，提高测试产品的散热效果

创维BCD-186D：749元到手，186升双门小冰箱，性价比必选

节能新选择，美的BCD-235WTPM(E)：1499元到手，235升三门冰箱

力瑞信申请一种固态硬盘的测试机专利，解决硬盘检测提示信息显示不全问题

节能新风尚，海尔BCD-218LHC300GL：1019元，218升三门节能冰箱

iPad充不进电的原因及解决方法详解

轻松安装电脑字体的简单步骤与技巧分享

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响