初创公司Groq推AI芯片500tokens/秒爆火，贾扬清：Groq成本或是英伟达H100的30倍

作者：钛媒体快报发布时间：2024-02-21

钛媒体App2月21日消息，一家名为Groq的初创公司在AI圈爆火。主要因其自研的LPU芯片在AI推理技术上，通过优化架构和减少内存瓶颈，实现了高效率和低延迟，在处理大模型时的速度远超英伟达GPU，每秒生成速度接近500tokens，而GPT-4仅40tokens。...【查看原文】

相关资讯

英伟达“超级大金矿”！H100 GPU售价是成本的近10倍【附GPU芯片市场发展情况】

随着AI大模型的爆火，英伟达的GPU供不应求，外媒此前表示英伟达的订单迅速增加，乃至已经排到2024年。其中，性能最强的AI训练H100GPU更是成为抢手货，外媒Tomshardware报道，英伟达今年内计划出售超过55万块H100加速卡，不过这种说法还没有被得到英伟达证实。

英伟达 AI大模型

前瞻网 2023-08-18

关注兔英伟达H100至尊版速度提10倍

关注兔靠着满屏的「生成式 AI」，手握一块支撑 ChatGPT 算力、提速 10 倍的 H100 NVLINK 芯片，老黄就差把这几个字写在脸上 ——「我是赢家」。AI 的 iPhone 时刻已经到来，第四次科技革命就要开启，而手握 A100 和 H100 的英伟达，或成最大赢家。在 GTC 大会上，老黄宣布了英伟达在 GPU、加速库、计算光刻、云平台上的亮眼进步，更是放出豪言 —— 英伟达就是要做 AI 圈的台积电！现在已经有人猜测，今天的演讲都是在 H100 上用 AIGC 模型生成的。ChatGPT

ChatGPT AIGC

靛酊嬭翊 2023-03-22

向英伟达发起挑战的Groq是什么来头？简单科普新型AI芯片LPU

在如今的人工智能领域，「GPU is All You Need」已经逐渐成为共识。没有充足的 GPU，连 OpenAI 都不能轻易升级 ChatGPT。

英伟达 OpenAI AI芯片人工智能 ChatGPT

机器之心 2024-03-07

英伟达稳坐AI芯片市场领导地位，A100/H100系列引领风潮

英伟达 AI芯片人工智能

驱动中国 2024-01-31

英伟达H100两大买家变心！要买AMD最新AI芯片

财联社12月7日讯（编辑周子意）Meta、微软和OpenAI公司周三（12月6日）在AMD投资者活动上表态，未来他们将会使用AMD最新的人工智能（AI）芯片Instinct MI300X。图形处理器（GPU）对于创建和部

英伟达微软 OpenAI AI芯片融资

2023-12-07

近期资讯

小米SU7全年交付量已超过13万台，已提前完成目标

小米汽车28日宣布，截至目前，小米SU7全年交付量已超过13万台，已提前完成全年所有目标。

北京日报 2024-12-28

雷军：小米SU7全年交付量超13万提前完成全年目标

雷递网乐天12月28日小米CEO雷军今日表示，今天是小米汽车正式亮相1周年，截至目前，小米SU7全年交付量已超过13万，已提前完成全年所有目标。雷军说，之所以这么早公示，小米汽车希望YU7测试车可以尽早拆除重伪装。

雷递 2024-12-28

超越ControlNet++！腾讯优图提出动态条件选择新架构

优图、南洋理工、浙大等研究机构联合推出DynamicControl，直接将多模态大语言模型（MLLM）的推理能力集成到文本生成图像（T2I)）任务中。具体来说，给定多个条件和文本提示，研究首先利用预训练的条件生成模型为每个条件生成图像。

量子位 2024-12-28

轻松注册YouTube账号的详细步骤与注意事项解析

在这个数字化的时代，YouTube已经成为了一个不可或缺的平台。如果你还没有注册YouTube账号，别担心，接下来我会详细介绍如何轻松地完成注册过程。不过，我们的目标是注册一个新账号，所以接下来要找一个“登录”按钮。

新报观察 2024-12-28

蓝色起源新格伦火箭首次发射前启动关键测试

钛媒体App12月28日消息，亚马逊创始人杰夫·贝索斯旗下商业航空公司蓝色起源宣布，其大型轨道火箭“新格伦”（NewGlenn）的7台BE-4引擎于佛罗里达州卡纳维拉尔角发射台同时点火，热火持续24秒，并达到所有目标。这是为该火箭首次发射太空铺平道路所需的最后一次关键测试。

钛媒体快报 2024-12-28

深化数智融合、赋能新质生产力升级央广网人工智能创未来主题活动举办

央广网北京12月28日消息（记者齐智颖）12月26日，以“锚定战略笃定信心”为主题的“央广网财经年度对话2024”大型融媒活动在北京举行。

央广网 2024-12-28

机械革命无界 14N 上架，Ultra 5-288V + 32G + 1T 售 6199 元

IT之家12月28日消息，机械革命现已在京东上架无界14N笔记本，该机采用“英特尔酷睿Ultra5-288V+32GBRAM+1TB存储空间”规格，定价为6199元，将于1月13日首销。这款笔记本整体重量1.39千克，厚度17.3mm，机身采用CNC工艺，配备全尺寸方向按键。

IT之家 2024-12-28

巩义市宏萌新材料取得具有密封功能的烧制坩埚专利，提高装置的实用性

金融界2024年12月28日消息，国家知识产权局信息显示，巩义市宏萌新材料有限公司取得一项名为“一种具有密封功能的烧制坩埚”的专利，授权公告号CN222211223U，申请日期为2023年12月。

金融界 2024-12-28

小米汽车：小米SU7全年交付量超13万提前完成全年目标

据小米汽车微博，截至目前，小米SU7全年交付量已超过13万，已提前完成全年所有目标。

证券时报 2024-12-28

中国熟透了的28nm及以上芯片，美国为何会害怕？

所以我们看到，最近几年，美国针对中国的芯片禁令不断升级，更是联手荷兰、日本，将包括EUV光刻机在内的众多先进设备，禁运了。美国之前的目标，是锁住逻辑芯片在14nm，NAND闪存有128层，DRAM内存在18nm即可，至于成熟芯片，就不管了，也管不着。

科技plus 2024-12-28

初创公司Groq推AI芯片500tokens/秒爆火，贾扬清：Groq成本或是英伟达H100的30倍

推荐体验

相关资讯

英伟达“超级大金矿”！H100 GPU售价是成本的近10倍【附GPU芯片市场发展情况】

关注兔英伟达H100至尊版速度提10倍

向英伟达发起挑战的Groq是什么来头？简单科普新型AI芯片LPU

英伟达稳坐AI芯片市场领导地位，A100/H100系列引领风潮

英伟达H100两大买家变心！要买AMD最新AI芯片

近期资讯

小米SU7全年交付量已超过13万台，已提前完成目标

雷军：小米SU7全年交付量超13万提前完成全年目标

超越ControlNet++！腾讯优图提出动态条件选择新架构

轻松注册YouTube账号的详细步骤与注意事项解析

蓝色起源新格伦火箭首次发射前启动关键测试

深化数智融合、赋能新质生产力升级央广网人工智能创未来主题活动举办

机械革命无界 14N 上架，Ultra 5-288V + 32G + 1T 售 6199 元

巩义市宏萌新材料取得具有密封功能的烧制坩埚专利，提高装置的实用性

小米汽车：小米SU7全年交付量超13万提前完成全年目标

中国熟透了的28nm及以上芯片，美国为何会害怕？

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响