初创公司Groq推AI芯片500tokens/秒爆火，贾扬清：Groq成本或是英伟达H100的30倍

作者：钛媒体快报发布时间：2024-02-21

钛媒体App2月21日消息，一家名为Groq的初创公司在AI圈爆火。主要因其自研的LPU芯片在AI推理技术上，通过优化架构和减少内存瓶颈，实现了高效率和低延迟，在处理大模型时的速度远超英伟达GPU，每秒生成速度接近500tokens，而GPT-4仅40tokens。...【查看原文】

相关资讯

英伟达“超级大金矿”！H100 GPU售价是成本的近10倍【附GPU芯片市场发展情况】

随着AI大模型的爆火，英伟达的GPU供不应求，外媒此前表示英伟达的订单迅速增加，乃至已经排到2024年。其中，性能最强的AI训练H100GPU更是成为抢手货，外媒Tomshardware报道，英伟达今年内计划出售超过55万块H100加速卡，不过这种说法还没有被得到英伟达证实。

英伟达 AI大模型

前瞻网 2023-08-18

关注兔英伟达H100至尊版速度提10倍

关注兔靠着满屏的「生成式 AI」，手握一块支撑 ChatGPT 算力、提速 10 倍的 H100 NVLINK 芯片，老黄就差把这几个字写在脸上 ——「我是赢家」。AI 的 iPhone 时刻已经到来，第四次科技革命就要开启，而手握 A100 和 H100 的英伟达，或成最大赢家。在 GTC 大会上，老黄宣布了英伟达在 GPU、加速库、计算光刻、云平台上的亮眼进步，更是放出豪言 —— 英伟达就是要做 AI 圈的台积电！现在已经有人猜测，今天的演讲都是在 H100 上用 AIGC 模型生成的。ChatGPT

ChatGPT AIGC

靛酊嬭翊 2023-03-22

向英伟达发起挑战的Groq是什么来头？简单科普新型AI芯片LPU

在如今的人工智能领域，「GPU is All You Need」已经逐渐成为共识。没有充足的 GPU，连 OpenAI 都不能轻易升级 ChatGPT。

英伟达 OpenAI AI芯片人工智能 ChatGPT

机器之心 2024-03-07

英伟达稳坐AI芯片市场领导地位，A100/H100系列引领风潮

英伟达 AI芯片人工智能

驱动中国 2024-01-31

英伟达H100两大买家变心！要买AMD最新AI芯片

财联社12月7日讯（编辑周子意）Meta、微软和OpenAI公司周三（12月6日）在AMD投资者活动上表态，未来他们将会使用AMD最新的人工智能（AI）芯片Instinct MI300X。图形处理器（GPU）对于创建和部

英伟达微软 OpenAI AI芯片融资

2023-12-07

近期资讯

赵明回应iPhone降价：让行业更加聚焦消费者价值呈现

快科技12月26日消息，近日，有媒体就iPhone降价一事向荣耀CEO赵明进行提问。赵明表示，竞争越来越卷，iPhone的降价和华为高端常态化可以影响行业，能够让行业更加聚焦消费者价值呈现，自己要在

振亭 2024-12-26

阿里云独家央视春晚创造历史！

快科技12月26日消息，据“中央广电总台总经理室”公众号，日前，中央广播电视总台《2025年春节联欢晚会》分会场发布活动在北京举行，会上，宣布阿里巴巴集团阿里云成为总台春晚云计算

拾柒 2024-12-26

理想祝贺零跑成立九周年：一起为用户带来安全可靠的体验

快科技12月26日消息，理想汽车通过官方微博发布海报，庆祝零跑汽车成立九周年，并表示希望共同为家庭用户创造安全可靠的出行体验。尽管零跑汽车官方微博尚未回应，但网友因两家公司主销的

王略 2024-12-26

我国首个商用堆在线辐照生产同位素装置投运，打破医用同位素长期依赖进口局面

感谢IT之家网友、的线索投递！12月26日消息，据央视财经报道，今天我国首个商用堆在线辐照生产同位素装置，在中核集团秦山核电基地正式投运，首批短周期同位素镥-177也正式出堆，这标志着我国成功掌握利用核电商用堆辐照生产短周期同位素的关键技术。

IT之家 2024-12-26

特斯拉开卖199元摆件：15分钟被抢光，二手交易平台已炒到上千元

（记者李卓玲）特斯拉又一款周边产品遭抢购。12月26日上午10时，特斯拉TeslaBot人形机器人摆件正式对外发售，定价为199元。不过，仅不到15分钟时间，蓝鲸新闻在其官方APP、第三方电商平台官方旗舰店上看到，这款产品均宣告售罄，显示“缺货”“下架”状态。

蓝鲸新闻 2024-12-26

京东员工提前过年！刘强东自掏腰包送8万盒巧克力

快科技12月26日消息，日前，有多位京东员工在网上晒出收到京东集团创始人刘强东赠送的巧克力。刘强东表示，“2024迈向尾声，感谢兄弟们一年的拼搏！我委托了总裁办在今天送来一份小礼物。

拾柒 2024-12-26

全球首款AMD Zen5模块化掌机！

快科技12月26日消息，AMD虽然为新一代掌机定制了锐龙Z2系列处理器，但还是有很多厂商盯上了更强大的锐龙AI 9 HX 370，并且玩出了花，比如AYANEO 3，就创新性地采用了模块化设计。其实，可拆卸

上方文Q 2024-12-26

橘珍堂十年陈藏橘红切片便宜了：100克9.9元

橘珍堂十年陈藏橘红切片100g平时要卖29.9元，今日可领20元优惠券，到手9.9元，包邮。产品规格：严选正毛金绒橘红果、纯天然晾晒、古法手工压果、老师傅切片、古法贮藏陈化。购买提醒：天猫橘

明晖 2024-12-26

蔚来这十年到底怎么花的钱

“不用特别担心这件事情（蔚来的经营状况），每个公司有自己的盈利时间，盈利和亏损经常都是一线之间的事情。”谈及蔚来的经营情况，李斌在年度沟通会上如是说道。尽管蔚来已是一家

2024-12-26

任天堂Switch2真机曝光：U形支架、磁吸Joy-Con接口

据报道，备受瞩目的任天堂Switch 2游戏掌机外观设计近日曝光。新主机巧妙地融入了U形支架设计，并引入了创新的磁吸式Joy-Con接口，不仅提升了用户体验，还保留了机身侧面标志性的任天堂标志，

鹿角 2024-12-26

初创公司Groq推AI芯片500tokens/秒爆火，贾扬清：Groq成本或是英伟达H100的30倍

推荐体验

相关资讯

英伟达“超级大金矿”！H100 GPU售价是成本的近10倍【附GPU芯片市场发展情况】

关注兔英伟达H100至尊版速度提10倍

向英伟达发起挑战的Groq是什么来头？简单科普新型AI芯片LPU

英伟达稳坐AI芯片市场领导地位，A100/H100系列引领风潮

英伟达H100两大买家变心！要买AMD最新AI芯片

近期资讯

赵明回应iPhone降价：让行业更加聚焦消费者价值呈现

阿里云独家央视春晚创造历史！

理想祝贺零跑成立九周年：一起为用户带来安全可靠的体验

我国首个商用堆在线辐照生产同位素装置投运，打破医用同位素长期依赖进口局面

特斯拉开卖199元摆件：15分钟被抢光，二手交易平台已炒到上千元

京东员工提前过年！刘强东自掏腰包送8万盒巧克力

全球首款AMD Zen5模块化掌机！

橘珍堂十年陈藏橘红切片便宜了：100克9.9元

蔚来这十年到底怎么花的钱

任天堂Switch2真机曝光：U形支架、磁吸Joy-Con接口

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响