初创公司Groq推AI芯片500tokens/秒爆火，贾扬清：Groq成本或是英伟达H100的30倍

作者：钛媒体快报发布时间：2024-02-21

钛媒体App2月21日消息，一家名为Groq的初创公司在AI圈爆火。主要因其自研的LPU芯片在AI推理技术上，通过优化架构和减少内存瓶颈，实现了高效率和低延迟，在处理大模型时的速度远超英伟达GPU，每秒生成速度接近500tokens，而GPT-4仅40tokens。...【查看原文】

相关资讯

英伟达“超级大金矿”！H100 GPU售价是成本的近10倍【附GPU芯片市场发展情况】

随着AI大模型的爆火，英伟达的GPU供不应求，外媒此前表示英伟达的订单迅速增加，乃至已经排到2024年。其中，性能最强的AI训练H100GPU更是成为抢手货，外媒Tomshardware报道，英伟达今年内计划出售超过55万块H100加速卡，不过这种说法还没有被得到英伟达证实。

英伟达 AI大模型

前瞻网 2023-08-18

关注兔英伟达H100至尊版速度提10倍

关注兔靠着满屏的「生成式 AI」，手握一块支撑 ChatGPT 算力、提速 10 倍的 H100 NVLINK 芯片，老黄就差把这几个字写在脸上 ——「我是赢家」。AI 的 iPhone 时刻已经到来，第四次科技革命就要开启，而手握 A100 和 H100 的英伟达，或成最大赢家。在 GTC 大会上，老黄宣布了英伟达在 GPU、加速库、计算光刻、云平台上的亮眼进步，更是放出豪言 —— 英伟达就是要做 AI 圈的台积电！现在已经有人猜测，今天的演讲都是在 H100 上用 AIGC 模型生成的。ChatGPT

ChatGPT AIGC

靛酊嬭翊 2023-03-22

英伟达稳坐AI芯片市场领导地位，A100/H100系列引领风潮

英伟达 AI芯片人工智能

驱动中国 2024-01-31

向英伟达发起挑战的Groq是什么来头？简单科普新型AI芯片LPU

在如今的人工智能领域，「GPU is All You Need」已经逐渐成为共识。没有充足的 GPU，连 OpenAI 都不能轻易升级 ChatGPT。

英伟达 OpenAI AI芯片人工智能 ChatGPT

机器之心 2024-03-07

英伟达H100两大买家变心！要买AMD最新AI芯片

财联社12月7日讯（编辑周子意）Meta、微软和OpenAI公司周三（12月6日）在AMD投资者活动上表态，未来他们将会使用AMD最新的人工智能（AI）芯片Instinct MI300X。图形处理器（GPU）对于创建和部

英伟达微软 OpenAI AI芯片融资

2023-12-07

近期资讯

TCL 华星喷墨印刷 OLED 技术新突破：光输出效率提高约 1.5 倍

IT之家10月28日消息，TCL对OLED的兴趣正在增长，特别是喷墨印刷显示器，该公司声称“在图像质量、功耗和寿命方面取得了全面突破”。

IT之家 2024-10-28

湖州前三季度建成61个科学家科普教育基地

湖州市安吉县安城中学报告厅内，近百名学生日前专心聆听着台上中国纺织科学研究院原高级工程师于辛的分享。于辛是“氢弹之父”于敏之子，当天，他为安城中学师生带来题为《愿将一生献宏谋——忆我的父亲于敏》的科学家精神宣讲报告。安城中学是市级科学家科普教育基地，目前湖州市中小学与两院院士、高校教授等结对，累计建设市级科学家科普教育基地121家。

金台资讯 2024-10-28

2024年“AI+教育”变革加速智能化融合达新高度

中新网北京10月26日电(记者夏宾)2024年，被业界看作“AI+教育”的变革之年，人工智能与教育的融合达到了前所未有的高度。

砍柴网 2024-10-28

桂林天马装配式建筑取得装配式轻质墙体搅拌装置专利，使混凝土搅拌更加充分

金融界2024年10月28日消息，国家知识产权局信息显示，桂林天马装配式建筑有限公司取得一项名为“种装配式轻质墙体搅拌装置”的专利，授权公告号CN221872563U，申请日期为2024年2月。

金融界 2024-10-28

苹果下一代iPad Air遭外媒曝光：升级M3芯片和Face ID

手机中国 2024-10-28

与其摸着石头过河，不如骑着iPhone过河

OPPO变了，不是40%的微变，而且是从里到外的变。10月，手机厂商发布会遍地开花。而在众多旗舰新品发布会中，就数黑厂的变化最大，也最令人印象深刻。往年，OPPOFindX系列的发布会大多是在“搞钱之都”——深圳，FindX8专门移师到了“休闲之都”——成都，这就已经暗示了OPPO的产品路线和市场风格的变化。

蓝鲸新闻 2024-10-28

证券时报 2024-10-28

小米智能家电实验中心在武汉启用

鞭牛士10月28日消息，日前，在东湖高新区新落成的小米智能家电实验中心，小米集团大家电部举行“科技家电新起点”媒体沟通会，宣布小米智能家电实验中心在武汉启用。活动上，小米集团与中国家用电器研究院、威凯检测技术有限公司、华中科技大学等三家合作单位共建的联合实验室同时揭牌。

鞭牛士 2024-10-28

初创公司Groq推AI芯片500tokens/秒爆火，贾扬清：Groq成本或是英伟达H100的30倍

推荐体验

相关资讯

英伟达“超级大金矿”！H100 GPU售价是成本的近10倍【附GPU芯片市场发展情况】

关注兔英伟达H100至尊版速度提10倍

英伟达稳坐AI芯片市场领导地位，A100/H100系列引领风潮

向英伟达发起挑战的Groq是什么来头？简单科普新型AI芯片LPU

英伟达H100两大买家变心！要买AMD最新AI芯片

近期资讯

TCL 华星喷墨印刷 OLED 技术新突破：光输出效率提高约 1.5 倍

湖州前三季度建成61个科学家科普教育基地

2024年“AI+教育”变革加速智能化融合达新高度

桂林天马装配式建筑取得装配式轻质墙体搅拌装置专利，使混凝土搅拌更加充分

苹果下一代iPad Air遭外媒曝光：升级M3芯片和Face ID

与其摸着石头过河，不如骑着iPhone过河

小米SU7 Ultra量产版配备赛级碳陶瓷制动盘，跑车中尺寸最大

进博会开幕在即跨国企业“剧透”精彩展品

香港发表金融市场人工智能政策宣言

小米智能家电实验中心在武汉启用

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响