芯片推理速度较英伟达GPU提高10倍、成本只有其1/10;运行的大模型生成速度接近每秒500tokens,碾压ChatGPT-3.5大约40tokens/秒的速度——短短几天,一家名为Groq的初创公司在AI圈爆火。...【查看原文】
人们还没从视频生成模型Sora带来的震撼中回过神来,硅谷AI芯片初创公司Groq的大模型又引发了市场热烈讨论,其主打一个“快”,每秒能输出500个token(注:语言模型中用来表示最小文本单元)。相比之下,ChatGPT-3.5每秒生成速度为40个token。在大模型产品多如牛毛的当下,Groq为何得以爆火?
英伟达AI芯片ChatGPT
21世纪经济报道 2024-02-21
鞭牛士3月22日消息,生成式AI的爆火使得成立近30年的英伟达再次迎来高光时刻。针对算力需求巨大的ChatGPT,英伟达发布了NVIDIAH100NVL,这是一种具有94GB内存和加速Transformer引擎的大语言模型(LLM)专用解决方案,配备了双GPUNVLINK的PCIEH100GPU。
ChatGPT生成式AI
鞭牛士 2023-03-22
普通人的智慧眼瞅着就赶不上ChatGPT了。记得在99年刚会上网的时候,就有这么句话:你不知道对面跟你聊天的是人还是狗。ChatGPT的出现,真的是会让很多人分不清对面到底是不是人了。2023年以后不知道这个AI最终会成为什么样子。
ChatGPT
原feng不動 2023-02-07
2023年是人工智能进入大众视野的一年,2024年时人们见证人工智能飞跃的一年。开年以来一波未平一波又起,文生视频大模型Sora的热度还未消散,高速语言推理大模型Groq又横空出世。根据介绍,该模型的推理速度相较于英伟达的GPU提高了10倍,但是成本却只有10%。
GPT-4人工智能英伟达
市值风云 2024-02-20
中国小康网独家专稿文|《小康》·中国小康网袁凯面对Sora的出现,每一个热爱科技与金融的人,都无法置之不理。因为,这不仅仅是技术领域的一个亮点,它对整个经济、社会的影响,极有可能是一场革命。
Sora金融
中国小康网 2024-04-09
快科技12月31日消息,华为轮值董事长孟晚舟今日在2025新年致辞中表示,全球产业链正在重构,供应商伙伴的风雨同舟,给予华为极大的鼓舞与支持。“供应商是我们在新征程上的创新伙伴,与我
2024-12-31
快科技12月31日消息,据报道,自由软件基金会(FSF)发布了名为 “继续向微软施压(Keep putting pressure on Microsoft)” 的文章,鼓励自由软件支持者在 2025 年继续向微软进行施压
快科技12月31日消息,近日连续两起空难事故让更多人将目光瞄向了飞行安全,其实不只是飞行和降落,在起飞阶段同样有着不小的危险。日前在洛杉矶国际机场,有两架飞机在跑道上险些相撞,针对此
落木 2024-12-31
快科技12月31日消息,据报道,云南昆明一公园内发生了一起因直接用手喂食松鼠而导致的意外伤害事件。事件发生在12月28日,当时李先生在公园游玩时,观察到其他游客与松鼠进行亲密互动,于是也
一、前言:一加Ace 5 Pro 抢占骁龙8至尊版性能旗舰的先机为了抢占市场先机,往常习惯在年后发布Pro版的一加,今年早早就给我们带来了一加Ace 5 Pro。在一水的骁龙8至尊版顶级旗舰机型面前
快科技12月31日消息,今天上午,吉利控股集团董事长李书福发表了以《穿越周期稳健笃行》为主题的2025年新年致辞。在致辞中,他表示,总结过去一年,吉利管理层集体共创的《台州宣言》,这是根
快科技12月31日消息,业界公认,想要实现城市高阶智能驾驶辅助,高算力平台必不可少。目前主流的均采用英伟达Orin-X自动驾驶芯片(254 TOPS),最起码也要有1颗,更多的是配备2颗,也就是500
快科技12月31日消息,据媒体报道,近日,中国工程院院士、世界电动车协会创始主席陈清泉做客凤凰网财经《封面》。在访谈中,陈清泉表示,因为现在的电池寿命就是4年,但是一个电厂的寿命是30年
快科技12月31日消息,今天上午,华为轮值董事长孟晚舟今日发布新年致辞《前行路上,你我皆星辰》,对客户、生态伙伴、产业链伙伴、探索者、员工和家属等表达了感谢。她表示,过去六年来,华为
经常坐高铁,但是大家了解驾驶高铁的司机吗?官方今天介绍了一位刚刚光荣退休的高铁司机——刘冬伟。刘冬伟于2006年参加全路动车组司机选拔培训考试,2007年2月取得动车组驾驶资格证
上方文Q 2024-12-31
Copyright © 2025 aigcdaily.cn 北京智识时代科技有限公司 版权所有 京ICP备2023006237号-1