芯片推理速度较英伟达GPU提高10倍、成本只有其1/10;运行的大模型生成速度接近每秒500tokens,碾压ChatGPT-3.5大约40tokens/秒的速度——短短几天,一家名为Groq的初创公司在AI圈爆火。...【查看原文】
人们还没从视频生成模型Sora带来的震撼中回过神来,硅谷AI芯片初创公司Groq的大模型又引发了市场热烈讨论,其主打一个“快”,每秒能输出500个token(注:语言模型中用来表示最小文本单元)。相比之下,ChatGPT-3.5每秒生成速度为40个token。在大模型产品多如牛毛的当下,Groq为何得以爆火?
英伟达AI芯片ChatGPT
21世纪经济报道 2024-02-21
鞭牛士3月22日消息,生成式AI的爆火使得成立近30年的英伟达再次迎来高光时刻。针对算力需求巨大的ChatGPT,英伟达发布了NVIDIAH100NVL,这是一种具有94GB内存和加速Transformer引擎的大语言模型(LLM)专用解决方案,配备了双GPUNVLINK的PCIEH100GPU。
ChatGPT生成式AI
鞭牛士 2023-03-22
普通人的智慧眼瞅着就赶不上ChatGPT了。记得在99年刚会上网的时候,就有这么句话:你不知道对面跟你聊天的是人还是狗。ChatGPT的出现,真的是会让很多人分不清对面到底是不是人了。2023年以后不知道这个AI最终会成为什么样子。
ChatGPT
原feng不動 2023-02-07
2023年是人工智能进入大众视野的一年,2024年时人们见证人工智能飞跃的一年。开年以来一波未平一波又起,文生视频大模型Sora的热度还未消散,高速语言推理大模型Groq又横空出世。根据介绍,该模型的推理速度相较于英伟达的GPU提高了10倍,但是成本却只有10%。
GPT-4人工智能英伟达
市值风云 2024-02-20
中国小康网独家专稿文|《小康》·中国小康网袁凯面对Sora的出现,每一个热爱科技与金融的人,都无法置之不理。因为,这不仅仅是技术领域的一个亮点,它对整个经济、社会的影响,极有可能是一场革命。
Sora金融
中国小康网 2024-04-09
杰森·莫玛在DC旧王朝中扮演海王,滚导接管DC宇宙后演员的去向令人关注,莫玛是目前唯一一个接到电话重返DC宇宙的明星。“我喜欢收集漫画,现在没那么热衷了但Lobo(暴狼)一直是
Zhengogo 2024-12-31
不少博主直播为了流量无所不用其极,居然玩到了大马路上,影响了正常交通通行。浙江台州交警12月24日晚接到举报,称中心大道宝龙广场天桥附近有人通过视频平台直播拍摄汽车,严重影响该路段的
随心 2024-12-31
据报道,台积电已于竹科宝山厂试产2nm制程约5000片,相关进展顺利,可望如期量产,后续高雄厂也将跟进量产2nm。台积电此前在法说会上提到,2纳米制程技术研发进展顺利,装置性能和良率皆按照计
建嘉 2024-12-31
快科技12月31日消息,据媒体综合报道,近期,随着哈尔滨冰雪大世界开园,这座以冰雪王国为主题的城市再度成为冬日里的顶流。伴随哈尔滨的热度越来越高,当地的酒店、民宿市场也随之疯狂起来。
秋白 2024-12-31
快科技12月31日消息,据媒体报道,在即将举行的CES 2025上,AMD预计将发布RDNA4架构显卡,首次放弃旗舰显卡,只有高端核心Navi 48、主流核心Navi 44。其中Navi 48芯片将用于即将推出的Radeon
黑白 2024-12-31
12月31日消息,钓鱼佬最大的开心当属不空军,而如果钓到一条大鱼,那绝对能高兴地半天不回家。近日在江西南昌,一男子钓到一条56斤的鳡鱼,于是他将鱼绑在电动车后座上开始绕城转,从晚上7点半
落木 2024-12-31
快科技12月31日消息,字节跳动在AI领域的投入还在加大。据报道,虽然美国极力阻止中国企业获得尖端芯片,但中国互联网巨头字节跳动仍然会想办法通过各种渠道购买并继续使用NVIDIA最先进的AI芯
朝晖 2024-12-31
龙芯中科采用了完全自主的LoongArch龙架构指令集,因此软硬件适配工作更加繁重,今年以来已适配1100多款软件。为了更好地推进生态合作,龙芯生态平台(www.loongeco.cn)现已正式上线,面向龙
上方文Q 2024-12-31
快科技12月31日消息,据“中远海运”官微发文,中国船燃江苏公司在扬州中远海运重工有限公司为其承建的国内首制16000TEU甲醇双燃料集装箱船成功加注甲醇燃料150吨。此次加注标志着我
鹿角 2024-12-31
一、前言:从市场需求看冲牙器的演变还记得当年的冲牙器吗?那些大家伙简直就是口腔里的“消防水龙”,虽然能冲掉牙缝里的残渣,但对敏感牙龈来说,简直是折磨。早期的冲牙器,
东泽 2024-12-31
Copyright © 2026 aigcdaily.cn 北京智识时代科技有限公司 版权所有 京ICP备2023006237号-1