芯片推理速度较英伟达GPU提高10倍、成本只有其1/10;运行的大模型生成速度接近每秒500tokens,碾压ChatGPT-3.5大约40tokens/秒的速度——短短几天,一家名为Groq的初创公司在AI圈爆火。...【查看原文】
人们还没从视频生成模型Sora带来的震撼中回过神来,硅谷AI芯片初创公司Groq的大模型又引发了市场热烈讨论,其主打一个“快”,每秒能输出500个token(注:语言模型中用来表示最小文本单元)。相比之下,ChatGPT-3.5每秒生成速度为40个token。在大模型产品多如牛毛的当下,Groq为何得以爆火?
英伟达AI芯片ChatGPT
21世纪经济报道 2024-02-21
鞭牛士3月22日消息,生成式AI的爆火使得成立近30年的英伟达再次迎来高光时刻。针对算力需求巨大的ChatGPT,英伟达发布了NVIDIAH100NVL,这是一种具有94GB内存和加速Transformer引擎的大语言模型(LLM)专用解决方案,配备了双GPUNVLINK的PCIEH100GPU。
ChatGPT生成式AI
鞭牛士 2023-03-22
普通人的智慧眼瞅着就赶不上ChatGPT了。记得在99年刚会上网的时候,就有这么句话:你不知道对面跟你聊天的是人还是狗。ChatGPT的出现,真的是会让很多人分不清对面到底是不是人了。2023年以后不知道这个AI最终会成为什么样子。
ChatGPT
原feng不動 2023-02-07
2023年是人工智能进入大众视野的一年,2024年时人们见证人工智能飞跃的一年。开年以来一波未平一波又起,文生视频大模型Sora的热度还未消散,高速语言推理大模型Groq又横空出世。根据介绍,该模型的推理速度相较于英伟达的GPU提高了10倍,但是成本却只有10%。
GPT-4人工智能英伟达
市值风云 2024-02-20
中国小康网独家专稿文|《小康》·中国小康网袁凯面对Sora的出现,每一个热爱科技与金融的人,都无法置之不理。因为,这不仅仅是技术领域的一个亮点,它对整个经济、社会的影响,极有可能是一场革命。
Sora金融
中国小康网 2024-04-09
极越汽车闪崩,留下一地鸡毛,苦的是经销商和车主。很多人都在关心,下一个倒下的新能源汽车品牌,会是谁?我们都没有未卜先知的超能力,但可以借助数据管中窥豹。近日,有媒体统计了15家
2024-12-18
快科技12月18日消息,据媒体报道,固态硬盘10至12月的大单优惠价比7至9月低约10%,这是五个季度以来首次出现下跌,此前每个季度上涨10%左右的趋势告一段落。作为PC和服务器等设备的长期数据存
快科技12月18日消息,今天,荣耀宣布荣耀Magic7 RSR保时捷设计搭载行业首创100x AI超级长焦先锋成像,在100倍极限变焦场景下,荣耀Magic7 RSR保时捷设计依然能捕捉到清晰的画面细节。&
快科技12月18日消息,出人意料的事情发生了,就在今日,日媒报道称,日产汽车(Nissan) 和本田(Honda Motor)计划就合并事宜展开谈判,以更好地应对快速变化的全球汽车产业,此外,两家公司还
12月18日消息,绝大多数网红都需要博人眼球,需要流量,这就促使他们不得不绞尽脑汁去“创作”,能力不够的就开始想出一些歪点子。据印度《自由新闻日报》本月16日报道,近日,该国
美国电力监管机构北美电力可靠性协会(NERC)周二(12月17日)警告称,由于发电量跟不上人工智能不断增长的需求,北美电网面临“严重的可靠性挑战”。NERC发现,未来十年电力消耗的飙升
快科技12月18日消息,上汽通用五菱宣布,五菱缤果家族的累计销量已突破400,000辆。11月份,五菱缤果家族销量达到35,728辆,得益于五菱缤果和缤果SUV五座版的双车组合。五菱缤果家族自20
快科技12月18日消息,RTX 50系列即将登场,各家品牌厂商也开始预热,不经意间透露了一些重磅消息,NVIDIA再次遥遥领先。某品牌的预热稿中,赫然提到了“神经渲染”(Neural Render
快科技12月18日消息,据报道,日本商业航天公司“太空一号”(SPACE ONE)的一枚小型固体燃料火箭于当地时间当天11时在位于和歌山县串本町的民间火箭发射场发射。但是该火箭在发射升
快科技12月18日消息,今日,企查查APP显示,荣耀终端有限公司日前发生工商变更,原股东杭州微同股权投资合伙企业(有限合伙)退出,新增股东中金(常德)新兴产业创业投资合伙企业(有限合伙)、
Copyright © 2024 aigcdaily.cn 北京智识时代科技有限公司 版权所有 京ICP备2023006237号-1