当前位置:首页|资讯|AI芯片|英伟达|GPT-4

初创公司Groq推AI芯片500tokens/秒爆火,贾扬清:Groq成本或是英伟达H100的30倍

作者:钛媒体快报发布时间:2024-02-21

钛媒体App2月21日消息,一家名为Groq的初创公司在AI圈爆火。主要因其自研的LPU芯片在AI推理技术上,通过优化架构和减少内存瓶颈,实现了高效率和低延迟,在处理大模型时的速度远超英伟达GPU,每秒生成速度接近500tokens,而GPT-4仅40tokens。...【查看原文】


Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1