万字综述大模型高效推理：无问芯穹与清华、上交最新联合研究全面解析大模型推理优化

作者：机器之心发布时间：2024-06-13

近年来，大语言模型（Large Language Models, LLMs）受到学术界和工业界的广泛关注，得益于其在各种语言生成任务上的出色表现，大语言模型推动了各种人工智能应用（例如ChatGPT、...【查看原文】

相关资讯

万字综述大模型高效推理：无问芯穹与清华、上交研究全面解析大模型推理优化

机器之心发布作者：宁雪妃、周紫轩（无问芯穹TechView）近年来，大语言模型（LargeLanguageModels,LLMs）受到学术界和工业界的广泛关注，得益于其在各种语言生成任务上的出色表现，大语言模型推动了各种人工智能应用（例如ChatGPT、Copilot等）的发展。

清华大语言模型人工智能 ChatGPT Copilot

机器之心Pro 2024-06-14

GPU推理提速4倍，256K上下文全球最长：无问芯穹刷新大模型优化记录

大模型业务到底多烧钱？前段时间，华尔街日报的一则报道给出了参考答案。报道显示，微软的 GitHub Copilot 业务（背后由 OpenAI 的 GPT 大模型支撑）虽然每月收费 10 美元，但平

华尔街微软 OpenAI GitHub Copilot

机器之心 2023-11-06

AI大模型技术层行业分析（三）万字解析

AI大模型

人人都是产品经理 2024-10-24

LLM推理提速2.8倍，CMU清华姚班校友提出「投机式推理」引擎SpecInfer，小模型撬动大模型高效推理

随着 ChatGPT 的出现，大规模语言模型（LLM）研究及其应用得到学术界和工业界的广泛关注。一方面，开源的 LLM 模型不断涌现，比如 OPT、BLOOM、LLaMA 等，这些预训练模型的推出极大

清华 ChatGPT LLaMA

机器之心 2023-06-05

顺为资本联想等入股无问芯穹后者为AI大模型算力公司

天眼查App显示，近日，上海无问芯穹智能科技有限公司发生工商变更，新增顺为资本旗下北京顺赢股权投资合伙企业（有限合伙）、联想旗下中小企业发展基金联想（天津）合伙企业（有限合伙），以及上海人工智能产业股权投资基…

AI大模型人工智能融资

DoNews 2024-08-07

近期资讯

特斯拉新款Model Y来了，伪装车雨中狂奔，现款降价甩库存

前后外观大变样，有望1月上市。

智东西 2024-12-30

英伟达计划 2025 上半年发布新一代人形机器人芯片Jetson Thor

IT之家 2024-12-30

AI 需求火爆，消息称台积电明年继续调涨先进制程、封装代工价格

IT之家 2024-12-30

灵初智能发布首个基于强化学习的端到端具身模型 Psi R0

IT之家 2024-12-30

科学家尝试用 AI 开发世界上第一个虚拟人类细胞

IT之家 2024-12-30

vivo 副总裁胡柏山：华为手机拿回应该属于自己的份额

IT之家 2024-12-30

三星集团今年市值蒸发161.25兆韩元！三星电子跌超30%成主因

快科技 2024-12-30

万字综述大模型高效推理：无问芯穹与清华、上交最新联合研究全面解析大模型推理优化

推荐体验

相关资讯

万字综述大模型高效推理：无问芯穹与清华、上交研究全面解析大模型推理优化

GPU推理提速4倍，256K上下文全球最长：无问芯穹刷新大模型优化记录

AI大模型技术层行业分析（三）万字解析

LLM推理提速2.8倍，CMU清华姚班校友提出「投机式推理」引擎SpecInfer，小模型撬动大模型高效推理

顺为资本联想等入股无问芯穹后者为AI大模型算力公司

近期资讯

特斯拉新款Model Y来了，伪装车雨中狂奔，现款降价甩库存

英伟达计划 2025 上半年发布新一代人形机器人芯片Jetson Thor

AI 需求火爆，消息称台积电明年继续调涨先进制程、封装代工价格

灵初智能发布首个基于强化学习的端到端具身模型 Psi R0

科学家尝试用 AI 开发世界上第一个虚拟人类细胞

vivo 副总裁胡柏山：华为手机拿回应该属于自己的份额

9 亿用户背后的秘密：Telegram 如何做到隐私与盈利两不误？

2024年AI大牛，不爱大厂爱创业？

奔驰能守住200万销量红线吗？

三星集团今年市值蒸发161.25兆韩元！三星电子跌超30%成主因

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响