阿里云与清华大学共建AI大模型推理项目Mooncake正式开源

作者：凌敏发布时间：2024-11-21

为了加速大模型推理技术的发展，特别是以 KVCache 为中心的缓存池化层的标准化，阿里云与清华大学深度共建Mooncake 项目，结合主流大模型推理框架，抽象池化 KVCache的底层接口，实现高效分布式KVCache。...【查看原文】

相关资讯

清华大学LCM开源项目，迎来AI绘画领域的革命！

清华 AI绘画

AI潮汐 2024-03-29

清华大学唐杰：大模型与超级智能

以下文章来源于中国计算机学会，作者唐杰本文探讨了大模型的发展历程，介绍了作者团队研发的GLM-4大模型，并针对AGI研究面临的挑战对AGI未来发展提出了一些思考。超大规模预训练模型（也称基础模型、大模型，英文为Foundation Model、Big Model等）快速发展，成为国际人工智能领域研究和应用的前沿焦点。OpenAI ChatGPT和Sora的推出引发了社会和公众的广泛关注，并引起了大模型是否会引发新一轮行业变革甚至新一次工业革命的讨论。大模型作为ChatGPT和Sora等生成式人工智能

清华 AGI 人工智能

ChatGLM 2024-05-31

海淀区与清华大学合作签约，共建人工智能产业高地

清华大学党委书记邱勇会见来访的北京市海淀区委书记张革一行，双方围绕深化校地合作、校区协同建设人工智能产业高地进行座谈交流。随后双方签署《海淀区人民政府清华大学共建人工智能产业高地战略合作协议》。

清华人工智能

新京报 2024-03-04

人工智能 | 清华大学ChatGLM大模型

ChatGLM 大模型ChatGLM-6B 是一个开源的、支持中英双语的对话语言模型，基于 General Language Model (GLM) 架构，具有 62 亿参数。结合模型量化技术，用户可以在消费级的显卡上进行本地部署（INT4 量化级别下最低只需 6GB 显存）。ChatGLM-6B 使用了和 ChatGPT 相似的技术，针对中文问答和对话进行了优化。经过约 1T 标识符的中英双语训练，辅以监督微调、反馈自助、人类反馈强化学习等技术的加持，62 亿参数的 ChatGLM-6B 已经能生成相当

人工智能清华 ChatGLM ChatGPT

测吧测试开发 2024-08-28

海淀区与清华大学共建人工智能产业高地战略合作签约仪式举行

清华大学党委书记邱勇会见来访的北京市海淀区委书记张革一行，双方围绕深化校地合作、校区协同建设人工智能产业高地进行座谈交流，并签署战略合作协议。唐超和杨斌代表双方签署《海淀区人民政府清华大学共建人工智能产业高地…

清华人工智能

搜狐教育快讯 2024-03-29

近期资讯

2025年我国5G基站力争破450万座推动6G技术创新

快科技12月27日消息，日前，全国工业和信息化工作会议在京召开。会议强调，2025年力争累计建成5G基站450万座以上，并推动5G演进和6G技术创新发展。工信部数据显示，截至11月末，我国5G基站总

随心 2024-12-27

大众ID.3被旁车引燃烧成壳保险拒赔！大众送车主一台新车

快科技12月27日消息，日前，一网友在网上发帖维权称，自己的车被隔壁车位的车引燃了，结果对方保险拒赔。车主介绍称，11月27日时，小区地下车库发生车辆自燃事故，她的大众ID.3电动车被烧成了

若风 2024-12-27

中国电动车销量即将反超燃油车：2025年有望突破1200万台

快科技12月27日消息，根外媒报道，到2025年，中国电动汽车市场将实现显著增长，销量预计将同比增长约20%，突破1200万辆，是2022年590万辆销量的两倍多。与此同时，传统燃油车销量预计将下滑超

王略 2024-12-27

8699起壹号本游侠X1 Pro游戏主机上市：锐龙AI9 HX 370

快科技12月27日消息，壹号本游侠X1 Pro游戏主机今日正式上市，首发8699元。据悉，新款游戏主机搭载锐龙AI9 HX 370芯片，12核心24线程，内置Radeon 890M核显，加上XDNA 2架构NPU，AI总算力达80

鹿角 2024-12-27

消息亿纬锂能成为特斯拉第6家电池供应商：2026年开始供货

快科技12月27日消息，据“晚点LatePost”报道，特斯拉已与亿纬锂能达成储能电池供货协议，亿纬锂能的马来西亚工厂计划在2026年开始向特斯拉美国供应储能电池。报道称，今年之前，宁

落木 2024-12-27

2024哪些游戏最赚钱：《黑神话：悟空》进入第一梯队！

快科技12月27日消息，2024年即将落幕，Valve公布了Steam平台总收入最高的游戏榜单，《黑神话：悟空》以其卓越的表现成功跻身铂金级第一梯队。这份榜单并没有披露具体的游戏数据，而是将其分为

黑白 2024-12-27

联发科联手微软：全面优化AI小语言模型

快科技12月27日消息，联发科官方宣布，联发科天玑系列移动平台现已针对微软最新推出的Phi-3.5小语言模型(SLM)进行了专门适配与优化。该优化目前已经落地天玑9400、天玑9300两款旗舰芯片，以及

上方文Q 2024-12-27

小米又一款新品卖爆了！米家智能健腹轮众筹50小时直接售罄

建嘉 2024-12-27

我国首个！商用堆在线辐照生产同位素装置成功投运

快科技12月27日消息，据“中核集团”官微发文，我国首个商用堆在线辐照生产同位素装置在中核集团秦山核电基地正式投运。该套辐照装置为国际首创设计，具有可靠性高、全程屏蔽、生产

鹿角 2024-12-27

美团改善激励机制取消外卖小哥超时扣款！

快科技12月27日消息，今日，美团宣布将建立算法公开机制，持续推动算法向上向善。美团提到，国家有关部门近期组织开展“清朗·网络平台算法典型问题治理”专项行动，提出了算

拾柒 2024-12-27

阿里云与清华大学共建AI大模型推理项目Mooncake正式开源

推荐体验

相关资讯

清华大学LCM开源项目，迎来AI绘画领域的革命！

清华大学唐杰：大模型与超级智能

海淀区与清华大学合作签约，共建人工智能产业高地

人工智能 | 清华大学ChatGLM大模型

海淀区与清华大学共建人工智能产业高地战略合作签约仪式举行

近期资讯

2025年我国5G基站力争破450万座推动6G技术创新

大众ID.3被旁车引燃烧成壳保险拒赔！大众送车主一台新车

中国电动车销量即将反超燃油车：2025年有望突破1200万台

8699起壹号本游侠X1 Pro游戏主机上市：锐龙AI9 HX 370

消息亿纬锂能成为特斯拉第6家电池供应商：2026年开始供货

2024哪些游戏最赚钱：《黑神话：悟空》进入第一梯队！

联发科联手微软：全面优化AI小语言模型

小米又一款新品卖爆了！米家智能健腹轮众筹50小时直接售罄

我国首个！商用堆在线辐照生产同位素装置成功投运

美团改善激励机制取消外卖小哥超时扣款！

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响