阿里云与清华大学共建AI大模型推理项目Mooncake正式开源

作者：凌敏发布时间：2024-11-21

为了加速大模型推理技术的发展，特别是以 KVCache 为中心的缓存池化层的标准化，阿里云与清华大学深度共建Mooncake 项目，结合主流大模型推理框架，抽象池化 KVCache的底层接口，实现高效分布式KVCache。...【查看原文】

相关资讯

清华大学LCM开源项目，迎来AI绘画领域的革命！

清华 AI绘画

AI潮汐 2024-03-29

清华大学唐杰：大模型与超级智能

以下文章来源于中国计算机学会，作者唐杰本文探讨了大模型的发展历程，介绍了作者团队研发的GLM-4大模型，并针对AGI研究面临的挑战对AGI未来发展提出了一些思考。超大规模预训练模型（也称基础模型、大模型，英文为Foundation Model、Big Model等）快速发展，成为国际人工智能领域研究和应用的前沿焦点。OpenAI ChatGPT和Sora的推出引发了社会和公众的广泛关注，并引起了大模型是否会引发新一轮行业变革甚至新一次工业革命的讨论。大模型作为ChatGPT和Sora等生成式人工智能

清华 AGI 人工智能

ChatGLM 2024-05-31

海淀区与清华大学合作签约，共建人工智能产业高地

清华大学党委书记邱勇会见来访的北京市海淀区委书记张革一行，双方围绕深化校地合作、校区协同建设人工智能产业高地进行座谈交流。随后双方签署《海淀区人民政府清华大学共建人工智能产业高地战略合作协议》。

清华人工智能

新京报 2024-03-04

人工智能 | 清华大学ChatGLM大模型

ChatGLM 大模型ChatGLM-6B 是一个开源的、支持中英双语的对话语言模型，基于 General Language Model (GLM) 架构，具有 62 亿参数。结合模型量化技术，用户可以在消费级的显卡上进行本地部署（INT4 量化级别下最低只需 6GB 显存）。ChatGLM-6B 使用了和 ChatGPT 相似的技术，针对中文问答和对话进行了优化。经过约 1T 标识符的中英双语训练，辅以监督微调、反馈自助、人类反馈强化学习等技术的加持，62 亿参数的 ChatGLM-6B 已经能生成相当

人工智能清华 ChatGLM ChatGPT

测吧测试开发 2024-08-28

海淀区与清华大学共建人工智能产业高地战略合作签约仪式举行

清华大学党委书记邱勇会见来访的北京市海淀区委书记张革一行，双方围绕深化校地合作、校区协同建设人工智能产业高地进行座谈交流，并签署战略合作协议。唐超和杨斌代表双方签署《海淀区人民政府清华大学共建人工智能产业高地…

清华人工智能

搜狐教育快讯 2024-03-29

近期资讯

11月各省汽车销冠品牌盘点：比亚迪封神独占27省销冠

快科技12月26日消息，易车榜根据终端销量数据，发布了11月各省汽车销冠品牌盘点。因为未获取到数据，榜中暂未展示中国台湾省、香港、澳门的销冠品牌。具体来看，比亚迪作为中国车企销冠，在盘

2024-12-26

一年吸金近300亿美元！NVIDIA成2024散户最爱

快科技12月26日消息，据媒体报道，Vanda Researc数据显示，截至今年12月17日，散户投资者净买入英伟达股票接近300亿美元，成为今年散户资金流入最多的公司。Vanda高级副总裁Marco Iachini表示

2024-12-26

崔东树：2024年1-11月中国汽车进口64万辆连续三年负增长

快科技12月26日消息，乘联会秘书长崔东树近日发布博文，指出中国汽车进口市场持续低迷。2024年1-11月，中国汽车进口量为64万辆，同比下降11%，已连续三年负增长。11月单月进口汽车6万辆，同

2024-12-26

激光雷达和纯视觉之争结束了！李想：在中国必须用激光雷达

快科技12月26日消息，今日晚间，2024理想AI Talk对话迎来第二场。被问及“特斯拉没有用激光雷达，你们为什么要用”，理想汽车CEO李想坦言，保留激光雷达，还是为了安全。李想表示

2024-12-26

可以抛弃搜索引擎了 2024年微信最实用的三大AI功能

最近几年，最大的风口当属AI了。但你知道吗，其实微信早在2013年就推出了第一个AI功能——语音输入。今天，微信官方盘点了2024年微信最实用的三大AI功能，最后一个可以告别其他搜索

2024-12-26

帧率提升200%！AMD RX 7900 XT挑战5款FSR 3.0大作

一、前言：蓝宝石RX 7900 XT极地挑战5款FSR 3游戏今年最火的游戏当属《黑神话：悟空》无疑，它也可能是目前为止最为消耗显卡资源的3A大作。即便是强如RTX 4090，在4K分辨率影视级画质下，

2024-12-26

山姆新品价格跳水109元降到19.9元网友：难吃一股馊饭味

快科技12月26日消息，近日，据媒体报道，有网友发帖称，山姆一款名为芝士菠菜洋蓟球的产品从109元降价至19.9元。但山姆客服对此表示，此款商品价格波动不支持价保服务。据悉，网友在品尝这款食

2024-12-26

理想智驾负责人：李想对我发过1次火智驾做不到头部就走

快科技12月26日消息，理想汽车今日晚间举办“2024理想AI Talk”。主持人问道，听说李想对智驾团队曾发了很大的火，你怎么还能留在这儿？对此，理想汽车智能驾驶研发负责人郎咸朋博

2024-12-26

尽显时尚格调：关晓彤手持nova 13 Pro拍绝美大片

快科技12月26日消息，今天下午，关晓彤携手华为nova 13 Pro拍摄了不少绝美大片，并且晒出了自己的华为nova 13 Pro。可以看到，关晓彤与手中拿着的华为nova 13 Pro洛登绿配色非常搭调，尤其背部

2024-12-26

蒂法和爱丽丝3D圣诞图：浓浓的爱意克劳德全身绿

圣诞节已到，游戏博主Ria_neearts、ElenaChatNoir和Emy_san_arts绘制了蒂法与爱丽丝等人的3D圣诞图，展现了节日里他们浓浓的爱意。可以看到，蒂法等人依偎在巴雷特的怀里，一脸开心，旁边的克

2024-12-26

阿里云与清华大学共建AI大模型推理项目Mooncake正式开源

推荐体验

相关资讯

清华大学LCM开源项目，迎来AI绘画领域的革命！

清华大学唐杰：大模型与超级智能

海淀区与清华大学合作签约，共建人工智能产业高地

人工智能 | 清华大学ChatGLM大模型

海淀区与清华大学共建人工智能产业高地战略合作签约仪式举行

近期资讯

11月各省汽车销冠品牌盘点：比亚迪封神独占27省销冠

一年吸金近300亿美元！NVIDIA成2024散户最爱

崔东树：2024年1-11月中国汽车进口64万辆连续三年负增长

激光雷达和纯视觉之争结束了！李想：在中国必须用激光雷达

可以抛弃搜索引擎了 2024年微信最实用的三大AI功能

帧率提升200%！AMD RX 7900 XT挑战5款FSR 3.0大作

山姆新品价格跳水109元降到19.9元网友：难吃一股馊饭味

理想智驾负责人：李想对我发过1次火智驾做不到头部就走

尽显时尚格调：关晓彤手持nova 13 Pro拍绝美大片

蒂法和爱丽丝3D圣诞图：浓浓的爱意克劳德全身绿

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响