阿里云与清华大学共建AI大模型推理项目Mooncake正式开源

作者：凌敏发布时间：2024-11-21

为了加速大模型推理技术的发展，特别是以 KVCache 为中心的缓存池化层的标准化，阿里云与清华大学深度共建Mooncake 项目，结合主流大模型推理框架，抽象池化 KVCache的底层接口，实现高效分布式KVCache。...【查看原文】

相关资讯

清华大学LCM开源项目，迎来AI绘画领域的革命！

清华 AI绘画

AI潮汐 2024-03-29

清华大学唐杰：大模型与超级智能

以下文章来源于中国计算机学会，作者唐杰本文探讨了大模型的发展历程，介绍了作者团队研发的GLM-4大模型，并针对AGI研究面临的挑战对AGI未来发展提出了一些思考。超大规模预训练模型（也称基础模型、大模型，英文为Foundation Model、Big Model等）快速发展，成为国际人工智能领域研究和应用的前沿焦点。OpenAI ChatGPT和Sora的推出引发了社会和公众的广泛关注，并引起了大模型是否会引发新一轮行业变革甚至新一次工业革命的讨论。大模型作为ChatGPT和Sora等生成式人工智能

清华 AGI 人工智能

ChatGLM 2024-05-31

海淀区与清华大学合作签约，共建人工智能产业高地

清华大学党委书记邱勇会见来访的北京市海淀区委书记张革一行，双方围绕深化校地合作、校区协同建设人工智能产业高地进行座谈交流。随后双方签署《海淀区人民政府清华大学共建人工智能产业高地战略合作协议》。

清华人工智能

新京报 2024-03-04

人工智能 | 清华大学ChatGLM大模型

ChatGLM 大模型ChatGLM-6B 是一个开源的、支持中英双语的对话语言模型，基于 General Language Model (GLM) 架构，具有 62 亿参数。结合模型量化技术，用户可以在消费级的显卡上进行本地部署（INT4 量化级别下最低只需 6GB 显存）。ChatGLM-6B 使用了和 ChatGPT 相似的技术，针对中文问答和对话进行了优化。经过约 1T 标识符的中英双语训练，辅以监督微调、反馈自助、人类反馈强化学习等技术的加持，62 亿参数的 ChatGLM-6B 已经能生成相当

人工智能清华 ChatGLM ChatGPT

测吧测试开发 2024-08-28

海淀区与清华大学共建人工智能产业高地战略合作签约仪式举行

清华大学党委书记邱勇会见来访的北京市海淀区委书记张革一行，双方围绕深化校地合作、校区协同建设人工智能产业高地进行座谈交流，并签署战略合作协议。唐超和杨斌代表双方签署《海淀区人民政府清华大学共建人工智能产业高地…

清华人工智能

搜狐教育快讯 2024-03-29

近期资讯

比亚迪夏MPV形象代言人身份揭秘：“硬汉”张涵予

快科技12月30日消息，近日比亚迪宣布，品牌旗下中大型智能旗舰MPV比亚迪夏的形象代言人即将亮相。比亚迪透露，代言人的海报关键词包括技艺精湛、沉稳、硬朗、铁汉柔情、实力派影帝、戏路宽广、

2024-12-30

王传福：比亚迪一大半高管是从应届生培养起来的

快科技12月30日消息，比亚迪举办30亿教育慈善基金启动仪式。会上，比亚迪董事长王传福表示，1994年，我拉起一个20人的团队，创办了比亚迪。初创团队中，有我在中南大学的同班同学杨龙忠，还有

2024-12-30

微软开源神器MarkItDown：一键转换任意文件为Markdown的自动化工具

在人工智能和机器学习快速发展的今天，Markdown作为一种轻量级标记语言，正变得越来越重要。它以其简单、清晰和可扩展的特性，成为了文档管理、内容呈现和LLM（大语言模型）辅助工作的首选格式。

几米哥 2024-12-29

AI文献阅读ChatDOC 、ChatPDF 哪个好？

从表格里可以看到ChatDOC与ChatPDF都是基于GPT的产品，但在功能上ChatDOC还是比ChatPDF功能强大的多

栈江湖 2024-12-29

设计Element UI表单组件居然如此简单！

## 0 前言上文讲解了Jest框架对组件库测试，TypeScript和Jest都为代码质量和研发效率。之前实现Container和Button组件以渲染功能为主，可根据不同属性渲染不同样式去实

JavaEdge在掘金 2024-12-29

编造理想MEGA车内摄像头拍摄色情图片：一男子获刑7个月

快科技12月30日消息，理想汽车法务部最新发文，通报了一起有关理想MEGA谣言的后续，涉事男子被除刑拘7个月的处罚。理想汽车法务部称：关于“MEGA车内摄像头拍摄色情图片”谣言一事

2024-12-30

十年还未完善Windows深色模式！微软被痛批

快科技12月30日消息，自2016年微软为Windows 10引入深色模式切换功能以来，用户一直期待系统界面能够实现全面的深色主题。然而将近十年过去了，Windows的深色模式依旧存在诸多缺陷。Windows

2024-12-30

钻石巨头：今年是钻石销售最糟一年库存达顶峰

快科技12月30日消息，据报道，全球最大钻石生产商戴比尔斯集团钻石库存处于2008年金融危机以来的最高水平，价值大约在20亿美元。戴比尔斯集团首席执行官阿尔·库克（Al Cook）表示：&ld

2024-12-30

中国空间站首次公开！181个项目、数据超300TB

12月30日，中国载人航天官方发布了《中国空间站科学研究与应用进展报告》（2024年），这也是中国空间站首次公布此类报告。2022年12月31日，中国空间站全面建成！这标志着我国已成功构起极具

2024-12-30

比亚迪王传福：读上中南大学冶金物理化学专业是一生的幸运

快科技12月30日消息，据媒体综合报道，今天上午，比亚迪正式启动其规模达30亿的教育慈善基金。启动仪式上，比亚迪股份有限公司董事长兼总裁王传福登台，首先介绍了自己的求学路，并且对自己的

2024-12-30

阿里云与清华大学共建AI大模型推理项目Mooncake正式开源

推荐体验

相关资讯

清华大学LCM开源项目，迎来AI绘画领域的革命！

清华大学唐杰：大模型与超级智能

海淀区与清华大学合作签约，共建人工智能产业高地

人工智能 | 清华大学ChatGLM大模型

海淀区与清华大学共建人工智能产业高地战略合作签约仪式举行

近期资讯

比亚迪夏MPV形象代言人身份揭秘：“硬汉”张涵予

王传福：比亚迪一大半高管是从应届生培养起来的

微软开源神器MarkItDown：一键转换任意文件为Markdown的自动化工具

AI文献阅读ChatDOC 、ChatPDF 哪个好？

设计Element UI表单组件居然如此简单！

编造理想MEGA车内摄像头拍摄色情图片：一男子获刑7个月

十年还未完善Windows深色模式！微软被痛批

钻石巨头：今年是钻石销售最糟一年库存达顶峰

中国空间站首次公开！181个项目、数据超300TB

比亚迪王传福：读上中南大学冶金物理化学专业是一生的幸运

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响