阿里云与清华大学共建AI大模型推理项目Mooncake正式开源

作者：凌敏发布时间：2024-11-21

为了加速大模型推理技术的发展，特别是以 KVCache 为中心的缓存池化层的标准化，阿里云与清华大学深度共建Mooncake 项目，结合主流大模型推理框架，抽象池化 KVCache的底层接口，实现高效分布式KVCache。...【查看原文】

相关资讯

清华大学LCM开源项目，迎来AI绘画领域的革命！

清华 AI绘画

AI潮汐 2024-03-29

清华大学唐杰：大模型与超级智能

以下文章来源于中国计算机学会，作者唐杰本文探讨了大模型的发展历程，介绍了作者团队研发的GLM-4大模型，并针对AGI研究面临的挑战对AGI未来发展提出了一些思考。超大规模预训练模型（也称基础模型、大模型，英文为Foundation Model、Big Model等）快速发展，成为国际人工智能领域研究和应用的前沿焦点。OpenAI ChatGPT和Sora的推出引发了社会和公众的广泛关注，并引起了大模型是否会引发新一轮行业变革甚至新一次工业革命的讨论。大模型作为ChatGPT和Sora等生成式人工智能

清华 AGI 人工智能

ChatGLM 2024-05-31

海淀区与清华大学合作签约，共建人工智能产业高地

清华大学党委书记邱勇会见来访的北京市海淀区委书记张革一行，双方围绕深化校地合作、校区协同建设人工智能产业高地进行座谈交流。随后双方签署《海淀区人民政府清华大学共建人工智能产业高地战略合作协议》。

清华人工智能

新京报 2024-03-04

人工智能 | 清华大学ChatGLM大模型

ChatGLM 大模型ChatGLM-6B 是一个开源的、支持中英双语的对话语言模型，基于 General Language Model (GLM) 架构，具有 62 亿参数。结合模型量化技术，用户可以在消费级的显卡上进行本地部署（INT4 量化级别下最低只需 6GB 显存）。ChatGLM-6B 使用了和 ChatGPT 相似的技术，针对中文问答和对话进行了优化。经过约 1T 标识符的中英双语训练，辅以监督微调、反馈自助、人类反馈强化学习等技术的加持，62 亿参数的 ChatGLM-6B 已经能生成相当

人工智能清华 ChatGLM ChatGPT

测吧测试开发 2024-08-28

海淀区与清华大学共建人工智能产业高地战略合作签约仪式举行

清华大学党委书记邱勇会见来访的北京市海淀区委书记张革一行，双方围绕深化校地合作、校区协同建设人工智能产业高地进行座谈交流，并签署战略合作协议。唐超和杨斌代表双方签署《海淀区人民政府清华大学共建人工智能产业高地…

清华人工智能

搜狐教育快讯 2024-03-29

近期资讯

鸿蒙Next状态管理V2 - @Param装饰器总结

一、概述为增强子组件接受外部参数输入的能力，开发者可使用@Param装饰器。从API version 12开始，在@ComponentV2装饰的自定义组件中支持使用@Param装饰器。当前状态管理（

Freerain9 2024-12-26

圣诞节，前端如何用 vue 实现一个优美的圣诞树效果，然后进行渲染和展示？

圣诞节，今天刚过，忽然想到在这个各种单身狗孤单的节日里面，不如用代码实现一个简单的功能给大家娱乐下，那就是用 vue 进行一个简单的圣诞树演示！要使用 Vue 3 实现一个优美的圣诞树效果，可以通过

moddy 2024-12-26

什么什么有人问我 wire 怎么用？不妨先来学学工厂模式吧！🏭🏭🏭

Hello 大家好啊，今天给大家带来的是工厂模式，在 Go 中工厂模式可以说是和 wire 最搭配的助手了，如果你也想掌握 wire 这个酷酷的依赖注入工具，那不妨先从这篇文章开始，为依赖注入打好铺垫

憨憨睡不醒啊 2024-12-26

Vite 构建 Vue3 组件库之路：集成代码风格规范与提交规范

本文介绍了如何在项目中集成ESLint、Prettier、Husky、lint-staged和commitlint，以规范代码风格和提交流程，确保代码质量和提高开发效率。

慢知行 2024-12-26

Koa2 响应中间件：从基础到进阶的 API 处理方案

在这篇文章中，我们将一起深入探索 Koa2 的响应中间件。我们将从基础概念开始，逐步走向更复杂的应用，确保你能够构建出既一致又易于维护的 API。

surewinT 2024-12-26

仅需一行javaScript代码完成轮播图效果——令你疯狂，令你尖叫，颠覆你认知的JavaScript技巧！🚀

前言我敢说，这是掘金前无仅有的讲解。关注我，我会颠覆你的认知。对您有帮助的话，不妨帮忙投两票呗正式讲解相信90%的前端工作者都写过网页轮播图效果，这在我们网页中是必不可少的。但是我看遍过许多工

Embrace 2024-12-26

🎄𝑀𝑒𝑟𝑟𝑦 𝐶ℎ𝑟𝑖𝑠𝑡𝑚𝑎𝑠 ◟̆◞̆

🎄 𝑀𝑒𝑟𝑟𝑦 𝐶ℎ𝑟𝑖𝑠𝑡𝑚𝑎𝑠 ◟̆◞̆ 今天分享 CodePen 上一位大佬制作的圣诞树。结合Deno，制作成一个可执行程序

Gguu 2024-12-26

Monorepo 项目实现子包的热更新

问题在 Monorepo 项目开发过程中，为了方便，我们一般都将当前仓库中的子包通过 workspace 的方式直接引用。但是子包对外的入口一般都是编译构建后的文件，我们用 workspace 方式

liub89 2024-12-26

云计算架构学习整理（七）：编排

云计算编排的基本概念、好处、使用方法、注意事项，以及编排API的流程。基于云计算编排实现基础设施即代码。

Paramita 2024-12-26

从3D地球开始带你入门Three.js

看了小米su7的3D互动体验网页我直接一整个亚麻呆住了，那是相当的酷炫啊，激动的心颤抖的手我也来写个3D地球来练练手。

wayhome在哪 2024-12-26

阿里云与清华大学共建AI大模型推理项目Mooncake正式开源

推荐体验

相关资讯

清华大学LCM开源项目，迎来AI绘画领域的革命！

清华大学唐杰：大模型与超级智能

海淀区与清华大学合作签约，共建人工智能产业高地

人工智能 | 清华大学ChatGLM大模型

海淀区与清华大学共建人工智能产业高地战略合作签约仪式举行

近期资讯

鸿蒙Next状态管理V2 - @Param装饰器总结

圣诞节，前端如何用 vue 实现一个优美的圣诞树效果，然后进行渲染和展示？

什么什么有人问我 wire 怎么用？不妨先来学学工厂模式吧！🏭🏭🏭

Vite 构建 Vue3 组件库之路：集成代码风格规范与提交规范

Koa2 响应中间件：从基础到进阶的 API 处理方案

仅需一行javaScript代码完成轮播图效果——令你疯狂，令你尖叫，颠覆你认知的JavaScript技巧！🚀

🎄𝑀𝑒𝑟𝑟𝑦 𝐶ℎ𝑟𝑖𝑠𝑡𝑚𝑎𝑠 ◟̆◞̆

Monorepo 项目实现子包的热更新

云计算架构学习整理（七）：编排

从3D地球开始带你入门Three.js

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响