阿里云与清华大学共建AI大模型推理项目Mooncake正式开源

作者：凌敏发布时间：2024-11-21

为了加速大模型推理技术的发展，特别是以 KVCache 为中心的缓存池化层的标准化，阿里云与清华大学深度共建Mooncake 项目，结合主流大模型推理框架，抽象池化 KVCache的底层接口，实现高效分布式KVCache。...【查看原文】

相关资讯

清华大学LCM开源项目，迎来AI绘画领域的革命！

清华 AI绘画

AI潮汐 2024-03-29

清华大学唐杰：大模型与超级智能

以下文章来源于中国计算机学会，作者唐杰本文探讨了大模型的发展历程，介绍了作者团队研发的GLM-4大模型，并针对AGI研究面临的挑战对AGI未来发展提出了一些思考。超大规模预训练模型（也称基础模型、大模型，英文为Foundation Model、Big Model等）快速发展，成为国际人工智能领域研究和应用的前沿焦点。OpenAI ChatGPT和Sora的推出引发了社会和公众的广泛关注，并引起了大模型是否会引发新一轮行业变革甚至新一次工业革命的讨论。大模型作为ChatGPT和Sora等生成式人工智能

清华 AGI 人工智能

ChatGLM 2024-05-31

海淀区与清华大学合作签约，共建人工智能产业高地

清华大学党委书记邱勇会见来访的北京市海淀区委书记张革一行，双方围绕深化校地合作、校区协同建设人工智能产业高地进行座谈交流。随后双方签署《海淀区人民政府清华大学共建人工智能产业高地战略合作协议》。

清华人工智能

新京报 2024-03-04

人工智能 | 清华大学ChatGLM大模型

ChatGLM 大模型ChatGLM-6B 是一个开源的、支持中英双语的对话语言模型，基于 General Language Model (GLM) 架构，具有 62 亿参数。结合模型量化技术，用户可以在消费级的显卡上进行本地部署（INT4 量化级别下最低只需 6GB 显存）。ChatGLM-6B 使用了和 ChatGPT 相似的技术，针对中文问答和对话进行了优化。经过约 1T 标识符的中英双语训练，辅以监督微调、反馈自助、人类反馈强化学习等技术的加持，62 亿参数的 ChatGLM-6B 已经能生成相当

人工智能清华 ChatGLM ChatGPT

测吧测试开发 2024-08-28

海淀区与清华大学共建人工智能产业高地战略合作签约仪式举行

清华大学党委书记邱勇会见来访的北京市海淀区委书记张革一行，双方围绕深化校地合作、校区协同建设人工智能产业高地进行座谈交流，并签署战略合作协议。唐超和杨斌代表双方签署《海淀区人民政府清华大学共建人工智能产业高地…

清华人工智能

搜狐教育快讯 2024-03-29

近期资讯

Tauri 开源笔记(3) - 本地数据存储

在前端开发中，我们很少接触本地数据存储的功能，这部分工作通常是后端来实现，现在使用使用 Tauri 时，官方提供了相应的插件，可以实现系统级别的存储操作。

codexu 2024-12-30

在线CAD绘制门和窗（网页端二次开发CAD家装设计软件）

一、前言 Mxcad是使用TypeScript、C++语言开发的一个网页CAD底层平台，它为用户提供了丰富的开发接口，此框架功能丰富、使用简易高效，可帮助大家在网页二开与自己专业相关的网页CAD应用。

梦想CAD控件 2024-12-30

怎么手动写代码做一个截图的电脑应用来用来截图

制作一个简单的电脑截图应用，可以使用 Python 结合 `PyQt` 或 `Tkinter` 开发一个图形化界面程序，同时使用 `Pillow` 或 `pyautogui` 来实现截图功能。以下是一

moddy 2024-12-30

深入剖析 First Contentful Paint (FCP) 及优化策略

First Contentful Paint (FCP) 是 Web 性能优化中的关键指标之一，表示浏览器从用户输入 URL 到渲染页面首个内容的时间。一个良好的 FCP 体验不仅能提升用户对网站的第

ErpanOmer 2024-12-30

【HarmonyOS NEXT】ArkTS 线程模型解析与使用

一文解读鸿蒙中ArkTS的进程、线程、并发、并行、同步、异步、阻塞、非阻塞、单线程、多线程。。。。。

冉冉同学 2024-12-30

Vue的热心大菠萝——Pinia

前言 Vue 作为一个流行的前端框架，早期的状态管理解决方案主要依赖于 Vuex。然而，随着 Vue 3 的发布，一个新的状态管理库 Pinia 诞生了。Pinia 致力于提供更简单、更高效、更易用的

zyzzzz 2024-12-30

网页优化两兄弟 —— 懒加载 and 预加载

前言在当今的数字时代，网页的加载速度和用户体验已经成为网站成功的关键因素。在我们日常浏览某些购物网站淘宝京东这种，我们有时候会遇到从上往下滑，图片显示正在加载中这种情况或者进入页面的时候有个load

zyzzzz 2024-12-30

阿里云与清华大学共建AI大模型推理项目Mooncake正式开源

推荐体验

相关资讯

清华大学LCM开源项目，迎来AI绘画领域的革命！

清华大学唐杰：大模型与超级智能

海淀区与清华大学合作签约，共建人工智能产业高地

人工智能 | 清华大学ChatGLM大模型

海淀区与清华大学共建人工智能产业高地战略合作签约仪式举行

近期资讯

Tauri 开源笔记(3) - 本地数据存储

在线CAD绘制门和窗（网页端二次开发CAD家装设计软件）

怎么手动写代码做一个截图的电脑应用来用来截图

深入剖析 First Contentful Paint (FCP) 及优化策略

【HarmonyOS NEXT】ArkTS 线程模型解析与使用

Vue的热心大菠萝——Pinia

网页优化两兄弟 —— 懒加载 and 预加载

Vue转React选手头疼系列之【Fiber篇】

vue3中ref到底在干什么

Flutter使用sign_in_with_apple插件在Android手机上实现苹果登录(Sign in with Apple)

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响