阿里云与清华大学共建AI大模型推理项目Mooncake正式开源

作者：凌敏发布时间：2024-11-21

为了加速大模型推理技术的发展，特别是以 KVCache 为中心的缓存池化层的标准化，阿里云与清华大学深度共建Mooncake 项目，结合主流大模型推理框架，抽象池化 KVCache的底层接口，实现高效分布式KVCache。...【查看原文】

相关资讯

清华大学LCM开源项目，迎来AI绘画领域的革命！

清华 AI绘画

AI潮汐 2024-03-29

清华大学唐杰：大模型与超级智能

以下文章来源于中国计算机学会，作者唐杰本文探讨了大模型的发展历程，介绍了作者团队研发的GLM-4大模型，并针对AGI研究面临的挑战对AGI未来发展提出了一些思考。超大规模预训练模型（也称基础模型、大模型，英文为Foundation Model、Big Model等）快速发展，成为国际人工智能领域研究和应用的前沿焦点。OpenAI ChatGPT和Sora的推出引发了社会和公众的广泛关注，并引起了大模型是否会引发新一轮行业变革甚至新一次工业革命的讨论。大模型作为ChatGPT和Sora等生成式人工智能

清华 AGI 人工智能

ChatGLM 2024-05-31

海淀区与清华大学合作签约，共建人工智能产业高地

清华大学党委书记邱勇会见来访的北京市海淀区委书记张革一行，双方围绕深化校地合作、校区协同建设人工智能产业高地进行座谈交流。随后双方签署《海淀区人民政府清华大学共建人工智能产业高地战略合作协议》。

清华人工智能

新京报 2024-03-04

人工智能 | 清华大学ChatGLM大模型

ChatGLM 大模型ChatGLM-6B 是一个开源的、支持中英双语的对话语言模型，基于 General Language Model (GLM) 架构，具有 62 亿参数。结合模型量化技术，用户可以在消费级的显卡上进行本地部署（INT4 量化级别下最低只需 6GB 显存）。ChatGLM-6B 使用了和 ChatGPT 相似的技术，针对中文问答和对话进行了优化。经过约 1T 标识符的中英双语训练，辅以监督微调、反馈自助、人类反馈强化学习等技术的加持，62 亿参数的 ChatGLM-6B 已经能生成相当

人工智能清华 ChatGLM ChatGPT

测吧测试开发 2024-08-28

海淀区与清华大学共建人工智能产业高地战略合作签约仪式举行

清华大学党委书记邱勇会见来访的北京市海淀区委书记张革一行，双方围绕深化校地合作、校区协同建设人工智能产业高地进行座谈交流，并签署战略合作协议。唐超和杨斌代表双方签署《海淀区人民政府清华大学共建人工智能产业高地…

清华人工智能

搜狐教育快讯 2024-03-29

近期资讯

小天才学生平板评测：优缺点与使用体验分析，助力孩子快乐学习

小天才学生平板在市场上引起了不少关注，很多家长和孩子都对它充满了好奇。这款平板到底有什么特别之处呢？另外，平板上还有很多益智类的游戏和互动课程，这些内容不仅仅是为了娱乐，更是为了培养孩子的思维能力和创造力。

新报观察 2024-12-26

长沙融创智胜电子科技申请无电无网下的低功耗无人值守系统以及方法专利，降低检测虚警

金融界2024年12月26日消息，国家知识产权局信息显示，长沙融创智胜电子科技有限公司申请一项名为“无电无网下的低功耗无人值守系统以及方法”的专利，公开号CN119183216A，申请日期为2024年9月。专利摘要显示，本申请涉及一种无电无网下的低功耗无人值守系统以及方法。

金融界 2024-12-26

小米 REDMI Book 16 2025 笔记本拥有 47W 整机性能释放

IT之家12月26日消息，小米REDMIBook162025笔记本今日开启预约，该款笔记本将在明年的Turbo4手机新品发布会上亮相。根据小米REDMI官方最新预热，REDMIBook162025笔记本首批搭载全新英特尔酷睿处理器，拥有47W整机满血性能释放。

IT之家 2024-12-26

中广核智能科技申请SD-WAN网络配置方法专利，减轻控制器负担

金融界2024年12月26日消息，国家知识产权局信息显示，中广核智能科技（深圳）有限责任公司申请一项名为“SD-WAN网络配置方法”的专利，公开号CN119183214A，申请日期为2024年8月。质量。

金融界 2024-12-26

苏州佰拓工业科技取得紧凑型顶升定位单元专利，避免物料盘位置偏移

金融界2024年12月26日消息，国家知识产权局信息显示，苏州佰拓工业科技有限公司取得一项名为“一种紧凑型顶升定位单元”的专利，授权公告号CN222203886U，申请日期为2024年5月。

金融界 2024-12-26

一加元气版新配件发售：含移动电源、充电器、集结线，79 元起

据介绍，一加100W超级闪充元气版移动电源容量为12000mAh，约33分钟即可充满一加Ace5Pro，全面兼容PD/PPS/QC等协议，支持电脑PD45W快充。新品约32分钟即可充满一加Ace5Pro手机，支持80W+45W双口输出，支持PPS/UFCSQC等主流协议以及PD65W。

IT之家 2024-12-26

掌握Excel分类汇总技巧，提高数据处理效率与分析能力的实用指南

今天，我们就来聊聊如何对Excel表格进行分类汇总，这个过程其实并没有想象中的复杂，只要掌握了一些基本的操作技巧，就能轻松搞定。比如，如果你在处理销售数据，那么可能会有“日期”、“产品名称”、“销售额”等列。

新报观察 2024-12-26

管理Windows 10开机启动项的简单方法与技巧，提升开机速度和系统流

其实，设置开机启动项是个很简单的事情，今天就来聊聊怎么调整这些启动项，让你的电脑开机更流畅。虽然这些程序在某些情况下很有用，但如果开机时启动的程序太多，就会占用系统资源，导致开机速度变慢。

新报观察 2024-12-26

水月雨 ×《崩坏：星穹铁道》联名耳机明年 1 月开启新一轮预售

IT之家12月26日消息，水月雨今日发布“水月雨×《崩坏：星穹铁道》联名耳机补货预告”：现首批联名产品已售罄，为响应对联名耳机补货的需求，现特将补货计划公开——公司拟定于2025年1月1日开启2025年4月批次的新一轮预售活动，2025年2-3月份开启5-6月份预售，5-6月份开启7-10月份预售，具体开售时间将根据生产情况另行通告。

IT之家 2024-12-26

性价比之选，容声BCD-218D11N：999元，218升三门节能低噪冰箱

从外观设计到智能功能，再到多层保鲜技术，容声冰箱以其出色的性能和耐用性在市场上备受瞩目。同时，容声冰箱具备多种智能功能，如智能温度控制、智能除菌等，可根据不同的食材和需求进行精确调控，保持食物的新鲜和营养。在国家补贴政策的支持下，容声冰箱BCD-218D11N的到手价仅为999元，相较于市场上其他同类产品，性价比极高。

小米地瓜 2024-12-26

阿里云与清华大学共建AI大模型推理项目Mooncake正式开源

推荐体验

相关资讯

清华大学LCM开源项目，迎来AI绘画领域的革命！

清华大学唐杰：大模型与超级智能

海淀区与清华大学合作签约，共建人工智能产业高地

人工智能 | 清华大学ChatGLM大模型

海淀区与清华大学共建人工智能产业高地战略合作签约仪式举行

近期资讯

小天才学生平板评测：优缺点与使用体验分析，助力孩子快乐学习

长沙融创智胜电子科技申请无电无网下的低功耗无人值守系统以及方法专利，降低检测虚警

小米 REDMI Book 16 2025 笔记本拥有 47W 整机性能释放

中广核智能科技申请SD-WAN网络配置方法专利，减轻控制器负担

苏州佰拓工业科技取得紧凑型顶升定位单元专利，避免物料盘位置偏移

一加元气版新配件发售：含移动电源、充电器、集结线，79 元起

掌握Excel分类汇总技巧，提高数据处理效率与分析能力的实用指南

管理Windows 10开机启动项的简单方法与技巧，提升开机速度和系统流

水月雨 ×《崩坏：星穹铁道》联名耳机明年 1 月开启新一轮预售

性价比之选，容声BCD-218D11N：999元，218升三门节能低噪冰箱

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响