阿里云与清华大学共建AI大模型推理项目Mooncake正式开源

作者：凌敏发布时间：2024-11-21

为了加速大模型推理技术的发展，特别是以 KVCache 为中心的缓存池化层的标准化，阿里云与清华大学深度共建Mooncake 项目，结合主流大模型推理框架，抽象池化 KVCache的底层接口，实现高效分布式KVCache。...【查看原文】

相关资讯

清华大学LCM开源项目，迎来AI绘画领域的革命！

清华 AI绘画

AI潮汐 2024-03-29

清华大学唐杰：大模型与超级智能

以下文章来源于中国计算机学会，作者唐杰本文探讨了大模型的发展历程，介绍了作者团队研发的GLM-4大模型，并针对AGI研究面临的挑战对AGI未来发展提出了一些思考。超大规模预训练模型（也称基础模型、大模型，英文为Foundation Model、Big Model等）快速发展，成为国际人工智能领域研究和应用的前沿焦点。OpenAI ChatGPT和Sora的推出引发了社会和公众的广泛关注，并引起了大模型是否会引发新一轮行业变革甚至新一次工业革命的讨论。大模型作为ChatGPT和Sora等生成式人工智能

清华 AGI 人工智能

ChatGLM 2024-05-31

海淀区与清华大学合作签约，共建人工智能产业高地

清华大学党委书记邱勇会见来访的北京市海淀区委书记张革一行，双方围绕深化校地合作、校区协同建设人工智能产业高地进行座谈交流。随后双方签署《海淀区人民政府清华大学共建人工智能产业高地战略合作协议》。

清华人工智能

新京报 2024-03-04

人工智能 | 清华大学ChatGLM大模型

ChatGLM 大模型ChatGLM-6B 是一个开源的、支持中英双语的对话语言模型，基于 General Language Model (GLM) 架构，具有 62 亿参数。结合模型量化技术，用户可以在消费级的显卡上进行本地部署（INT4 量化级别下最低只需 6GB 显存）。ChatGLM-6B 使用了和 ChatGPT 相似的技术，针对中文问答和对话进行了优化。经过约 1T 标识符的中英双语训练，辅以监督微调、反馈自助、人类反馈强化学习等技术的加持，62 亿参数的 ChatGLM-6B 已经能生成相当

人工智能清华 ChatGLM ChatGPT

测吧测试开发 2024-08-28

海淀区与清华大学共建人工智能产业高地战略合作签约仪式举行

清华大学党委书记邱勇会见来访的北京市海淀区委书记张革一行，双方围绕深化校地合作、校区协同建设人工智能产业高地进行座谈交流，并签署战略合作协议。唐超和杨斌代表双方签署《海淀区人民政府清华大学共建人工智能产业高地…

清华人工智能

搜狐教育快讯 2024-03-29

近期资讯

MoonBit 2024-12-26

语音合成技术在货拉拉的应用

本文介绍了货拉拉自研TTS技术的应用与优化，包括情感表达、流式合成、多语种支持和音色定制等关键技术，致力于实现更加灵活、实时和自然的语音交互。

货拉拉技术 2024-12-26

营销场景中，如何让你的短信不被识别为垃圾短信

摘要：本调研旨在深入研究手机自动识别垃圾短信的逻辑，以便为营销短信不被误判为垃圾短信提供策略。通过分析垃圾短信的特征、现有识别技术和算法，结合用户接受度等因素，探讨如何优化营销短信的内容和发送方式，

京东云开发者 2024-12-26

React前端权限管理思路

在日常开发中，我们经常使用脚手架工具来快速搭建React项目。这些工具让我们能够迅速启动并运行应用，专注于业务逻辑的实现。

政采云技术 2024-12-26

网页多模态建模思考

导读本文从网页理解业务出发，从多模态信息融合，预训练任务构建角度，探讨通用网页建模方案。首先，指出网页的特殊性，即从不同观察视角下，网页存在富文本、树形结构，和图层堆叠三种形态。在此基础上，对比了多

百度Geek说 2024-12-26

19 个CSS小技巧

什么是CSS？层叠样式表（CSS）是一种样式表语言，描述以HTML编写的页面的呈现方式。CSS是万维网的主要技术，与HTML和JavaScript并列。打字效果 Drop shadow 当你处理

关山月 2024-12-26

2024年，35岁大学班主任工作分享

大一班主任、大二任课老师、大三实习指导老师。3个月娃的爹。高职高专。全年垂直爬升高度8640米，珠穆朗玛峰 8844.43米，除了膝

百万前端向前冲 2024-12-26

ByteHouse技术详解：基于OLAP构建高性能GIS地理空间能力

在数字化时代，地理空间分析（Geospatial Analytics）成为辅助企业市场策略洞察的重要手段。无论是精准广告投放，还是电商物流的效率优化，都离不开对地理空间数据的查询、分析和可视化处理，以

字节跳动技术团队 2024-12-26

阿里云与清华大学共建AI大模型推理项目Mooncake正式开源

推荐体验

相关资讯

清华大学LCM开源项目，迎来AI绘画领域的革命！

清华大学唐杰：大模型与超级智能

海淀区与清华大学合作签约，共建人工智能产业高地

人工智能 | 清华大学ChatGLM大模型

海淀区与清华大学共建人工智能产业高地战略合作签约仪式举行

近期资讯

《爆肝整理》保姆级系列教程-玩转Charles抓包神器教程(6)-Charles安卓手机抓包大揭秘

「数据密集型应用系统设计」读后感与团队高并发高性能实践案例

MoonBit海外首秀｜新加坡Meetup精彩回顾

语音合成技术在货拉拉的应用

营销场景中，如何让你的短信不被识别为垃圾短信

React前端权限管理思路

网页多模态建模思考

19 个CSS小技巧

2024年，35岁大学班主任工作分享

ByteHouse技术详解：基于OLAP构建高性能GIS地理空间能力

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响