阿里云与清华大学共建AI大模型推理项目Mooncake正式开源

作者：凌敏发布时间：2024-11-21

为了加速大模型推理技术的发展，特别是以 KVCache 为中心的缓存池化层的标准化，阿里云与清华大学深度共建Mooncake 项目，结合主流大模型推理框架，抽象池化 KVCache的底层接口，实现高效分布式KVCache。...【查看原文】

相关资讯

清华大学LCM开源项目，迎来AI绘画领域的革命！

清华 AI绘画

AI潮汐 2024-03-29

清华大学唐杰：大模型与超级智能

以下文章来源于中国计算机学会，作者唐杰本文探讨了大模型的发展历程，介绍了作者团队研发的GLM-4大模型，并针对AGI研究面临的挑战对AGI未来发展提出了一些思考。超大规模预训练模型（也称基础模型、大模型，英文为Foundation Model、Big Model等）快速发展，成为国际人工智能领域研究和应用的前沿焦点。OpenAI ChatGPT和Sora的推出引发了社会和公众的广泛关注，并引起了大模型是否会引发新一轮行业变革甚至新一次工业革命的讨论。大模型作为ChatGPT和Sora等生成式人工智能

清华 AGI 人工智能

ChatGLM 2024-05-31

海淀区与清华大学合作签约，共建人工智能产业高地

清华大学党委书记邱勇会见来访的北京市海淀区委书记张革一行，双方围绕深化校地合作、校区协同建设人工智能产业高地进行座谈交流。随后双方签署《海淀区人民政府清华大学共建人工智能产业高地战略合作协议》。

清华人工智能

新京报 2024-03-04

人工智能 | 清华大学ChatGLM大模型

ChatGLM 大模型ChatGLM-6B 是一个开源的、支持中英双语的对话语言模型，基于 General Language Model (GLM) 架构，具有 62 亿参数。结合模型量化技术，用户可以在消费级的显卡上进行本地部署（INT4 量化级别下最低只需 6GB 显存）。ChatGLM-6B 使用了和 ChatGPT 相似的技术，针对中文问答和对话进行了优化。经过约 1T 标识符的中英双语训练，辅以监督微调、反馈自助、人类反馈强化学习等技术的加持，62 亿参数的 ChatGLM-6B 已经能生成相当

人工智能清华 ChatGLM ChatGPT

测吧测试开发 2024-08-28

海淀区与清华大学共建人工智能产业高地战略合作签约仪式举行

清华大学党委书记邱勇会见来访的北京市海淀区委书记张革一行，双方围绕深化校地合作、校区协同建设人工智能产业高地进行座谈交流，并签署战略合作协议。唐超和杨斌代表双方签署《海淀区人民政府清华大学共建人工智能产业高地…

清华人工智能

搜狐教育快讯 2024-03-29

近期资讯

苏州科伦特电气取得一种外观检测装置专利，避免待测零件翻转

金融界2024年12月28日消息，国家知识产权局信息显示，苏州科伦特电气有限公司取得一项名为“一种外观检测装置”的专利，授权公告号CN222212600U，申请日期为2024年4月。

金融界 2024-12-28

苏州锐石艾测取得一种视觉检测机目镜调节机构专利，提高工作效率

金融界2024年12月28日消息，国家知识产权局信息显示，苏州锐石艾测科技有限公司取得一项名为“一种视觉检测机目镜调节机构”的专利，授权公告号CN222212595U，申请日期为2024年3月。专利摘要显示，本实用新型涉及调节机构领域，尤其涉及一种视觉检测机目镜调节机构。

金融界 2024-12-28

平台与商家，携手穿越周期

在数字化时代，平台经济的健康发展对商家和消费者都至关重要。本文深入探讨了2024年平台经济的分水岭，分析了政策支持、公司盈利能力提升以及平台与商家如何共同穿越经济周期的复杂关系。

光子星球 2024-12-28

无锡圣威思取得一种薄膜多光源辅助检测装置专利，便于对检测中的薄膜进行张紧力调节

金融界2024年12月28日消息，国家知识产权局信息显示，无锡圣威思自动化设备有限公司取得一项名为“一种薄膜多光源辅助检测装置”的专利，授权公告号CN222212593U，申请日期为2023年12月。

金融界 2024-12-28

山东东博信息科技取得电子信息工程用硬件检测装置专利，有助于后续摄像头对电路板表面是否有损坏的检测

金融界2024年12月28日消息，国家知识产权局信息显示，山东东博信息科技有限公司取得一项名为“一种电子信息工程用硬件检测装置”的专利，授权公告号CN222212601U，申请日期为2024年4月。专利摘要显示，本实用新型公开了一种电子信息工程用硬件检测装置，涉及电子硬件检测领域。

金融界 2024-12-28

CPO薪资倒挂CEO，创业公司薪酬情况大起底

在创业公司的世界里，薪酬结构总是充满惊喜。你知道吗？有时候，CEO的薪酬可能并不是公司里最高的。本文深入探讨了初创公司中不同职位的薪酬情况，特别是首席产品官（CPO）的薪资如何可能超过CEO。

量子位 2024-12-28

从大模型到自动驾驶，李想的21个最新思考

理想汽车创始人李想近期宣布，理想汽车将不再仅仅定位为汽车制造商，而是转型为一家AI企业。这一战略转变背后，是李想对人工智能、自动驾驶技术的深刻洞察和前瞻思考。

乌鸦智能说 2024-12-28

即时零售行业复盘：2024年10大关键词！

2024年即将远去，尽管全球经济增速放缓，行业竞争加剧，但即时零售行业却依然保持着高速增长。对于这一年，即时零售从业者由于经历不同，角度不同，评价也千差万别。作为即时零售领域的资深研究人员，刘老实总结提炼了以下十个关键词，与大家分享。

即时刘说 2024-12-28

妈妈们的钱包，被巨贵的广播剧掏空了

在数字媒体时代，广播剧作为一种新兴的娱乐形式，正逐渐成为不同年龄层听众的新宠。本文深入探讨了广播剧的流行趋势，分析了它如何成为妈妈们的新宠，以及这一变化背后的经济影响。

听筒Tech 2024-12-28

大模型2024：从 “烧钱” 到 “赚钱” 的急转弯

在2024年这个被视为大模型应用落地的元年，我们见证了人工智能领域的快速发展和市场的重大转变。从中美两国的政策推动到大模型技术的不断突破，再到智算热潮的兴起，大模型产业正经历着从“烧钱”到“赚钱”的急转弯。

数智前线 2024-12-28

阿里云与清华大学共建AI大模型推理项目Mooncake正式开源

推荐体验

相关资讯

清华大学LCM开源项目，迎来AI绘画领域的革命！

清华大学唐杰：大模型与超级智能

海淀区与清华大学合作签约，共建人工智能产业高地

人工智能 | 清华大学ChatGLM大模型

海淀区与清华大学共建人工智能产业高地战略合作签约仪式举行

近期资讯

苏州科伦特电气取得一种外观检测装置专利，避免待测零件翻转

苏州锐石艾测取得一种视觉检测机目镜调节机构专利，提高工作效率

平台与商家，携手穿越周期

无锡圣威思取得一种薄膜多光源辅助检测装置专利，便于对检测中的薄膜进行张紧力调节

山东东博信息科技取得电子信息工程用硬件检测装置专利，有助于后续摄像头对电路板表面是否有损坏的检测

CPO薪资倒挂CEO，创业公司薪酬情况大起底

从大模型到自动驾驶，李想的21个最新思考

即时零售行业复盘：2024年10大关键词！

妈妈们的钱包，被巨贵的广播剧掏空了

大模型2024：从 “烧钱” 到 “赚钱” 的急转弯

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响