当前位置:首页|资讯|昆仑万维|融资|生成式AI|AGI

昆仑万维控股艾捷科芯,蒋毅敏对话半导体行业观察

作者:昆仑万维集团发布时间:2023-11-27

原标题:昆仑万维控股艾捷科芯,蒋毅敏对话半导体行业观察

2023年,以ChatGPT为代表的大模型应用掀起新一轮的人工智能革命。GPT从第一代的50亿个参数,逐渐壮大至GPT4.0的万亿级参数,这背后也意味着对芯片算力的需求的不断攀升。在人工智能时代,算力即生产力和资本。根据浪潮和IDC联合发布的《2020全球计算力指数评估报告》指出:计算力与经济增长紧密相关,计算力指数平均每提高1个点,数字经济和GDP将分别增长3.3‰和1.8‰。AI计算的占比正逐年提高,预计到2024年将达到23%。

然而,我国却正在面临着海外高端算力芯片供应受限,且生成式AI芯片“一芯难求”的局面。AI硬件自主可控成为当务之急。在这样的背景下,9月20日,中国领先的互联网平台出海企业昆仑万维宣布将投资控股AI算力芯片企业艾捷科芯,根据昆仑万维公告,合计出资6.8亿元人民币,获得艾捷科芯58%的股权。增资后,艾捷科芯将纳入公司并表范围。

昆仑万维是生成式AI的积极拥抱者,今年4月17日,公司发布了“天工”通用大模型,其推理能力大幅领先GPT3.5和LLaMA2。此次控股艾捷科芯之后,昆仑万维将进一步完善其AI版图,为生成式AI打下坚实的技术基石。此举不仅标志着昆仑万维成功完成了AGI与AIGC全产业链布局,也意味着国内生成式AI赛道中新添一员大将。

艾捷科芯:专注于生成式AI的高性能计算

昆仑万维投资控股的艾捷科芯,是一家专注于AI大算力及配套芯片的研发生产企业,尤其聚焦于生成式AI的智能计算。其核心团队汇集了来自芯片研发、集成电路、人工智能及大型语言模型等领域的顶尖专家和学者。

其中,公司创始人蒋毅敏博士是芯片领域的领军人物。他于1996年毕业于清华大学电子工程系,并在美国马里兰大学取得了电机工程硕士和博士学位。蒋毅敏博士在卫星、无线通信、数字电视、可配置矢量数字信号处理器等领域有重要创新突破。艾捷科芯算是蒋毅敏博士的第二次创业,早在2005年,蒋毅敏博士回国联合创立了半导体设计公司——北京中天联科科技有限公司,并出任首席技术官。凭借卓越的业绩,中天联科于2009年被国际知名评估机构iSuppli公司评为中国集成电路设计行业的领军者。

艾捷科芯创始人蒋毅敏博士

蒋毅敏博士不仅是一位出色的企业家,还是一位眼光独到的投资家。他是国内多家市值达数百亿元人民币半导体企业的董事(例如安路科技),并主导投资了盛科通信、半导体公司派瑞股份、OLED显示驱动芯片公司云英谷等高科技企业。

「半导体行业观察」独家采访艾捷科芯蒋毅敏博士获悉,艾捷科芯所要打造的首先不是一款DSA(Domain Specific Architecture,领域专用架构)芯片,也不做图形处理,而是旨在开发一款可编程的、具有高性能的NPU产品。在功能上,推理和训练都将会涉猎。在蒋毅敏博士看来,对于生成式AI芯片而言,软件生态的重要性不亚于芯片本身。

自从英伟达的GPU在生成式AI市场上取得巨大成功之后,在国际舞台上,许多企业已经认识到了生成式AI芯片的应用潜力,并投入了大量资源进行研发。其中不乏有传统的AI芯片公司和新进场的初创公司,如Graphcore、Cerebras和SambaNova,都对生成式AI芯片赛道“虎视眈眈”,正在试图通过生成式AI芯片改变现有的竞争格局。不过这个市场不是那么容易,强如英特尔和AMD,在打生成式AI市场上都略显吃力,其难度可想而知。

对此,蒋毅敏博士坦言,生成式AI芯片的研发难度确实很高。与传统AI芯片相比较而言,首先,像ChatGPT这样的AI应用需要大量的模型参数训练,其计算量很大,所需的并行处理能力更强,对算力本身的需求高;其次,它处理的数据量巨大,因此对内存带宽有很高的要求,即数据读取的速度要够快;最后,基于Transformer结构的大模型大量采用了注意力机制,与基于CNN(卷积神经网络)和RNN(递归神经网络)的AI芯片相比,生成式AI芯片中的神经元间连接众多,因此需要强大的扩展(Scale out)能力。

所以,可以看出生成式AI芯片面临的核心挑战主要有三个:一是如何提高计算速度;二是如何优化存储;三是如何有效地进行互联。在解决存储优化这一挑战时,许多当前市面上的主流生成式AI芯片选择采用了HBM技术。例如,英伟达的最新GPU使用的是HBM3,而英特尔的Gaudi2,专为大模型设计,采用的是HBM2。HBM,全称“High Bandwidth Memory”,是一种高效、堆叠式的DRAM技术。与传统的DDR型DRAM(如DDR4和DDR5)相比,HBM为用户提供了更大的数据传输带宽。蒋毅敏博士指出:“HBM的优势在于其高存储密度,例如单颗芯片能达到80G的密度。但它的数据传输速率相对有限,大约可达到1.2~2TB/s,并且功耗较大。所以,在存储密度与读取速度之间,我们需要做出权衡,这正是我们的创新点所在。”为了在技术上实现新的突破,公司正在考虑采纳一系列创新的架构设计。

值得一提的是,为了加速研发和产业化,艾捷科芯还与中国科学院微电子研究所以“产研结合、互利共赢”为宗旨,签署合作意向共建实验室。实验室主要聚焦于高性能计算领域的先进存储、封装技术的研发,以及与高性能算力系统集成的系统技术研发和产业化工作。

昆仑万维完成AGI与AIGC全产业链布局

据官网显示,昆仑万维是中国领先的互联网平台出海企业,深耕海外市场十余载,业务覆盖包括信息分发、社交、 娱乐、元宇宙、游戏及 AIGC 等多个领域。昆仑万维自2020年开始布局AGI,经过三年的积累和沉淀,于今年4月17日发布了“天工”通用大模型,此后,昆仑万维又开始了积极探索大模型的落地。昆仑万维率先从搜索引擎方面突破,于8月23日发布了国内第一款融入大语言模型的搜索引擎——天工AI搜索,助推传统搜索迈入AI时代,成功实现了大模型应用的率先落地。

天工大模型的性能也表现不斐,在9月16日的Benchmark GSM8K测试中,天工以80%的正确率脱颖而出,大幅领先GPT-3.5(57.1%)和LLaMA2-70B(56.8%),即将接近GPT-4。除了推理性能之外,天工大模型在GSM8K、MMLU、C-EVAL、HumanEval四项数据集测试中,天工大模型均获得较高的正确率。如下图所示,其核心性能均达到了国际领先水准。这不仅证明了天工大模型的“聪明”程度,更显示了其出色的通用适用性。

随着对艾捷科芯实现控股,昆仑万维的布局将涵盖大算力、大模型算法、AI应用,进一步完善了其在AGI与AIGC的产业链布局。不仅如此,随着后续生成式AI芯片的推出和算力上的支持,昆仑万维将可以研究、开发并实施更为先进的AI算法和框架,有能力处理更复杂的AI应用,为用户提供即时和更为精确的反馈,从而提高用户体验。这种全产业链的布局有助于昆仑万维进一步推动AI产品的落地。

需要强调指出的是,昆仑万维已经构建起涵盖AI大模型、AI搜索、AI音乐、AI游戏、AI社交、AI漫画等六大AI业务矩阵。因此,除了天工大模型和天工AI搜索之外,昆仑万维将会进一步开拓更广阔的生成式AI市场。蒋毅敏博士也指出,生成式AI市场的需求是多元的。目前市场上已经有许多基于生成式AI的应用,如生成文本、代码、搜索引擎和画图等。除此以外,包括AI游戏中的NPC(非玩家角色)、私有云和数据保护在内的特定垂直领域,国内也会有大量的特定领域的需求。因此,从一个细分市场切入,进行深入研究和开发是比较好的策略。

而对于艾捷科芯而言,在获得昆仑万维投资背书之后,昆仑万维既是股东,又是下游的潜在客户,能够更好的帮助艾捷科芯做好产品定义,是双重助力的体现。

在蒋毅敏博士看来,要想在生成式AI领域中脱颖而出,有四点很关键:“首先,要定义好产品,明确使用场景和主要用例是什么?第二是找对人和团队。再者,技术路线的选择很重要;最后就是拼技术和执行力。”

结语

从文本语言、图片、视频到各行各业,生成式AI的影响还在不断扩大。而昆仑万维和艾捷科芯这样上下游全产业链的紧密联动,将更有助于国内生成式AI的加速发展,进一步抢占先机,先发制人。

虽然在当下,生成式AI芯片是巨头的天下,但对于定制化和特定应用场景的需求,国内初创公司拥有先天的地理和文化优势,可以更快响应市场并精准定位。结合中国庞大的内需市场和产业链整合能力,国内初创企业有望分得一杯羹。从长远看,生成式AI芯片不仅是硬件升级,更将涉及到底层技术体系的革新,生成式AI芯片将是芯片公司所要攀登的新高地!群雄逐鹿,AI芯片的号角再次吹响。

本文转载自半导体行业观察

●永远Day One的企业家周亚辉

●基于华为云昇腾AI云服务,昆仑万维推出天工大模型端云一体化解决方案

昆仑万维与华为云签署战略合作 基于昇腾云算力领域展开全面深入合作

●昆仑万维控股芯片公司艾捷科芯 完成AGI与AIGC全产业链布局

● 昆仑万维天工通用大模型推理能力大幅超过GPT-3.5和LLaMA2,达到全球领先水平

●颜水成加入昆仑万维 出任天工智能联席CEO和2050全球研究院院长

● 用大模型重塑搜索 昆仑万维发布国内第一款AI搜索产品

昆仑万维成为北京市首批模型伙伴和投资伙

官宣|「天工」大模型4月17日启动邀测


Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1