昇腾与昇思原生，助力智谱打造自主创新大模型体系！

摘要：加速原生创新，智谱携手昇腾、昇思打造自主创新原生模型

重磅亮相

【北京】2024年8月19日，北京人工智能生态大会在中关村国家自主创新示范区会议中心颐和厅成功召开。会上，华为昇腾计算业务副总裁刘鑫发表演讲介绍昇腾原生进展，智谱CEO张鹏作专题分享，张鹏简要介绍了昇腾对自主创新的智谱大模型的助力，以及正在打造的基于昇腾的第四代代码模型CodeGeeX4和多模态模型CogVLM2-video。

其中，代码生成大模型CodeGeeX4的新版本基于昇腾AI与昇思AI框架训练，依托昇腾与昇思的多维混合分布式并行技术等软硬件能力等，将大幅提升模型开发、训练的效率及模型精度。

华为昇腾计算业务副总裁 刘鑫

智谱CEO 张鹏

模型能力

1.代码生成大模型CodeGeeX4

第四代代码模型 CodeGeeX4堪称代码生成大模型的“六边形战士”，已经发布的CodeGeeX4-ALL-9B 仅用百亿级参数实现模型精度超越业界主流产品。在NaturalCodebench等测试基准上，相对于更大的模型实现了性能反超。

CodeGeeX4单一模型实现编程开发全流程覆盖，包括需求设计、前端开发、后端开发、数据处理等场景，支持代码补全和生成、代码问答、代码解释器、工具调用、联网搜索、项目级代码问答等全面能力。模型长序列达128K，支持中文、英文、俄语、法语、西班牙语等20+自然语言和300+编程语言。同时，在模型推理可实现单卡部署，最低24GB显存即可进行量化推理，用户可在本地私有化部署，保护企业代码安全。

2.多模态大模型CogVLM2-video（视频生成文本）

多模态大模型CogVLM2-video实现视频生成文本能力，支持2K序列长度、224×224分辨率的视频理解以及中英文回答等功能。测试实践显示，CogVLM2-video在多个视频问答任务上达到了 state-of-the-art （SOTA模型）的性能，并能够实现一分钟内的视频理解，在几个主流性能测试数据集（MVBench, VideoChatGPT-Bench and Zero-shot VideoQA datasets）中，CogVLM2-video也表现不俗，展现出全面竞争力，同时在多类主要指标上完成对其他模型的领先。

基于昇腾与昇思的新版本CodeGeeX4

CodeGeeX4在训练过程中，调用昇腾原生的融合算子，利用昇思MindSpore AI框架的提供的多维混合分布式并行能力，通过对流水交织并行、tensor模型并行的优化，解决内存瓶颈、降低计算空泡、提升通信效率，实现“计算、网络、存储”协同优化，对比同等规模参数的模型，训练效率20%提升，加速模型的迭代创新。

另外，该模型也采用MindSpore 2.3版本原创的多级编译技术，开启O1编译选项增加自动算子融合优化，以接近动态图的启动时间获取了图模式下接近理论值的内存复用率，进而降低重计算比例，相对动态图获得15%的性能收益。

未来，智谱将与昇腾AI持续携手，打造更多领先的自主创新大模型，加速人工智能产业发展，助力中国千行百业的智能化转型，共同迈向智能新世界。

昇腾使能AI产业生态打造原生成果

自从昇腾全面启动原生开发，越来越多的生态伙伴选择昇腾，大模型生态从“应用迁移”走向“原生开发”，充分依托昇腾AI基础软硬件平台和完备的原生开发工具，提升开发效率、强化模型性能、加速应用落地，面向不同行业客户提供个性化的解决方案，与昇腾共同推进中国人工智能产业的蓬勃发展。