昇腾CANN 8.0正式发布，多项核心技术引领大模型原生创新
近日，在华为全联接大会2024期间，华为常务董事、ICT基础设施业务管理委员会主任汪涛重磅发布CANN 8.0。新版本新增80多个融合算子、100多个Ascend C API，自研NB2.0和NHR集合通信算法并全面适应于超节点方案，基于LLM P-D分离部署方案设计并发布LLMDataDist组件，同时支持图模式能力扩展库TorchAir，提升PyTorch在NPU上的大模型推理性能。 昇腾异构计算架构CANN作为昇腾AI生态的根基和锚点，基于软硬件深度协同优化，持续构建昇腾产品解决方案在性能、易用性、...【查看原文】
