“此芯科技致力于以高能效算力解决方案,推动端侧AI生态发展,通过AI技术应用,让生活、学习、工作变得更智能、高效、人性化。”7月30日,此芯科技创始人、CEO孙文剑确立“一芯多用”的发展战略,并发布首款异构高能效SoC此芯P1。
随着生成式AI大模型在各行各业的深入部署与应用,用户在能效、数据隐私、个性化定制等方面的需求愈发强烈,云端公有大模型与端侧私有大模型混合部署已成为行业共识。作为端侧生成式AI的载体,PC产业对硬件尤其是作为核心计算单元的SoC的AI算力提出了新的需求。
基于此,此芯科技确定了“一芯多用”的发展战略,面向全球与本土双市场,构建端侧AI生态,率先聚焦AI PC领域,打造新一代AI PC算力底座。
对于新一代AI PC算力底座,孙文剑介绍:“此芯科技AI PC算力底座具有异构、高能效、安全的特点。”其异构集成了CPU、GPU、NPU,并基于数据链路带宽优化,实现高效运行。能效方面,采用多核异构及专用NPU的设计和低功耗内存技术,通过软硬件协同优化,实现高能效。安全方面,此芯P1具备最新Arm®v9架构中的PACBTI、MTE、secure EL2等安全特性,支持通用商密和国密算法,同时满足TPM(可信平台模块)和TCM(可信密码模块)需求,提供系统级安全和隐私保障。
“此芯科技新一代的AI PC算力底座,面向生成式AI,支持混合人工智能部署。”孙文剑进一步指出,通过构建丰富的软硬件开放生态,为开发者赋能,持续探索端侧AI PC应用场景及优势。
基于AI PC战略,此芯科技发布首款落地产品,专为AI PC打造的异构高能效SoC—此芯P1。孙文剑介绍:“经过严格的测试,此芯P1已达到量产要求,将正式进入产品化阶段。”
据介绍,此芯P1使用先进的6nm制造工艺,多媒体引擎支持4K120帧显示、8K60帧视频解码以及8K30帧视频编码等;高性能的访存子系统配置128-bit LPDDR5低功耗内存,容量可达64GB,数据传输率可达6400Mbps、带宽可达100GB/s。同时,P1具备高效的功耗管理,提供精准的动态调频调压、多电源域和动态的电源门控、标准的PC电源工作模式。
在核心CPU部分,P1以Arm大小核(big.LITTLE™)技术设计,8个性能核4个能效核,主频最高可达3.2GHz以及针对PC场景优化的多级缓存设计;同时,集成2个SVE2向量加速单元,实现机器学习指令增强。
另外,集成GPU提供10核GPU处理器,满足极致桌面渲染和通用AI计算需求。新一代硬件光线追踪,媲美主机级别的游戏体验;新型几何图形处理流程(延迟顶点着色DVS),实现功耗节省40%以上,以及灵活的可变速度着色(VRS),实现性能提升50%以上。同时,面向多场景的桌面GPU软件栈,满足行业应用需求。
P1的异构AI引擎,提供45TOPS端侧AI异构算力,支持100亿参数以内端侧大模型部署,运行LLM可达30 tokens/s以上,面向计算机视觉、自然语言处理、生成式AI等多场景提供端侧AI支持。
值得关注的是,此芯科技联合创始人、系统工程副总裁褚染洲公布了此芯科技平台解决方案的“三融”策略,即融合X86、Arm两大架构优势,融入PC产业朋友圈,融通AI的世界。基于“三融”策略, 此芯科技推出P1芯片的AI PC平台解决方案,具备可扩展异构计算、支持多模态人机交互、高带宽存储、平台级安全盾等特点。
“硬件好比是我们的躯体,软件则赋予了一颗芯片灵魂。”此芯科技联合创始人、软件工程副总裁刘刚称,面对端侧生成式AI带来PC产业的变革与机遇,此芯科技重点聚焦启动固件、内核、图形加速以及AI方案四大方向进行全栈软件创新。
在启动固件层,此芯科技实现了通过一套固件支持多个操作系统和一套Linux内核同时支持ACPI、Device Tree两个规范的重要突破。此芯P1成为全球为数不多的采用统一固件支持多桌面操作系统的产品。
为了能够让Arm GPU在PC端同样达到极致的使用体验,此芯科技自主设计了此芯GO图形引擎,通过引入应用兼容层并在核心驱动层实现原创优化,适配多种主流桌面环境、兼容传统应用、支持OpenGL标准以及和不同多媒体框架协同等,一站式解决行业痛点。
此外,面对生成式AI端侧部署存在的诸多问题与挑战,此芯科技未来将推出NeuralOne AI软件栈,提供异构AI加速器支持,以满足对于端侧推理需求的多样性和复杂性;同时,提供统一的NerualOne API来隐藏具体的硬件细节,降低应用程序编程难度。
对于模型与推理框架的碎片化,此芯NeuralOne提供统一的SDK满足多引擎需求以及广泛的模型格式支持。
刘刚表示,“Neural是神经网络的意思,One代表统一。合在一起,我们希望通过此芯NeuralOne AI软件栈充分发挥异构算力强大潜力,更好地帮助生态合作伙伴开发更强的AI应用。”
最后,此芯科技方面指出,生态建设非一朝之功,通过布局异构AI端侧生态、打造Arm原生开发平台、积极参与上游开源建设,以及推动产业联盟和标准化,此芯科技希望能够赋能开发者,用适合PC的方式建设PC新生态,与开发者一起繁荣AI PC生态。