中国电工技术学会团体标准T/CES 228-2023《电力人工智能感存算一体化系统测试方法》由中国电工技术学会提出,国网信息通信产业集团有限公司、福建亿榕信息技术有限公司、中国科学院上海微系统与信息技术研究所、国网思极位置服务有限公司等单位起草编制完成。
该标准规定了电力人工智能感存算一体化系统术语和定义、测试说明、功能测试、非功能测试、典型应用场景测试。
1. 标准起草单位及主要起草人
(1)起草单位
国网信息通信产业集团有限公司、福建亿榕信息技术有限公司、中国科学院上海微系统与信息技术研究所、国网思极位置服务有限公司。
(2)主要起草人
李强、庄莉、赵峰、王秋琳、李建华、梁懿、王营冠、何为、李炳森、黄晓光、卜智勇、宋立华、郑耀松、丘志强、冯小蔚、琚诚、陈江海、吕志超、王燕蓉、张维、王婧、郑越峰。
2. 标准制定背景
随着泛在电力物联网、边缘计算等新应用发展,电力人工智能模型规模和数量剧增,各应用场景对数据的收集、存储、处理要求不断提高。传统数据处理方法中存储器与处理器相分离的架构带来了冯·诺依曼瓶颈问题,即体现为存储墙、带宽墙和功耗墙问题。如何有效打破冯·诺依曼瓶颈,为相关技术的发展提供算力保障,成为了当前业界亟待解决的问题。
存算一体技术直接利用存储器进行数据处理,具备超高的算力和能效比,是比冯诺依曼架构更适合AI计算的架构,被AspenCore预测为2022年的全球半导体行业十大技术趋势之一。“感存算一体化”则是在存算一体里增加了传感,感存算一体架构为集传感、储存和运算为一体的架构,解决冯诺依曼架构的数据搬运的功耗瓶颈的同时与传感结合提升整体效率。在设计、研发阶段,存算一体芯片都需要反复测试验证迭代,必须需要有一套合适的测试系统加速这一过程。
目前,针对电力人工智能感存算一体化系统技术、测试等的规范化工作还尚未开展,相应标准的滞后甚至缺失已经成为制约感存算一体化系统发展的关键问题。因此,针对多样化电力业务场景存在的感知能力不足、决策效率低、能耗大的痛点,制定了电力人工智能感存算一体化系统测试方法,为系统的测试提供依据,促进查存计算、近存计算、存内计算、存内逻辑等感存算一体化技术的规模化与商业化发展。
3. 标准主要内容
从内容上看,该标准主要包括以下几个部分:
(1)范围
本标准规定了电力人工智能感存算一体化系统测试方法,可对基于人工智能的系统功能、典型应用场景性能进行评估,评测场景包括图像分类、目标检测、目标分割、目标识别、目标跟踪、行为检测、语音识别、文字识别、本地语音唤醒、负荷辨识等。
本标准适用于生产厂商、研究机构、应用厂商及第三方机构对电力人工智能感存算一体化系统进行测试评估,也适用于生产厂商对电力人工智能感存算一体化系统的设计。
(2)规范性引用文件
本标准主要引用的文件主要包括:
(3)术语及定义
主要包括神经网络模型、训练、推理、训练集、测试集、批次、批次大小、轮次、作业到达。
(4)测试说明
该部分对电力人工智能感存算一体化系统测试对象、测试内容、环境要求、基本要求、测试类型、场景信息以及业务到达的方式等规范进行标准化。
(5)功能测试
该部分对电力人工智能感存算一体化系统接入管理测试、网络测试、计算及存储测试、AI能力测试、远程维护测试、自治能力测试、可扩展性测试、安全性测试等规范进行标准化。
(6)非功能测试
该部分对性能测试、可靠性测试、回归测试等规范进行标准化,阐述典型电力应用场景训练和推理指标,并对测试指标和测试方法进行描述。
(7)典型应用场景测试
该部分对目标分类、目标检测、目标分割、目标识别、目标跟踪、行为检测、语音识别、文字识别、本地语音唤醒、负荷辨识等典型应用场景的模型、数据集、性能评价指标等规范进行标准化。
4. 标准制定效益
该标准规范了电力人工智能感存算一体化系统测试方法,该标准效益主要体现在:
(1)规范电力人工智能感存算一体化系统的功能测试、非功能测试、典型应用场景测试。
(2)通过标准化的测试,有利于解决冯诺依曼架构的数据搬运的功耗瓶颈的同时与传感结合提升整体效率。
(3)推动电力人工智能感存算前沿技术的规范化发展,促进行业各单位快速构建感存算一体化系统的检测流程,推动电力行业向新的服务模式和商业模式转变。