金融界2024年9月30日消息,国家知识产权局信息显示,中国电信股份有限公司技术创新中心、中国电信股份有限公司申请一项名为“分布式训练微批量数据确定方法、装置、设备和介质”的专利,公开号 CN 118709752 A,申请日期为2024年6月。
专利摘要显示,本公开提供了一种分布式训练微批量数据确定方法、装置、设备和介质,涉及新兴信息技术领域例如,该方法包括:基于预先确定的微批量数据大小将训练数据集划分为多个训练数据子集,以使计算相应的梯度值;接收预设数量的训练节点返回的梯度值,从各个训练节点中筛选出目标训练节点;判断预设时长内是否接收到目标训练节点返回的满足预设条件的梯度值;将接收到的全部梯度值、接收全部梯度值所耗费的总时长以及各个训练节点的模型性能参数输入至预先训练的神经网络模型,输出各个训练节点更新后的的模型性能参数,最终确定各个训练节点对应的微批量数据大小。本公开能够合理划分训练数据的微批量大小,以保证模型的性能和训练情况。
来源:金融界