科技边角料获悉北京百度网讯科技有限公司发明旗下专利“深度学习模型的推理方法、装置、电子设备和存储介质”日前获得授权,涉及人工智能技术领域,尤其涉及深度学习技术领域。
天眼查App显示,该专利具体实现方案为:响应于接收到模型推理请求,基于模型推理请求包括的目标模型的模型标识,从托管存储单元获取与目标模型关联的模型运算图和线程块配置文件。
其中模型推理请求还包括待处理数据,模型运算图包括多个节点,多个节点各自表示目标模型的多个功能模块,多个节点之间的边表示多个功能模块的运行顺序,线程块配置文件表示计算单元中的多个线程块与功能模块的对应关系;以及基于模型运算图和线程块配置文件,依次运行多个线程块来处理待处理数据,得到目标模型的模型推理结果。