面向遗传代谢病多中心筛查的神经网络动态融合方法

技术领域

本发明属于多中心筛查模型构建技术领域，涉及一种神经网络动态融合方法，尤其涉及一种面向遗传代谢病多中心筛查的神经网络动态融合方法。

背景技术

近年来，遗传代谢病的筛查模式已由原来的单中心、单医院的封闭式独立筛查，发展为多中心协作的联合筛查，出现了医联体、医共体等多种联盟形式，如国家儿童健康与疾病临床医学研究中心、国家儿童区域医疗中心等，加强了遗传代谢病筛查的资源分配、精度和效率。与此同时，人工智能技术的发展给医疗行业带来了变革，提出了智慧医疗的新模式。通过结合数据挖掘、机器学习等智能算法，基于人工智能的遗传代谢病筛查流程得到优化升级，辅助医生进行判读和诊断，大大提高筛查效率。

目前已有一些医院和筛查中心作为试点，部署了人工智能辅助诊断平台，来提升本医院的筛查质量，但仍然存在两个问题：首先，在多中心筛查的模式下，暂时还没有面向遗传代谢病的人工智能联合建模方法；其次，神经网络是现有人工智能辅助诊断平台中一种常用且有效模型，将其扩展到多中心联合建模的一个瓶颈是模型融合时大量参数和梯度信息对通信负载的压力。由于遗传代谢病是一大类遗传性疾病，场景中会有很多临床筛查或临床科研性质建模任务，但医院的计算资源客观上较为有限，无法承受大量联合建模任务的通信并发，导致多中心联合建模效率较低。

发明内容

本发明的目的在于针对现有技术的不足，提供一种面向遗传代谢病多中心筛查的神经网络动态融合方法，首先该方法是面向遗传代谢病多中心筛查的场景，提出针对神经网络模型的动态融合方法，填补了多中心联合建模方法的空缺。其次，结合遗传代谢病多中心筛查建模任务多、神经网络融合通信负载压力大的特性，本发明方法采用探测性参数采样，评估多个计算节点种模型迭代的同步程度，动态调整模型融合的时间节点，提升融合效率，减少通信次数，可以有效降低整体任务的通信负载。

本发明采用的技术方案如下：

一种面向遗传代谢病多中心筛查的神经网络动态融合方法，该方法是面向遗传代谢病多中心筛查的场景，除了多个筛查中心外，还需要配备两种类型的节点：任务节点、计算节点，其中任务节点负责多中心筛查任务的管理、分发、维护，用户直接与任务节点交互；每个筛查中心各需要配备一个计算节点，负责任务节点下发联合建模任务的计算，计算节点只与任务节点进行交互，用户无法直接访问计算节点；任务节点和计算节点的连接方式是任意主流的网络拓扑结构。

当用户发起一个遗传代谢病多中心筛查任务T时，需要选定参与联合建模的m个筛查中心；设计神经网络模型的结构和超参数，以及模型训练配置，包括全局模型迭代次数E

进行神经网络动态融合的过程如下：

1)任务节点根据用户设计的网络结构，构造任务T的神经网络模型f，并初始化全局神经网络f(w)，其中w为全局神经网络的参数；将所有计算节点初始化为低风险计算节点；

2)任务节点将任务T的神经网络模型f、超参数、训练配置、E

3)任务节点将任务T的全局神经网络参数w复制到C

4)基于训练配置信息，C

5)当第i个筛查中心的局部神经网络f(w

6)当任务节点收到所有计算节点的模型融合请求信号时，开始从全局神经网络f(w)的所有|w|个参数中随机挑选α·|w|个参数，记录下这些参数对应的索引号，然后将索引号发送给所有计算节点；

7)当计算节点C

8)当计算节点C

9)当任务节点收到所有计算节点的参数向量后，组成一个参数矩阵

10)任务节点开始统计每个计算节点的风险比例，一个计算节点C

其中

11)如果一个计算节点C

12)如果已被标记为高风险的计算节点数量大于βm，任务节点将通知所有计算节点上传最优参数

其中：

其中|

13)如果已被标记为高风险的计算节点数量小于βm，任务节点将发送停止迭代的信号给所有高风险计算节点，发送继续迭代的信号给所有低风险节点；

14)以C

15)以C

16)当全局迭代次数达到E

本发明的有益效果是：

本发明设计了一种面向遗传代谢病多中心筛查的神经网络动态融合方法，提出参数探测技术，能够动态地评估各中心局部模型的拟合状态和同步程度，减少模型融合的次数，降低模型参数和梯度信息交换对通信负载的压力，提高联合建模的效率。

附图说明

图1是本发明方法的示意图；

具体实施方式

下面结合附图和具体实例对本发明做进一步的说明。

本发明的一种面向遗传代谢病多中心筛查的神经网络动态融合方法，该方法是面向遗传代谢病多中心筛查的场景，除了多个筛查中心外，还需要配备两种类型的节点：任务节点、计算节点，其中任务节点负责多中心筛查任务的管理、分发、维护，用户可以直接与任务节点交互，进行任务发起、模型构建、流程编排等操作，任务节点可以独立于筛查中心，在第三方云平台上搭建，也可以由区域医疗中心负责搭建(本实例中的任务节点是基于国家区域医疗中心搭建的)；每个筛查中心需要配备一个计算节点，负责任务节点下发联合建模任务的计算，计算节点只与任务节点进行交互，用户无法直接访问计算节点。任务节点和计算节点的连接方式可以是任意主流的网络拓扑结构(本实例的连接方式为星形拓扑结构)。

当用户发起一个遗传代谢病多中心筛查任务T时，需要选定参与联合建模的m个筛查中心；设计神经网络模型的结构和超参数，以及模型训练配置，包括全局模型迭代次数E

如图1所示，本发明方法中进行神经网络动态融合的过程如下：

1)任务节点根据用户设计的网络结构，构造任务T的神经网络模型f，并初始化全局神经网络f(w)，其中w为全局神经网络的参数；将所有计算节点初始化为低风险计算节点；

2)任务节点将任务T的神经网络模型f、超参数、训练配置、

3)任务节点将任务T的全局神经网络参数w复制到C

4)基于训练配置信息，C

5)当第i个筛查中心的局部神经网络f(w

6)当任务节点收到所有计算节点的模型融合请求信号时，开始从全局神经网络f(w)的所有|w|个参数中随机挑选α·|w|个参数，记录下这些参数对应的索引号，然后将索引号发送给所有计算节点；

7)当计算节点C

8)当计算节点C

9)当任务节点收到所有计算节点的参数向量后，组成一个参数矩阵

10)任务节点开始统计每个计算节点的风险比例，一个计算节点C

其中

11)如果一个计算节点C

12)如果已被标记为高风险的计算节点数量大于βm，任务节点将通知所有计算节点上传最优参数

其中：

其中|D

13)如果已被标记为高风险的计算节点数量小于βm，任务节点将发送停止迭代的信号给所有高风险计算节点，发送继续迭代的信号给所有低风险节点；

14)以C

15)以C

16)当全局迭代次数达到E