放疗计划的确定方法和装置

技术领域

本申请涉及医疗科技领域，具体而言，涉及一种放疗计划的确定方法和装置。

背景技术

作为肿瘤三大治疗手段之一的放疗技术在肿瘤治疗中发挥重要作用。其中，调强放疗技术(intensity-modulated radiation therapy, IMRT)和容积调强弧形放疗(volumetric modulated arc therapy, VMAT)技术具有剂量分布高适形度、靶区外剂量跌落快以及周边正常组织保护较好等特性，因此在放疗领域中被经常应用。

其中，现有技术中自动生成IMRT计划或者VMAT计划的方式通常是利用一个提前训练好的模型（例如神经网络模型）来预测生成放疗计划，但是这种计划生成方式不仅过于依赖模型的预测能力，而且还缺少对模型生成的放疗计划的质量评估机制，从而导致自动生成的放疗计划的质量难以保证的问题。

针对上述的问题，目前尚未提出有效的解决方案。

发明内容

本申请提供了一种放疗计划的确定方法和装置，以至少解决现有技术中自动生成的放疗计划质量较差的技术问题。

根据本申请的一个方面，提供了一种放疗计划的确定方法，包括：依据目标对象对应的初始剂量分布信息和医疗影像特征执行K次探索操作，并根据K次探索操作的操作结果确定目标放疗计划，其中，K为大于1的整数，每次探索操作包括如下步骤：通过目标模型依据初始剂量分布信息和医疗影像特征生成一组计划参数，其中，目标模型为依据参照对象的医疗影像训练得到的模型；根据生成的计划参数确定放疗计划以及该放疗计划对应的剂量分布信息；通过评价函数确定生成的放疗计划所对应的评价分值，其中，评价函数用于评估生成的放疗计划对应的剂量分布信息与期望的剂量分布信息的接近程度。

可选地，放疗计划的确定方法还包括：在依据目标对象对应的初始剂量分布信息和医疗影像特征执行K次探索操作之前，获取目标对象对应的目标放疗靶区的距离分布图像、目标放疗靶区的掩膜图像以及目标危及器官的掩膜图像；确定目标放疗靶区的掩膜图像与目标危及器官的掩膜图像的重合部分为目标重合掩膜图像；计算目标放疗靶区的距离分布图像与目标重合掩膜图像的所有像素点的统计分布值，并将统计分布值作为医疗影像特征。

可选地，放疗计划的确定方法还包括：计算目标放疗靶区的掩膜图像上的每个像素点至掩膜边缘的像素间距；依据每个像素点至掩膜边缘的像素间距确定目标放疗靶区的距离分布图像。

可选地，放疗计划的确定方法还包括：获取计划参数约束条件，其中，计划参数约束条件用于表征在生成放疗计划时针对放疗靶区的剂量调整区间、针对不同危及器官的剂量调整区间以及针对放疗靶区和每个危及器官各自对应的权重；依据计划参数约束条件对生成的计划参数进行调整，并将调整后的计划参数作为目标计划参数；将目标计划参数输入至医疗辅助软件系统的模拟环境中，得到模拟环境输出的放疗计划和该放疗计划对应的剂量分布信息。

可选地，评价函数至少包括硬约束评价子函数，其中，硬约束评价子函数用于评估每次探索操作中生成的剂量分布信息中的第一剂量指标数据与第一预设期望值之间的接近程度，第一剂量指标数据为规定必须达到第一预设期望值的剂量指标数据。

可选地，评价函数还包括以下三个子函数中的至少一个子函数：软约束评价子函数，其中，软约束评价子函数用于评估每次探索操作中生成的剂量分布信息中的第二剂量指标数据与第二预设期望值之间的接近程度，第二剂量指标数据为无需必须达到第二预设期望值的剂量指标数据；适形度评价子函数，其中，适形度评价子函数用于确定每次探索操作中生成的剂量分布信息的适形度；均质性评价子函数，其中，均质性评价子函数用于确定每次探索操作中生成的剂量分布信息的均匀性指数的倒数。

可选地，目标模型通过以下步骤训练得到：获取参照对象的医疗影像，其中，参照对象对应的医疗影像至少包括参照对象对应的放疗靶区的距离分布图像、放疗靶区的掩膜图像以及危及器官的掩膜图像；确定放疗靶区的掩膜图像与危及器官的掩膜图像的重合部分为重合掩膜图像；计算距离分布图像与重合掩膜图像的所有像素点的统计分布值，并将距离分布图像与重合掩膜图像的所有像素点的统计分布值作为模型输入特征；将针对参照对象设置的初始计划参数和计划参数调整区间输入至医疗辅助软件系统的模拟环境中，得到模拟环境输出的初始放疗计划和该初始放疗计划对应的剂量分布信息；根据模型输入特征和初始放疗计划对应的剂量分布信息训练得到目标模型。

可选地，放疗计划的确定方法还包括：步骤1，根据模型输入特征、初始放疗计划对应的剂量分布信息以及初始模型执行N次探索操作，其中，初始模型为在执行N次探索操作中依据模型输入特征和初始放疗计划对应的剂量分布信息生成计划参数的模型；步骤2，根据N次探索操作中生成的N个参考放疗计划、N个参考放疗计划中的每个参考放疗计划对应的剂量分布信息以及每个参考放疗计划对应的评价分值对初始模型进行更新；重复执行多次步骤1和步骤2的过程，并将最后一次更新的初始模型作为目标模型。

可选地，放疗计划的确定方法还包括：将K次探索操作生成的K个放疗计划中对应的评价分值最大的放疗计划作为目标放疗计划。

根据本申请的另一方面，还提供了一种放疗计划的确定装置，其中，包括：探索操作执行单元，用于依据目标对象对应的初始剂量分布信息和医疗影像特征执行K次探索操作，并根据K次探索操作的操作结果确定目标放疗计划，其中，K为大于1的整数，每次探索操作包括如下步骤：通过目标模型依据初始剂量分布信息和医疗影像特征生成一组计划参数，其中，目标模型为依据参照对象的医疗影像训练得到的模型；根据生成的计划参数确定放疗计划以及该放疗计划对应的剂量分布信息；通过评价函数确定生成的放疗计划所对应的评价分值，其中，评价函数用于评估生成的放疗计划对应的剂量分布信息与期望的剂量分布信息的接近程度。

在本申请中，通过依据目标对象对应的初始剂量分布信息和医疗影像特征执行K次探索操作的方式，根据K次探索操作的操作结果确定目标放疗计划，其中，K为大于1的整数，每次探索操作包括如下步骤：通过目标模型依据初始剂量分布信息和医疗影像特征生成一组计划参数，其中，目标模型为依据参照对象的医疗影像训练得到的模型；根据生成的计划参数确定放疗计划以及该放疗计划对应的剂量分布信息；通过评价函数确定生成的放疗计划所对应的评价分值，其中，评价函数用于评估生成的放疗计划对应的剂量分布信息与期望的剂量分布信息的接近程度。

由上述内容可知，本申请在每个探索操作中，均会通过目标模型依据初始剂量分布信息和医疗影像特征生成一组计划参数，并根据生成的计划参数确定放疗计划以及该放疗计划对应的剂量分布信息，随后本申请通过评价函数确定生成的放疗计划所对应的评价分值。由于评价函数用于评估生成放疗计划对应的剂量分布信息与期望的剂量分布信息的接近程度，因此，本申请的方案实际上相当于针对每次探索操作生成的放疗计划均进行了质量评估。最后，本申请根据K次探索操作的操作结果确定目标放疗计划，也即根据K次探索操作生成的K个放疗计划以及对每个放疗计划的质量评估结果确定目标放疗计划，从而确保了目标放疗计划的质量。

由此可见，通过本申请的技术方案，达到了对模型生成的多个放疗计划进行质量评估的目的，从而实现了在自动生成放疗计划的过程中通过引入质量评估机制提高最终输出的目标放疗计划的质量的技术效果，进而解决了现有技术中自动生成的放疗计划质量较差的技术问题。

附图说明

此处所说明的附图用来提供对本申请的进一步理解，构成本申请的一部分，本申请的示意性实施例及其说明用于解释本申请，并不构成对本申请的不当限定。在附图中：

图1是根据本申请实施例的一种可选的放疗计划的确定方法的流程图；

图2是根据本申请实施例的一种可选的探索操作的流程图；

图3是根据本申请实施例的一种可选的确定医疗影像特征的流程图；

图4是根据本申请实施例的一种可选的目标模型的训练流程图；

图5是根据本申请实施例的一种可选的放疗计划的确定装置的示意图。

具体实施方式

为了使本技术领域的人员更好地理解本申请方案，下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本申请一部分的实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都应当属于本申请保护的范围。

需要说明的是，本申请的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的本申请的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。

还需要说明的是，本申请所涉及的相关信息（包括但不限于用户设备信息、用户个人信息等）和数据（包括但不限于用于展示的数据、分析的数据以及电子病历数据等），均为经用户授权或者经过各方充分授权的信息和数据。例如，本系统和相关用户或机构间设置有接口，在获取相关信息之前，需要通过接口向前述的用户或机构发送获取请求，并在接收到前述的用户或机构反馈的同意信息后，获取相关信息。

下面结合各实施例来进一步说明本申请。

实施例1

在放疗领域中，常规的IMRT计划设计以及VMAT计划设计，都需要使用特定的治疗计划系统(treatment plan systems, TPS)对计划靶区(planning target volume, PTV)和危及器官(organ at risk, OAR)设定目标限值来进行逆向优化。

其中，人工设计放疗计划的过程十分繁琐，在获得较为优质的放疗计划之前，设计者通常需要对放疗计划进行多次手动修改和优化，耗时耗力。此外，设计者的经验，医疗机构的执行标准以及用于计划设计的时间等诸多因素也会影响最终生成的放疗计划的质量，从而影响临床治疗效果。因此，如果能使用某些方法实现自动生成放疗计划，则不仅可以提高放疗计划的设计效率与质量，而且还能使不同的医疗机构在放疗计划的质量上达到相似的水平。

其中，现有技术中自动生成IMRT计划或者VMAT计划的方式通常是利用一个提前训练好的模型（例如神经网络模型）来预测生成放疗计划，但是这种计划生成方式不仅过于依赖模型的预测能力，而且还缺少对模型生成的放疗计划的质量评估机制，从而导致自动生成的放疗计划的质量难以保证的问题。例如，如果模型的训练样本多样性不足或者样本质量较差，则会导致模型所生成的放疗计划质量较差，此时又由于缺失对放疗计划的质量评估机制，从而在使用此放疗计划对患者进行治疗时，无疑会影响临床治疗效果。

为了解决上述问题，根据本申请实施例，提供了一种放疗计划的确定方法的实施例，需要说明的是，在附图的流程图示出的步骤可以在诸如一组计算机可执行指令的计算机系统中执行，并且，虽然在流程图中示出了逻辑顺序，但是在某些情况下，可以以不同于此处的顺序执行所示出或描述的步骤。

图1是根据本申请实施例的一种可选的放疗计划的确定方法的流程图，如图1所示，该方法包括如下步骤：

步骤S101，依据目标对象对应的初始剂量分布信息和医疗影像特征执行K次探索操作。

步骤S102，根据K次探索操作的操作结果确定目标放疗计划。

可选地，一种放疗计划的确定系统（以下简称为确定系统）可作为本申请实施例中的放疗计划的确定方法的执行主体，其中，确定系统可以是一种软件系统，也可以是一种软硬件相结合的嵌入式系统。此外，上述的K为大于1的整数。

可选地，目标对象为准备接受放射治疗的患者，上述的医疗影像特征可以是基于目标对象的各种多模态影像所提取得到的影像特征，其中，多模态影像包括但不限于CT影像、MR影像等各种影像。上述的初始剂量分布信息为针对目标对象设置的一个最初的剂量分布信息，例如，可以根据预先设置的计划参数以及计划参数调整区间随机生成一组针对目标对象的计划参数A，然后将计划参数A输入至医疗辅助软件系统（例如TPS系统）的模拟环境中，得到一个与计划参数A相对应的放疗计划A-1，并将该放疗计划中所包括的剂量分布信息作为目标对象对应的初始剂量分布信息。

在一种可选的实施例中，图2是根据本申请实施例的一种可选的探索操作的流程图，如图2所示，包括如下步骤：

步骤S201，通过目标模型依据初始剂量分布信息和医疗影像特征生成一组计划参数。

在步骤S201中，目标模型为依据参照对象的医疗影像训练得到的模型。

可选地，将目标对象对应的初始剂量分布信息记为剂量A-2，将目标对象对应的医疗影像特征记为distfeat。确定系统可以首先对剂量A-2进行采样，然后将剂量A-2对应的采样结果和医疗影像特征distfeat输入至目标模型中，目标模型可以预测生成一组计划参数（可记为计划参数B）。

步骤S202，根据生成的计划参数确定放疗计划以及该放疗计划对应的剂量分布信息。

可选地，确定系统可以将生成的计划参数B输入至医疗辅助软件系统的模拟环境中，得到一个与计划参数B相对应的放疗计划B-1以及与放疗计划B-1相对应的剂量分布信息B-2。

可选地，确定系统还可以对生成的计划参数B进行一定的调整，然后将调整后的计划参数B输入至医疗辅助软件系统的模拟环境中，得到模拟环境输出的放疗计划C-1以及与放疗计划C-1相对应的剂量分布信息C-2。

步骤S203，通过评价函数确定生成的放疗计划所对应的评价分值，其中，评价函数用于评估生成的放疗计划对应的剂量分布信息与期望的剂量分布信息的接近程度。

可选地，在每次生成一个放疗计划之后，确定系统均可以通过评价函数对该放疗计划进行质量评估。具体地，评价函数通过至少一个指标数据来确定生成的放疗计划所对应的剂量分布信息与期望的剂量分布信息的接近程度，如果放疗计划所对应的剂量分布信息与期望的剂量分布信息的接近程度越高，则对应的评价分值越大，如果放疗计划所对应的剂量分布信息与期望的剂量分布信息的接近程度越低，则对应的评价分值越小。

由上述内容可知，本申请在每个探索操作中，均会通过目标模型依据初始剂量分布信息和医疗影像特征生成一组计划参数，并根据生成的计划参数确定放疗计划以及该放疗计划对应的剂量分布信息，随后本申请通过评价函数确定生成的放疗计划所对应的评价分值。由于评价函数用于评估生成放疗计划对应的剂量分布信息与期望的剂量分布信息的接近程度，因此，本申请的方案实际上相当于针对每次探索操作生成的放疗计划均进行了质量评估。最后，本申请根据K次探索操作的操作结果确定目标放疗计划，也即根据K次探索操作生成的K个放疗计划以及对每个放疗计划的质量评估结果确定目标放疗计划，从而确保了目标放疗计划的质量。

由此可见，通过本申请的技术方案，达到了对模型生成的多个放疗计划进行质量评估的目的，从而实现了在自动生成放疗计划的过程中通过引入质量评估机制提高最终输出的目标放疗计划的质量的技术效果，进而解决了现有技术中自动生成的放疗计划质量较差的技术问题。

在一种可选的实施例中，在依据目标对象对应的初始剂量分布信息和医疗影像特征执行K次探索操作之前，确定系统首先确定目标对象对应的医疗影像特征，具体包括图3中的如下步骤：

步骤S301，获取目标对象对应的目标放疗靶区的距离分布图像、目标放疗靶区的掩膜图像以及目标危及器官的掩膜图像。

在步骤S301中，目标对象对应的ROI（region of interest，感兴趣区域）包括目标对象对应的目标放疗靶区和危及器官。

为了得到目标对象对应的目标放疗靶区的距离分布图像，确定系统可以计算目标放疗靶区的掩膜图像上的每个像素点至掩膜边缘的像素间距，然后依据每个像素点至掩膜边缘的像素间距确定目标放疗靶区的距离分布图像。

可选地，确定系统首先根据目标放疗靶区的掩膜图像，计算该掩膜图像上每个像素点到掩膜边缘的欧式距离，从而得到目标放疗靶区的距离分布图像distmap，其中，像素点到掩膜边缘的欧式距离是以真实的像素间距来计算的。

步骤S302，确定目标放疗靶区的掩膜图像与目标危及器官的掩膜图像的重合部分为目标重合掩膜图像。

步骤S303，计算目标放疗靶区的距离分布图像与目标重合掩膜图像的所有像素点的统计分布值，并将统计分布值作为医疗影像特征。

可选地，确定系统可以计算距离分布图像distmap与ROI掩膜重合部分（即目标重合掩膜图像）的所有像素点的统计分布值，并将统计分布值作为医疗影像特征，其中，医疗影像特征可以记为distfeat，统计分布值包括但不限于强度均值、标准差、方差等数值。

在一种可选的实施例中，确定系统可以获取计划参数约束条件，其中，计划参数约束条件用于表征在生成放疗计划时针对放疗靶区的剂量调整区间、针对不同危及器官的剂量调整区间以及针对放疗靶区和每个危及器官各自对应的权重。然后，确定系统依据计划参数约束条件对生成的计划参数进行调整，并将调整后的计划参数作为目标计划参数，随后，确定系统将目标计划参数输入至医疗辅助软件系统的模拟环境中，得到模拟环境输出的放疗计划和该放疗计划对应的剂量分布信息。

可选地，计划参数约束条件可以根据临床需求自定义设定，例如，对于癌症种类不同的患者设置不同的计划参数约束条件，对于年龄不同的患者设置不同的计划参数约束条件，对于病理特征不同的患者设置不同的计划参数约束条件。

此外，计划参数约束条件用于表征在生成放疗计划时针对放疗靶区的剂量调整区间、针对不同危及器官的剂量调整区间以及针对放疗靶区和每个危及器官各自对应的权重。举例而言，某个计划参数约束条件表征在生成放疗计划时针对放疗靶区的剂量调整区间为Z1区间、针对危及器官E1的剂量调整区间为Z2区间，针对危及器官E2的剂量调整区间为Z3区间，同时，出于临床治疗的考虑，本次放疗需要着重考虑保证放疗靶区的剂量达标以及危及器官E1的剂量达标，因此可以设置放疗靶区对应的权重以及危及器官E1对应的权重均大于危及器官E2对应的权重。在该计划参数约束条件下，确定系统在生成放疗计划时，会优先保证放疗靶区的剂量满足Z1区间、危及器官E1的剂量满足Z2区间，其次保证危及器官E2的剂量满足Z3区间。

可选地，假设确定系统生成的计划参数为计划参数B，确定系统还可以根据计划参数约束条件对生成的计划参数B进行一定的调整，然后将调整后的计划参数B输入至医疗辅助软件系统的模拟环境中，得到模拟环境输出的放疗计划C-1以及与放疗计划C-1相对应的剂量分布信息C-2。其中，调整后的计划参数B对应上述的目标计划参数。

在一种可选的实施例中，评价函数至少包括硬约束评价子函数，其中，硬约束评价子函数用于评估每次探索操作中生成的剂量分布信息中的第一剂量指标数据与第一预设期望值之间的接近程度，第一剂量指标数据为规定必须达到第一预设期望值的剂量指标数据。

可选地，硬约束评价子函数

（1）

其中，在公式（1）中，N为硬约束的总数（即第一剂量指标数据的数量），公式（1）中的

在一种可选的实施例中，评价函数还包括以下三个子函数中的至少一个子函数：

软约束评价子函数，其中，软约束评价子函数用于评估每次探索操作中生成的剂量分布信息中的第二剂量指标数据与第二预设期望值之间的接近程度，第二剂量指标数据为无需必须达到第二预设期望值的剂量指标数据；

适形度评价子函数，其中，适形度评价子函数用于确定每次探索操作中生成的剂量分布信息的适形度；

均质性评价子函数，其中，均质性评价子函数用于确定每次探索操作中生成的剂量分布信息的均匀性指数的倒数。

可选地，软约束评价子函数

（2）

其中，在公式（2）中，M为软约束的总数（即第二剂量指标数据的数量），公式（2）中的

可选地，适形度评价子函数

（3）

其中，在公式（3）中，

可选地，均质性评价子函数

（4）

其中，在公式（4）中，

可选地，在通过评价函数对生成的剂量分布信息进行计算，得到生成的放疗计划对应的评价分值的过程中，在第一剂量指标数据未达到第一预设期望值的情况下，确定评价函数中除硬约束评价子函数之外的子函数的函数值为0。

如公式（2）、公式（3）以及公式（4）所示，在

在一种可选的实施例中，确定系统还可以对评价函数中的每个评价子函数赋予不同的权重，如公式（5）所示：

（5）

评价函数

需要说明的是，通过为不同的评价子函数设置对应不同的权重，可以在质量评估过程中给用户提供更灵活的选择，例如，如果用户比较看重软约束对应的剂量指标数据，则可以调高

在一种可选的实施例中，图4是根据本申请实施例的一种可选的目标模型的训练流程图，如图4所示，包括如下步骤：

步骤S401，获取参照对象的医疗影像，其中，参照对象对应的医疗影像至少包括参照对象对应的放疗靶区的距离分布图像、放疗靶区的掩膜图像以及危及器官的掩膜图像。

可选地，参照对象为已经接受过放射治疗的患者。参照对象对应的放疗靶区的距离分布图像的确定过程可以参考上述目标放疗靶区的距离分布图像的确定过程。

步骤S402，确定放疗靶区的掩膜图像与危及器官的掩膜图像的重合部分为重合掩膜图像。

步骤S403，计算距离分布图像与重合掩膜图像的所有像素点的统计分布值，并将距离分布图像与重合掩膜图像的所有像素点的统计分布值作为模型输入特征。

步骤S404，将针对参照对象设置的初始计划参数和计划参数调整区间输入至医疗辅助软件系统的模拟环境中，得到模拟环境输出的一个初始放疗计划和该初始放疗计划对应的剂量分布信息。

可选地，目标模型的训练过程一共可以分为{初始状态，探索状态，更新状态}三个部分。首先，根据使用者提供的优化参数列表和调整范围（对应针对参照对象设置的计划参数调整区间），确定系统随机生成初始动作（即针对参照对象设置的初始计划参数），然后将初始动作输入TPS模拟环境(即医疗辅助软件系统的模拟环境)，得到模拟环境输出的初始放疗计划和该初始放疗计划对应的剂量分布信息，作为训练的初始状态。

步骤S405，根据模型输入特征和初始放疗计划对应的剂量分布信息训练得到目标模型。

在步骤S405中，包括如下步骤：

步骤1，根据模型输入特征、初始放疗计划对应的剂量分布信息以及初始模型执行N次探索操作，其中，初始模型为在执行N次探索操作中依据模型输入特征和初始放疗计划对应的剂量分布信息生成计划参数的模型；

步骤2，根据N次探索操作中生成的N个参考放疗计划、N个参考放疗计划中的每个参考放疗计划对应的剂量分布信息以及每个参考放疗计划对应的评价分值对初始模型进行更新；

重复执行多次步骤1和步骤2的过程，并将最后一次更新的初始模型作为目标模型。

可选地，在完成训练的初始状态之后，接下来进入探索状态，也就是根据模型输入特征、初始放疗计划对应的剂量分布信息以及初始模型执行N次探索操作。具体地，在将初始放疗计划对应的剂量分布信息进行采样后，将采样结果与模型输入特征一起输入至初始模型中，初始模型预测下一步动作（即生成一组计划参数），然后根据计划参数约束条件随机给该动作添加一些扰动（即对生成的计划参数进行调整），使其更加具有多样性，将添加了扰动后的动作输入到TPS模拟环境中，得到参考放疗计划和该参考放疗计划对应的剂量分布信息，最后使用评价函数来评价该参考放疗计划对应的剂量分布信息，得到该参考放疗计划对应的评价分值。

之后，进入更新状态，重复执行上述探索操作N次，可以得到N组{动作，剂量分布信息，评价分值}的组合，然后使用这些组合对初始模型进行更新，更新过程可以采用PPO（proximal policy optimization，一种强化学习中的策略梯度算法）算法。在完成一次模型更新之后，重新回到探索状态，采用更新后的模型进行新一轮探索，重复{探索，更新}的流程M次，直到模型训练完成，得到目标模型（即重复执行M次步骤1和步骤2的过程，并将最后一次更新的初始模型作为目标模型）。

由上述内容可知，通过{初始状态，探索状态，更新状态}三个部分训练得到的目标模型，本身便具有探索操作的能力，从而可以在预测生成放疗计划中，通过探索操作，预测生成质量较高的放疗计划。

实施例2

本实施例提供了一种可选的放疗计划的确定装置，该放疗计划的确定装置中的各个实施单元/模块对应于实施例1中各个实施步骤。

图5是根据本申请实施例的一种可选的放疗计划的确定装置的示意图，如图5所示，包括：探索操作执行单元501，其中，探索操作执行单元501，用于依据目标对象对应的初始剂量分布信息和医疗影像特征执行K次探索操作，并根据K次探索操作的操作结果确定目标放疗计划，其中，K为大于1的整数，每次探索操作包括如下步骤：

通过目标模型依据初始剂量分布信息和医疗影像特征生成一组计划参数，其中，目标模型为依据参照对象的医疗影像训练得到的模型；

根据生成的计划参数确定放疗计划以及该放疗计划对应的剂量分布信息；

通过评价函数确定生成的放疗计划所对应的评价分值，其中，评价函数用于评估生成的放疗计划对应的剂量分布信息与期望的剂量分布信息的接近程度。

可选地，放疗计划的确定装置还包括：获取单元、确定单元以及计算单元。其中，获取单元，用于获取目标对象对应的目标放疗靶区的距离分布图像、目标放疗靶区的掩膜图像以及目标危及器官的掩膜图像；确定单元，用于确定目标放疗靶区的掩膜图像与目标危及器官的掩膜图像的重合部分为目标重合掩膜图像；计算单元，用于计算目标放疗靶区的距离分布图像与目标重合掩膜图像的所有像素点的统计分布值，并将统计分布值作为医疗影像特征。

可选地，获取单元，包括：计算子单元以及确定子单元。其中，计算子单元，用于计算目标放疗靶区的掩膜图像上的每个像素点至掩膜边缘的像素间距；确定子单元，用于依据每个像素点至掩膜边缘的像素间距确定目标放疗靶区的距离分布图像。

可选地，探索操作执行单元501，包括：第一获取子单元、调整子单元以及处理子单元。其中，第一获取子单元，用于获取计划参数约束条件，其中，计划参数约束条件用于表征在生成放疗计划时针对放疗靶区的剂量调整区间、针对不同危及器官的剂量调整区间以及针对放疗靶区和每个危及器官各自对应的权重；调整子单元，用于依据计划参数约束条件对生成的计划参数进行调整，并将调整后的计划参数作为目标计划参数；处理子单元，用于将目标计划参数输入至医疗辅助软件系统的模拟环境中，得到模拟环境输出的放疗计划和该放疗计划对应的剂量分布信息。

可选地，评价函数至少包括硬约束评价子函数，其中，硬约束评价子函数用于评估每次探索操作中生成的剂量分布信息中的第一剂量指标数据与第一预设期望值之间的接近程度，第一剂量指标数据为规定必须达到第一预设期望值的剂量指标数据。

可选地，评价函数还包括以下三个子函数中的至少一个子函数：软约束评价子函数，其中，软约束评价子函数用于评估每次探索操作中生成的剂量分布信息中的第二剂量指标数据与第二预设期望值之间的接近程度，第二剂量指标数据为无需必须达到第二预设期望值的剂量指标数据；适形度评价子函数，其中，适形度评价子函数用于确定每次探索操作中生成的剂量分布信息的适形度；均质性评价子函数，其中，均质性评价子函数用于确定每次探索操作中生成的剂量分布信息的均匀性指数的倒数。

可选地，放疗计划的确定装置还包括：第一获取单元、第一确定单元、第一计算单元、第一调整单元以及训练单元。其中，第一获取单元，用于获取参照对象的医疗影像，其中，参照对象对应的医疗影像至少包括参照对象对应的放疗靶区的距离分布图像、放疗靶区的掩膜图像以及危及器官的掩膜图像；第一确定单元，用于确定放疗靶区的掩膜图像与危及器官的掩膜图像的重合部分为重合掩膜图像；第一计算单元，用于计算距离分布图像与重合掩膜图像的所有像素点的统计分布值，并将距离分布图像与重合掩膜图像的所有像素点的统计分布值作为模型输入特征；第一调整单元，用于将针对参照对象设置的初始计划参数和计划参数调整区间输入至医疗辅助软件系统的模拟环境中，得到模拟环境输出的初始放疗计划和该初始放疗计划对应的剂量分布信息；训练单元，用于根据模型输入特征和初始放疗计划对应的剂量分布信息训练得到目标模型。

可选地，训练单元，包括：第一执行子单元、第二执行子单元以及第三执行子单元。其中，第一执行子单元，用于执行步骤1，根据模型输入特征、初始放疗计划对应的剂量分布信息以及初始模型执行N次探索操作，其中，初始模型为在执行N次探索操作中依据模型输入特征和初始放疗计划对应的剂量分布信息生成计划参数的模型；第二执行子单元，用于执行步骤2，根据N次探索操作中生成的N个参考放疗计划、N个参考放疗计划中的每个参考放疗计划对应的剂量分布信息以及每个参考放疗计划对应的评价分值对初始模型进行更新；第三执行子单元，用于重复执行多次步骤1和步骤2的过程，并将最后一次更新的初始模型作为目标模型。

可选地，探索操作执行单元501还包括：第一处理子单元，用于将K次探索操作生成的K个放疗计划中对应的评价分值最大的放疗计划作为目标放疗计划。

根据本申请实施例的另一方面，还提供了一种计算机可读存储介质，计算机可读存储介质包括存储的计算机程序，其中，在计算机程序运行时控制计算机可读存储介质所在设备执行上述实施例1中的放疗计划的确定方法。

根据本申请实施例的另一方面，还提供了一种电子设备，包括：处理器；以及存储器，用于存储处理器的可执行指令；其中，处理器配置为经由执行可执行指令来执行上述实施例1中的放疗计划的确定方法。

上述本申请实施例序号仅仅为了描述，不代表实施例的优劣。

在本申请的上述实施例中，对各个实施例的描述都各有侧重，某个实施例中没有详述的部分，可以参见其他实施例的相关描述。

在本申请所提供的几个实施例中，应该理解到，所揭露的技术内容，可通过其它的方式实现。其中，以上所描述的装置实施例仅仅是示意性的，例如单元的划分，可以为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口，单元或模块的间接耦合或通信连接，可以是电性或其它的形式。

作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。

另外，在本申请各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。

集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备（可为个人计算机、服务器或者网络设备等）执行本申请各个实施例方法的全部或部分步骤。而前述的存储介质包括：U盘、只读存储器（ROM，Read-Only Memory）、随机存取存储器（RAM，Random Access Memory）、移动硬盘、磁碟或者光盘等各种可以存储程序代码的介质。

以上仅是本申请的优选实施方式，应当指出，对于本技术领域的普通技术人员来说，在不脱离本申请原理的前提下，还可以做出若干改进和润饰，这些改进和润饰也应视为本申请的保护范围。