算法模型加载方法、装置、电子设备及存储介质
文献发布时间:2024-04-18 19:57:31
技术领域
本发明涉及计算机技术领域,尤其涉及一种算法模型加载方法、装置、电子设备及存储介质。
背景技术
随着业务场景(如自动驾驶场景)复杂性的增加,基于AI(ArtificialIntelligence,人工智能)算法实现业务场景时包含的算法模型是海量的,如何对海量算法模型进行有序加载运行,是需要解决的重点问题。
现有对海量算法模型进行加载的方式为,会预先根据业务实现流程对海量算法模型的加载顺序进行配置,并在实际应用过程中,业务系统会控制模型加载单元根据预先配置的加载顺序将海量算法模型全部从模型储存单元加载到动态随机存取存储器(DynamicRandom Access Memory,简称DRAM)中。对于包含有判断逻辑的子业务而言,会将与判断逻辑相关联的所有算法模型均加载到DRAM,并在DRAM中根据实际判断结果选择目标算法模型。
上述按照固定配置顺序加载算法模型方式,会将不需要的算法模型加载到DRAM中,存在占用DRAM存储空间的问题;进一步地,当海量算法模型所用内存大于DRAM内存时,存在不能将所有算法模型加载至DRAM中,带来的部分算法模型无法运行的问题。
发明内容
本发明提供一种算法模型加载方法、装置、电子设备及存储介质,能够改善现有的对算法模型进行加载的方案。
第一方面,本发明提供一种算法模型加载方法,应用于算法模型加载系统,所述系统包括业务控制单元、数据加载单元和数据存储单元,所述业务控制单元与所述数据加载单元分别设置在不同的CPU内核中,所述方法包括:
所述业务控制单元根据当前业务需求向数据加载单元发送模型加载指令,所述模型加载指令包括目标算法名称;
所述数据加载单元根据所述目标算法名称从所述数据存储单元中加载对应的目标算法模型至DRAM中,以使得所述业务控制单元对所述目标算法模型进行处理。
可选地,在所述DRAM中存储有模型加载链表,所述模型加载链表包括至少两个算法名称,每个算法名称根据业务实现逻辑顺序相关联;
所述业务控制单元根据当前业务需求向数据加载单元发送模型加载指令,包括:
所述业务控制单元根据当前业务需求和所述模型加载链表确定目标算法名称;
所述业务控制单元根据所述目标算法名称生成模型加载指令,将所述模型加载指令发送至所述数据加载单元。
可选地,在所述模型加载链表中包含的至少两个算法名称对应的算法模型未被加载之前,所述方法还包括:
接收对所述模型加载链表中未被加载的算法名称间逻辑顺序的更新指令,所述更新指令包括修改指令、删除指令和添加指令中的至少一种。
可选地,所述算法模型加载系统还包括模型计算单元;
所述业务控制单元对所述目标算法模型进行处理,包括:
获取所述目标算法模型的模型类别;
在所述模型类别是判断类别时,则重复执行所述业务控制单元根据当前业务需求向数据加载单元发送模型加载指令的操作;
在所述模型类别不是判断类别时,则所述业务控制单元控制所述模型计算单元对所述目标算法模型进行计算,获得模型计算结果。
可选地,所述方法还包括:
在所述业务控制单元接收到所述数据加载单元发送的关于所述目标算法模型的加载完成标识后,执行所述业务控制单元控制所述模型计算单元对所述目标算法模型进行计算的操作。
可选地,所述业务控制单元根据当前业务需求向数据加载单元发送模型加载指令,包括:
在车辆与车道停止线的间隔距离小于预设距离时,获取天气类型,所述天气类型包括晴天和雨天;
在所述天气类型为雨天时,所述业务控制单元向所述数据加载单元发送加载雨天信号灯模型的加载指令;
在所述天气类型为晴天时,所述业务控制单元向所述数据加载单元发送加载晴天信号灯模型的加载指令。
可选地,所述方法还包括:
所述业务控制单元根据所述模型加载链表获取每个算法名称之间的逻辑关系;
在多个所述算法名称之间的逻辑关系不包含判断类别时,所述业务控制单元向所述模型加载指令发送模型组加载指令,所述模型组加载指令包括至少两个算法名称;
所述数据加载单元根据至少两个算法名称从所述数据存储单元中加载对应的至少两个算法模型至DRAM中。
第二方面,本发明提供一种算法模型加载装置,集成于算法模型加载系统,所述系统包括业务控制单元、数据加载单元和数据存储单元,所述业务控制单元与所述数据加载单元分别设置在不同的CPU内核中,所述装置包括:
指令发送模块,用于所述业务控制单元根据当前业务需求向数据加载单元发送模型加载指令,所述模型加载指令包括目标算法名称;
模型加载模块,用于所述数据加载单元根据所述目标算法名称从所述数据存储单元中加载对应的目标算法模型至DRAM中,以使得所述业务控制单元对所述目标算法模型进行处理。
第三方面,本发明还提供了一种电子设备,所述电子设备包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的计算机程序,所述计算机程序被所述至少一个处理器执行,以使所述至少一个处理器能够执行本发明任一实施例所述的算法模型加载方法。
第四方面,本发明还提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机指令,所述计算机指令用于使处理器执行时实现本发明任一实施例所述的算法模型加载方法。
本发明实施例的算法模型加载方案,应用于算法模型加载系统,系统包括业务控制单元、数据加载单元和数据存储单元,业务控制单元与数据加载单元分别设置在不同的CPU内核中,具体地,业务控制单元根据当前业务需求向数据加载单元发送模型加载指令,模型加载指令包括目标算法名称;数据加载单元根据目标算法名称从数据存储单元中加载对应的目标算法模型至DRAM中,以使得业务控制单元对目标算法模型进行处理。本实施例提供的方案,业务控制单元与数据加载单元进行核间通信,通过数据加载单元从数据存储单元向DRAM中加载目标算法模型的方式,以使得目标模型在DRAM中被快速响应处理,DRAM中存储的算法模型为根据业务需求被加载完成的算法模型,相比于现有将海量模型加载至DRAM中进行运行的方式,取到了节省DRAM存储空间,提升模型处理速度的有益效果。
应当理解,本部分所描述的内容并非旨在标识本发明的实施例的关键或重要特征,也不用于限制本发明的范围。本发明的其它特征将通过以下的说明书而变得容易理解。
附图说明
为了更清楚地说明本发明的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,应当理解,以下附图仅示出了本发明的某些实施例,因此不应被看作是对范围的限定,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他相关的附图。
图1是本发明提供的算法模型加载方法的一个流程示意图;
图2是本发明提供的算法模型加载系统的一个结构示意图;
图3是本发明提供的算法模型加载方法的另一个流程示意图;
图4是本发明提供的算法模型加载系统的另一个结构示意图;
图5是本发明提供的算法模型加载装置的一个结构示意图;
图6是本发明提供的电子设备的一个结构示意图。
具体实施方式
为了使本技术领域的人员更好地理解本发明方案,下面将结合本实施例中的附图,对本发明中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分的实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都应当属于本发明保护的范围。
需要说明的是,本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本发明的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
下面结合附图和实施例对本发明作进一步的详细说明。可以理解的是,此处所描述的具体实施例仅仅用于解释本发明,而非对本发明的限定。另外还需要说明的是,为了便于描述,附图中仅示出了与本发明相关的部分而非全部结构。
图1是本发明提供的算法模型加载方法的一个流程示意图,本实施例可适用于对业务场景中的海量算法模型进行加载的情况。该方法可以由算法模型加载装置来执行,该装置可以采用硬件和/或软件的形式实现,该装置可配置于服务器等计算机设备中。本实施例提供的算法模型加载方法,应用于算法模型加载系统。具体地,参考图1,该方法可以包括如下步骤:
S110、业务控制单元根据当前业务需求向数据加载单元发送模型加载指令,模型加载指令包括目标算法名称。
首先,请参照图2,图2是本发明提供的算法模型加载系统的一个结构示意图,本实施例提供的算法模型加载系统包括业务控制单元、数据加载单元和数据存储单元。其中,业务控制单元与数据加载单元分别设置在不同的CPU内核中,业务控制单元与数据加载单元进行核间通信,数据加载单元与数据存储单元基于总线寻址通信或串口通信,数据加载单元和业务控制单元分别与DRAM通过内存总线寻址通信。
其中,在业务控制单元中存储有业务控制程序,以使得基于业务控制程序实现业务控制单元的相应控制功能;在数据加载单元中存储有数据加载程序,以使得基于数据加载程序实现数据加载单元的相应加载功能;动态随机存取存储器DRAM用于存储模型加载单元加载的算法模型,以使得被加载的算法模型能够被运行;数据存储单元可以由非易失性储存设备(如,磁盘)实现,用于存储实现业务场景所需的海量算法模型,以业务场景为自动驾驶场景为例,在自动驾驶场景中包含的海量算法模型可以为行驶路况确定模型、信号灯状态确定模型、车辆加减速控制模型以及天气确定模型等,具体本实施例提供的算法模型加载方案不以应用于自动驾驶场景,以及自动驾驶场景所需的算法模型不以上述举例为限制。
上述业务需求用于指示在实际业务应用中的当前需求,以自动驾驶业务场景为例,在车辆行驶的过程中根据接收的实时道路场景数据确定当前业务需求,示例性地,当前业务需求可以为制动需求、停车需求、变道需求以及信号灯等待需求等;以电商业务场景为例,根据用户发送的控制指令确定当前业务需求,示例性地,当前业务需求可以为搜索目标商品需求、商品筛选需求、订单查看需求以及商品下单需求等,一个业务需求对应一个算法模型。
模型加载指令用于指示数据加载单元去加载目标模型,以通过加载目标模型实现当前业务需求。其中,模型加载指令包括目标算法名称。具体地,每个算法名称可根据对应业务需求进行命名,以上述自动驾驶业务场景为例,对应的算法名称可以为制动算法、停车算法、变道算法以及停车等待算法等;可选地,也可根据编码的方式以数字、字母以及符号相结合的方式标识每个算法名称,具体每个算法名称的标识方式在此不做限制,只要能够根据当前算法名称在后续步骤中获得唯一对应的目标算法模型即可。
S120、数据加载单元根据目标算法名称从数据存储单元中加载对应的目标算法模型至DRAM中,以使得业务控制单元对目标算法模型进行处理。
数据存储单元存储有至少一个算法模型,每个算法模型中包含有架构对应模型的程序代码和算法名称。可选地,在数据存储单元中存储每个算法模型时,可包含有模型-代码映射表,基于模型-代码映射表可查找获得目标算法名称对应的目标算法模型,数据加载单元可将从数据存储单元中查找到的目标算法模型至DRAM中。
在本方案中,业务控制单元中的业务控制程序运行在一个处理器内核中,数据加载单元中的模型加载程序运行在另一个处理器内核中,业务控制单元和模型加载单元可共享DRAM,在业务控制单元确定目标算法模型在DRAM中加载完成时,可对加载完成后的目标算法模型进行处理。本实施例提供的方案,可根据当前业务场景的业务需求在任意时刻指示数据加载单元去加载特定的算法模型,这样设置的好处在于,能够使算法模型的加载方式根据当前业务需求呈动态加载模式,使得模型加载的方式更灵活,提高加载效率;且在DRAM中存储的算法模型为实现业务的每个被实际应用的算法模型,不存在加载的模型不被使用的情况,提高了DRAM的存储效率等。
其中,业务控制单元确定目标算法模型在DRAM中加载完成的方式可以为,在目标算法模型被加载完成后,可产生加载完成标识,若业务控制单元获得加载完成标识可确定目标算法模型被加载完成,可进行对目标算法模型进行处理的操作;若未产生加载完成标识,则业务控制单元可进行持续等待,直至产生加载完成标识为止。可选地,加载完成标识的指示方式可以为,若加载完成,可产生“完成”对应的指令代码,可也用“1”进行表示,具体加载完成标识的表示方式在此不做限制。
业务控制单元对目标算法模型进行处理的方式可以为,根据当前加载的目标算法模型确定是否继续加载下一个算法模型,还是对当前算法模型进行计算等。示例性地,在目标算法模型为关于当前需求的判断模型,则需结合实际判断结果继续加载判断结果对应的算法模型,则业务控制单元可继续向数据加载单元发送模型加载指令;若目标算法模型不为判断模型,则需对目标算法模型进行解算处理,以获得模型结算结果,从而根据结算结果和当前实际场景确定下一个待加载的算法模型等,具体业务控制单元对目标算法模型进行处理的方式在此不做限制。
本实施例提供的算法模型加载方法,应用于算法模型加载系统,系统包括业务控制单元、数据加载单元和数据存储单元,业务控制单元与数据加载单元分别设置在不同的CPU内核中,具体地,业务控制单元根据当前业务需求向数据加载单元发送模型加载指令,模型加载指令包括目标算法名称;数据加载单元根据目标算法名称从数据存储单元中加载对应的目标算法模型至DRAM中,以使得业务控制单元对目标算法模型进行处理。本实施例提供的方案,业务控制单元与数据加载单元进行核间通信,通过数据加载单元从数据存储单元向DRAM中加载目标算法模型的方式,以使得目标模型在DRAM中被快速响应处理,DRAM中存储的算法模型为根据业务需求被加载完成的算法模型,相比于现有将海量模型加载至DRAM中进行运行的方式,取到了节省DRAM存储空间,提升模型处理速度的有益效果。
图3是本发明提供的算法模型加载方法的另一流程示意图,本实施例与上述实施例之间的关系对上述实施例相应特征的进一步细化。如图3所示,该方法可以包括如下步骤:
S210、业务控制单元根据当前业务需求和模型加载链表确定目标算法名称。
存储有模型加载链表存储在DRAM中,模型加载链表包括至少两个算法名称,每个算法名称根据业务实现逻辑顺序相关联。
在本方案中,通过DRAM的共享机制,业务控制单元和数据加载单元均可获得模型加载链表中存储的内容,其中,在模型加载链表中,每个算法名称根据业务实现逻辑顺序相关联,示例性地,模型加载链表中包含的算法名称分别为模型A、模型B、模型C和模型D等,在实际业务需求中的模型实现逻辑顺序可以为模型A-模型B-模型C或模型D,则每个算法名称可根据当前业务实现逻辑顺序进行预先关联,这样做的好处在于,便于使得业务控制单元明确下一个待加载的算法模型。
其中,业务控制单元根据当前业务需求和模型加载链表确定目标算法名称的方式可以为,如在车辆在道路上行驶的过程中,车辆控制器根据预先加载的行驶地图可知,前方包含有信号灯,则当前业务需求可以为对信号灯进行处理,进一步,结合模型加载链表中,根据预先确定的车辆行驶逻辑顺序,可确定当前目标算法名称为信号灯处理算法。
可选地,模型加载链表中除包含每个算法名称外,还可包含每个模型对于的偏移量,模型占用内存大小以及是否被加载等信息,具体模型加载链表中包含的信息在此不做限制。
S211、业务控制单元根据目标算法名称生成模型加载指令,将模型加载指令发送至数据加载单元。
一种实现方式,本实施例提供的方案,在模型加载链表中包含的至少两个算法名称对应的算法模型未被加载之前,方法还包括:
接收对模型加载链表中未被加载的算法名称间逻辑顺序的更新指令,更新指令包括修改指令、删除指令和添加指令中的至少一种。
对于实现业务场景所需的海量算法模型,若模型加载链表中的算法名称对应的算法模型未被加载,则可对未被加载的算法名称间逻辑顺序进行更新,以使得模型加载链表支持根据实际需求进行相应调整。
其中,上述更新指令包括修改指令、删除指令和添加指令中的至少一种,则模型加载链表根据更新指令指示的实际意义,对预先关联的算法名称间的实现逻辑顺序进行相应地修改、删除或添加等操作。
需要说明的是,在更新指令为添加指令时,表明需对模型加载链表中新增一个算法模型名称,并进行逻辑关联,则在数据存储单元中需包含有新增算法模型名称实际对应的算法模型,以使得能够根据新增算法模型名称实现对新增算法模型的加载操作。
S220、数据加载单元根据目标算法名称从数据存储单元中加载对应的目标算法模型至DRAM中。
S230、获取目标算法模型的模型类别。
本实施例提供的模型类别可以包括判断类别和其他类别,确定模型类别的目的在于,便于在后续步骤中确定出业务控制单元对目标算法模型的处理方式。
其中,判断类别指示目标算法模型为一个判断逻辑,需根据实际数据确定出下一个待加载算法模型;其他类别指示具体的算法模型,用于后续步骤对算法模型进行计算,获得计算结果。
请参照图4,图4是本发明提供的算法模型加载系统的另一个结构示意图。本实施例提供的算法模型加载系统还包括模型计算单元。模型计算单元中存储有模型计算程序,以基于模型计算程序实现模型计算单元的相应推理运算功能。
其中,模型计算单元与DRAM基于总线寻址通信,模型计算单元与业务控制单元通过总线或者串口连接,业务控制单元能够控制模型计算单元对DRAM中加载完成的算法模型进行运算,以获得模型的运算结果。
S231、确定目标算法模型的模型类别是否为判断类别。
若是,则业务控制单元根据当前业务结果,返回执行步骤S210。
若否,则执行步骤S240。
另一种可选实施例,本实施例提供的方案还包括:业务控制单元根据模型加载链表获取每个算法名称之间的逻辑关系;在多个算法名称之间的逻辑关系不包含判断类别时,业务控制单元向模型加载指令发送模型组加载指令,模型组加载指令包括至少两个算法名称;数据加载单元根据至少两个算法名称从数据存储单元中加载对应的至少两个算法模型至DRAM中。
当前实施例可以理解为,若多个算法名称之间的逻辑关系包含判断类别,则需根据判断类别的实际判断结果确定出下一个待加载的算法模型,对于多个算法名称之间的逻辑关系包含判断类别的算法模型,业务控制单元向模型加载指令发送模型组加载指令,以使得数据加载单元将模型组加载指令中包含的至少两个算法名称对应的算法模型加载至DRAM,这样做的好处在于,在逻辑顺序不变的情况下,业务控制单元无需多次向数据加载单元发送模型加载指令,可提高模型加载效率。
本实施例提高的方案,业务控制单元可以灵活的根据业务需要决定是连续加载一系模型组,还是从一个当前算法模型的运算结果中去选择的加载下一个算法模型。模型加载程序通过模型加载链表管理的待加载模型为业务提供一个通用灵活的统一接口,可以加载顺序列表的一组算法模型,也可以单独加载一个算法模型。
S240、在业务控制单元接收到数据加载单元发送的关于目标算法模型的加载完成标识后,业务控制单元控制模型计算单元对目标算法模型进行计算。
加载完成标识为数据加载单元发送的关于目标算法模型是否被加载完成的标识。待接收到关于目标算法模型的加载完成标识后,模型计算单元才可在DRAM中对目标算法模型进行计算。
一种实际应用场景示例,业务控制单元根据当前业务需求向数据加载单元发送模型加载指令,包括:
在车辆与车道停止线的间隔距离小于预设距离时,获取天气类型,天气类型包括晴天和雨天;在天气类型为雨天时,业务控制单元向数据加载单元发送加载雨天信号灯模型的加载指令;在天气类型为晴天时,业务控制单元向数据加载单元发送加载晴天信号灯模型的加载指令。
本实施例以根据天气情况加载对那个天气类型对应的信号灯模型为例进行情况说明,如现在自动驾驶场景中信号灯监测模型包含有雨天信号灯模型和晴天信号灯模型,在判断当前天气类型为雨天还是晴天之前,现有的根据固定顺序向DRAM中加载模型的方式,会将雨天信号灯模型和晴天信号灯模型都加载到DRAM,并进一步结合天气判断模型来判断车辆当前运行时所处的实际天气类型,若确定当前实际天气类型为雨天,则对加载完成的雨天信号灯模型进行计算,晴天信号灯模型不会被使用。假设雨天信号灯模型和晴天信号灯模型所需内存都很大,如5G,但同时还需结合其他算法模型共计需要4G,但是由于项目成本原因,DRAM只配置了8G内存。存在内存不够的情况。
根据本实施例提供的方案,可在车辆距离信号灯预设距离(如100米)时获取天气类型,当前获取天气类型的方式为,业务控制单元向数据加载单元发送加载关于天气类型算法模型的指令,待天气类型算法模型被加载完成时,可输入车辆行驶过程中获得的环境数据,以确定当前实际环境所处的目标天气类型,在确定目标天气类型为雨天时,则业务控制单元向数据加载单元发送加载雨天信号灯模型的加载指令;在确定目标天气类型为晴天时,业务控制单元向数据加载单元发送加载晴天信号灯模型的加载指令。在本示例中,能够根据业务需要动态加载算法模型使得在晴天和雨天均能使用到相应的算法模型,业务控制单元可以根据当前业务需求灵活控制数据加载单元去加载算法模型,且控制数据加载单元加载一个算法模型的过程和控制模型计算单元计算另一个算法模型的过程可以并行运行,充分利用多核系统的不同核心不同系统软件下并行处理,提高运行效率。
本实施例提供的算法模型加载方法,业务控制单元中的业务控制程序运行在一个处理器内核中,数据加载单元中的模型加载程序运行在另一个处理器内核中,通过共享DRAM,在DRAM中存储有模型加载链表,业务控制单元可以根据实际需求指示数据加载单元去加载特定模型,取到灵活加载实际需求算法模型的效果。且通过模型加载链表获取每个算法名称之间的逻辑关系,在多个算法名称之间的逻辑关系不包含判断类别时,业务控制单元向模型加载指令发送模型组加载指令,使得业务控制单元可以灵活的根据业务需要决定是连续加载一系模型组,还是从一个当前算法模型的运算结果中去选择的加载下一个算法模型,可提高模型加载效率。
图5是本发明提供的算法模型加载装置的一个结构示意图,该装置适用于执行本实施例提供的集成于算法模型加载系统,方法。该装置可集成于算法模型加载系统,所述系统包括业务控制单元、数据加载单元和数据存储单元,所述业务控制单元与所述数据加载单元分别设置在不同的CPU内核中,该装置具体可以包括:指令发送模块310和模型加载模块320,其中:
指令发送模块310,用于所述业务控制单元根据当前业务需求向数据加载单元发送模型加载指令,所述模型加载指令包括目标算法名称;
模型加载模块320,用于所述数据加载单元根据所述目标算法名称从所述数据存储单元中加载对应的目标算法模型至DRAM中,以使得所述业务控制单元对所述目标算法模型进行处理。
本发明实施例的算法模型加载装置,应用于算法模型加载系统,系统包括业务控制单元、数据加载单元和数据存储单元,业务控制单元与数据加载单元分别设置在不同的CPU内核中,具体地,业务控制单元根据当前业务需求向数据加载单元发送模型加载指令,模型加载指令包括目标算法名称;数据加载单元根据目标算法名称从数据存储单元中加载对应的目标算法模型至DRAM中,以使得业务控制单元对目标算法模型进行处理。本实施例提供的方案,业务控制单元与数据加载单元进行核间通信,通过数据加载单元从数据存储单元向数据加载单元中加载目标算法模型的方式,以使得目标模型在DRAM中被快速响应处理,DRAM中存储的算法模型为根据业务需求被加载完成的算法模型,相比于现有将海量模型加载至DRAM中进行运行的方式,取到了节省DRAM存储空间,提升模型处理速度的有益效果。
一实施例中,在所述DRAM中存储有模型加载链表,所述模型加载链表包括至少两个算法名称,每个算法名称根据业务实现逻辑顺序相关联;
所述指令发送模块310包括:名称确定单元和指令发送单元,其中:
名称确定单元,用于所述业务控制单元根据当前业务需求和所述模型加载链表确定目标算法名称;
指令发送单元,用于所述业务控制单元根据所述目标算法名称生成模型加载指令,将所述模型加载指令发送至所述数据加载单元。
一实施例中,所述装置还包括:指令接收模块,其中:
指令接收模块,用于接收对所述模型加载链表中未被加载的算法名称间逻辑顺序的更新指令,所述更新指令包括修改指令、删除指令和添加指令中的至少一种。
一实施例中,所述算法模型加载系统还包括模型计算单元;所述装置还包括模型处理模块,其中:
所述模型处理模块,用于获取所述目标算法模型的模型类别;在所述模型类别是判断类别时,则重复执行所述业务控制单元根据当前业务需求向数据加载单元发送模型加载指令的操作;在所述模型类别不是判断类别时,则所述业务控制单元控制所述模型计算单元对所述目标算法模型进行计算,获得模型计算结果。
一实施例中,所述方法还包括标识接收模块,其中:
标识接收模块,用于所述业务控制单元接收所述数据加载单元发送的关于所述目标算法模型的加载完成标识。
一实施例中,所述指令发送模块310,具体用于在车辆与车道停止线的间隔距离小于预设距离时,获取天气类型,所述天气类型包括晴天和雨天;在所述天气类型为雨天时,所述业务控制单元向所述数据加载单元发送加载雨天信号灯模型的加载指令;在所述天气类型为晴天时,所述业务控制单元向所述数据加载单元发送加载晴天信号灯模型的加载指令。
一实施例中,所述装置还包括:关系获取模块,其中:
关系获取模块,用于所述业务控制单元根据所述模型加载链表获取每个算法名称之间的逻辑关系;
指令发送模块,还用于在多个所述算法名称之间的逻辑关系不包含判断类别时,所述业务控制单元向所述模型加载指令发送模型组加载指令,所述模型组加载指令包括至少两个算法名称;
模型加载模块,还用于所述数据加载单元根据至少两个算法名称从所述数据存储单元中加载对应的至少两个算法模型至DRAM中。
本领域的技术人员可以清楚地了解到,为描述的方便和简洁,仅以上述各功能模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能模块完成,即将装置的内部结构划分成不同的功能模块,以完成以上描述的全部或者部分功能。上述描述功能模块的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
本发明还提供了一种电子设备,所述电子设备包括:至少一个处理器;以及与所述至少一个处理器通信连接的存储器;其中,所述存储器存储有可被所述至少一个处理器执行的计算机程序,所述计算机程序被所述至少一个处理器执行,以使所述至少一个处理器能够执行本发明任一实施例所述的算法模型加载方法。
本发明还提供了一种计算机可读介质,所述计算机可读存储介质存储有计算机指令,所述计算机指令用于使处理器执行时实现本发明任一实施例所述的算法模型加载方法。
下面参考图6,其示出了适于用来实现本发明的电子设备的计算机系统500的结构示意图。图6示出的电子设备仅仅是一个示例,不应对本实施例的功能和使用范围带来任何限制。
如图6所示,计算机系统500包括中央处理单元(CPU)501,其可以根据存储在只读存储器(ROM)502中的程序或者从存储部分508加载到随机访问存储器(RAM)503中的程序而执行各种适当的动作和处理。在RAM 503中,还存储有系统500操作所需的各种程序和数据。CPU 501、ROM 502以及RAM 503通过总线504彼此相连。输入/输出(I/O)接口505也连接至总线504。
以下部件连接至I/O接口505:包括键盘、鼠标等的输入部分506;包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分507;包括硬盘等的存储部分508;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分509。通信部分509经由诸如因特网的网络执行通信处理。驱动器510也根据需要连接至I/O接口505。可拆卸介质511,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器510上,以便于从其上读出的计算机程序根据需要被安装入存储部分508。
特别地,根据本发明公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本发明公开的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信部分509从网络上被下载和安装,和/或从可拆卸介质511被安装。在该计算机程序被中央处理单元(CPU)501执行时,执行本发明的系统中限定的上述功能。
需要说明的是,本发明所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本发明中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本发明中,计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:无线、电线、光缆、RF等等,或者上述的任意合适的组合。
附图中的流程图和框图,图示了按照本发明各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图或流程图中的每个方框、以及框图或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本实施例中所涉及到的模块和/或单元可以通过软件的方式实现,也可以通过硬件的方式来实现。所描述的模块和/或单元也可以设置在处理器中,例如,可以描述为:一种处理器包括指令发送模块和模型加载模块。其中,这些模块的名称在某种情况下并不构成对该模块本身的限定。
作为另一方面,本发明还提供了一种计算机可读介质,该计算机可读介质可以是上述实施例中描述的设备中所包含的;也可以是单独存在,而未装配入该设备中。上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被一个该设备执行时,使得该设备包括:业务控制单元根据当前业务需求向数据加载单元发送模型加载指令,所述模型加载指令包括目标算法名称;所述数据加载单元根据所述目标算法名称从所述数据存储单元中加载对应的目标算法模型至DRAM中,以使得所述业务控制单元对所述目标算法模型进行处理。
根据本实施例的技术方案,业务控制单元与数据加载单元进行核间通信,通过数据加载单元从数据存储单元向DRAM中加载目标算法模型的方式,以使得目标模型在DRAM中被快速响应处理,DRAM中存储的算法模型为根据业务需求被加载完成的算法模型,相比于现有将海量模型加载至DRAM中进行运行的方式,取到了节省DRAM存储空间,提升模型处理速度的有益效果。
上述具体实施方式,并不构成对本发明保护范围的限制。本领域技术人员应该明白的是,取决于设计要求和其他因素,可以发生各种各样的修改、组合、子组合和替代。任何在本发明的精神和原则之内所作的修改、等同替换和改进等,均应包含在本发明保护范围之内。
- 文件预加载方法、装置、电子设备及计算机可读存储介质
- 深度算法精度计算方法、装置、电子设备、可读存储介质
- 神经网络模型的优化方法及装置、电子设备和存储介质
- 三维模型处理方法和装置、电子设备、计算机可读存储介质
- 模型处理方法及装置、存储介质和电子设备
- 算法模型的加载方法、装置、存储介质和电子装置
- 一种算法模型加载方法、装置、设备及存储介质