掌桥专利:专业的专利平台
掌桥专利
首页

一种算力分配方法、装置、计算机设备及存储介质

文献发布时间:2024-04-18 19:58:53


一种算力分配方法、装置、计算机设备及存储介质

技术领域

本发明涉及智慧城市技术领域,尤其涉及一种算力分配方法、装置、计算机设备及存储介质。

背景技术

随着科技水平的不断提升,AI(Artificial Intelligence,人工智能)盒子的应用越来越广泛。目前,社区内基于固定摄像头的AI安防巡检实现小区物业管理运行的自动化、智能化转型,而考虑到在社区指挥中心内,由于软硬件部署、环境散热、系统稳定运维以及AI应用效果等问题的出现,通常会采用边缘计算的AI盒子作为产品载体。

但是AI盒子本身的架构和体积问题导致其算力能力受限,假设平均每个小区200个摄像头,需对其中80%以上的摄像头完成AI巡检功能配置,这对部署在各小区指挥中心的AI盒子的算力是个较大的挑战。

发明内容

本发明的目的是提供一种算力分配方法、装置、计算机设备及存储介质,旨在解决目前AI盒子算力能力受限,摄像头连续抽帧任务占用资源,分配效率低下的问题。

第一方面,本发明实施例提供一种基于定时抽帧任务的边端服务器算力分配方法,包括:

对定时抽帧任务进行参数定义,所述参数包括抽帧任务序列p

根据业务属性,设置不同的p

依次选择抽帧任务序列p

根据所述约束条件以及在每一分钟内的最大任务数量,推理在目标抽帧任务的抽帧时间间隔内的每分钟内所有待处理抽帧任务的任务数量之间的关系、新增摄像头的数量之间的关系与任务数量和新增摄像头的数量之间的关系,得到算力分配结果,其中,所述算力分配结果包括所需分配的最大摄像头总数量。

第二方面,本发明实施例还提供一种基于定时抽帧任务的边端服务器算力分配的装置,其包括:

参数定义单元,用于对定时抽帧任务进行参数定义,所述参数包括抽帧任务序列p

设置约束条件单元,用于根据业务属性,设置不同的p

确定目标抽帧任务单元,用于依次选择抽帧任务序列p

推理计算单元,用于根据所述约束条件以及在每一分钟内的最大任务数量,推理在目标抽帧任务的抽帧时间间隔内的每分钟内所有待处理抽帧任务的任务数量之间的关系、新增摄像头的数量之间的关系与任务数量和新增摄像头的数量之间的关系,得到算力分配结果,其中,所述算力分配结果包括所需分配的最大摄像头总数量。

第三方面,本发明实施例又提供了一种计算机设备,其包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现上述第一方面所述的基于定时抽帧任务的边端服务器算力分配方法。

第四方面,本发明实施例还提供了一种计算机可读存储介质,其中所述计算机可读存储介质存储有计算机程序,所述计算机程序当被处理器执行时使所述处理器执行上述第一方面所述的基于定时抽帧任务的边端服务器算力分配方法。

本发明实施例提供一种算力分配方法、装置、计算机设备及存储介质,该方法设置不同的抽帧任务和在对应的抽帧时间间隔内的每分钟内新增的摄像头之和的关系,得到约束条件,并根据约束条件,提供一个合理的设备抽帧任务分配方案,计算出所需分配的最大摄像头总数量,从而最大化利用AI盒子的算力资源,缓解连续抽帧导致的资源占用问题。

附图说明

为了更清楚地说明本发明实施例技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。

图1为本发明实施例提供的基于定时抽帧任务的边端服务器算力分配方法的流程示意图;

图2为本发明实施例提供的基于定时抽帧任务的边端服务器算力分配方法的子流程示意图;

图3为本发明实施例提供的基于定时抽帧任务的边端服务器算力分配方法的又一子流程示意图;

图4为本发明实施例提供的基于定时抽帧任务的边端服务器算力分配方法的又一子流程示意图;

图5为本发明实施例提供的基于定时抽帧任务的边端服务器算力分配装置的示意图;

图6为本发明实施例提供的基于定时抽帧任务的边端服务器算力分配装置的子单元示意图;

图7为本发明实施例提供的基于定时抽帧任务的边端服务器算力分配装置的另一子单元示意图;

图8为本发明实施例提供的计算机设备的示意图。

具体实施方式

下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。

应当理解,当在本说明书和所附权利要求书中使用时,术语“包括”和“包含”指示所描述特征、整体、步骤、操作、元素和/或组件的存在,但并不排除一个或多个其它特征、整体、步骤、操作、元素、组件和/或其集合的存在或添加。

还应当理解,在此本发明说明书中所使用的术语仅仅是出于描述特定实施例的目的而并不意在限制本发明。如在本发明说明书和所附权利要求书中所使用的那样,除非上下文清楚地指明其它情况,否则单数形式的“一”、“一个”及“该”意在包括复数形式。

还应当进一步理解,在本发明说明书和所附权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合,并且包括这些组合。

请参阅图1,图1为本发明实施例提供的一种基于定时抽帧任务的边端服务器算力分配方法的流程示意图,该方法包括步骤S101~S104:

S101、对定时抽帧任务进行参数定义,所述参数包括抽帧任务序列p

本实施例中,为了充分利用、不浪费AI盒子的算力,提出了使用定时任务抽帧的方式对算力进行均衡和分配,在最大程度上运用盒子的算力;同时为了方便推导和计算定时抽帧任务的任务数量和新增摄像头的数量,对定时抽帧任务进行参数定义,定义时间序列参数、任务数量参数、新增摄像头的数量等指标。

具体的,如图2所示,所述步骤S101包括S201~S204:

S201、定义抽帧任务序列,所述抽帧任务序列表示为:p

本实施例中,为了方便推导和计算定时抽帧任务的任务数量和新增摄像头的数量,对定时抽帧任务进行参数定义,首先定义抽帧任务序列,表示每间隔p

S202、定义时间序列,所述时间序列表示为:t

其中,t

S203、定义任务数量,所述任务数量表示为:

其中,

S204、定义新增摄像头数量,所述新增摄像头数量表示为

其中,

S102、根据业务属性,设置不同的p

本实施例中,假设存在抽帧任务序列p

进一步的,如图3所示,所述步骤S102,包括步骤S301~S303:

S301、获取任务数量最多的p

S302、将获取任务数量最多的p

S303、根据业务属性获取其他p

本实施例中,根据业务属性,假设所有p

具体是指,抽帧间隔为5分钟的任务在前5分钟内新增摄像头的数量与抽帧间隔为30分钟的任务在前30分钟内新增摄像头的数量相等,且是抽帧间隔为1分钟的任务在第一分钟内新增摄像头的数量的4倍,也是抽帧间隔为3分钟的任务在前3分钟内新增摄像头的数量的2倍,也是抽帧间隔为10分钟的任务在前10分钟内新增摄像头的数量的2倍。

S103、依次选择抽帧任务序列p

在本实施例中,根据业务场景的需求,可以选择一个抽帧任务作为目标抽帧任务,并确定该抽帧任务的抽帧时间间隔范围。接下来,再将目标抽帧任务的时间间隔范围内的所有抽帧任务作为待处理抽帧任务进行处理,这样,方便将目标抽帧任务与其他任务进行比较,并根据不同的场景需求来对待处理抽帧任务进行处理。

S104、根据所述约束条件以及在每一分钟内的最大任务数量,推理在目标抽帧任务的抽帧时间间隔内的每分钟内所有待处理抽帧任务的任务数量之间的关系、新增摄像头的数量之间的关系与任务数量和新增摄像头的数量之间的关系,得到算力分配结果,其中,所述算力分配结果包括所需分配的最大摄像头总数量。

在本实施例中,选择抽帧任务序列p

具体的,在本实施例中,由于在定时抽帧任务的实测过程中发现,从任务启动到获取图片最长需要5秒,周期T=5s,表示从启动定时任务到抽取图像历时5秒,5秒后启动下一个定时抽帧任务。因此,为了均衡资源利用,按照插值的理念,最优的方案便是在1分钟的时间序列内排列12个定时任务,即最大任务数量。

在一实施例中,如图4所示,所述步骤S104,还包括步骤S401~S403:

S401、获取所有待处理抽帧任务在每分钟内的任务数量;

S402、依次计算在每一分钟内的所有各待处理抽帧任务的任务数量之和;

S403、根据每一分钟内的任务数量之和与每一分钟内的最大任务数量之间的关系,得到任务数量约束关系。

进一步的,所述步骤S104,还包括:

根据每一待处理抽帧任务在对应的抽帧时间间隔的每一分钟内任务数量和新增摄像头数量的相等关系,得到任务摄像头约束关系。

在本实施例中,抽取一个p

基于步骤S101定义出的参数,推理p

在t

在t

在t

根据每一分钟内的任务数量之和与每一分钟内的最大任务数量之间的关系,得到任务数量约束关系:

其中,由于任务p

由于任务p

又根据步骤S303中的约束条件,有:

最终解得在此应用场景下:

进一步的,抽取一个p

在t

在t

在t

在t

在t

根据每一分钟内的任务数量之和与每一分钟内的最大任务数量之间的关系,得到任务数量约束关系:

其中,由于p

p

p

又根据步骤S303中的约束条件,有:

最终解得在此应用场景下:

进一步的,在本实施例中,基于步骤S104中的两种具体推理过程,继续推理p

整理总结出在本业务场景中,不同的p

进一步的,一种基于定时抽帧任务的边端服务器算力分配方法,还包括:

将抽帧任务分类为连续抽帧任务和定时抽帧任务,并利用解耦的方法将所述连续抽帧任务和所述定时抽帧任务进行分离。

在本实施例中,抽帧任务可以根据任务触发方式的不同进行分类,主要分为连续抽帧任务和定时抽帧任务。

连续抽帧任务是指需要在连续的时间段内进行抽取的任务,例如对实时视频进行处理或监控,具体的,从监控设备拉到视频流之后以秒为间隔抽取1帧画面图像,连续抽帧会一直占用AI盒子的内存资源,实时性要求很高,如出入口拥堵,小区周界入侵等场景,AI发现问题时需要在3-5秒后产生预警并实时处理,此类场景会连续无间断地拉取摄像头的视频流进行抽帧,并常驻内存资源。

定时抽帧任务是指按照预定的时间间隔进行抽取的任务,例如每隔一定时间从视频中抽取一帧图像,抽到1帧后关闭任务,定时抽帧会间断性占用内存资源,实时性要求相对较低,如垃圾桶满溢,公共区域垃圾等场景,AI发现问题后在20分钟内处理即可,此类场景只需要在一定间隔时间内(如:每隔30s)拉取摄像头视频流并完成抽帧动作,只有在抽帧时占用内存资源。

为了将连续抽帧任务和定时抽帧任务进行分离,可以采用解耦的方法,通过解耦连续抽帧任务模块和定时抽帧任务模块,可以更好地管理和控制抽帧任务,使得任务可以根据需求进行独立调整和优化。

进一步的,本发明基于定时抽帧任务的边缘服务器算力分配方法,具体的业务场景是基于社区固定摄像头设备的AI巡检的过程中,部署在AI边缘计算盒子中的算法模型进行推理时会消耗盒子的CPU和内存资源,经过对实际项目实践的观察,内存的占用是限制算法推理性能的瓶颈。相对于连续抽帧任务,定时抽帧任务只在需要抽帧的时候开启,抽取到图像就关闭任务,属于短时间执行动作,开启定时抽帧能更好地兼顾对机器资源的均衡使用。因此,为实现AI盒子内存资源分配与利用的最大化,从实际的业务场景出发,设计一种任务分配目标优化方案,根据不同的需求推断出定时任务的数量与新增摄像头的数量之间的关系,推导出可以配置的摄像头个数的最大值,可以缓解连续抽帧导致的资源占用问题,以科学充分利用AI盒子的算力性能。

如图5所示,本发明实施例还提供一种基于定时抽帧任务的边端服务器算力分配装置500,包括:参数定义单元501、设置约束条件单元502、确定目标抽帧任务单元503、推理计算单元504。

参数定义单元501,用于对定时抽帧任务进行参数定义,所述参数包括抽帧任务序列p

设置约束条件单元502,用于根据业务属性,设置不同的p

确定目标抽帧任务单元503,用于依次选择抽帧任务序列p

推理计算单元504,用于根据所述约束条件以及在每一分钟内的最大任务数量,推理在目标抽帧任务的抽帧时间间隔内的每分钟内所有待处理抽帧任务的任务数量之间的关系、新增摄像头的数量之间的关系与任务数量和新增摄像头的数量之间的关系,得到算力分配结果,其中,所述算力分配结果包括所需分配的最大摄像头总数量。

在一实施例中,如图6所示,所述设置约束条件单元502包括:

第一获取单元601,用于获取任务数量最多的p

第二获取单元602,用于获取任务数量最多的p

确定比例关系单元603,用于根据业务属性获取其他p

在一实施例中,如图7所示,所述推理计算单元504包括:

获取任务数量单元701,用于获取所有待处理抽帧任务在每分钟内的任务数量;

计算单元702,用于依次计算在每一分钟内的所有各待处理抽帧任务的任务数量之和;

设置约束关系单元703,用于根据每一分钟内的任务数量之和与每一分钟内的最大任务数量之间的关系,得到任务数量约束关系。

该装置设置不同的抽帧任务在对应的抽帧时间间隔内的每分钟内新增的摄像头之和的关系,得到约束条件,并根据约束条件,利用AI盒子计算所需分配的最大摄像头总数量。

需要说明的是,所属领域的技术人员可以清楚地了解到,上述装置和各单元的具体实现过程,可以参考前述方法实施例中的相应描述,为了描述的方便和简洁,在此不再赘述。

上述基于定时抽帧任务的边端服务器算力分配装置可以实现为计算机程序的形式,该计算机程序可以在如图8所示的计算机设备上运行。

请参阅图8,图8是本发明实施例提供的计算机设备的示意性框图。该计算机设备800是服务器,服务器可以是独立的服务器,也可以是多个服务器组成的服务器集群。

参阅图8,该计算机设备800包括通过系统总线801连接的处理器802、存储器和网络接口805,其中,存储器可以包括非易失性存储介质803和内存储器804。

该非易失性存储介质803可存储操作系统8031和计算机程序8032。该计算机程序8032被执行时,可使得处理器802执行基于定时抽帧任务的边端服务器算力分配方法。

该处理器802用于提供计算和控制能力,支撑整个计算机设备800的运行。

该内存储器804为非易失性存储介质803中的计算机程序8032的运行提供环境,该计算机程序8032被处理器802执行时,可使得处理器802执行基于定时抽帧任务的边端服务器算力分配方法。

该网络接口805用于进行网络通信,如提供数据信息的传输等。本领域技术人员可以理解,图8中示出的结构,仅仅是与本发明方案相关的部分结构的框图,并不构成对本发明方案所应用于其上的计算机设备800的限定,具体的计算机设备800可以包括比图中所示更多或更少的部件,或者组合某些部件,或者具有不同的部件布置。

本领域技术人员可以理解,图8中示出的计算机设备的实施例并不构成对计算机设备具体构成的限定,在其他实施例中,计算机设备可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件布置。例如,在一些实施例中,计算机设备可以仅包括存储器及处理器,在这样的实施例中,存储器及处理器的结构及功能与图8所示实施例一致,在此不再赘述。

应当理解,在本发明实施例中,处理器802可以是中央处理单元(CentralProcessing Unit,CPU),该处理器802还可以是其他通用处理器、数字信号处理器(DigitalSignal Processor,DSP)、专用集成电路(Application Specific IntegratedCircuit,ASIC)、现成可编程门阵列(Field-Programmable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。其中,通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。

在本发明的另一实施例中提供计算机可读存储介质。该计算机可读存储介质可以为非易失性的计算机可读存储介质。该计算机可读存储介质存储有计算机程序,其中计算机程序被处理器执行时实现本发明实施例的基于定时抽帧任务的边端服务器算力分配方法。

所述存储介质为实体的、非瞬时性的存储介质,例如可以是U盘、移动硬盘、只读存储器(Read-Only Memory,ROM)、磁碟或者光盘等各种可以存储程序代码的实体存储介质。

所属领域的技术人员可以清楚地了解到,为了描述的方便和简洁,上述描述的设备、装置和单元的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。

以上所述,仅为本发明的具体实施方式,但本发明的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,可轻易想到各种等效的修改或替换,这些修改或替换都应涵盖在本发明的保护范围之内。因此,本发明的保护范围应以权利要求的保护范围为准。

相关技术
  • 资源分配方法、装置、计算机设备及计算机可读存储介质
  • 一种浴室加热装置和用于控制浴室加热装置的方法、设备、电子设备及计算机可读存储介质
  • 一种元数据存储方法、装置、设备及计算机可读存储介质
  • 一种数据存储方法、装置、设备及计算机可读存储介质
  • 显存分配的方法、装置、计算设备及计算机存储介质
  • 算力资源分配方法、装置、计算机可读存储介质及设备
  • 算力分配方法、装置、计算机设备和存储介质
技术分类

06120116507397