基于冗余算力的异构嵌入式设备电力分配系统及方法

技术领域

本发明涉及的是一种电力分配领域的技术，具体是一种基于冗余算力的异构嵌入式设备电力分配系统及方法。

背景技术

现有异构嵌入式设备中运行着多样的边缘智能任务如自动驾驶，面临着更加复杂的软硬件特征与外部环境，同时也有着更加严峻的能耗和资源限制。现有的电力分配方案无法解决该类嵌入式设备对于高实时性和自适应性电力分配的要求，同时需要消耗额外的硬件算力进行电力分配决策。

发明内容

本发明针对现有技术存在的上述不足，提出一种基于冗余算力的异构嵌入式设备电力分配系统及方法，能够监测嵌入式设备任务周期运行过程中的两类未利用算力资源即冗余算力，并且利用两类冗余算力运行强化学习辅助的方法来完成电力分配决策，显著提高嵌入式设备的总体资源利用率和系统能效，保证电力分配的高实时性和自适应性。

本发明是通过以下技术方案实现的：

本发明涉及一种基于冗余算力的异构嵌入式设备电力分配系统，包括：实时系统监测模块和实时电力分配模块，其中：实时系统监测模块在嵌入式设备运行过程中监测回收其异构硬件中两类冗余算力以及监测嵌入式设备的实时状态；实时电力分配模块根据嵌入式设备的实时状态通过冗余算力运行强化学习辅助方法进行电力分配模型的学习调优和自适应的电力分配决策。

所述的实时系统监测模块包括：算力监测回收单元、软件状态监测单元、硬件状态监测单元以及环境状态监测单元，其中：算力监测回收单元根据嵌入式设备中三段式边缘智能应用执行时的开始结束信息，对于嵌入式设备的两类冗余算力进行标记并传递给实时电力分配模块，软件状态监测单元根据嵌入式设备中任务的实时特征信息，对于任务特征进行归纳并且传递给实时电力分配模块，硬件状态监测单元根据嵌入式设备中硬件单元的实时利用率信息，对于硬件状态进行归纳并且传递给实时电力分配模块，环境状态监测单元获取当前设备实时服务质量要求并且传递给实时电力分配模块。

所述的实时电力分配模块包括：模型调优单元和分配决策单元，其中：模型调优单元根据实时系统监测模块采集的软件、硬件与环境状态信息，利用纵向冗余算力对于电力分配模型进行调节优化，分配决策单元根据实时优化的电力分配模型，利用横向冗余算力对于下一周期的软件硬件电力分配设置做出决策。

所述的实时系统监测是指，对周期运行三段式边缘智能应用的嵌入式设备的冗余算力和系统状态进行监测。

所述的实时状态包括：软件、硬件和环境的实时状态，具体为：软件的状态包括系统中运行应用的卷积层数量S

所述的实时状态，优选综合为嵌入式设备状态六元组（S

所述的两类冗余算力是指：横向和纵向两类未利用算力资源，其中：横向冗余算力是由于软件应用感知-处理-决策三阶段周期运行过程中感知和决策阶段对于异构硬件利用率低产生的未利用算力资源；纵向冗余算力是由于软件应用处理阶段多个并行任务异步结束导致硬件在等待其他任务完成时产生的未利用算力资源。

所述的冗余算力运行强化学习辅助方法，利用纵向冗余算力进行电力分配模型的学习调优，利用横向冗余算力进行敏捷快速的电力分配决策，具体包括：

步骤1、计算上一周期内的奖励，结合该周期下的电力分配决策、嵌入式设备状态六元组和本周期内的嵌入式设备状态六元组，选择具有最大Q值的本周期内的电力分配决策。

步骤2、根据嵌入式设备状态六元组定位到Q值表格中包含对应状态，生成0-1随机数按照∈决策算法进行电力分配决策。

所述的电力分配模型是指利用历史执行数据建立的Q值表格(q(S，A))，其中：S为嵌入式设备状态六元组，A为可能采取的电力分配决策，Q(s，A)会计算得到相应Q值存储到电力分配模型中。所述的电力分配决策是指下一周期内计算单元和内存单元的电压/频率设置以及软件中各子任务的执行硬件和执行顺序设置。

技术效果

本发明通过异构嵌入式设备独有的横向纵向两类冗余算力优化电力分配的效率，可以对异构嵌入式设备实时运行的状态进行获取和分析，并利用冗余算力运行强化学习辅助的方法对于电力分配进行优化和决策，保证电力分配的高实时性和自适应性。与现有技术相比，本发明可以回收利用平均50％的冗余算力，并且利用冗余算力运行的智能电力分配系统提高嵌入式设备的能源效率平均达13％。

附图说明

图1为本发明流程图；

图2-3分别为实时系统监测和实时电力分配示意图；

图4-5为实施例效果示意图。

具体实施方式

如图1所示，为本实施例涉及一种基于上述系统的基于冗余算力的异构嵌入式设备电力分配方法，具体包括：

步骤1，通过实时系统监测模块获取嵌入式设备的冗余算力，即当嵌入式设备运行感知-处理-决策三段式边缘智能应用时，获取设备硬件的横向冗余算力和纵向冗余算力，具体为：监测系统软件运行感知与决策阶段的硬件使用情况，利用率低于5％将标记为横向冗余算力并且触发实时电力分配模块的任务，以及监测系统软件运行处理阶段时各个子任务的运行时间，在已无任务运行但是其他硬件单元的硬件利用率低于5％时将标记为纵向冗余算力并且触发实时电力分配模块的任务。

步骤2，实时系统监测模块获取系统的实时状态，即当嵌入式设备运行三段式边缘智能应用时，获取系统的软件层次、硬件层次和环境层次的实时状态，具体为：监测系统中运行任务的软件特征，统计应用的卷积层数量S

步骤3，实时电力分配模块利用冗余算力运行强化学习辅助的方法针对实时系统状态进行自适应的电力分配决策，即当实时系统监测模块获得设备当前横向纵向冗余算力情况和系统实时状态的六元组(S

3.1)实时电力分配模块的模型调优单元在纵向冗余算力提供的硬件空闲周期中进行电力分配模型的学习调优：计算上一周期内的奖励R，包括电力奖励R

3.2)实时电力分配模块的分配决策单元在横向冗余算力提供的硬件空闲周期中进行敏捷的电力分配决策：根据系统状态六元组定位到Q值表格中包含对应状态，生成0-1随机数按照∈决策算法进行电力分配决策，即随机数小于∈时随机选择电力分配决策A，随机数大于等于∈时选择具有最大Q值的电力分配决策A，该模块中将∈设置为0.1。

经过实时电力分配，将实时系统监测模块获取的系统状态进行强化学习并且应用于下一周期的电力分配决策中，同时决策过程运行在实时系统监测模块获取的冗余算力中，节省了额外硬件资源的消耗。

经过实验，以英伟达Jetson嵌入式设备Orin为实验平台，CPU为八核ARM Cortex-A78，GPU为安培架构配备1792个CUDA核和56个tensor核，内存为32GB 256位LPDDR5，同时配备2个英伟达深度学习加速器(NVDLA)。实验边缘智能应用为SSD神经网络，YOLO神经网络和SRCNN神经网络，实验比较的基线是现有的启发式电力分配方案和智能电力分配方案，本发明可以利用嵌入式设备硬件冗余算力达80％，同时电力分配优化效果达40％。

与现有技术相比，本发明可以监测获取系统中未被利用的冗余算力用于实时自适应的电力分配决策，从而同时优化系统整体的资源利用率和能源效率。

上述具体实施可由本领域技术人员在不背离本发明原理和宗旨的前提下以不同的方式对其进行局部调整，本发明的保护范围以权利要求书为准且不由上述具体实施所限，在其范围内的各个实现方案均受本发明之约束。