一种混合轮询方法、装置、设备及可读存储介质

技术领域

本申请涉及计算机技术领域，特别是涉及一种混合轮询方法、装置、设备及可读存储介质。

背景技术

随着计算机存储和网络等硬件技术的快速发展与进步，计算机系统的瓶颈逐渐由硬件转移到CPU。中断技术被设计和使用之初的主要目的是节约CPU计算资源。然而，随着外接设备吞吐量的提高和相应延迟的降低，处理中断本身给CPU带来的开销也逐渐成为影响高性能系统的因素之一。

而轮询模式则不存在处理中断本身给CPU所带来的开销。然而，由于存储或网络等外部设备速率低于CPU处理速率，且轮询模式会100％占用CPU时间片，从而导致CPU在轮询中产生大量的轮空操作，进而浪费CPU资源，并带来更多的硬件散热问题。

在混合轮询模式下，系统在高负载模式采用高效的轮询模式从而获得更高的系统性能，在低负载时期，CPU、FPGA等计算硬件被允许采用中断模式或休眠一段时间。混合轮询模式的切换算法则决定了混合轮询算法的效率。

在已有算法中，适用于超低延迟存储设备的混合轮询算法，主要为获得更低的I/O延迟时间，而不能满足设备对高吞量的需求；在网络中使用的混合轮询中断，依据已经接收到的数据包速率去预测未来一段时间内设备将保持高负载工作状态，在某些突发流量背景下不能获得很好的效果。

综上所述，如何有效地解决混合轮询切换等问题，是目前本领域技术人员急需解决的技术问题。

发明内容

本申请的目的是提供一种混合轮询方法、装置、设备及可读存储介质，通过获取宿主机中待处理的指令数量，来判断系统负载变化情况，从而使得混合轮询切换中断与轮询的时机更加精确，进而在保持性能优势的情况下，降低系统能耗。

为解决上述技术问题，本申请提供如下技术方案：

一种混合轮询方法，包括：

从宿主机中获取待发送的指令数量；

判断所述指令数量是否大于轮询阈值；

如果是，则进入轮询模式，处理所述宿主机产生的指令；

如果否，则进入中断模式，处理所述指令。

优选地，所述进入轮询模式，处理所述宿主机产生的指令，包括：

在所述轮询模式下，对所述指令进行处理；

统计在当前轮询周期内处理的所述指令的处理数量；

在所述当前轮询周期结束后，判断所述处理数量是否大于中断阈值；

如果是，则继续保持所述轮询模式，处理所述指令；

如果否，则进入所述中断模式，处理所述指令。

优选地，所述统计在当前轮询周期内处理的所述指令的处理数量，包括：

统计在所述当前轮询周期内向所述宿主机发送的回收指令的回收数量；

将所述回收数量确定为所述处理数量。

优选地，还包括：

调整轮询次数或轮询时间，以调整轮询周期的时间长度。

优选地，所述从宿主机中获取待发送的指令数量，包括：

在所述轮询模式或所述中断模式下，获取所述指令数量。

优选地，所述进入中断模式，处理所述指令，包括：

获取所述宿主机发送的指令，并切换上下文；

完成上下文切换后，对所述指令进行处理。

优选地，所述进入轮询模式，处理所述宿主机产生的指令，包括：

轮询所述宿主机，获取所述宿主机产生的指令，并对所述指令进行处理。

一种混合轮询装置，包括：

指令数量获取模块，用于从宿主机中获取待发送的指令数量；

判断模块，用于判断所述指令数量是否大于轮询阈值；

指令处理模块，用于如果是，则进入轮询模式，处理所述宿主机产生的指令；如果否，则进入中断模式，处理所述指令。

一种电子设备，包括：

存储器，用于存储计算机程序；

处理器，用于执行所述计算机程序时实现上述混合轮询方法的步骤。

一种可读存储介质，所述可读存储介质上存储有计算机程序，所述计算机程序被处理器执行时实现上述混合轮询方法的步骤。

应用本申请实施例所提供的方法，从宿主机中获取待发送的指令数量；判断指令数量是否大于轮询阈值；如果是，则进入轮询模式，处理宿主机产生的指令；如果否，则进入中断模式，处理指令。

在本申请中，首先从宿主机中获取待发送的指令数量。由于待发送的指令是即将进行处理的指令，因而基于该指令数量可以更准确的判断出系统负载变化情况。具体的，可以通过设置轮询阈值，当指令数量大于轮询阈值，则确定进入轮询模式，并在轮询模式下处理宿主机产生的指令；当指令数量不大于轮询阈值，则确定进入中断模式，并在中断模下处理宿主机产生的指令。即，在本申请中，通过获取I/O路径上等待被处理的指令数量来判断系统负载变化情况，从而使得混合轮询切换中断的时机更加精确，进而在保持性能优势的情况下，降低了系统能耗。

相应地，本申请实施例还提供了与上述混合轮询方法相对应的混合轮询装置、设备和可读存储介质，具有上述技术效果，在此不再赘述。

附图说明

为了更清楚地说明本申请实施例或相关技术中的技术方案，下面将对实施例或相关技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1为本申请实施例中一种混合轮询方法的实施流程图；

图2为低延迟设备的混合轮询示意图；

图3为一种混合中断轮询模式示意图；

图4为本申请实施例中一种系统架构示意图；

图5为本申请实施例中一种混合轮询方法的具体实施示意图；

图6为本申请实施例中一种混合轮询装置的结构示意图；

图7为本申请实施例中一种电子设备的结构示意图；

图8为本申请实施例中一种电子设备的具体结构示意图。

具体实施方式

为了使本技术领域的人员更好地理解本申请方案，下面结合附图和具体实施方式对本申请作进一步的详细说明。显然，所描述的实施例仅仅是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。

请参考图1，图1为本申请实施例中一种混合轮询方法的流程图，该方法可以应用于宿主机的外设系统中，如嵌入式系统中。下面以应用到嵌入式系统为例，对该方法进行详细说明，对于其他外设系统中的应用可参照于此，在此不再一一列举。具体的，实施该方法，包括以下步骤：

S101、从宿主机中获取待发送的指令数量。

宿主机存储系统产生诸如存储指令等需要嵌入式系统处理的指令，将该指令插入发送指令队尾等待处理。

嵌入式系统可以从宿主机中获取到待发送的指令数量。需要注意的是，这里的指令数量是指宿主机中产生，并需要嵌入式系统处理但还未发送至嵌入式系统或还未被嵌入式系统主动拉取的指令的数量。

也就是说，本申请实施例中的指令数量是指嵌入式系统即将需要处理的指令的数量，而并非当前正在处理的指令的数量，也并非是已处理的指令对应的数量。

具体的，在本申请中的一种具体实施方式中，从宿主机中获取待发送的指令数量，包括：在轮询模式或中断模式下，获取指令数量。也就是说，在本申请中，在轮询模式下，或者在中断模式下，均可去获取宿主机中待发送的指令数量。

S102、判断指令数量是否大于轮询阈值。

由于指令数量是对应即将处理的指令的，因而该指令数量的多少可以评估即将面对的负载是否属于高负载。具体的，在本申请实施例中，通过设置一个轮询阈值，来衡量指令数量所表征的负载状态。该轮询阈值的具体数值可以根据高负载对应的指令情况而定。可以根据统计高负载情况下，所需处理的最低指令数作为该轮询阈值，也可以对中断模式的耗能情况进行统计，得到指令的数量与耗能之间的对应关系曲线，基于该曲线找出耗能较高或耗能转折点所对应的指令的数量，将该数量确定为轮询阈值。例如，可在30至50之间进行取值，当然该轮询阈值的大小还可以根据实际系统处理性能以及需求进行设置和调整。

得到判断结果之后，可以根据不同的判断结果，对应采用不同的处理策略对指令进行处理。具体的，如果判断结果为是，则执行步骤S103；如果判断结果为否，则执行步骤S104。

S103、进入轮询模式，处理宿主机产生的指令。

当明确了指令数量大于轮询阈值，则表明即将需要被处理的指令量属于高负载，而在高负载情况下，采用中断模式无法快速处理指令，且反复切换上下文信息，也会带来额外消耗，因而可以进入到轮询模式，对宿主机所产生的指令进行处理。

需要注意的是，这里的进入轮询模式可分为两种情况，其一，当前的模式为中断模式，则进入轮询模式，即指从中断模式切换至轮询模式；其二，当前模式为轮询模式，则进入轮询模式，即指继续保持为轮询模式。

在本申请中的一种具体实施方式中，进入轮询模式，处理宿主机产生的指令，包括：轮询宿主机，获取宿主机产生的指令，并对指令进行处理。在轮询模式下，嵌入式系统主动对宿主机进行轮询，从而获取到宿主机产生的指令，然后再对指令进行处理。在轮询模式下，无需进行上下文切换。

具体的，对于进入到了轮询模式，具体如何处理宿主机所产生的指令，可以具体参考轮询模式的具体定义及实现，以及该指令对应的处理程序，在此不再一一赘述。

S104、进入中断模式，处理指令。

当明确了指令数量不大于轮询阈值，则表明即将需要被处理的指令量不属于高负载。若采用轮询模式会存在较高的轮空操作，导致CPU资源的浪费和系统散热的问题，因而可以进入到中断模式，对宿主机所产生的指令进行处理。

需要注意的是，这里的进入中断模式可分为两种情况，其一，当前的模式为轮询模式，则进入轮询模式，即指从轮询模式切换至中断模式；其二，当前模式为中断模式，则进入中断模式，即指继续保持为中断模式。

在本申请中的一种具体实施方式中，在本申请中的一种具体实施方式中，进入中断模式，处理指令，包括：

步骤一、获取宿主机发送的指令，并切换上下文；

步骤二、完成上下文切换后，对指令进行处理。

为便于描述，下面将上述两个步骤结合起来进行说明。

在中断模式下，嵌入式系统获取宿主机发送的指令，并在获取到指令之后，通知嵌入式CPU切换上下文，调用中断处理程序，对指令进行处理。

具体的，对于进入到了中断模式，具体如何处理宿主机所产生的指令，可以具体参考中断模式的具体定义及实现，以及该指令对应的处理程序，在此不再一一赘述。

应用本申请实施例所提供的方法，从宿主机中获取待发送的指令数量；判断指令数量是否大于轮询阈值；如果是，则进入轮询模式，处理宿主机产生的指令；如果否，则进入中断模式，处理指令。

在本申请中，首先从宿主机中获取待发送的指令数量。由于待发送的指令是即将进行处理的指令，因而基于该指令数量可以更准确的判断出系统负载变化情况。具体的，可以通过设置轮询阈值，当指令数量大于轮询阈值，则确定进入轮询模式，并在轮询模式下处理宿主机产生的指令；当指令数量不大于轮询阈值，则确定进入中断模式，并在中断模下处理宿主机产生的指令。即，在本申请中，通过获取I/O路径上等待被处理的指令数量来判断系统负载变化情况，从而使得混合轮询切换中断的时机更加精确，进而在保持性能优势的情况下，降低了系统能耗。

需要说明的是，基于上述实施例，本申请实施例还提供了相应的改进方案。在优选/改进实施例中涉及与上述实施例中相同步骤或相应步骤之间可相互参考，相应的有益效果也可相互参照，在本文的优选/改进实施例中不再一一赘述。

在本申请中的一种具体实施方式中，还可以在轮询模式下，对所处理的指令进行统计，从而确定是否退出轮询模式。具体的，即在执行步骤S103进入轮询模式，处理宿主机产生的指令，可具体包括：

步骤一、在轮询模式下，对指令进行处理；

步骤二、统计在当前轮询周期内处理的指令的处理数量；

步骤三、在当前轮询周期结束后，判断处理数量是否大于中断阈值；

步骤四、如果是，则继续保持轮询模式，处理指令；

步骤五、如果否，则进入中断模式，处理指令。

为便于描述，下面将上述五个步骤结合起来进行说明。

在轮询模式下，对指令进行处理的具体过程可以参照上文描述。在当前轮询周期内，可以统计出所处理的指令的处理数量。由于轮询模式，可能存在轮空操作，因而对于所处理指令的处理数量进行统计，基于该处理数量可以推断出当前的轮询模式是否未产生额外的资源浪费。

具体的，在当前轮询周期结束之后，可以判断该处理数量是否大于中断阈值，如果是，则表明当前轮空操作较少，属于高负载状态，此时无需切换到中断模式，可以继续保持轮询模式处理指令；如果否，则表明当前轮空操作较多，不属于高负载状态，此时无需继续保持轮询模式，而是切换至中断模式处理指令，从而减少资源浪费。

其中，中断阈值可以根据实际需求进行设置和调整，例如中断阈值可以设置为10。

其中，调整轮询次数或轮询时间，以调整轮询周期的时间长度。即一个轮询周期对应有轮询次数和轮询时间，基于调整轮询次数或轮询时间，则可以调整轮询周期的时间长度(时间长度＝轮询次数和轮询时间的乘积)。具体需要调整为多长的时间长度，可以根据实际需求进行设置和调整，本实施例对此并不做限定。

其中，步骤二统计在当前轮询周期内处理的指令的处理数量，包括：

步骤1、统计在当前轮询周期内向宿主机发送的回收指令的回收数量；

步骤2、将回收数量确定为处理数量。

即，嵌入式器件(嵌入式系统)可以通过PCIe协议与宿主机进行交互。宿主机中允许存储应用程序，将存储指令插入到待处理队列(发送队列)，嵌入式系统通过FPGA预处理模块从宿主机中获得待处理指令，并发送到嵌入式CPU轮询处理模块进行处理。当存储指令处理完成后，生成回收指令再通过FPGA发送给宿主机回收队列中进行回收处理。

也就是说，该回收指令集为已处理的指令，基于该回收指令的数量，则可以表明当前系统负载是否适合继续保持轮询。

为便于本领域技术人员更好地理解本申请实施例所提供的混合轮询方法，下面结合具体的应用场景以及相关技术为例，对混合轮询方法进行详细说明。

通过获取CPU处理数据包的速度进行预测是否有开启轮询模式。如果判断未来一段时间设备的吞吐速度较低，则进行中断模式或休眠一段时间；如果预测未来吞吐量达到一定阈值，则开启轮询进而获得更高的性能优势。

具体的实现方案有：

方案a：请参考图2，图2为低延迟设备的混合轮询示意图。随着NVMe SSD硬件技术的发展，存储硬件的超低延迟成为延迟敏感型应用非常看重的指标之一。超延迟设备上的高效混合轮询算法，基于存储设备的平均延迟时间进行预判混合轮询算法的休眠间隔，从而在I/O返回前开始轮询工作，如图2所示。该算法可以将CPU利用率降低5％-40％，并提供了高达10％的更快I/O延迟。

该方案a的特点：超低延迟设备主要为获得更低的I/O延迟时间，而不能满足设备对高吞量的需求。

方案b：请参考图3，图3为一种混合中断轮询模式示意图。在网络设备中使用混合轮询模式是常用的性能优化方式。该模式下，网络系统在低网络负载情况下使用中断模式处理数据包，而在高负载模式下使用轮询模式。判断负载高低的方法则是通过一次中断ISR(interrupt service routine)处理的数据包数量来判断，如图3所示。如果大于一定阈值，则系统切换到轮询模式，否则保持中断模式。

该方案b的特点：网络中使用的混合轮询中断，依据已经接收到的数据包速率去预测未来一段时间内设备将保持高负载工作状态，在某些突发流量背景下不能获得很好的效果。

在能耗敏感型硬件中，使用轮询模式所带来的能耗损失或散热问题是非常严重的。例如，在嵌入式芯片中，使用轮询模式的软件处理数据，则要求有更强大的计算器件和更高端的散热设备。混合轮询可以解决能耗敏感型器件的散热和能耗损失问题，但切换轮询算法则决定了该系统的整体效率。

从上文可知，为解决上述问题，本申请提出一种基于等待处理数据的自适应混合轮询算法，可以有效降低嵌入式存储设备上因计算硬件轮询所带来的能源浪费问题，从而降低成本提高效率。

在本申请中，嵌入式器件通过PCIe协议与宿主机进行交互。宿主机中允许存储应用程序，将存储指令插入到待处理队列(图示发送队列)，嵌入式系统通过FPGA(Field-programmable gate array，现场可编程门阵列)预处理模块从宿主机中获得待处理指令，并发送到CPU轮询处理模块进行处理。当存储指令处理完成后，生成回收指令再通过FPGA发送给宿主机回收队列中进行回收处理。

与网络I/O处理路径不同的是，存储路径的回收队列指令都来自系统中发送队列(待处理队列)，因此存储I/O处理路径上可以通过发送队列命令个数或飞行命令数来判断系统负载是否适合进行轮询。

具体的，请参考图4和图5，图4为本申请实施例中一种系统架构示意图，图5为本申请实施例中一种混合轮询方法的具体实施示意图。具体步骤描述如下：

1.宿主机存储系统产生存储指令，插入发送指令队尾等待处理；

2.FPGA硬件拉取HOSTQ中等待处理指令并获取等待命令(同指令)个数；

3.如果等待命令数小于阈值a(轮询阈值)，嵌入式系统仍然保持中断模式，该指令也通过中断线程来处理；

4.如果等待命令数大于或等于阈值a，则系统切换为轮询模式进行轮询处理该指令；

5.轮询周期内系统会轮询处理发送队列指令；并且其时间长度可以通过配置轮询次数(loop_count)或设置轮询时间(loop_time)改变；

6.当每次轮询周期结束后，通过判断当次处理指令个数判断当前是否处于高负载模式；

7.如果当此处理指令个数大于阈值b(中断阈值)，则认为当前处于高负载模式，系统则进行继续轮询模式，否则返回步骤2；

8.系统退出。

即，在本申请中，通过获取I/O路径上的等待队列个数来判断系统负载变化情况，从而使得混合轮询算法切换中断的时机更加精确，进而在保持性能优势的情况下，降低了系统能耗。

经实验验证，在嵌入式芯片系统中实施本申请实施例所提供的混合轮询方法，有效降低在低负载模式下的计算设备能耗问题，使其散热明显降低，并在高负载下可以获得接近轮询模式下的高吞吐和低延迟性能。

相应于上面的方法实施例，本申请实施例还提供了一种混合轮询装置，下文描述的混合轮询装置与上文描述的混合轮询方法可相互对应参照。

参见图6所示，该装置包括以下模块：

指令数量获取模块101，用于从宿主机中获取待发送的指令数量；

判断模块102，用于判断指令数量是否大于轮询阈值；

指令处理模块103，用于如果是，则进入轮询模式，处理宿主机产生的指令；如果否，则进入中断模式，处理指令。

应用本申请实施例所提供的装置，从宿主机中获取待发送的指令数量；判断指令数量是否大于轮询阈值；如果是，则进入轮询模式，处理宿主机产生的指令；如果否，则进入中断模式，处理指令。

在本申请中，首先从宿主机中获取待发送的指令数量。由于待发送的指令是即将进行处理的指令，因而基于该指令数量可以更准确的判断出系统负载变化情况。具体的，可以通过设置轮询阈值，当指令数量大于轮询阈值，则确定进入轮询模式，并在轮询模式下处理宿主机产生的指令；当指令数量不大于轮询阈值，则确定进入中断模式，并在中断模下处理宿主机产生的指令。即，在本申请中，通过获取I/O路径上等待被处理的指令数量来判断系统负载变化情况，从而使得混合轮询切换中断的时机更加精确，进而在保持性能优势的情况下，降低了系统能耗。

在本申请的一种具体实施方式中，指令处理模块103，具体用于在轮询模式下，对指令进行处理；

统计在当前轮询周期内处理的指令的处理数量；

在当前轮询周期结束后，判断处理数量是否大于中断阈值；

如果是，则继续保持轮询模式，处理指令；

如果否，则进入中断模式，处理指令。

在本申请的一种具体实施方式中，指令处理模块103，具体用于统计在当前轮询周期内向宿主机发送的回收指令的回收数量；

将回收数量确定为处理数量。

在本申请的一种具体实施方式中，还包括：

轮询调整模块，用于调整轮询次数或轮询时间，以调整轮询周期的时间长度。

在本申请的一种具体实施方式中，指令数量获取模块101，具体用于在轮询模式或中断模式下，获取指令数量。

在本申请的一种具体实施方式中，指令处理模块103，具体用于获取宿主机发送的指令，并切换上下文；

完成上下文切换后，对指令进行处理。

在本申请的一种具体实施方式中，指令处理模块103，具体用于轮询宿主机，获取宿主机产生的指令，并对指令进行处理。

相应于上面的方法实施例，本申请实施例还提供了一种电子设备，下文描述的一种电子设备与上文描述的一种混合轮询方法可相互对应参照。

参见图7所示，该电子设备包括：

存储器332，用于存储计算机程序；

处理器322，用于执行计算机程序时实现上述方法实施例的混合轮询方法的步骤。

具体的，请参考图8，图8为本实施例提供的一种电子设备的具体结构示意图，该电子设备可因配置或性能不同而产生比较大的差异，可以包括一个或一个以上处理器(central processing unit，CPU)322(例如，一个或一个以上处理器)和存储器332，存储器332存储有一个或一个以上的计算机应用程序342或数据344。其中，存储器332可以是短暂存储或持久存储。存储在存储器332的程序可以包括一个或一个以上模块(图示没标出)，每个模块可以包括对数据处理设备中的一系列指令操作。更进一步地，中央处理器322可以设置为与存储器332通信，在电子设备301上执行存储器332中的一系列指令操作。

电子设备301还可以包括一个或一个以上电源326，一个或一个以上有线或无线网络接口350，一个或一个以上输入输出接口358，和/或，一个或一个以上操作系统341。

上文所描述的混合轮询方法中的步骤可以由电子设备的结构实现。

相应于上面的方法实施例，本申请实施例还提供了一种可读存储介质，下文描述的一种可读存储介质与上文描述的一种混合轮询方法可相互对应参照。

一种可读存储介质，可读存储介质上存储有计算机程序，计算机程序被处理器执行时实现上述方法实施例的混合轮询方法的步骤。

该可读存储介质具体可以为U盘、移动硬盘、只读存储器(Read-Only Memory，ROM)、随机存取存储器(Random Access Memory，RAM)、磁碟或者光盘等各种可存储程序代码的可读存储介质。

本说明书中各个实施例采用递进的方式描述，每个实施例重点说明的都是与其它实施例的不同之处，各个实施例之间相同或相似部分互相参见即可。对于实施例公开的装置而言，由于其与实施例公开的方法相对应，所以描述的比较简单，相关之处参见方法部分说明即可。

本领域技术人员还可以进一步意识到，结合本文中所公开的实施例描述的各示例的单元及算法步骤，能够以电子硬件、计算机软件或者二者的结合来实现，为了清楚地说明硬件和软件的可互换性，在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以硬件还是软件的方式来执行，取决于技术方案的特定应用和设计约束条件。本领域技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应该认为超出本申请的范围。

结合本文中所公开的实施例描述的方法或算法的步骤可以直接用硬件、处理器执行的软件模块，或者二者的结合来实施。软件模块可以置于随机存储器(RAM)、内存、只读存储器(ROM)、电可编程ROM、电可擦除可编程ROM、寄存器、硬盘、可移动磁盘、CD-ROM、或技术领域内所公知的任意其它形式的存储介质中。

最后，还需要说明的是，在本文中，诸如第一和第二等之类的关系属于仅仅用来将一个实体或者操作与另一个实体或者操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语包括、包含或者其他任何变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。

本文中应用了具体个例对本申请的原理及实施方式进行了阐述，以上实施例的说明只是用于帮助理解本申请的方法及其核心思想；同时，对于本领域的一般技术人员，依据本申请的思想，在具体实施方式及应用范围上均会有改变之处，综上，本说明书内容不应理解为对本申请的限制。