缓存内存块的淘汰方法、装置及电子设备

技术领域

本文件属于数据存储技术领域，尤其涉及一种缓存内存块的淘汰方法、装置及电子设备。

背景技术

目前的存储系统都会基于一定策略释放缓存空间。比如，基于访问热度来评估缓存中内存块的价值（内存块指缓存的存储单位），从而清理掉价值较低的内存块。但是，很多存储系统中的内存块并不只存储一种元素（元素指缓存数据），因此存在一种可能，就是一个内存块的少部分元素被频繁访问，而另一部分元素则被很少访问，使得内存块整体热度偏冷，最终被存储系统淘汰。显然，被频繁访问的元素从缓存中清理出去，会降低缓存的性能和收益。

为此，当前亟需一种方案，能够避免存储系统在淘汰内存块时淘汰掉访问频率高的元素。

发明内容

本说明书实施例目的是提供一种缓存内存块的淘汰方法、装置及电子设备，能够在淘汰缓存中的内存块时，将需要淘汰的内存块中有价值的元素随迁移至其他内存块，以避免影响缓存的性能和收益。

为了实现上述目的，本说明书实施例是这样实现的：

第一方面，提供一种缓存内存块的淘汰方法，包括：

确定缓存中内存块的热度指标值，内存块为缓存的存储单位；

基于所述缓存中内存块的热度指标值，确定所述缓存中需要清理的待淘汰内存块；

将所述待淘汰内存块中的目标元素迁移至所述缓存中的目标内存块，所述目标内存块为所述缓存中保留的内存块且可用存储空间大于所述目标元素需要的存储空间；

从所述缓存中删除所述待淘汰内存块。

第二方面，提供一种缓存内存块的淘汰方法，应用于采用日志结构合并LSM树存储架构的存储系统，包括：

确定所述存储系统的LSM树的内存表MemTable中的内存块MemBlock的热度指标值，其中，所述MemTable用于存储所述存储系统的缓存数据；

基于所述MemTable中的MemBlock的热度指标值，确定所述MemTable中需要清理的待淘汰MemBlock；

将所述待淘汰MemBlock中的目标元素迁移至所述MemTable中的目标MemBlock，所述目标MemBlock为所述MemTable中保留的MemBlock且可用存储空间大于所述目标元素需要的存储空间；

从所述MemTable中删除所述待淘汰MemBlock。

第三方面，提供一种缓存内存块的淘汰装置，包括：

热度确定模块，确定缓存中内存块的热度指标值，内存块为缓存的存储单位；

淘汰分析模块，基于所述缓存中内存块的热度指标值，确定所述缓存中需要清理的待淘汰内存块；

元素迁移模块，将所述待淘汰内存块中的目标元素迁移至所述缓存中的目标内存块，所述目标内存块为所述缓存中保留的内存块且可用存储空间大于所述目标元素需要的存储空间；

淘汰执行模块，从所述缓存中删除所述待淘汰内存块。

第四方面，提供一种电子设备包括：存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述计算机程序被所述处理器执行：

确定缓存中内存块的热度指标值，内存块为缓存的存储单位；

基于所述缓存中内存块的热度指标值，确定所述缓存中需要清理的待淘汰内存块；

将所述待淘汰内存块中的目标元素迁移至所述缓存中的目标内存块，所述目标内存块为所述缓存中保留的内存块且可用存储空间大于所述目标元素需要的存储空间；

从所述缓存中删除所述待淘汰内存块。

第五方面，提供一种计算机可读存储介质，所述计算机可读存储介质上存储有计算机程序，所述计算机程序被处理器执行时实现如下步骤：

确定缓存中内存块的热度指标值，内存块为缓存的存储单位；

基于所述缓存中内存块的热度指标值，确定所述缓存中需要清理的待淘汰内存块；

将所述待淘汰内存块中的目标元素迁移至所述缓存中的目标内存块，所述目标内存块为所述缓存中保留的内存块且可用存储空间大于所述目标元素需要的存储空间；

从所述缓存中删除所述待淘汰内存块。

本说明书实施例的方案可以更新缓存中内存块的热度指标值，并在需要清理缓存空间时，根据更新到的内存块热度指标值确定出需要清理的待淘汰内存块。在清理前，将待淘汰内存块中有价值的元素迁移至其他内存块，从而避免缓存因清理内存块而丢失高价值的元素，进而导致性能和收益的下降。

附图说明

为了更清楚地说明本说明书实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本说明书实施例中记载的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图；

图1为本说明书实施例提供缓存内存块的淘汰方法的流程示意图；

图2为本说明书实施例提供的存储系统的结构示意图；

图3为本说明书实施例提供缓存内存块的淘汰装置的结构示意图；

图4为本说明书实施例提供的电子设备的结构示意图。

具体实施方式

为了使本技术领域的人员更好地理解本说明书中的技术方案，下面将结合本说明书实施例中的附图，对本说明书实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本说明书一部分实施例，而不是全部的实施例。基于本说明书中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都应当属于本说明书保护的范围。

如前所述，目前的存储系统都会基于一定策略释放缓存空间。这里，将缓存的存储单位称为内存块，一般情况下都是基于内存块的访问热度来评估内存块的价值，并在需要释放缓存空间时淘汰低价值的内存块。但是，很多存储系统中的内存块并不只存储一种元素（元素指缓存数据），因此存在一种可能就是一个内存块的少部分元素被频繁访问，而另一部分元素则被很少访问，使得内存块整体热度偏冷，最终被存储系统淘汰。显然，被频繁访问的元素从缓存中清理出去，会降低缓存的性能和收益。

为此，本文旨在提供一种缓存内存块的淘汰的方案，能够在淘汰缓存中的内存块时，将需要淘汰的内存块中有价值的元素随迁移至其他内存块，以避免影响缓存的性能和收益。

图1是本说明书实施例缓存内存块的淘汰方法的流程图。图1所示的方法可以由下文相对应的硬件执行，包括如下步骤：

S102，确定缓存中内存块的热度指标值，内存块为缓存的存储单位。

应理解，内存块的热度指标值的计算方式并不唯一，这里本文不作具体限定。

作为示例性介绍，本说明书实施例内存块的热度指标值可以基于内存块中元素的被访问次数确定得到。

比如，以元素为粒度，先通过元素对应的访问次数和元素权重系数（元素权重系数可以反映元素的重要性）计算出元素的热度指标值，进而再通过内存块中各元素的热度指标值，计算出内存块的热度指标值。

此外，还可以在上述基础之上引入热度的时效性，比如基于元素对应的访问次数、上一周期热度指标值、热度时间衰减系数以及元素权重系数计算出元素的热度指标值；之后，再通过内存块中各元素的热度指标值，计算出内存块的热度指标值。显然，引用元素上一周期热度指标值以及热度时间衰减系数计算出元素当前周期的热度指标值可以保证元素的热度不会在短时间内失去影响，但这种影响也会随时间推移衰弱，从而在一定程度上体现出热度的时效性。

S104，基于缓存中内存块的热度指标值，确定缓存中需要清理的待淘汰内存块。

具体地，本说明书实施例的方法可以在缓存有清理需求时，确定待清理的待淘汰内存块。比如，可以在缓存的存储空间占用达到占用上限时、缓存中的内存块数量达到数量上限时以及缓存中存在持续预设时间未被访问的内存块时，开始挑选待淘汰内存块。

应理解，本步骤应选取价值相对较低的内存块作为待淘汰内存块，也就是说待淘汰内存块的热度指标值上要低于缓存中需要保留的其他内存块。

比如，可以按照热度指标值由小到大的顺序，选取预设数量的内存块作为需要清理的目标内存块；或者，也可以将缓存中热度指标值未达到内存块热度阈值的内存块确定为需要清理的目标内存块。由于待淘汰内存块选取策略并不唯一，这里本文不再一一举例赘述。

S106，将待淘汰内存块中的目标元素迁移至缓存中的目标内存块，目标内存块为缓存中保留的内存块且可用存储空间大于目标元素需要的存储空间。

应理解，缓存中保留的内存块是指缓存中除待淘汰内存块以外的其他内存块。本步骤中保留的内存块在下一次的内存块淘汰中，可能还会被保留，也可能被淘汰。

在实际应用中，本说明书实施例可以根据根据缓存空间的占用情况，灵活挑选待淘汰内存块中的目标元素。也就是说，待淘汰内存块中的目标元素并不唯一，可以是待淘汰内存块的全部元素，也可以是待淘汰内存块中热度指标值达到元素热度阈值的部分元素（达到元素热度阈值的元素可以视为符合价值要求的元素）。

比如：

缓存中存在保留的能够存储待淘汰内存块全部元素的内存块，则目标元素为待淘汰内存块的全部元素。也就是说，在有能力将淘汰内存块全部元素迁移的情况下，可以将淘汰内存块全部元素迁移出去，从而保证在缓存中所有元素不丢失的情况下，清理掉淘汰内存块。

当然，若缓存中不存在保留的能够存储待淘汰内存块全部元素的内存块，则目标元素为待淘汰内存块中热度指标值达到元素热度阈值的元素。也就是说，通过元素热度阈值选取淘汰内存块中值得迁移的元素作为目标元素。

在迁移过程中，如果先前是基于元素热度阈值选取淘汰内存块中的目标元素，但缓存中依然不存在保留的够存储目标元素的其他内存块，则可以通过下述方式实现迁移：

删除缓存中保留的其他内存块的元素，以清理出用于存储目标元素的存储空间，并将存储空间清理后的其他内存块确定为目标内存块，其中该其他内存块中被删除的元素的热度指标值小于目标元素的热度指标值。

为方便理解，这里假设内存块1为待淘汰内存块，该内存块1有元素A、元素B、元素C三个高价值元素，在对内存块1进行淘汰前，需要将其中元素A、B、C进行迁移，这里假设内存中其他不需要淘汰的内存块都没有空间存放元素A、B、C，则此时需要对缓存中不需要淘汰的内存块进行遍历，找到至少存储有三个热度指标值低于该元素A、B、C的其他元素的目标内存块，并将该目标内存块中三个热度指标值低于该元素A、B、C的元素进行清理，以腾出空间存放内存块1中高价值的元素A、B、C。

当然，除了上述方式外，也可以挑选出多个目标内存块，这里每个目标内存块都至少存储有热度指标值低于该元素A、B、C的其他元素，并从该多个目标内存块中清理掉三个热度指标值低于该元素A、B、C的元素，以腾出空间存放内存块1中高价值的元素A、B、C。比如，选取缓存中不需要淘汰的内存块2、3、4作为目标内存块，并分别从内存块2、3、4中挑选一个热度指标值低于该元素A、B、C的元素进行清理，以让内存块2存放内存块1的元素A，让内存块3存放内存块1的元素B，让内存块4存放内存块1的元素C。

显然，基于上述设计，如果缓存中所有不需要淘汰的内存块均没有空间存储待淘汰内存块中需要迁移的目标元素，则可以基于热度指标值，来进行元素取舍，从而保证缓存的最大收益。

S108，从缓存中删除待淘汰内存块。

本说明书实施例的方法可以更新缓存中内存块的热度指标值，并在需要清理缓存空间时，根据更新到的内存块热度指标值确定出需要清理的待淘汰内存块。在清理前，将待淘汰内存块中有价值的元素迁移至其他内存块，从而避免缓存因清理内存块而丢失高价值的元素，进而导致性能和收益的下降。

下面结合实际应用场景对本说明书实施例的方法进行详细介绍。

如图2所示，本应用场景提供一种基于LSM树架构的存储系统，包括内存表（MemTable，Memory Table）存储结构和排序字符串表 (SSTable，Sorted String Table)存储结构。其中，MemTable用于存储所述存储系统的缓存数据。存储系统所有的数据更新均在内存表MemTable完成，后台通过转储进场将MemTable中的缓存（Cache）元素久化存储至SSTable。SSTable中的压缩工具（compactor）负责整理和压缩数据。

为了便于compactor进行数据压缩和清理，同时也为了方便管理多种类的Cache，本应用场景的存储系统要求MemTable中的Cache元素不定长。为了管理变长Cache元素，在MemTable中设置定长的内存块（MemBlock，Memory Block）作为最小存储单位。尽管存储系统有很多种不同类型且不定长的Cache元素，但是设计了统一的Cache框架，不同租户的不同种类Cache都由框架统一管理，通过不同的优先级去区分不同类型的Cache元素。

进一步地，存储系统为每个MemBlock中的元素都计算了访问热度的分值，越频繁访问的元素分值越高。同时，对于每一个MemBlock，又有基于MemBlock内部所有元素分值所确定的总分值。

在本说明书实施例中，缓存的淘汰是以管理内存的最小单位MemBlock为单位的。存储系统后台的缓存清理线程会定时地计算MemTable中所有元素分值以及所有MemBlock分值，并对当前所有MemBlock按照分值进行排序，淘汰分值低的MemBlock。

在具体应用中，用户通过IO写入数据（待缓存的元素）。

存储系统为待缓存的元素分配内存：由于缓存元素大小不定长，先计算实际需要的内存大小，如果能够被当前MemBlock容纳下，那么就会被分配到当前MemBlock中；否则分配新的MemBlock进行存储。

在分配新MemBlock的过程中，如果MemTable没有足够的内存，或者MemBlock数量达到上限，那么执行MemBlock的淘汰流程：遍历所有的缓存MemBlock，更新当前MemBlock的热度分值。基于已经设定的MemBlock上下限信息，计算本次缓存淘汰过程需要淘汰掉的MemBlock范围。遍历所有的缓存MemBlock，对MemBlock的热度分值进行排序，选择出热度最低的MemBlock进行淘汰。

在淘汰过程中，存储系统的后台将待淘汰的MemBlock中热度高的元素调整到其他热度高且不需要淘汰的MemBlock中，以提高缓存的命中率，从而体现更高的性能和收益。

基于上述内容可以知道，本应场景的存储系统为了方便管理多种类型的Cache，采用不定长的Cache元素设计，且由定长的MemBlock进行存储，从而以MemBlock为粒度实现缓存清理。同时，存储系统对于每个Cache元素都计算了热度分值，在淘汰某个MemBlock时，可以将高热度分值Cache元素迁移至其他MemBlock中，避免清理缓存空间时，丢失高热度元素。

以上应用场景是对本发明实施例方法的示例性介绍。应理解，应用场景的存储系统能够作为执行主体执行图1所示的淘汰方法中的步骤，包括：基于MemTable中的MemBlock的热度指标值，确定MemTable中需要清理的待淘汰MemBlock；将待淘汰MemBlock中的目标元素迁移至MemTable中的目标MemBlock，目标MemBlock为MemTable中保留的MemBlock且可用存储空间大于所述目标元素需要的存储空间；从MemTable中删除所述待淘汰MemBlock。

此外，对应于图1所示的缓存内存块的淘汰方法，本发明实施例还提供一种缓存内存块的淘汰装置。图3是本发明实施例淘汰装置300的结构示意图，包括：

热度确定模块310，确定缓存中内存块的热度指标值，内存块为缓存的存储单位。

淘汰分析模块320，基于所述缓存中内存块的热度指标值，确定所述缓存中需要清理的待淘汰内存块。

元素迁移模块330，将所述待淘汰内存块中的目标元素迁移至所述缓存中的目标内存块，所述目标内存块为所述缓存中保留的内存块且可用存储空间大于所述目标元素需要的存储空间。

淘汰执行模块340，从所述缓存中删除所述待淘汰内存块。

本说明书实施例的装置可以更新缓存中内存块的热度指标值，并在需要清理缓存空间时，根据更新到的内存块热度指标值确定出需要清理的待淘汰内存块。在清理前，将待淘汰内存块中有价值的元素迁移至其他内存块，从而避免缓存因清理内存块而丢失高价值的元素，进而导致性能和收益的下降。

可选地，所述目标元素为所述待淘汰内存块的全部元素，或者，所述目标元素为所述待淘汰内存块中热度指标值达到元素热度阈值的元素。

若所述缓存中存在保留的能够存储所述待淘汰内存块全部元素的内存块，则所述目标元素为所述待淘汰内存块的全部元素。也就是说，在有能力将淘汰内存块全部元素迁移的情况下，可以将淘汰内存块全部元素迁移出去，从而保证在元素不丢失的情况下，清理掉淘汰内存块。

若所述缓存中不存在保留的能够存储所述待淘汰内存块全部元素的内存块，则所述目标元素为所述待淘汰内存块中热度指标值达到元素热度阈值的元素。也就是说，通过元素热度阈值选取淘汰内存块中值得迁移的元素作为目标元素。

可选地，元素迁移模块330将所述待淘汰内存块中的目标元素迁移至所述缓存中的目标内存块前，还用于：从所述缓存中选取保留的能够存储所述目标元素的其他内存块作为目标内存块。其中，若所述缓存中不存在保留的能够储所述目标元素的其他内存块，则元素迁移模块330可以删除所述缓存中保留的其他内存块的元素，以清理出用于存储所述目标元素的存储空间，并将存储空间清理后的其他内存块确定为目标内存块，其中该其他内存块中被删除的元素的热度指标值小于所述目标元素的热度指标值。

基于上述元素迁移模块330的删除方式，如果缓存中所有不需要淘汰的内存块均没有空间存储待淘汰内存块中需要迁移的目标元素，则可以基于热度指标值，来进行元素取舍。如果，不需要淘汰的内存块中存在热度指标值地域目标元素的元素，则可以进行删除，为目标元素腾出存储空间。

可选地，淘汰分析模块320基于所述缓存中内存块的热度指标值，确定所述缓存中需要清理的目标内存块的执行条件包括以下至少一者：

所述缓存的存储空间占用达到占用上限；

所述缓存中的内存块数量达到数量上限；

所述缓存中存在持续预设时间未被访问的内存块。

可选地，内存块中元素的热度指标值是基于元素对应的访问次数、上一周期热度指标值以及热度时间衰减系数计算得到的。内存块的热度指标值是基于内存块中所有元素的热度指标值所确定得到的。

可选地，淘汰分析模块320可以按照热度指标值由小到大的顺序，选取预设数量的内存块作为需要清理的目标内存块；或，可以将所述缓存中热度指标值未达到内存块热度阈值的内存块确定为需要清理的目标内存块。

可选地，所述缓存为LSM树的MemTable，所述MemTable不定长缓存的元素，且元素的数据占用不大于内存块提供的存储空间。

显然，本说明书实施例的淘汰装置可以作为上述图1所示的淘汰方法的执行主体，因此能够实现淘汰方法在图1所实现的功能。由于原理相同，本文不再赘述。

图4是本说明书的一个实施例电子设备的结构示意图。请参考图4，在硬件层面，该电子设备包括处理器，可选地还包括内部总线、网络接口、存储器。其中，存储器可能包含内存，例如高速随机存取存储器(Random-Access Memory，RAM)，也可能还包括非易失性存储器（non-volatile memory），例如至少1个磁盘存储器等。当然，该电子设备还可能包括其他业务所需要的硬件。

处理器、网络接口和存储器可以通过内部总线相互连接，该内部总线可以是ISA(Industry Standard Architecture，工业标准体系结构）总线、PCI(PeripheralComponent Interconnect，外设部件互连标准)总线或EISA(Extended Industry StandardArchitecture，扩展工业标准结构）总线等。所述总线可以分为地址总线、数据总线、控制总线等。为便于表示，图4中仅用一个双向箭头表示，但并不表示仅有一根总线或一种类型的总线。

存储器，用于存放程序。具体地，程序可以包括程序代码，所述程序代码包括计算机操作指令。存储器可以包括内存和非易失性存储器，并向处理器提供指令和数据。

处理器从非易失性存储器中读取对应的计算机程序到内存中然后运行，在逻辑层面上缓存内存块的淘汰装置，该淘汰装置可以是指存储系统，也可以是指存储系统的部件。处理器，执行存储器所存放的程序，并具体用于执行以下操作：

确定缓存中内存块的热度指标值，内存块为缓存的存储单位。

基于所述缓存中内存块的热度指标值，确定所述缓存中需要清理的待淘汰内存块。

将所述待淘汰内存块中的目标元素迁移至所述缓存中的目标内存块，所述目标内存块为所述缓存中保留的内存块且可用存储空间大于所述目标元素需要的存储空间。

从所述缓存中删除所述待淘汰内存块。

本说明书实施例的电子设备可以更新缓存中内存块的热度指标值，并在需要清理缓存空间时，根据更新到的内存块热度指标值确定出需要清理的待淘汰内存块。在清理前，将待淘汰内存块中有价值的元素迁移至其他内存块，从而避免缓存因清理内存块而丢失高价值的元素，进而导致性能和收益的下降。

上述如本说明书图1所示实施例揭示的淘汰方法可以应用于处理器中，或者由处理器实现。处理器可能是一种集成电路芯片，具有信号的处理能力。在实现过程中，上述方法的各步骤可以通过处理器中的硬件的集成逻辑电路或者软件形式的指令完成。上述的处理器可以是通用处理器，包括中央处理器（Central Processing Unit，CPU）、网络处理器（Network Processor，NP）等；还可以是数字信号处理器（Digital Signal Processor，DSP）、专用集成电路（Application Specific Integrated Circuit，ASIC）、现场可编程门阵列（Field－Programmable Gate Array，FPGA）或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。可以实现或者执行本说明书实施例中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。结合本说明书实施例所公开的方法的步骤可以直接体现为硬件译码处理器执行完成，或者用译码处理器中的硬件及软件模块组合执行完成。软件模块可以位于随机存储器，闪存、只读存储器，可编程只读存储器或者电可擦写可编程存储器、寄存器等本领域成熟的存储介质中。该存储介质位于存储器，处理器读取存储器中的信息，结合其硬件完成上述方法的步骤。

应理解，本说明书实施例的电子设备可以实现上述共识方法在图1和图2所示的实施例的功能。由于原理相同，本文不再赘述。

当然，除了软件实现方式之外，本说明书的电子设备并不排除其他实现方式，比如逻辑器件抑或软硬件结合的方式等等，也就是说以下处理流程的执行主体并不限定于各个逻辑单元，也可以是硬件或逻辑器件。

此外，本说明书实施例还提出了一种计算机可读存储介质，该计算机可读存储介质存储一个或多个程序，该一个或多个程序包括指令，该指令当被包括多个应用程序的便携式电子设备执行时，能够使该便携式电子设备执行图1所示实施例的方法，并具体用于执行以下步骤：

确定缓存中内存块的热度指标值，内存块为缓存的存储单位。

基于所述缓存中内存块的热度指标值，确定所述缓存中需要清理的待淘汰内存块。

将所述待淘汰内存块中的目标元素迁移至所述缓存中的目标内存块，所述目标内存块为所述缓存中保留的内存块且可用存储空间大于所述目标元素需要的存储空间。

从所述缓存中删除所述待淘汰内存块。

本领域技术人员应明白，本说明书的实施例可提供为方法、系统或计算机程序产品。因此，本说明书可采用完全硬件实施例、完全软件实施例或结合软件和硬件方面的实施例的形式。而且，本说明书可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质（包括但不限于磁盘存储器、CD-ROM、光学存储器等）上实施的计算机程序产品的形式。

上述对本说明书特定实施例进行了描述。其它实施例在所附权利要求书的范围内。在一些情况下，在权利要求书中记载的动作或步骤可以按照不同于实施例中的顺序来执行并且仍然可以实现期望的结果。另外，在附图中描绘的过程不一定要求示出的特定顺序或者连续顺序才能实现期望的结果。在某些实施方式中，多任务处理和并行处理也是可以的或者可能是有利的。

以上仅为本说明书的实施例而已，并不用于限制本说明书。对于本领域技术人员来说，本说明书可以有各种更改和变化。凡在本说明书的精神和原理之内所作的任何修改、等同替换、改进等，均应包含在本说明书的权利要求范围之内。此外，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都应当属于本文件的保护范围。