掌桥专利:专业的专利平台
掌桥专利
首页

数据存储方法、装置、电子设备及存储介质

文献发布时间:2023-06-19 18:37:28


数据存储方法、装置、电子设备及存储介质

技术领域

本申请实施例涉及数据处理技术领域,尤其涉及一种数据存储方法、装置、电子设备及存储介质。

背景技术

在键值对数据库领域,对key的存储、value的存储都涉及到时延情况。在对key、value进行存储的时候,以treeMap、hashMap、B+tree、JumpTable为主的几大内存存储技术,可以解决存储key及存储value的问题,在软件领域应用很多,如Redis数据库。

采用上述内存存储技术时,底层存储技术操作步骤较多,内存地址不连续,CPU(Central Processing Unit,中央处理器)cache miss(缓存不命中)严重,存储时延比较大,导致在应用到低时延领域的时候,应用上述内存存储技术的数据库存储操作时抖动较大,平均时延都在百微秒,形成了IO瓶颈。

发明内容

鉴于此,为解决上述采用上述内存存储技术时,底层存储技术操作步骤较多,内存地址不连续,CPU cache miss严重,存储时延比较大,导致在应用到低时延领域的时候,应用上述内存存储技术的数据库存储操作时抖动较大,平均时延都在百微秒,形成了IO瓶颈的技术问题,本申请实施例提供一种数据存储方法、装置、电子设备及存储介质。

第一方面,本申请实施例提供一种数据存储方法,所述方法包括:

获取待存储数据对应的第一标识;

根据所述第一标识从预设的内存中确定所述待存储数据对应的第一目标内存,其中,所述预设的内存包括第一内存、第二内存,所述第一内存包括连续的大页内存;

将所述待存储数据存储至所述第一目标内存。

在一个可选的实施方式中,所述根据所述第一标识从预设的内存中确定所述待存储数据对应的第一目标内存,包括:

判断所述第一标识是否处于第一内存对应的第一标识范围内;

若所述第一标识处于所述第一内存对应的第一标识范围内,则确定所述第一内存为所述待存储数据对应的第一目标内存;

所述将所述待存储数据存储至所述第一目标内存,包括:

将所述待存储数据存储至所述第一内存。

在一个可选的实施方式中,所述方法还包括:

若所述第一标识未处于所述第一内存对应的第一标识范围内,则查询所述第二内存对应的标识表;

若所述第一标识处于所述标识表对应的第二标识范围内,则确定所述第二内存为所述待存储数据的第一目标内存;

所述将所述待存储数据存储至所述第一目标内存,包括:

将所述待存储数据存储至所述第二内存,并更新所述标识表。

在一个可选的实施方式中,所述方法还包括:

若所述第一标识未处于所述标识表对应的第二标识范围内,则对所述第二内存进行扩容,并对所述标识表进行扩容;

确定扩容后的第二内存为所述待存储数据的第一目标内存;

所述将所述待存储数据存储至所述第一目标内存,包括:

将所述待存储数据存储至扩容后的第二内存,并更新扩容后的标识表。

在一个可选的实施方式中,所述方法还包括:

确定第二标识;

从所述从预设的内存中确定所述第二标识对应的第二目标内存;

获取所述第二标识对应的数据在所述第二目标内存中对应的地址指针,并根据所述地址指针获取所述第二标识对应的数据。

在一个可选的实施方式中,所述从所述预设的内存中确定所述第二标识对应的第二目标内存,包括:

判断所述第二标识是否处于所述第一内存对应的第一标识范围内;

若所述第二标识处于所述第一内存对应的第一标识范围内,则确定所述第一内存为所述第二标识对应的第二目标内存;

所述获取所述第二标识对应的数据在所述第二目标内存中对应的地址指针,并根据所述地址指针获取所述第二标识对应的数据,包括:

获取所述第二标识对应的数据在所述第一内存中对应的第一地址指针,并根据所述第一地址指针获取所述第二标识对应的数据。

在一个可选的实施方式中,在所述获取所述第二标识对应的数据在所述第一内存中的对应的第一地址指针之前,还包括:

判断所述第二标识与预设的标识是否相同;

若所述第二标识与预设的标识相同,则获取空地址指针,并确定所述预设的内存中未存储所述第二标识对应的数据;

若所述第二标识未与预设的标识相同,则获取所述第二标识对应的数据在所述第一内存中对应的第一地址指针,并根据所述第一地址指针获取所述第二标识对应的数据。

在一个可选的实施方式中,所述方法还包括:

若所述第二标识未处于所述第一内存对应的第一标识范围内,则查询所述第二内存对应的标识表;

若所述第二标识处于所述标识表对应的第二标识范围内,则确定所述第二内存为所述第二标识对应的第二目标内存;

所述获取所述第二标识对应的数据在所述第二目标内存中对应的地址指针,并根据所述地址指针获取所述第二标识对应的数据,包括:

获取所述第二标识对应的数据在所述第二内存中对应的第二地址指针,并根据所述第二地址指针获取所述第二标识对应的数据。

在一个可选的实施方式中,所述方法还包括:

若所述第二标识未处于所述标识表对应的第二标识范围内,则获取空地址指针,并确定所述预设的内存中未存储所述第二标识对应的数据。

在一个可选的实施方式中,在所述方法之前还包括:

确定预设的内存;

获取目标数据,其中,所述目标数据保存于持久化数据列表中;

将所述目标数据存储至所述预设的内存中,并更新所述预设的内存对应的最大存储量。

在一个可选的实施方式中,所述预设的内存包括:第一内存、第二内存;

所述确定预设的内存,包括:

获取所述第一内存对应的第一存储量;

根据所述第一存储量确定所述第一内存对应的第一标识范围;

和,获取所述第二内存对应的第二存储量;

根据所述第一标识范围和所述第二存储量确定所述第二内存对应的第二标识范围,并根据所述第二标识范围建立第二内存对应的标识表。

在一个可选的实施方式中,所述将所述目标数据存储至所述预设的内存中,包括:

判断所述目标数据是否已存储至所述预设的内存中;

若所述目标数据未存储至所述预设的内存中,则将所述目标数据存储至所述预设的内存中。

在一个可选的实施方式中,所述将所述目标数据存储至所述预设的内存中,还包括:

清空所述预设的内存;

将所述目标数据存储至清空后的预设的内存中。

第二方面,本申请实施例提供一种数据存储装置,所述装置包括:

获取模块,用于获取待存储数据对应的第一标识;

确定模块,用于根据所述第一标识从预设的内存中确定所述待存储数据对应的第一目标内存,其中,所述预设的内存包括第一内存、第二内存,所述第一内存包括连续的大页内存;

存储模块,用于将所述待存储数据存储至所述第一目标内存。

第三方面,本申请实施例提供一种电子设备,包括:处理器和存储器,所述处理器用于执行所述存储器中存储的数据存储程序,以实现第一方面中任一项所述的数据存储方法。

第四方面,本申请实施例提供一种存储介质,所述存储介质存储有一个或者多个程序,所述一个或者多个程序可被一个或者多个处理器执行,以实现第一方面中任一项所述的数据存储方法。

本申请实施例提供的技术方案,获取待存储数据对应的第一标识;根据所述第一标识从预设的内存中确定所述待存储数据对应的第一目标内存,其中,所述预设的内存包括第一内存、第二内存,所述第一内存包括连续的大页内存;将所述待存储数据存储至所述第一目标内存。由此可实现在存储数据时,根据待存储数据对应的第一标识确定第一目标内存,第一内存和第二内存协同使用,第一内存使用大页内存,减少了操作步骤,降低了时延。

附图说明

图1为本申请实施例提供的一种数据存储方法的实施流程示意图;

图2为本申请实施例提供的另一种数据存储方法的实施流程示意图;

图3为本申请实施例提供的一种数据获取方法的实施流程示意图;

图4为本申请实施例提供的另一种数据获取方法的实施流程示意图;

图5为本申请实施例提供的又一种数据获取方法的实施流程示意图;

图6为本申请实施例提供的一种预设的内存初始化方法的实施流程示意图;

图7为本申请实施例提供的另一种预设的内存初始化方法的实施流程示意图;

图8为本申请实施例提供的又一种预设的内存初始化方法的实施流程示意图;

图9为本申请实施例提供的再一种预设的内存初始化方法的实施流程示意图;

图10为本申请实施例提供的一种预设的内存的示意图;

图11为本申请实施例提供的一种内存初始化方法的实施流程示意图;

图12为本申请实施例提供的一种数据对应的地址指针获取方法的实施流程示意图;

图13为本申请实施例提供的一种数据存储方法的实施流程示意图;

图14本申请实施例提供的一种数据存储装置的结构示意图;

图15为本申请实施例提供的一种电子设备的结构示意图。

具体实施方式

为使本申请实施例的目的、技术方案和优点更加清楚,下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例,都属于本申请保护的范围。

图1为本申请实施例提供的一种数据存储方法的实施流程示意图,该方法可包括以下步骤:

S101:获取待存储数据对应的第一标识。

在本申请实施例中,在进行数据存储时,首先会获取待存储数据对应的第一标识,第一标识为待存储数据对应的唯一标识。其中,第一标识通过系统进行分配,具体的,系统根据预设的内存中的最大存储量确定的当前预设的内存中已存储数据的最大标识,确定待存储数据所需的存储空间,以已存储数据的最大标识为基础,为待存储数据分配连续的第一标识。

例如,预设的内存的最大存储量对应的最大标识为100,待存储数据所需的存储空间为10,则为待存储数据分配的第一标识为[101,110],本申请实施例对此不做限定。

需要说明的是,上述确定的预设的内存中的最大存储量包括预设的内存中已经存储的数据所占的存储空间。

S102:根据第一标识从预设的内存中确定待存储数据对应的第一目标内存,其中,预设的内存包括第一内存、第二内存,第一内存包括连续的大页内存。

在本申请实施例中,根据第一标识从预设的内存中确定待存储数据对应的第一目标内存,其中预设的内存包括第一内存、第二内存。

第一内存和第二内存中的标识均连续,且第一内存中的标识最小值为0,最大值为N,第二内存中的标识最小值为N+1,标识最大值为M,其中,N和M为正整数,例如,N=10000,M=15000,本申请实施例对此不做限定。

在本申请实施例中,第一内存包括大页内存,第二内存包括超额内存。其中,大页内存存储量为2MB或者1GB,第二内存采用hashmap存储技术实现超额内存的存储。第二内存包括在堆上或者栈上申请的内存,内存不连续,可根据需求进行申请。

S103:将待存储数据存储至第一目标内存。

在本申请实施例中,将待存储数据存储至上述确定的第一目标内存,即第一目标内存为第一内存或第二内存。

通过上述对本申请实施例提供的技术方案的描述,本申请中在存储数据时,首先确定待存储数据对应的第一标识,根据第一标识确定待存储数据对应的第一目标内存,包括大页内存和超额内存,大页内存技术通过申请完整的大页内存,使存储空间连续,每页内存变大,可减少TLB(Translation Lookaside Buffer,页表缓存)表项,减少表项的缓存所需要的存储空间,减少CPU地址表项转换,减少TLB miss,减少cache miss,即减少数据转换、拷贝、地址引用等操作,且采用大页内存,每页内存变大还能减少扩容次数。由此可见,通过上述技术,可实现降低数据存储过程中的时延。

图2为本申请实施例提供的另一种数据存储方法的实施流程示意图,该方法可包括以下步骤:

S201:获取待存储数据对应的第一标识。

在本申请实施例中,S201在S101中已经做了详细介绍,在此不再赘述。

S202:判断第一标识是否处于第一内存对应的第一标识范围内。

在本申请实施例中,第一内存对应的存储空间连续,第一内存对应的标识也连续,例如第一标识范围为[0,10000]。判断第一标识是否处于第一标识范围内,例如第一标识为2900,则第一标识处于第一标识范围。

S203:若第一标识处于第一内存对应的第一标识范围内,则确定第一内存为待存储数据对应的第一目标内存。

S204:将待存储数据存储至第一内存。

以下对S203和S204进行统一说明:

在本申请实施例中,若第一标识处于第一标识范围内,说明第一内存内还有空余存储空间,则确定第一内存为待存储数据对应的第一目标内存,将待存储数据存储至第一内存中,待存储数据的存储位置由第一标识确定。

S205:若第一标识未处于第一内存对应的第一标识范围内,则查询第二内存对应的标识表。

在本申请实施例中,若第一标识未处于第一内存对应的第一标识范围内,则待存储数据不能存储至第一内存中,此时需要查询第二内存对应的标识表,判断第一标识是否处于标识表对应的第二标识范围内。

例如,第一标识范围为[0,10000],第二标识范围为[10001,15000],第一标识为11000,则第一标识未处于第一内存对应的第一标识范围内,第一标识处于第二标识范围内。

在本申请实施例中,标识表中存储第二内存中的数据对应的键值,根据标识表中的键值可确定第二内存中唯一的数据。第二标识范围的最大值为第二内存的最大存储量对应的标识,其中,第二内存最大存储量包括预先设置的阈值,由于第二内存为堆上内存或者栈上内存,可根据实际需求进行申请,因此第二内存的内存空间并不固定,且没有多余内存空间。可以理解的是,第二内存对应的标识表中的标识数量也不确定,但是标识表对应的第二标识范围是根据设置的大页内存的最大存储量以及预先设置的阈值确定的。

S206:若第一标识处于标识表对应的第二标识范围内,则确定第二内存为待存储数据的第一目标内存。

S207:将待存储数据存储至第二内存,并更新标识表。

以下对S206和S207进行统一说明:

在本申请实施例中,若第一标识处于标识表对应的第二标识范围内,则确定第二内存为待存储数据的第一目标内存。将待存储数据存储至第二内存,并更新标识集。

在本申请实施例中,当第二内存使用hashmap存储技术时,标识表即为哈希表,存储第二内存中的数据对应的标识,并更新第二标识范围。

S208:若第一标识未处于标识表对应的第二标识范围内,则对第二内存进行扩容,并对标识表进行扩容。

S209:确定扩容后的第二内存为待存储数据的第一目标内存。

S210:将待存储数据存储至扩容后的第二内存,并更新扩容后的标识表。

以下对S208至S210进行统一说明:

在本申请实施例中,若第一标识未处于标识表对应的第二标识范围内,则对第二内存进行扩容,同时更新标识表。例如,第二标识范围为[10001,15000],第一标识为16000,则对第二内存进行扩容。具体的,可将标识表对应的第二标识范围更新为[10001,20000],即对标识表对应的标识数量进行翻倍,本申请实施例对此不做限定。

在本申请实施例中,确定扩容后的第二内存为待存储数据的第一目标内存,将待存储数据存储至扩容后的第二内存,并更新扩容后的标识表,具体的,将待存储数据对应的标识存储至扩容后的标识表。

通过上述对本申请实施例提供的技术方案的描述,本申请中对数据存储时,采用第一内存和第二内存。首先根据预设的内存为待存储数据分配第一标识,根据第一标识所属的标识范围确定第一目标内存,当第一标识处于第一内存对应的第一标识范围内时,只需根据第一标识将待存储数据存储至第一内存,由于第一内存为大页内存,在实际应用中出现第一标识未处于第一标识范围内的几率很小,因此可实现降低时延的目的。同时,本申请还提供了第二内存,即超额内存,在大页内存存储量不够时,可堆上或者栈上申请内存,第二内存采用时延较低的hashmap存储技术,在损失了一部分时延性能的基础上,完成超额存储任务。

图3为本申请实施例提供的一种数据获取方法的实施流程示意图,该方法可包括以下步骤:

S301:确定第二标识。

在本申请实施例中,当进行数据获取时,在系统启动后,确定想要获取的数据对应的第二标识。第二标识包括第二标识对应的数据的唯一标识,根据第二标识可唯一确定第二标识对应的数据。

S302:从预设的内存中确定第二标识对应的第二目标内存。

在本申请实施例中,从预设的内存中确定第二标识对应的第二目标内存。第二目标内存为存储第二标识对应的数据的内存。

S303:获取第二标识对应的数据在第二目标内存中对应的地址指针,并根据地址指针获取第二标识对应的数据。

在本申请实施例中,确定第二标识对应的第二目标内存后,可获取第二标识对应的数据在第二目标内存中的地址指针,然后根据地址指针获取第二标识对应的数据,具体的,需要对地址指针对应的虚拟地址进行转换,得到第二标识对应的数据的物理地址,从而获取数据。

图4为本申请实施例提供的另一种数据获取方法的实施流程示意图,该方法可包括以下步骤:

S401:确定第二标识。

在本申请实施例中,S401在S301中已经做了详细介绍,在此不再赘述。

S402:判断第二标识是否处于第一内存对应的第一标识范围内。

在本申请实施例中,首先需要判断第二标识是否处于第一内存对应的第一标识范围内,例如,第二标识为2000,第一内存对应的第一标识范围为[0,10000]。

S403:若第二标识处于第一内存对应的第一标识范围内,则确定第一内存为第二标识对应的第二目标内存。

S404:获取第二标识对应的数据在第一内存中对应的第一地址指针,并根据第一地址指针获取第二标识对应的数据。

在本申请实施例中,若第二标识处于第一内存对应的第一标识范围内,则确定第一内存为第二标识对应的第二目标内存,获取第二标识对应的数据在第一内存中对应的第一地址指针,并根据第一地址指针获取第二标识对应的数据。

其中,第一内存为大页内存,则第一地址指针包括第二标识对应的数据所在的列表的首地址指针以及第二标识对应的数据的偏移地址指针。根据首地址指针可确定第二标识对应的数据所在的列表,根据偏移地址指针可确定第二标识对应的数据的具体存储位置,即实际逻辑地址,也即实际虚拟地址。

S405:若第二标识未处于第一内存对应的第一标识范围内,则查询第二内存对应的标识表。

在本申请实施例中,若第二标识未处于第一内存对应的第一标识范围内,则第二标识对应的数据未存储于第一内存,此时需要判断第二标识对应的数据是否存储于第二内存,即判断第二标识存储的数据是否存储于超额内存中,具体的,通过查询第二内存对应的标识表来判断第二标识是否在标识表中来实现。

在本申请实施例中,第二内存采用hashmap存储技术,因此第二内存对应一个哈希表,也即第二内存需要额外存储一个标识表,来保存第二内存中的数据对应的标识。

S406:若第二标识处于标识表对应的第二标识范围内,则确定第二内存为第二标识对应的第二目标内存。

S407:获取第二标识对应的数据在第二内存中对应的第二地址指针,并根据第二地址指针获取第二标识对应的数据。

在本申请实施例中,若第二标识处于标识表对应的第二标识范围内,则可确定第二内存为第二标识对应的第二目标内存。获取第二标识对应的数据在第二内存中对应的第二地址指针,并根据第二地址指针获取第二标识对应的数据。

在本申请实施例中,在确定第二标识处于标识表对应的第二标识范围内后,还需确定第二标识是否处于标识表内,由于标识表中的第二标识范围为标识表中可存储的最小标识和最大标识之间的标识,因此可能存在第二标识处于标识表对应的第二标识范围内,而标识表中未存储第二标识的情况,需确定第二标识是否存储于标识表内,确定第二标识存储于标识表内后,则可确定第二内存为第二标识对应的第二目标内存。需要说明的是,若第二标识未处于标识表内,则第二内存中未存储第二标识对应的数据,获取到的地址指针为空地址指针。

在另一种可能实现的方式中,还可省略确定第二标识是否处于标识表对应的第二标识范围内的步骤,直接确定第二标识是否存储于标识表内,从而确定第二内存是否为第二标识对应的第二目标内存。

其中,第二内存为堆上内存时,第二内存采用hashmap存储技术,第二标识处于标识表对应的第二标识范围内,即第二标识处于哈希表对应的第二标识范围内,确定第二标识存储于哈希表内后,可根据哈希表获取堆上地址指针,然后根据堆上地址指针获取第二标识对应的数据。

S408:若第二标识未处于标识表对应的第二标识范围内,则获取空地址指针,并确定预设的内存中未存储第二标识对应的数据。

在本申请实施例中,若第二标识未处于标识表对应的第二标识范围内,则获取空地址指针,在预设的内存中未存储第二标识对应的数据。

图5为本申请实施例提供的又一种数据获取方法的实施流程示意图,该方法可包括以下步骤:

S501:确定第二标识。

S502:判断第二标识是否处于第一内存对应的第一标识范围内。

S503:若第二标识处于第一内存对应的第一标识范围内,则确定第一内存为第二标识对应的第二目标内存。

在本申请实施例中,S501至S503在S401至S403中已经做了详细说明,在此不再赘述。

S504:判断第二标识与预设的标识是否相同。

S505:若第二标识与预设的标识相同,则获取空地址指针,并确定预设的内存中未存储第二标识对应的数据。

S506:若第二标识未与预设的标识相同,则获取第二标识对应的数据在第一内存中对应的第一地址指针,并根据第一地址指针获取第二标识对应的数据。

以下对S504至S506进行统一说明:

在本申请实施例中,判断第二标识与预设的标识是否相同,当第二标识处于第一内存对应的第一标识范围内时,由于第一内存中存在脏数据等原因,可能在第二标识对应的存储空间内并未存储数据,未存储数据的空间的标识为预设的标识,例如,预设的标识为0,则需判断第二标识是否为0。

在本申请实施例中,第二标识与预设的标识相同时,则获取空地址指针,并确定第二标识对应的存储空间中并未存储第二标识对应的数据。若第二标识未与预设的标识相同,则第一内存中存储第二标识对应的数据。具体的数据获取方法在S404中已经做出了详细说明,在此不再赘述。

S507:若第二标识未处于第一内存对应的第一标识范围内,则查询第二内存对应的标识表。

S508:若第二标识处于标识表对应的第二标识范围内,则确定第二内存为第二标识对应的第二目标内存。

S509:获取第二标识对应的数据在第二内存中对应的第二地址指针,并根据第二地址指针获取第二标识对应的数据。

S510:若第二标识未处于标识表对应的第二标识范围内,则获取空地址指针,并确定预设的内存中未存储第二标识对应的数据。

在本申请实施例中,S507至S510在S405至S408中已经做了详细说明,在此不再赘述。

通过上述对本申请实施例提供的技术方案的描述,本申请中在数据存储方法的基础上提供了一种数据获取方法,对于存储在大页内存中的数据和第二内存中的数据提供了一种获取方法。首先通过在大页内存中获取数据可减少TLB miss、cache miss,以及减少地址转换过程中的操作等,由此降低了数据获取时的时延。其次,通过第二内存,提供超额存储,在损失了部分时延的基础上,增大了存储空间,使得获取数据时可访问的存储空间变大,减少了数据获取失败的概率。

本申请还提供了标识校对方法,确定第一内存为第二目标内存后,为防止第一内存中并未存储第二标识对应的数据,首先判断第二标识与预设的标识是否相同,然后才可以获取第一地址指针,以获取数据,提升了数据获取的准确性。

图6为本申请实施例提供的一种预设的内存初始化方法的实施流程示意图,该方法可包括以下步骤:

S601:确定预设的内存。

在本申请实施例中,首先需要进行预设的内存的初始化,首先确定预设的内存,具体的,可参见图10,为本申请实施例提供的一种预设的内存的示意图。左侧为第一内存,右侧为第二内存,此时的第一内存为大页内存,第二内存为栈上内存,且第二内存采用hashmap存储技术。

第一内存包括对象存储首地址,图10中示出了对象A存储首地址、对象B存储首地址,对象包括进行数据存储时同时存储的具有连续标识的数据,本申请对此不做限定。图10示出的数据包括ID、用户自定义字段、更新版本号等,本申请对此不做限定。其中,ID为对对象做的ID字段内置,即为本申请中的标识,可唯一识别数据。

第二内存包括存储value对象的内存,存储key值的内存即为本申请中的标识表,在本申请中第二内存中数据的存储结构与第一内存中相同,第二内存对应有标识表,即第二内存需要额外内存来存储标识表。

S602:获取目标数据,其中,目标数据保存于持久化数据列表中。

在本申请实施例中,从持久化数据列表中获取目标数据,例如,持久化数据列表包括MySQL数据库等断电不会造成数据丢失的数据列表,本申请对此不做限定。

S603:将目标数据存储至预设的内存中,并更新预设的内存对应的最大存储量。

在本申请实施例中,将目标数据存储至预设的内存中,然后确定预设的内存存储的数据的最大存储量。在实际应用中,一个数据可能对应存储多个数据的存储空间,此时导致有些存储空间的标识为初始标识,初始标识即为预设的标识。最大存储量记载的为已经占用的存储空间,包括未更新标识的存储空间。

通过上述对本申请实施例提供的技术方案的描述,本申请中确定预设的内存,从持久化数据列表中加载目标数据,并保存至预设的内存中,实现了数据同步。

基于S601,预设的内存包括第一内存和第二内存,图7为本申请实施例提供的另一种预设的内存初始化方法的实施流程示意图,该方法可包括以下步骤:

S701:获取第一内存对应的第一存储量。

S702:根据第一存储量确定第一内存对应的第一标识范围。

S703:获取第二内存对应的第二存储量。

S704:根据第一标识范围和第二存储量确定第二内存对应的第二标识范围,并根据第二标识范围建立第二内存对应的标识表。

在本申请实施例中,首先需要配置第一内存中存储的数据列表的路径,然后获取第一内存对应的第一存储量,并根据第一存储量确定第一内存对应的第一标识范围。第一内存为大页内存,第一内存对应的第一存储量包括2MB、1GB等,本申请对此不做限定。需要说明的是,对于第一内存确定的第一存储量为第一内存的实际存储量。

在本申请实施例中,还需获取第二内存对应的第二存储量,然后根据第二内存对应的第二存储量确定第二内存中的标识数量,然后在第一内存对应的第一标识范围的基础上确定第二标识范围,并根据第二标识范围建立标识表。

S705:获取目标数据,其中,目标数据保存于持久化数据列表中。

S706:将目标数据存储至预设的内存中,并更新预设的内存对应的最大存储量。

在本申请实施例中,S705和S706在S602和S603中已经做了详细介绍,在此不再赘述。

通过上述对本申请实施例提供的技术方案的描述,本申请预先配置大页内存和超额内存,以最大的可能降低时延,同时保证了存储空间缺少时使用超额内存,保证数据存储不受影响。

图8为本申请实施例提供的又一种预设的内存初始化方法的实施流程示意图,该方法可包括以下步骤:

S801:确定预设的内存。

S802:获取目标数据,其中,目标数据保存于持久化数据列表中。

在本申请实施例中,S801和S802在S601和S602中已经做了详细介绍,在此不再赘述。

S803:判断目标数据是否已存储至预设的内存中。

在本申请实施例中,采用预设的内存一致性优先时,判断目标数据是否已存储至预设的内存中。

S804:若目标数据未存储至预设的内存中,则将目标数据存储至预设的内存中,并更新预设的内存对应的最大存储量。

在本申请实施例中,若目标数据未存储至预设的内存中,则将目标数据存储至预设的内存中。同时,若目标数据已经存储至预设的内存中,目标数据版本号更新,需要对预设的内存中的目标数据进行更新。

在本申请实施例中,存储目标数据时需要对目标数据进行类型转换,由持久化数据列表对应的类型转换为预设的内存对应的类型,并对数据进行存储。

通过上述对本申请实施例提供的技术方案的描述,本申请在预设的内存一致性优先时,将目标数据与预设的内存中的数据进行对比,过滤得到最新版本数据,存储至预设的内存中,减少了数据处理量,保证了数据为最新版本数据。

图9为本申请实施例提供的再一种预设的内存初始化方法的实施流程示意图,该方法可包括以下步骤:

S901:确定预设的内存。

S902:获取目标数据,其中,目标数据保存于持久化数据列表中。

在本申请实施例中,S901和S902在S601和S602中已经做了详细介绍,在此不再赘述。

S903:清空预设的内存。

在本申请实施例中,采用持久化数据为一致性优先时,直接将预设的内存清空。

S904:将目标数据存储至清空后的预设的内存中,并更新预设的内存对应的最大存储量。

在本申请实施例中,对目标数据进行类型转换,将目标数据存储至清空后的预设的内存中,并更新预设的内存对应的最大存储量。

通过上述对本申请实施例提供的技术方案的描述,本申请在持久化数据为一致性优先时,将大页内存清空,将目标数据全部保存至预设的内存中,保证了数据的一致性,且无需进行多次比较,减少了操作步骤。

图11至图13示出了实际应用中,第一内存为大页内存,第二内存为超额内存,且第二内存采用hashmap存储技术时,以对象为存储主线,进行存取的示意图,其中,对象为多个数据组成的列表。本申请通过模板泛化能力实现对不同类型对象的存储,在存储不同对象时,存储初始化好的各对象首地址指针。具体的,可以通过向量数组的形式存储。

图11为本申请实施例提供的一种内存初始化方法的实施流程示意图,该流程可包括以下步骤:

配置对象路径,在系统启动后,首先对对象路径进行配置,在之后对对象进行存取即可根据该路径获取对象。

配置大页内存容量,为大页内存配置容量,具体的,可设置为2MB、1GB等,本申请对此不做限定。

加载持久化数据,从持久化数据库中加载持久化数据,持久化数据库不会因为断电而丢失数据。

计算加载数据容量,通过加载到的数据可计算数据量,确定加载的数据需占用的大页内存的空间。

判断配置的一致性优先选项,包括两种情况:

当以大页内存一致性优先时,过滤最新版本数据,将最新版本数据通过反射生成存储对象,并存储到大页内存中;

当以持久化数据为一致性优先时,直接将大页内存清零,将加载的全部持久化数据通过反射生成存储对象后,存储到大页内存中。

最后更新大页内存中的最大存储量。

需要说明的是,由于大页内存中的空间足够大,在实际应用中一般很少会使用到超额内存,因此,此处仅仅说明大页内存中加载持久化数据并存储的过程。

图12为本申请实施例提供的一种数据对应的地址指针获取方法的实施流程示意图,该流程可包括以下步骤:

对象对应的索引ID在配置容量范围,其中,索引ID包括系统启动后,根据要读取的数据所产生的索引ID,即上述流程中所记载的第二标识。根据连续索引ID可获得大页内存的偏移地址,具体的,可通过编译器来实现。

可根据偏移地址对对象进行读取,读取过程中判断数据对应的标识是否为0,则返回空地址指针,以确定数据未存储于大页内存中。

读取过程中数据对应的标识不为0,则确定数据存储于大页内存中,并返回偏移地址指针。实际逻辑地址即为对象首地址与偏移地址之和,根据实际逻辑地址转化为物理地址时,由于采用大页内存技术,TLB表项减少,随之TLB miss也会减少。

对象对应的索引ID不在配置容量范围,需要判断索引ID是否在hashmap中,若在,则返回栈上地址指针,若不在则返回空地址指针。

图13为本申请实施例提供的一种数据存储方法的实施流程示意图,该流程可包括以下步骤:

首先,启动系统后,需要根据大页内存中的最大存储量以及对象对应的数据所需的存储量确定连续索引ID,判断索引ID是否在大页内存的配置容量范围内。

若是,则拷贝对象对应的数据到大页内存,并更新最大存储量,返回写入成功的消息;

若否,则判断索引是否在hashmap中。

若是,则更新hashmap中的键值,并将对应的地址内容进行更新,返回写入成功的消息;

若否,则申请栈上或堆上内存,申请内存成功,则将数据存储至栈上或堆上内存,并将索引ID当做键值存储至hashmap中,更新最大存储量,返回写入成功的消息;

若申请内存失败,返回写入失败的消息。

图14为本申请实施例提供的一种数据存储装置的结构示意图,该装置包括:获取模块1401、确定模块1402,以及存储模块1403。

获取模块1401,用于获取待存储数据对应的第一标识;

确定模块1402,用于根据所述第一标识从预设的内存中确定所述待存储数据对应的第一目标内存,其中,所述预设的内存包括第一内存、第二内存,所述第一内存包括连续的大页内存;

存储模块1403,用于将所述待存储数据存储至所述第一目标内存。

图15为本申请实施例提供的一种电子设备的结构示意图,图15所示的电子设备1500包括:至少一个处理器1501、存储器1502、至少一个网络接口1504和用户接口1503。电子设备1500中的各个组件通过总线系统1505耦合在一起。可理解,总线系统1505用于实现这些组件之间的连接通信。总线系统1505除包括数据总线之外,还包括电源总线、控制总线和状态信号总线。但是为了说明的清楚起见,在图15中将各种总线都标为总线系统1505。

其中,用户接口1503可以包括显示器、键盘或者点击设备(例如,鼠标,轨迹球(trackball))、触感板或者触摸屏等。

可以理解,本申请实施例中的存储器1502可以是易失性存储器或非易失性存储器,或可包括易失性和非易失性存储器两者。其中,非易失性存储器可以是只读存储器(Read-Only Memory,ROM)、可编程只读存储器(Programmable ROM,PROM)、可擦除可编程只读存储器(Erasable PROM,EPROM)、电可擦除可编程只读存储器(Electrically EPROM,EEPROM)或闪存。易失性存储器可以是随机存取存储器(Random Access Memory,RAM),其用作外部高速缓存。通过示例性但不是限制性说明,许多形式的RAM可用,例如静态随机存取存储器(Static RAM,SRAM)、动态随机存取存储器(Dynamic RAM,DRAM)、同步动态随机存取存储器(Synchronous DRAM,SDRAM)、双倍数据速率同步动态随机存取存储器(Double DataRate SDRAM,DDRSDRAM)、增强型同步动态随机存取存储器(Enhanced SDRAM,ESDRAM)、同步连接动态随机存取存储器(Synchlink DRAM,SLDRAM)和直接内存总线随机存取存储器(Direct Rambus RAM,DRRAM)。本文描述的存储器1502旨在包括但不限于这些和任意其它适合类型的存储器。

在一些实施方式中,存储器1502存储了如下的元素,可执行单元或者数据结构,或者他们的子集,或者他们的扩展集:操作系统15021和应用程序15022。

其中,操作系统15021,包含各种系统程序,例如框架层、核心库层、驱动层等,用于实现各种基础业务以及处理基于硬件的任务。应用程序15022,包含各种应用程序,例如媒体播放器(Media Player)、浏览器(Browser)等,用于实现各种应用业务。实现本申请实施例方法的程序可以包含在应用程序15022中。

在本申请实施例中,通过调用存储器1502存储的程序或指令,具体的,可以是应用程序15022中存储的程序或指令,处理器1501用于执行各方法实施例所提供的方法步骤,例如包括:

获取待存储数据对应的第一标识;

根据所述第一标识从预设的内存中确定所述待存储数据对应的第一目标内存,其中,所述预设的内存包括第一内存、第二内存,所述第一内存包括连续的大页内存;

将所述待存储数据存储至所述第一目标内存。

上述本申请实施例揭示的方法可以应用于处理器1501中,或者由处理器1501实现。处理器1501可能是一种集成电路芯片,具有信号的处理能力。在实现过程中,上述方法的各步骤可以通过处理器1501中的硬件的集成逻辑电路或者软件形式的指令完成。上述的处理器1501可以是通用处理器、数字信号处理器(Digital Signal Processor,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现成可编程门阵列(FieldProgrammable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。可以实现或者执行本申请实施例中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。结合本申请实施例所公开的方法的步骤可以直接体现为硬件译码处理器执行完成,或者用译码处理器中的硬件及软件单元组合执行完成。软件单元可以位于随机存储器,闪存、只读存储器,可编程只读存储器或者电可擦写可编程存储器、寄存器等本领域成熟的存储介质中。该存储介质位于存储器1502,处理器1501读取存储器1502中的信息,结合其硬件完成上述方法的步骤。

可以理解的是,本文描述的这些实施例可以用硬件、软件、固件、中间件、微码或其组合来实现。对于硬件实现,处理单元可以实现在一个或多个专用集成电路(ApplicationSpecific Integrated Circuits,ASIC)、数字信号处理器(Digital Signal Processing,DSP)、数字信号处理设备(DSP Device,DSPD)、可编程逻辑设备(Programmable LogicDevice,PLD)、现场可编程门阵列(Field-Programmable Gate Array,FPGA)、通用处理器、控制器、微控制器、微处理器、用于执行本申请功能的其它电子单元或其组合中。

对于软件实现,可通过执行本文功能的单元来实现本文的技术。软件代码可存储在存储器中并通过处理器执行。存储器可以在处理器中或在处理器外部实现。

本实施例提供的电子设备可以是如图15中所示的电子设备,可执行如图1~13中的方法的所有步骤,进而实现图1~13中的方法的技术效果,具体请参照图1~13相关描述,为简洁描述,在此不作赘述。

本申请实施例还提供了一种存储介质(计算机可读存储介质)。这里的存储介质存储有一个或者多个程序。其中,存储介质可以包括易失性存储器,例如随机存取存储器;存储器也可以包括非易失性存储器,例如只读存储器、快闪存储器、硬盘或固态硬盘;存储器还可以包括上述种类的存储器的组合。

当存储介质中一个或者多个程序可被一个或者多个处理器执行,以实现上述在电子设备侧执行的数据存储方法。

处理器用于执行存储器中存储的数据存储程序,以实现以下在电子设备侧执行的数据存储方法的步骤:

获取待存储数据对应的第一标识;

根据所述第一标识从预设的内存中确定所述待存储数据对应的第一目标内存,其中,所述预设的内存包括第一内存、第二内存,所述第一内存包括连续的大页内存;

将所述待存储数据存储至所述第一目标内存。

专业人员应该还可以进一步意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、计算机软件或者二者的结合来实现,为了清楚地说明硬件和软件的可互换性,在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本申请的范围。

结合本文中所公开的实施例描述的方法或算法的步骤可以用硬件、处理器执行的软件模块,或者二者的结合来实施。软件模块可以置于随机存储器(RAM)、内存、只读存储器(ROM)、电可编程ROM、电可擦除可编程ROM、寄存器、硬盘、可移动磁盘、CD-ROM、或技术领域内所公知的任意其它形式的存储介质中。

以上所述的具体实施方式,对本申请的目的、技术方案和有益效果进行了进一步详细说明,所应理解的是,以上所述仅为本申请的具体实施方式而已,并不用于限定本申请的保护范围,凡在本申请的精神和原则之内,所做的任何修改、等同替换、改进等,均应包含在本申请的保护范围之内。

技术分类

06120115629378