一种文件高可用的存储系统和方法

技术领域

本发明涉及分布式存储技术领域，具体涉及一种文件高可用的存储系统和方法。

背景技术

随着信息技术的高速发展，数据规模呈现爆炸式增长，对数据进行分析和利用之前，往往会采用分布式的文件系统如对象存储进行数据存储，将文件存储在多个存储介质中。这种方式与传统的将文件存储在单一存储介质中的存储方案相比，具有一定的容错性，能够在一台或者多台存储服务器宕机时，保证文件的正常存储，不会出现传统方式存在的当某一台存储服务器出现故障时，所有文件都无法写入的情况。但分布式文件系统仍然无法完全确保因其他原因导致异常情况发生时所有文件都能正常写入，如：当分布式文件系统使用的是同一种介质时，如果这种介质的写入方式发生逻辑错误，会导致存储数据在分布式文件系统的写入均不成功。

为了解决在异常情况发生时所有文件能正常写入，现有技术中在分布式文件系统使用了多级存储的方案，通常为主主或者主备的方式，当其中一级或者几级存储设备故障时，还有其他不同种类的存储设备可以正常写入，但这样操作的结果是对同样的文件进行存储时，最终会在每一级存储上都保存一份。这种方式虽然保证了文件的高可用，但是造成了存储资源的成倍增加，极大的浪费了存储的资源。

因此，需要提供一种文件高可用的存储系统，用以解决现有技术中分布式文件系统多级存储方案中存在的由于需要在每一级存储设备中都对相同的文件进行存储，从而导致存储资源的利用效率低、存储资源占用大的技术问题。

发明内容

有鉴于此，有必要提供一种文件高可用的存储系统和方法，能够解决现有技术中存在的由于需要在分布式文件系统的每一级存储设备中都对相同的文件进行存储，从而导致存储资源的利用效率低、存储资源占用大的技术问题，能够使存储资源和存储成本的利益最大化。

为了解决上述问题，本发明提供一种文件高可用的存储系统，包括：多级存储模块和调度模块；

所述多级存储模块，包括多个具有不同文件读写速率的存储节点，用于对所述调度模块发送的待存储文件进行存储；

所述调度模块，用于读取待存储文件，并根据预设阶梯存储策略将所述待存储文件发送给所述多级存储模块；

其中，所述预设阶梯存储策略包括：对多个所述存储节点按照文件读写速率依次进行优先级排序，文件读写速率越高的存储节点优先级越高；

对所述待存储文件按照访问时间顺序依次进行级别排序，访问时间越临近的待存储文件级别越高；

根据所述存储节点的优先级和待存储文件的级别，建立存储节点和文件的对应关系，将级别越高的文件存入优先级越高的存储节点。

在一些可能的实现方式中，所述系统还包括监测模块；

所述监测模块用于判断所述多级存储模块是否发生故障；当所述多级存储模块发生故障时，向所述调度模块发送暂存指令，当所述多级存储模块恢复运行后，向所述调度模块发送存储恢复指令；

所述调度模块还用于，根据所述监测模块发送的暂存指令和存储恢复指令对所述待存储文件进行标记，并将所述标记后的待存储文件发送给所述多级存储模块。

在一些可能的实现方式中，所述调度模块根据所述监测模块发送的暂存指令和存储恢复指令对所述待存储文件进行标记，并将所述标记后的待存储文件发送给所述多级存储模块，包括：

当所述优先级高的存储节点发生故障时，所述监测模块发送暂存指令给所述调度模块；

所述调度模块根据所述暂存指令，按照所述阶梯存储策略将应该存入所述优先级高的存储节点的文件标记为暂存文件，并将所述暂存文件发送到优先级低的存储节点中进行存储；

当所述优先级高的存储节点恢复运行后，所述监测模块发送恢复指令给所述调度模块；

所述调度模块根据所述恢复指令将所述暂存文件发送给所述优先级高的存储节点，并将所述暂存文件从所述优先级低的存储节点中删除。

在一些可能的实现方式中，将所述暂存文件发送到优先级低的存储节点中进行存储，还包括：

按照优先级顺序判断优先级比所述发生故障的存储节点低一级的存储节点是否运行正常；如果运行正常，将所述暂存文件发送到所述存储节点中进行存储，如果运行不正常，继续按照优先级顺序判断更低一级存储节点是否运行正常，直到找到运行正常的存储节点，并将所述暂存文件发送到所述运行正常的存储节点进行存储。

在一些可能的实现方式中，所述多级存储模块包括第一级存储节点和第二级存储节点；所述预设阶梯存储策略包括：

将访问时间未超过第一预设时间或访问时间超过第一预设时间但访问频率超过第一预设频率的待存储文件发送至所述第一级存储节点，将所述访问时间超过第一预设时间且访问频率未超过第一预设频率的待存储文件发送至所述第二级存储节点；其中，所述第一级存储节点的文件读写速率高于所述第二级存储节点的文件读写速率。

在一些可能的实现方式中，将访问时间未超过第一预设时间的待存储文件发送至所述第一级存储节点，还包括：

当所述第一级存储节点发生故障时，所述监测模块发送暂存指令给所述调度模块；

所述调度模块根据所述暂存指令，将所述访问时间未超过第一预设时间的待存储文件标记为暂存文件，并将所述暂存文件发送到所述第二级存储节点中进行存储；

当所述第一级存储节点恢复运行后，所述监测模块发送恢复指令给所述调度模块；

所述调度模块根据所述恢复指令将所述暂存文件发送给所述第一级存储节点，并将所述暂存文件从所述第二级存储节点中删除。

在一些可能的实现方式中，所述多级存储模块包括第三级存储节点、第四级存储节点和第五级存储节点；

所述预设阶梯存储策略包括：将所述待存储文件发送到所述第三级存储节点进行存储，得到第三存储文件；当所述第三存储文件的存储时间大于第二预设时间且文件访问次数小于预设访问阈值时，将所述第三存储文件发送至所述第四级存储节点进行存储，得到第四存储文件；当所述第四级存储节点中文件的存储时间大于第三预设时间时，将所述第四存储文件发送到所述第五级存储节点进行存储。

在一些可能的实现方式中，所述调度模块根据所述监测模块发送的暂存指令和存储恢复指令对所述待存储文件进行标记，并将所述标记后的待存储文件发送给所述多级存储模块，包括：

当所述第三级存储节点发生故障时，所述监测模块发送暂存指令给所述调度模块；

所述调度模块根据所述暂存指令，将所述访问时间未超过第二预设时间的待存储文件标记为暂存文件；

判断所述第四级存储节点是否出现故障；

当所述第四级存储节点没有出现故障时，将所述暂存文件发送到所述第四级存储节点中进行存储；

当所述第四级存储节点出现故障时，将所述暂存文件发送到所述第五级存储节点中进行存储。

在一些可能的实现方式中，所述调度模块根据所述监测模块发送的暂存指令和存储恢复指令对所述待存储文件进行标记，并将所述标记后的待存储文件发送给所述多级存储模块，还包括：

通过所述监测模块判断所述多级存储模块是否发生故障；当所述多级存储模块发生故障时，向所述调度模块发送暂存指令，当所述多级存储模块恢复运行后，向所述调度模块发送存储恢复指令；

当所述第三存储文件的存储时间大于第二预设时间且文件访问次数小于预设访问阈值时，判断所述第四级存储节点是否出现故障；

当所述第四级存储节点出现故障时，将所述文件标记为暂存文件，存储在所述第三级存储节点中；

当所述第四级存储节点恢复运行后，所述监测模块发送恢复指令给所述调度模块；

所述调度模块根据所述恢复指令将所述暂存文件发送给所述第四级存储节点，并将所述暂存文件从所述第三级存储节点中删除。

本发明还提供一种文件高可用存储方法，采用上述技术方案任一所述的一种文件高可用存储系统，包括：

基于所述调度模块读取待存储文件，并根据预设阶梯存储策略将所述待存储文件发送给多级存储模块；

基于包括多个具有不同文件读写速率的存储节点的多级存储模块对所述调度模块发送的待存储文件进行存储；

其中，所述预设阶梯存储策略包括：

对多个所述存储节点按照文件读写速率依次进行优先级排序，文件读写速率越高的存储节点优先级越高；

对所述待存储文件按照访问时间顺序依次进行级别排序，访问时间越临近的待存储文件级别越高；

根据所述存储节点的优先级和待存储文件的级别，建立存储节点和文件的对应关系，将级别越高的文件存入优先级越高的存储节点。

与现有技术相比，本发明的有益效果包括：通过调度模块根据预设阶梯存储策略对待存储文件进行分类，将分类后的待存储文件发送给相应的存储节点进行存储，能够避免将相同的文件在每一级存储设备中都进行存储，在保证文件高可用的前提下实现存储资源和存储成本的利益最大化。同时，由于多级存储模块采用不同类型的存储介质，能够避免当同一种存储介质的数据写入方式存在逻辑错误时，导致所有同类型的存储介质都无法正确写入文件的问题。

附图说明

图1为本发明提供的一种文件高可用的存储系统一实施例的结构示意图；

图2为本发明提供的另一文件高可用的存储系统一实施例的结构示意图；

图3为本发明提供的预设阶梯存储策略一实施例的流程示意图；

图4为本发明提供的三级存储模块的预设阶梯存储策略一实施例的流程示意图；

图5为本发明提供的三级存储模块的故障处理一实施例的流程示意图。

具体实施方式

下面结合附图来具体描述本发明的优选实施例，其中，附图构成本申请一部分，并与本发明的实施例一起用于阐释本发明的原理，并非用于限定本发明的范围。

在实施例描述之前，首先对本申请的发明构思进行说明。

随着大数据技术的普及，医院的数据量呈现爆炸式增长，医学影像资料的数目也急剧增多。为了对存储有医学影像文件的存储资源进行有效利用，医院的数据服务中心通常会采用分布式文件系统，并且实行多级存储策略。

但现有技术中分布式多级存储技术存在以下问题：1、若文件存储在多个同种类的存储介质中，那么当同一存储介质的写入方式发生逻辑错误时，会造成多个存储介质中的文件写入均不能成功。2、如果把文件同时存储在多个不同介质中，做主主或者主备的策略，虽然保证了文件高可用，但是造成了存储资源的成倍增加，极大地浪费了存储资源，实用性不强。

因此，为了解决上述现有的分布式多级存储技术存在的问题，本发明通过采用多种不同类型的存储介质对文件进行多级阶梯式的存储，根据访问时间和访问频率对文件进行分类，通过多种不同文件读写速率的存储介质对文件进行存储，提高存储效率，实现存储资源和存储成本的利益最大化。

本发明实施例提供了一种文件高可用的存储系统，如图1所示，图1是所述文件高可用的存储系统100的结构示意图，包括多级存储模块101和调度模块102；

所述多级存储模块101，包括多个具有不同文件读写速率的存储节点，用于对所述调度模块发送的待存储文件进行存储；

所述调度模块102，用于读取待存储文件，并根据预设阶梯存储策略将所述待存储文件发送给所述多级存储模块；

其中，所述预设阶梯存储策略包括：对多个所述存储节点按照文件读写速率依次进行优先级排序，文件读写速率越高的存储节点优先级越高；

对所述待存储文件按照访问时间顺序依次进行级别排序，访问时间越临近的待存储文件级别越高；

根据所述存储节点的优先级和待存储文件的级别，建立存储节点和文件的对应关系，将级别越高的文件存入优先级越高的存储节点。

本实施例提供的文件高可用的存储系统，通过调度模块根据预设阶梯存储策略对待存储文件进行分类，将分类后的待存储文件发送给相应的存储节点进行存储，能够避免将相同的文件在每一级存储设备中都进行存储，在保证文件高可用的前提下实现存储资源和存储成本的利益最大化。同时，由于多级存储模块采用不同类型的存储介质，能够避免当同一种存储介质的数据写入方式存在逻辑错误时，导致所有同类型的存储介质都无法正确写入文件的问题。

需要说明的是，所述预设阶梯存储策略可以根据实际需求进行调整，其目的是为了按照文件访问时间和活跃度对文件进行分类，利用不同类型的存储节点对相应的文件进行存储。

将多级存储节点依次使用高速和低速的存储介质，利用高速存储介质对访问时间临近和访问频率高的文件进行存储，可快速对常用文件和新增文件进行查看；通过低速存储介质对访问时间久远和访问频率低的文件进行存储，使低速存储介质中的文件容量最大，可以节约存储资源，降低存储成本。

其中，所述文件的访问包括文件创建、查看、更新、修改等操作。

作为优选的实施例，如图2所示，所述系统还包括监测模块200；

所述监测模块200用于判断所述多级存储模块101的存储节点是否发生故障；当所述存储节点发生故障时，向所述调度模块102发送暂存指令，当所述发生故障的存储节点恢复运行后，向所述调度模块102发送存储恢复指令；

所述调度模块102还用于，根据所述监测模块200发送的暂存指令和存储恢复指令对所述待存储文件进行标记，并将所述标记后的待存储文件发送给所述多级存储模块101。

由于存储介质的常见故障包括文件写入出错和存储介质无响应，因此，通过监测模块200分别对常见故障的特征参数进行监测。

作为一个具体的实施例，所述监测模块200判断所述存储节点是否发生故障，包括：

所述监测模块对所述存储节点的写入状态进行监测；当出现文件写入错误时，确定所述存储节点发生故障。

作为一个具体的实施例，所述存储节点包括心跳单元，所述心跳单元以预设上报频率将所述存储节点的心跳数据发送给监测模块；

所述监测模块判断所述存储节点是否发生故障，包括：

所述监测模块以预设心跳接收时间周期对所述心跳单元发送的心跳数据进行接收；当在预设心跳接收时间周期内未收到所述心跳数据时，确定所述存储节点发生故障。

由于数据存储介质在运行的过程中，难免会发生软件或硬件故障，导致某些存储介质无法进行数据的写入。为了提高文件存储系统的稳定性，本发明的系统通过设置监测模块对存储介质进行心跳监测，完成对存储节点的动态选择，保证当任意一个存储节点出现故障无法写入数据时，能够将数据暂时写入其他存储介质，当存储节点的运行状态恢复后再将暂存的文件发送到正确的存储节点中进行存储。

作为优选的实施例，所述调度模块根据所述监测模块发送的暂存指令和存储恢复指令对所述待存储文件进行标记，并将所述标记后的待存储文件发送给所述多级存储模块，包括：

当所述优先级高的存储节点发生故障时，所述监测模块发送暂存指令给所述调度模块；

所述调度模块根据所述暂存指令，按照所述阶梯存储策略将应该存入所述优先级高的存储节点的文件标记为暂存文件，并将所述暂存文件发送到优先级低的存储节点中进行存储；

当所述优先级高的存储节点恢复运行后，所述监测模块发送恢复指令给所述调度模块；

所述调度模块根据所述恢复指令将所述暂存文件发送给所述优先级高的存储节点，并将所述暂存文件从所述优先级低的存储节点中删除。

作为优选的实施例，将所述暂存文件发送到优先级低的存储节点中进行存储，还包括：

按照优先级顺序判断优先级比所述发生故障的存储节点低一级的存储节点是否运行正常；如果运行正常，将所述暂存文件发送到所述存储节点中进行存储，如果运行不正常，继续按照优先级顺序判断更低一级存储节点是否运行正常，直到找到运行正常的存储节点，并将所述暂存文件发送到所述运行正常的存储节点进行存储。

如图3所示，图3对上述过程进行了展示，假设按照所述阶梯存储策略，高级别文件1应当存入存储节点1，但存储节点1发生故障，则将高级别文件1标记为暂存文件，存入优先级低一级的存储节点2，如果存储节点2也发生故障，则将暂存文件存至存储节点3，当所述存储节点1恢复正常运行后，再将所述暂存文件存入存储节点1，同时将暂存文件从存储节点3中删除。通过这种方式，通过将暂存文件存入其他的存储对象，待目标存储对象恢复后再调度回对应目标存储对象，保证了系统的稳定性，且每个文件只在一个存储对象中进行存储，合理利用了存储资源。

下面以所述多级存储模块包括两级存储节点为例，对上述技术方案进行说明。

作为优选的实施例，所述多级存储模块包括第一级存储节点和第二级存储节点；所述预设阶梯存储策略包括：

将访问时间未超过第一预设时间或访问时间超过第一预设时间但访问频率超过第一预设频率的待存储文件发送至所述第一级存储节点，将所述访问时间超过第一预设时间且访问频率未超过第一预设频率的待存储文件发送至所述第二级存储节点；其中，所述第一级存储节点的文件读写速率高于所述第二级存储节点的文件读写速率。

作为优选的实施例，将访问时间未超过第一预设时间的待存储文件发送至所述第一级存储节点，还包括：

当所述第一级存储节点发生故障时，所述监测模块发送暂存指令给所述调度模块；

所述调度模块根据所述暂存指令，将所述访问时间未超过第一预设时间的待存储文件标记为暂存文件，并将所述暂存文件发送到所述第二级存储节点中进行存储；

当所述第一级存储节点恢复运行后，所述监测模块发送恢复指令给所述调度模块；

所述调度模块根据所述恢复指令将所述暂存文件发送给所述第一级存储节点，并将所述暂存文件从所述第二级存储节点中删除。

实施例1

假设所述第一预设时间为一个月，则上述预设阶梯存储策略为：将同一文件只存储到某一级存储中，具体为：

将最近一个月访问的文件存储到第一级存储节点中，将一个月以前的文件存储到第二级存储节点中。

当监测模块检测到第一级存储节点发生故障时，向所述调度模块发送暂存指令；

调度模块将最近一个月访问的文件标记为暂存文件，根据所述暂存指令将所述暂存文件发送到第二级节点中进行存储；

当监测模块检测到第一级存储节点的故障消除、恢复运行后，发送恢复指令给所述调度模块；

调度模块根据所述恢复指令将存储在第二级节点中的暂存文件发送给第一级存储节点，并将暂存文件从第二级存储节点中删除。

下面以所述多级存储模块包括三级存储节点为例，对上述技术方案进行说明。

作为优选的实施例，所述多级存储模块包括第三级存储节点、第四级存储节点和第五级存储节点；

所述预设阶梯存储策略包括：将所述待存储文件发送到所述第三级存储节点进行存储，得到第三存储文件；当所述第三存储文件的存储时间大于第二预设时间且文件访问次数小于预设访问阈值时，将所述第三存储文件发送至所述第四级存储节点进行存储，得到第四存储文件；当所述第四级存储节点中文件的存储时间大于第三预设时间时，将所述第四存储文件发送到所述第五级存储节点进行存储。

作为优选的实施例，所述调度模块根据所述监测模块发送的暂存指令和存储恢复指令对所述待存储文件进行标记，并将所述标记后的待存储文件发送给所述多级存储模块，包括：

当所述第三级存储节点发生故障时，所述监测模块发送暂存指令给所述调度模块；

所述调度模块根据所述暂存指令，将所述访问时间未超过第二预设时间的待存储文件标记为暂存文件；

判断所述第四级存储节点是否出现故障；

当所述第四级存储节点没有出现故障时，将所述暂存文件发送到所述第四级存储节点中进行存储；

当所述第四级存储节点出现故障时，将所述暂存文件发送到所述第五级存储节点中进行存储。

作为优选的实施例，所述调度模块根据所述监测模块发送的暂存指令和存储恢复指令对所述待存储文件进行标记，并将所述标记后的待存储文件发送给所述多级存储模块，还包括：

当所述第三存储文件的存储时间大于第二预设时间且文件访问次数小于预设访问阈值时，判断所述第四级存储节点是否出现故障；

当所述第四级存储节点出现故障时，将所述文件标记为暂存文件，存储在所述第三级存储节点中；

当所述第四级存储节点恢复运行后，所述监测模块发送恢复指令给所述调度模块；

所述调度模块根据所述恢复指令将所述暂存文件发送给所述第四级存储节点，并将所述暂存文件从所述第三级存储节点中删除。

下面以第三级存储节点为本地磁盘、第四级存储节点为NAS存储、第五级存储节点为对象存储、第二预设时间为1个月、预设访问阈值为10次、第三预设时间为3个月为例，对上述技术方案进行详细说明。

实施例2

调度模块对待存储文件进行读取，按照时间和活跃度对所述待存储文件进行管理，其中，所述如图4所示，图4展示了所述预设阶梯存储策略的流程示意图，具体包括：

步骤S401：将待存储文件存储在本地磁盘，本地磁盘中存储的即为第三存储文件；

步骤S402：判断第三存储文件在本地磁盘的存储时间是否超过第二预设时间(如1个月)；如果超过第二预设时间，进入步骤S403；否则进入步骤S404；

步骤S403：判断文件访问次数是否超过预设访问阈值(如10次)；如果超过预设访问阈值，进入步骤S404；如果没有超过10次，进入步骤S405；

步骤S404：继续将所述第三存储文件保留在本地磁盘中；

步骤S405：将所述第三存储文件发送到NAS存储中进行存储，得到第四存储文件；

步骤S406：判断所述第四存储文件在NAS存储中是否存储超过第三预设时间(如3个月)；如果超过第三预设时间，进入步骤S407；否则进入步骤S408；

步骤S407：将第四存储文件调度到对象存储中进行存储；

步骤S408：将第四存储文件保留在NAS存储中。

通过上述的阶梯存储策略，能够通过三级不同类型、不同文件读写速率的存储节点对符合预设规则的文件进行存储，相同的文件只需要在某一级存储节点中进行存储，而不需要在每一级存储节点中都进行存储，使存储资源的利用率大幅提升，能够释放大量的存储资源。

下面还是以三级存储为例，对另一种故障处理方法进行详细说明。

实施例3

所述第三级存储节点为本地磁盘、第四级存储节点为NAS存储、第五级存储节点为对象存储，且各级存储节点中均部署有心跳单元，通过心跳单元定时上报存储节点的心跳数据给监测模块。

如图5所示，所述故障处理的流程具体包括：

步骤S501：当本地磁盘无心跳记录或者往本地磁盘写入出错时，则监测模块确定本地磁盘出现故障，将按照预设阶梯存储策略将本来应该存入至本地磁盘的文件标记为暂存文件；

步骤S502：判断NAS存储是否出现故障；当NAS存储未出现故障时，进入步骤S503；当NAS存储出现故障时，进入步骤S504；

步骤S503：将暂存文件往NAS存储中进行写入；待本地磁盘恢复后，调度模块将文件存到本地磁盘中；

步骤S504：将暂存文件往对象存储中进行写入，待本地磁盘恢复后，调度模块将文件存到本地磁盘中。

考虑到优先级低的存储节点也会发生故障，因此，会存在将优先级高的存储节点中的超过时间阈值的高级文件调度到优先级低的存储节点时，优先级低的存储节点不可用的情况，如：本地磁盘文件调度到NAS存储时，NAS存储不可用的情况，或NAS存储文件到对象存储调度时，对象存储不可用的情况。

实施例4：

当本地磁盘文件调度到NAS存储时，若NAS存储不可用，则调度模块将此部分文件标记为NAS存储故障时的数据，存储在本地磁盘中；待NAS存储恢复后，调度模块将标记文件存到NAS存储中。

同样的，当对象存储故障时，待写入对象存储的文件被标记为对象存储故障时的数据，调度模块停止往对象存储写入数据，将标记的文件暂时存在NAS存储中，待对象存储恢复后，调度模块将文件存到对象存储中。

本发明实施例还提供一种文件高可用存储方法，采用上述技术方案任一所述的文件高可用存储系统，包括：

基于所述调度模块读取待存储文件，并根据预设阶梯存储策略将所述待存储文件发送给多级存储模块；

基于包括多个具有不同文件读写速率的存储节点的多级存储模块对所述调度模块发送的待存储文件进行存储；

其中，所述预设阶梯存储策略包括：

对多个所述存储节点按照文件读写速率依次进行优先级排序，文件读写速率越高的存储节点优先级越高；

对所述待存储文件按照访问时间顺序依次进行级别排序，访问时间越临近的待存储文件级别越高；

根据所述存储节点的优先级和待存储文件的级别，建立存储节点和文件的对应关系，将级别越高的文件存入优先级越高的存储节点。

本发明公开的一种文件高可用的存储系统和方法，通过调度模块根据预设阶梯存储策略对待存储文件进行分类，将分类后的待存储文件发送给相应的存储节点进行存储，能够避免将相同的文件在每一级存储设备中都进行存储，在保证文件高可用的前提下实现存储资源和存储成本的利益最大化。同时，由于多级存储模块采用不同类型的存储介质，能够避免当同一种存储介质的数据写入方式存在逻辑错误时，导致所有同类型的存储介质都无法正确写入文件的问题。

以上所述，仅为本发明较佳的具体实施方式，但本发明的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本发明揭露的技术范围内，可轻易想到的变化或替换，都应涵盖在本发明的保护范围之内。