一种分布式文件系统的可用性增强方法及系统

技术领域

本发明属于分布式文件系统的可用性增强方法领域，具体涉及一种分布式文件系统的可用性增强方法。

背景技术

FastDFS分布式文件系统，致力于实现文件操作的高可用、高并发，特别适合中小文件的存储操作，以其特有的轻量级、分组存储与对等结构这三大特点，被国内各大企业广泛应用。

FastDFS有三部分构成：跟踪服务器(trakcer server)、存储服务器(storageserver)和客户端(client)。跟踪服务器主要做调度工作，起负载均衡的作用。在内存中记录集群中所有存储组和存储服务器的状态信息，是客户端和数据服务器交互的枢纽。它负责管理所有的存储服务器(storage server)和组(group)，每个storage在启动后会连接Tracker，告知自己所属的group等信息，并保持周期性的心跳，tracker根据storage的心跳信息，建立group＝＝>[storage server list]的映射表。存储服务器负责存储文件和文件属性(元数据)。客户端则作为业务请求的发起方通过专有接口，使用TCP/IP协议与跟踪器服务器或存储节点进行数据交互。

分布式文件系统的高可用性一直是一个高关注度的问题，如何增强分布式文件系统的可用性，使系统性能得到提升具有重要意义。虽然fastDFS分布式文件系统具有机器配置要求低，上传速度快等优点，但是在fastDFS中从源storage写完文件至同步到组内其他storage的时间窗口内，一旦源storage出现故障，就可能导致用户数据丢失，而数据的丢失对存储系统来说通常是不可接受的，同时，fastDFS在对新增节点的数据同步时以轮询的方式选取存储节点，而该节点可能存储有大量数据或该节点正在使用，则同步效率将很低。可以看出，现有的fastDFS分布式文件系统没有合理的解决以上问题，其同步方式，以及同步机制仍需进一步的改进，以避免传统方式下可能造成的效率低下，稳定性差的问题。

fastDFS分布式文件系统上传机制原理图，如图1所示：

StorageServer会定时向tracker上传状态信息，当客户端发起上传连接请求后，Trackerserver会给客户端返回一个可用的storage的IP和端口，此时客户端便可直接通过IP和端连接到StorageServer上进行文件上传，在现有技术中，当客户端向fastDFS分布式文件系统中写文件时，客户端将文件写至group内一个storage server即认为写文件成功，storage server写完文件后，会由后台线程将文件同步至同group内其他的storageserver。

系统原有同步方案是轮循选择一台现有存储节点，利用该现有存储节点一对一地对新存储节点进行文件同步工作

发明内容

本申请实施例提供了一种分布式文件系统的可用性增强方法，以至少解决相关技术中主观因素影响的问题。

本发明提供了一种分布式文件系统的可用性增强方法，其中，包括：

输入步骤：通过客户端将任一数据写入到fastDFS分布式文件系统中；

创建缓存层步骤：在所述fastDFS分布式文件系统的跟踪服务器与存储服务器之间创建一个缓存层；

处理步骤：通过所述缓存层对所述数据进行处理；

输出步骤：所述数据经所述缓存层处理后上传到fastDFS分布式文件系统的每一所述存储服务器后向所述客户端返回一个上传成功的标志。

上述可用性增强方法，其中，所述创建缓存层步骤包括：

所述缓存层是在一个SSD集群上创建的一个存储池。

上述可用性增强方法，其中，所述处理步骤包括：

write-back模式缓存层处理步骤：通过客户端将数据写至所述缓存层，然后立即接收写入确认，所述缓存层将所述数据从所述缓存层迁移至所述存储服务器并在同组内其余的所述存储服务器上同步，并最终由缓存代理将所述数据从所述缓存层中删除；及/或；

read-only模式缓存层处理步骤：在处理来自客户端的读操作时，缓存分层代理将请求的所述数据从存储层复制到所述缓存层,将不活跃的对象从所述缓存层中删除。

上述可用性增强方法，其中，所述处理步骤包括：

所述存储服务器向所述缓存层告知其所有当前存储节点的状态信息并对各存储节点赋予不同的权值。

上述可用性增强方法，其中，所述处理步骤包括：

根据所述权值选取一所述存储节点完成同步任务。

本发明还包括一种分布式文件系统的可用性增强系统，其中，包括：

输入模块：通过客户端将任一数据写入到fastDFS分布式文件系统中；

创建缓存层模块：在所述fastDFS分布式文件系统的跟踪服务器与存储服务器之间创建一个缓存层；

处理模块：通过所述缓存层对所述数据进行处理；

输出模块：所述数据经所述缓存层处理后上传到fastDFS分布式文件系统的每一所述存储服务器后向所述客户端返回一个上传成功的标志。

上述可用性增强系统，其中，所述创建缓存层模块包括：

所述缓存层是在一个SSD集群上创建的一个存储池。

上述可用性增强系统，其中，所述处理模块包括：

write-back模式缓存层处理单元：通过客户端将数据写至所述缓存层，然后立即接收写入确认，所述缓存层将所述数据从所述缓存层迁移至所述存储服务器并在同组内其余的所述存储服务器上同步，并最终由缓存代理将所述数据从所述缓存层中删除；及/或；

read-only模式缓存层处理单元：在处理来自客户端的读操作时，缓存分层代理将请求的所述数据从存储层复制到所述缓存层,将不活跃的对象从所述缓存层中删除。

上述可用性增强系统，其中，所述处理模块包括：

所述存储服务器向所述缓存层告知其所有当前存储节点的状态信息并对各存储节点赋予不同的权值。

上述可用性增强系统，其中，所述处理模块包括：

根据所述权值选取一所述存储节点完成同步任务。

本发明还提供一种计算机设备，包括存储器、处理器以及存储在所述存储器上并可在所述处理器上运行的计算机程序，其特征在于，所述处理器执行所述计算机程序时实现如上述中任一项所述的分布式文件系统的可用性增强方法。

本发明还提供一种存储介质，其上存储有计算机程序，其特征在于，该程序被处理器执行时实现如上述中任一项所述的分布式文件系统的可用性增强方法。

本发明的有益效果在于：

1.本发明解决了fastDFS分布式文件系统在写入数据时存在的数据丢失的问题。

2.本发明还解决了新增节点的同步问题，避免了传统方式下可能造成的效率低下，稳定性差的问题。

附图说明

此处所说明的附图用来提供对本申请的进一步理解，构成本申请的一部分，本申请的示意性实施例及其说明用于解释本申请，并不构成对本申请的不当限定。

在附图中：

图1是分布式文件系统的可用性增强方法的流程图；

图2是图1中步骤S3的分步骤流程图；

图3是fastDFS分布式文件系统上传机制原理图；

图4是fastDFS分布式文件系统原理图；

图5是分布式文件系统的可用性增强系统的结构示意图；

图6是根据本发明实施例的计算机设备的框架图。

具体实施方式

为了使本申请的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本申请进行描述和说明。应当理解，此处所描述的具体实施例仅仅用以解释本申请，并不用于限定本申请。基于本申请提供的实施例，本领域普通技术人员在没有作出创造性劳动的前提下所获得的所有其他实施例，都属于本申请保护的范围。

显而易见地，下面描述中的附图仅仅是本申请的一些示例或实施例，对于本领域的普通技术人员而言，在不付出创造性劳动的前提下，还可以根据这些附图将本申请应用于其他类似情景。此外，还可以理解的是，虽然这种开发过程中所作出的努力可能是复杂并且冗长的，然而对于与本申请公开的内容相关的本领域的普通技术人员而言，在本申请揭露的技术内容的基础上进行的一些设计，制造或者生产等变更只是常规的技术手段，不应当理解为本申请公开的内容不充分。

在本申请中提及“实施例”意味着，结合实施例描述的特定特征、结构或特性可以包含在本申请的至少一个实施例中。在说明书中的各个位置出现该短语并不一定均是指相同的实施例，也不是与其它实施例互斥的独立的或备选的实施例。本领域普通技术人员显式地和隐式地理解的是，本申请所描述的实施例在不冲突的情况下，可以与其它实施例相结合。

除非另作定义，本申请所涉及的技术术语或者科学术语应当为本申请所属技术领域内具有一般技能的人士所理解的通常意义。本申请所涉及的“一”、“一个”、“一种”、“该”等类似词语并不表示数量限制，可表示单数或复数。本申请所涉及的术语“包括”、“包含”、“具有”以及它们任何变形，意图在于覆盖不排他的包含；例如包含了一系列步骤或模块(单元)的过程、方法、系统、产品或设备没有限定于已列出的步骤或单元，而是可以还包括没有列出的步骤或单元，或可以还包括对于这些过程、方法、产品或设备固有的其它步骤或单元。本申请所涉及的“连接”、“相连”、“耦接”等类似的词语并非限定于物理的或者机械的连接，而是可以包括电气的连接，不管是直接的还是间接的。本申请所涉及的“多个”是指两个或两个以上。“和/或”描述关联对象的关联关系，表示可以存在三种关系，例如，“A和/或B”可以表示：单独存在A，同时存在A和B，单独存在B这三种情况。字符“/”一般表示前后关联对象是一种“或”的关系。本申请所涉及的术语“第一”、“第二”、“第三”等仅仅是区别类似的对象，不代表针对对象的特定排序。

下面结合附图所示的各实施方式对本发明进行详细说明，但应当说明的是，这些实施方式并非对本发明的限制，本领域普通技术人员根据这些实施方式所作的功能、方法、或者结构上的等效变换或替代，均属于本发明的保护范围之内。

在详细阐述本发明各个实施例之前，对本发明的核心发明思想予以概述，并通过下述若干实施例予以详细阐述。

在详细阐述本发明各个实施例之前，对本发明的核心发明思想予以概述，并通过下述若干实施例予以详细阐述。

请参照图1，图1是分布式文件系统的可用性增强方法的流程图。如图1所示，本发明的分布式文件系统的可用性增强方法包括：

输入步骤S1：通过客户端将任一数据写入到fastDFS分布式文件系统中；

创建缓存层步骤S2：在所述fastDFS分布式文件系统的跟踪服务器与存储服务器之间创建一个缓存层；

处理步骤S3：通过所述缓存层对所述数据进行处理；

输出步骤S4：所述数据经所述缓存层处理后上传到fastDFS分布式文件系统的每一所述存储服务器后向所述客户端返回一个上传成功的标志。

上述方法，其中，所述创建缓存层步骤包括：

所述缓存层是在一个SSD集群上创建的一个存储池。

请参照图2，图2是图1中步骤S3的分步骤流程图。如图2所示，所述处理步骤S3包括：

write-back模式缓存层处理步骤S31：通过客户端将数据写至所述缓存层，然后立即接收写入确认，所述缓存层将所述数据从所述缓存层迁移至所述存储服务器并在同组内其余的所述存储服务器上同步，并最终由缓存代理将所述数据从所述缓存层中删除；

read-only模式缓存层处理步骤S32：在处理来自客户端的读操作时，缓存分层代理将请求的所述数据从存储层复制到所述缓存层,将不活跃的对象从所述缓存层中删除。

其中，所述处理步骤S3包括：

所述存储服务器向所述缓存层告知其所有当前存储节点的状态信息并对各存储节点赋予不同的权值。

其中，所述处理步骤S3还包括：

根据所述权值选取一所述存储节点完成同步任务。

以下，列举实施例具体说明本发明的分布式文件系统的可用性增强方法如下。

实施例一：

本发明是对fastDFS分布式文件系统中存在的同步时数据丢失问题来进行对系统可用性性能的提高。在上传数据时，当客户端向存储服务器节点上传一份文件后，便会告知文件存储成功，后面storage会有单独的线程同步给同一个组内其他的storage服务，如果在未同步之前Storage数据损坏了，则用户上传的数据会永久丢失。

为解决现有技术中存在的上传数据同步时数据丢失的问题，以及在对新增节点的数据同步时采用轮循方式选取同步节点时效率低下的问题，本文提出了一种分布式文件系统的可用性增强方法，使该分布式文件系统的可用性性能得到增强，数据同步的效率等提高。

如图3所示为fastDFS分布式文件系统的现有架构以及工作原理，本发明在原有架构基础上，在跟踪服务器(Tracker server)与存储服务器(Storage Server)之间加一个缓存层，所谓缓存层就是在一个小型SSD集群上创建的一个存储池，然后这样所有的客户端I/O操作都先由缓存池处理，之后再将数据写回到现有的数据存储池中，使得客户端能够在缓存池上享受更好的性能，而最终数据还是写入到存储服务器中；另外，本发明还提出了针对新增存储节点，采用改进的优化算法代替原有轮循算法对该新存储节点进行文件同步的方法。

本发明原理如图4所示：

在图4所示的工作方案下，每个storage启动后会连接到缓存层，告知自己的所属的group等信息，并保持周期性的心跳，然后缓存层与跟踪服务器相连，并将每次的更新告知跟踪服务器tracker server。当客户端向fastDFS分布式文件系统中上传文件时，跟踪服务器将空闲的IP和端口号存在存储层中，然后客户端直接将文件先上传到缓存层中，然后缓存层根据IP和端口号去访问存储服务器storageserver，直到缓存层将文件上传到每一个storageserver中时，才向客户端返回一个上传成功的标志。

其中，缓存层可以以以下两种模式进行配置：

1)write-back模式：当缓存池配置为writeback模式时，客户端将数据写至缓存池，然后立即接收写入确认。缓存池随后将数据从缓存池迁移至存储服务器并在同组内其他storage上同步，并最终由缓存代理将其从缓存层中删除。处理来自客户端的读操作时，首先由缓存分层代理将数据从存储层迁移至缓存层，然后再将其返回给客户端。只到数据变得不再活跃或者成为冷数据时，再将其从缓存池中删除。

2)read-only模式：当缓存池配置为read-only模式时，它只适用于处理客户端的读操作。客户端的写操作不涉及缓存层，所有的客户端写都在存储层上完成。在处理来自客户端的读操作时，缓存分层代理将请求的数据从存储层复制到缓存层。缓存池基于我们为其配置的策略，将不活跃的对象从缓存池中删除。

针对新增存储节点的数据同步问题，存储服务器向缓存层告知其现有基本信息以外，还向缓存层告知其所有当前存储节点的状态信息并对各存储节点赋予不同的权值，当有新节点加入存储系统中时，根据fastDFS分布式文件系统中的对等思想，新存储节点必须完成系统原有文件的全部同步工作，因此根据之前给各存储节点赋予的不同权值，便可选取一个具有高性能的存储节点来完成该同步任务。

实施例二：

请参照图5，图5是本发明的分布式文件系统的可用性增强系统的结构示意图。如图5所示本发明的一种分布式文件系统的可用性增强系统，其中，包括：

输入模块：通过客户端将任一数据写入到fastDFS分布式文件系统中；

创建缓存层模块：在所述fastDFS分布式文件系统的跟踪服务器与存储服务器之间创建一个缓存层；

处理模块：通过所述缓存层对所述数据进行处理；

输出模块：所述数据经所述缓存层处理后上传到fastDFS分布式文件系统的每一所述存储服务器后向所述客户端返回一个上传成功的标志。

上述系统，其中，所述创建缓存层模块包括：

所述缓存层是在一个SSD集群上创建的一个存储池。

上述系统，其中，所述处理模块包括：

write-back模式缓存层处理单元：通过客户端将数据写至所述缓存层，然后立即接收写入确认，所述缓存层将所述数据从所述缓存层迁移至所述存储服务器并在同组内其余的所述存储服务器上同步，并最终由缓存代理将所述数据从所述缓存层中删除；及/或；

read-only模式缓存层处理单元：在处理来自客户端的读操作时，缓存分层代理将请求的所述数据从存储层复制到所述缓存层,将不活跃的对象从所述缓存层中删除。

其中，所述处理模块包括：

所述存储服务器向所述缓存层告知其所有当前存储节点的状态信息并对各存储节点赋予不同的权值。

其中，所述处理模块包括：

根据所述权值选取一所述存储节点完成同步任务。

实施例三：

结合图6所示，本实施例揭示了一种计算机设备的一种具体实施方式。计算机设备可以包括处理器81以及存储有计算机程序指令的存储器82。

具体地，上述处理器81可以包括中央处理器(CPU)，或者特定集成电路(Application Specific Integrated Circuit，简称为ASIC)，或者可以被配置成实施本申请实施例的一个或多个集成电路。

其中，存储器82可以包括用于数据或指令的大容量存储器。举例来说而非限制，存储器82可包括硬盘驱动器(Hard Disk Drive，简称为HDD)、软盘驱动器、固态驱动器(SolidState Drive，简称为SSD)、闪存、光盘、磁光盘、磁带或通用串行总线(Universal SerialBus，简称为USB)驱动器或者两个或更多个以上这些的组合。在合适的情况下，存储器82可包括可移除或不可移除(或固定)的介质。在合适的情况下，存储器82可在数据处理装置的内部或外部。在特定实施例中，存储器82是非易失性(Non-Volatile)存储器。在特定实施例中，存储器82包括只读存储器(Read-Only Memory，简称为ROM)和随机存取存储器(RandomAccess Memory，简称为RAM)。在合适的情况下，该ROM可以是掩模编程的ROM、可编程ROM(Programmable Read-Only Memory，简称为PROM)、可擦除PROM(Erasable ProgrammableRead-Only Memory，简称为EPROM)、电可擦除PROM(Electrically Erasable ProgrammableRead-Only Memory，简称为EEPROM)、电可改写ROM(Electrically Alterable Read-OnlyMemory，简称为EAROM)或闪存(FLASH)或者两个或更多个以上这些的组合。在合适的情况下，该RAM可以是静态随机存取存储器(Static Random-Access Memory，简称为SRAM)或动态随机存取存储器(Dynamic Random Access Memory，简称为DRAM)，其中，DRAM可以是快速页模式动态随机存取存储器(Fast Page Mode Dynamic Random Access Memory，简称为FPMDRAM)、扩展数据输出动态随机存取存储器(Extended Date Out Dynamic RandomAccess Memory，简称为EDODRAM)、同步动态随机存取内存(Synchronous Dynamic Random-Access Memory，简称SDRAM)等。

存储器82可以用来存储或者缓存需要处理和/或通信使用的各种数据文件，以及处理器81所执行的可能的计算机程序指令。

处理器81通过读取并执行存储器82中存储的计算机程序指令，以实现上述实施例中的任意一种分布式文件系统的可用性增强方法。

在其中一些实施例中，计算机设备还可包括通信接口83和总线80。其中，如图5所示，处理器81、存储器82、通信接口83通过总线80连接并完成相互间的通信。

通信接口83用于实现本申请实施例中各模块、装置、单元和/或设备之间的通信。通信端口83还可以实现与其他部件例如：外接设备、图像/数据采集设备、数据库、外部存储以及图像/数据处理工作站等之间进行数据通信。

总线80包括硬件、软件或两者，将计算机设备的部件彼此耦接在一起。总线80包括但不限于以下至少之一：数据总线(Data Bus)、地址总线(Address Bus)、控制总线(Control Bus)、扩展总线(Expansion Bus)、局部总线(Local Bus)。举例来说而非限制，总线80可包括图形加速接口(Accelerated Graphics Port，简称为AGP)或其他图形总线、增强工业标准架构(Extended Industry Standard Architecture，简称为EISA)总线、前端总线(Front Side Bus，简称为FSB)、超传输(Hyper Transport，简称为HT)互连、工业标准架构(Industry Standard Architecture，简称为ISA)总线、无线带宽(InfiniBand)互连、低引脚数(Low Pin Count，简称为LPC)总线、存储器总线、微信道架构(Micro ChannelArchitecture，简称为MCA)总线、外围组件互连(Peripheral Component Interconnect，简称为PCI)总线、PCI-Express(PCI-X)总线、串行高级技术附件(Serial AdvancedTechnology Attachment，简称为SATA)总线、视频电子标准协会局部(Video ElectronicsStandards Association Local Bus，简称为VLB)总线或其他合适的总线或者两个或更多个以上这些的组合。在合适的情况下，总线80可包括一个或多个总线。尽管本申请实施例描述和示出了特定的总线，但本申请考虑任何合适的总线或互连。

该计算机设备可以基于分布式文件系统的可用性的增强，从而实现结合图1-图2描述的方法。

另外，结合上述实施例中分布式文件系统的可用性增强方法，本申请实施例可提供一种计算机可读存储介质来实现。该计算机可读存储介质上存储有计算机程序指令；该计算机程序指令被处理器执行时实现上述实施例中的任意一种分布式文件系统的可用性增强方法。

以上所述实施例的各技术特征可以进行任意的组合，为使描述简洁，未对上述实施例中的各个技术特征所有可能的组合都进行描述，然而，只要这些技术特征的组合不存在矛盾，都应当认为是本说明书记载的范围。

综上所述，基于本发明的有益效果在于，本发明解决了fastDFS分布式文件系统在写入数据时存在的数据丢失的问题；本发明还解决了新增节点的同步问题，避免了传统方式下可能造成的效率低下，稳定性差的问题。

以上所述实施例仅表达了本申请的几种实施方式，其描述较为具体和详细，但并不能因此而理解为对发明专利范围的限制。应当指出的是，对于本领域的普通技术人员来说，在不脱离本申请构思的前提下，还可以做出若干变形和改进，这些都属于本申请的保护范围。因此，本申请专利的保护范围应以所附权利要求为准。