一种基于集群的分布式PB级CFD仿真数据管理系统

技术领域

本发明涉及仿真数据管理技术领域，是一种基于集群的分布式PB级CFD仿真数据管理系统。

背景技术

随着计算机计算能力的提高，尤其是天河、太湖之光等超级计算机在CFD领域的应用，CFD仿真结果的数据量也在迅速飙升，单次计算到达TB级的数据量也逐渐变成了常态。巨大的数据量已经超出了单台计算机的存储容量，本发明提出了一直基于集群的分布式PB级CFD仿真结果数据管理系统。一方面提供了一种高效的数据存储与检索方法，另一方面可以充分利用集群闲置的存储资源。

在科研院所或者企业中，进行工程级CFD仿真分析时，为加快分析速度，往往采用超算或者私有的计算集群，可用计算核数通常在几百核到上千核。在集群进行分析计算时，各个节点将计算的结果发送到某一个或多个固定的节点，这些节点将数据合并后存储到其自己的硬盘。在这种情况下，只有少数的节点存储资源能够得到应用，而其他节点的存储资源并没有得到充分的利用。

目前，在CFD计算中，结果数据往往很大，一方面单个文件数据量很大，通常为上百MB，甚至是超过1GB，另外一方面，单次计算时序文件数量很多，可以达到成百上千个。在研究院所和企业中，通常有专用的私有集群进行CFD仿真计算，结果数据的存储方式通常是由仿真工程师采用单独的移动存储设备拷贝带走，或者通过局域网内下载后进行结果分析，通过局域往下载的时效通常很短，结果文件很快会被其他计算覆盖。

CFD的仿真结果分为两部分，一部分为表征几何外形的网格部分，另一部分为表示物理特征的属性数据部分。网格部分又分为节点与单元(节点的连接关系)两部分。属性数据可以分为三类：标量，矢量和张量。同时在CFD仿真分析中结果通常为时序结果，就是每间隔一个时间步长就会输出一个仿真计算结果。

发明内容

本发明为解决上述现有技术的问题，本发明提供了一种基于集群的分布式PB级CFD仿真数据管理系统，本发明提供了以下技术方案：

一种基于集群的分布式PB级CFD仿真数据管理系统，所述管理系统包括客户机1、客户机2、路由器1、路由器2、服务器、中心交换机、存储节点1、存储节点2、存储节点3和存储节点4；

所述客户机1和客户机2连接路由器1，所述路由器1通过互联网连接路由器2，所述路由器2连接服务器，所述路由器2连接中心交换机，所述中心交换机连接存储节点1、存储节点2、存储节点3和存储节点4；

所述客户机1和客户机2包括TCP/IP服务模块、数据管理模块、控制中心、业务功能模块和用户交互界面；

所述TCP/IP服务模块连接数据管理模块和控制中心，所述数据管理模块连接控制中心，所述控制中心连接业务功能模块，所述控制中心和业务功能模块连接用户交互界面。

优选地，所述服务器上部署有管理系统，实现对整个系统集群的管理与维护，服务器需要完成对客户端的指令响应，将指令要求的文件组合后传送给指定的客户端；

存储节点是数据最终的存放端，即所有的数据会分布式的存放在不同存储节点的硬盘上。

优选地，所述管理系统采用分布式的存储方式对结果文件进行存储，基于CFD仿真结果文件的数据特点对结果文件进行拆分，拆分为更小的数据单元，再进行分布式存储。

优选地，所述结果文件按照网格-属性的方式进行拆分，同时将建立映射关系数据库，保证拆分结果重新找回合并；对于单个CFD结果文件，包含网格数据与物理属性数据，将网格数据拆分为网格节点序列与单元拓扑数据，并分别存储到不同的存储节点，并将存储路径存入映射关系数据库；或者建立物理属性列表，将物理属性数据按照标量、矢量和张量，进行拆分存储，并将存储路径存入映射关系数据库。

优选地，单个文件经过上述拆分处理之后，被拆分成若干个小的数据文件存放于不同的存储节点上，对于算例级别的数据就需要进行重新的维护与管理，保证实现按照算例与时序的正向查找。

优选地，TCP/IP服务模块通过网络端口映射实现与服务器端的连接与指令传递，并通过FTP协议实现下载服务器端传输的文件到本地；

数据管理模块实现对下载的文件管理，以及文件解析和管理操作；

控制中心是整个客户端软件的核心，实现对用户指令的处理与转发，组织协调数据实现软件的功能指令；

业务功能模块实现核心的业务功能，主要包括数据处理与数据可视化功能；

用户交互界面是用户直接操作的软件窗口，是人机交互的最前端。

优选地，服务器端主要实现数据的存储与读取，TCP/IP服务的是通过网格端口与客户端以及存储节点端进行连接，进行指令传递与文件传输；文件存储模块实现对结果文件的分解，并将分解后的文件存储到存储节点，同时将存储路径存入到数据库中；

文件读取模块根据指令的要求将存放于不同节点的文件收集并合并成一个完整的文件，传输给客户端；

数据库管理模块实现对数据库的统一维护，采用MySQL数据库，数据库管理模块封装了对数据库的增删改查基础操作。

优选地，存储节点是负责存储节点本地文件的上传下载管理，TCP/IP服务通过网络端口与服务器端软件连接，实现指令传递与文件传输，文件保存实现对服务器端传来的软件的本地化保存，资源维护主要实现对本地从存储资源的管理，对文件进行增删操作，同时查询文件的编号等信息，文件上传实现本地存储的文件上传到服务器端。

本发明具有以下有益效果：

本发明系统硬件上主要分为两部分，客户端与服务端，二者通过路由器与互联网连接。

客户端由多台客户机与路由器组成，客户机是直接与用户进行交互的人机端口，负责将用户的指令发送到服务端，并将服务端返回的结果呈递给用户。

服务端是整个系统的核心。服务端从硬件组成上，包含一台路由器，一台服务器，以及多台通过交换机连接的存储节点。服务器上部署有管理系统，实现对整个系统集群的管理与维护，存储节点是数据最终的存放端，即所有的数据会分布式的存放在不同存储节点的硬盘上。从功能上说，服务端需要完成对客户端的指令响应，将指令要求的文件组合后传送给指定的客户端。分布式存储，数据更安全，即使丢失某一部分数据，其他数据仍然可用，数据产生(计算)与存储都在集群完成，充分利用了集群机器的资源，将大规模数据拆分为小数据，能够有效利用磁盘的闲置资源。可以支持多个工程师同时对数据进行访问，减少数据流转时间能够做到数据计算出来之后立刻就能访问，时效性更高。

附图说明

图1为基于集群的分布式PB级CFD仿真数据管理系统结构图；

图2为客户端架构图；

图3为服务器端架构图；

图4为存储节点端架构图；

图5为文件存储流程图；

图6为文件查询流程图。

具体实施方式

以下结合具体实施例，对本发明进行了详细说明。

具体实施例一：

根据图1至图6所示，本发明提供一种基于集群的分布式PB级CFD仿真数据管理系统，具体为：

一种基于集群的分布式PB级CFD仿真数据管理系统，所述管理系统包括客户机1、客户机2、路由器1、路由器2、服务器、中心交换机、存储节点1、存储节点2、存储节点3和存储节点4；

所述客户机1和客户机2连接路由器1，所述路由器1通过互联网连接路由器2，所述路由器2连接服务器，所述路由器2连接中心交换机，所述中心交换机连接存储节点1、存储节点2、存储节点3和存储节点4；

所述客户机1和客户机2包括TCP/IP服务模块、数据管理模块、控制中心、业务功能模块和用户交互界面；

所述TCP/IP服务模块连接数据管理模块和控制中心，所述数据管理模块连接控制中心，所述控制中心连接业务功能模块，所述控制中心和业务功能模块连接用户交互界面。

所述服务器上部署有管理系统，实现对整个系统集群的管理与维护，服务器需要完成对客户端的指令响应，将指令要求的文件组合后传送给指定的客户端；

存储节点是数据最终的存放端，即所有的数据会分布式的存放在不同存储节点的硬盘上。

所述管理系统采用分布式的存储方式对结果文件进行存储，基于CFD仿真结果文件的数据特点对结果文件进行拆分，拆分为更小的数据单元，再进行分布式存储。

所述结果文件按照网格-属性的方式进行拆分，同时将建立映射关系数据库，保证拆分结果重新找回合并；拆分方式如下表1所示。如上所述对于单个CFD结果文件，包含网格数据与物理属性数据，将网格数据拆分为网格节点序列与单元拓扑数据，并分别存储到不同的存储节点，并将存储路径存入映射关系数据库；或者建立物理属性列表，将物理属性数据按照标量、矢量和张量，进行拆分存储，并将存储路径存入映射关系数据库。

表1

单个文件经过上述拆分处理之后，被拆分成若干个小的数据文件存放于不同的存储节点上，对于算例级别的数据就需要按照表2的形式进行重新的维护与管理，保证实现按照算例与时序的正向查找。

表2

TCP/IP服务模块通过网络端口映射实现与服务器端的连接与指令传递，并通过FTP协议实现下载服务器端传输的文件到本地；

数据管理模块实现对下载的文件管理，以及文件解析和管理操作；

控制中心是整个客户端软件的核心，实现对用户指令的处理与转发，组织协调数据实现软件的功能指令；

业务功能模块实现核心的业务功能，主要包括数据处理与数据可视化功能；

用户交互界面是用户直接操作的软件窗口，是人机交互的最前端。

服务器端主要实现数据的存储与读取，TCP/IP服务的是通过网格端口与客户端以及存储节点端进行连接，进行指令传递与文件传输；文件存储模块实现对结果文件的分解，并将分解后的文件存储到存储节点，同时将存储路径存入到数据库中；

文件读取模块根据指令的要求将存放于不同节点的文件收集并合并成一个完整的文件，传输给客户端；

数据库管理模块实现对数据库的统一维护，采用MySQL数据库，数据库管理模块封装了对数据库的增删改查基础操作。

存储节点是负责存储节点本地文件的上传下载管理，TCP/IP服务通过网络端口与服务器端软件连接，实现指令传递与文件传输，文件保存实现对服务器端传来的软件的本地化保存，资源维护主要实现对本地从存储资源的管理，对文件进行增删操作，同时查询文件的编号等信息，文件上传实现本地存储的文件上传到服务器端。

以上所述仅是一种基于集群的分布式PB级CFD仿真数据管理系统的优选实施方式，一种基于集群的分布式PB级CFD仿真数据管理系统的保护范围并不仅局限于上述实施例，凡属于该思路下的技术方案均属于本发明的保护范围。应当指出，对于本领域的技术人员来说，在不脱离本发明原理前提下的若干改进和变化，这些改进和变化也应视为本发明的保护范围。