一种数据处理方法、装置、设备及计算机可读存储介质

技术领域

本申请涉及金融科技技术领域，尤其涉及一种数据处理方法、装置、设备及计算机可读存储介质。

背景技术

在银行金融系统中，不同时间段系统的业务数据并发量存在较大的区别，对系统进行性能压测是重要的测试环节。

现有性能压测过程中在构造性能测试数据时经常需要分析生产数据，性能压测所需的数据分为两种：一种是执行数据，一种是基础数据。

基础数据一般通过定时导入生产的增量数据经过脱敏到性能测试环境的数据库解决。但是由于生产环境的业务数据丰富，实际场景变化多样，性能测试执行数据一般很难和实际的生产环境在运行过程中出现的情况相匹配和贴合。

比如在同一个金融场景中，以贷款为例，在时间段A贷款系统的并发峰值远远不如时间段B，但是发现时间段A的95线响应时间却比时间段B长30％。进一步分析发现，时间段A的时候各个不同类型的入参比例和时间段B存在较大的差异，某个在时间段B内业务参数的占比相较于时间段A大很多。

因此，亟需本领域技术人员提供一种数据处理方法，以解决现有技术调用的测试数据难以与实际的生产环境在运行过程中出现的情况相匹配和贴合的技术问题。

发明内容

本申请提供了一种数据处理方法、装置、设备及计算机可读存储介质，适用于银行金融系统中，解决了现有技术中调用的测试数据难以与实际的生产环境在运行过程中出现的情况相匹配和贴合的技术问题。

有鉴于此，本申请第一方面提供了一种数据处理方法，所述方法包括：

S1、获取目标场景在预设采集配置下的实际生产数据集，所述预设采集配置包括时间配置以及字段配置；

S2、根据所述实际生产数据集中包含的实际生产数据的预设维度以及时间跨度，生成所述目标场景的数据变化趋势报告。

可选地，所述步骤S2具体包括：

根据所述实际生产数据集中包含的实际生产数据的业务参数类型，生成在第一预设时间段内不同所述业务参数类型的所述实际生产数据在所述实际生产数据集中的变化趋势，得到所述目标场景的数据变化趋势报告。

可选地，所述步骤S2具体包括：

根据所述实际生产数据集中包含的实际生产数据的不同业务参数类型之间的相关性，生成在第二预设时间段内具有相关性的不同所述业务参数类型的所述实际生产数据在所述实际生产数据集中的变化趋势，得到所述目标场景的数据变化趋势报告。

可选地，所述步骤S2之后还包括：

S3、根据所述数据变化趋势报告构建所述目标场景的测试数据调用模板；

S4、通过所述测试数据调用模板从目标数据库中调用所述目标场景的测试数据集；

S5、基于所述测试数据集对所述目标场景进行性能压力测试。

本申请第二方面提供一种数据处理装置，所述装置包括：

获取单元，用于获取目标场景在预设采集配置下的实际生产数据集，所述预设采集配置包括时间配置以及字段配置；

处理单元，用于根据所述实际生产数据集中包含的实际生产数据的预设维度以及时间跨度，生成所述目标场景的数据变化趋势报告。

可选地，所述处理单元具体用于：

根据所述实际生产数据集中包含的实际生产数据的业务参数类型，生成在第一预设时间段内不同所述业务参数类型的所述实际生产数据在所述实际生产数据集中的变化趋势，得到所述目标场景的数据变化趋势报告。

可选地，所述处理单元具体用于：

根据所述实际生产数据集中包含的实际生产数据的不同业务参数类型之间的相关性，生成在第二预设时间段内具有相关性的不同所述业务参数类型的所述实际生产数据在所述实际生产数据集中的变化趋势，得到所述目标场景的数据变化趋势报告。

可选地，还包括：

构建单元，用于根据所述数据变化趋势报告构建所述目标场景的测试数据调用模板；

调用单元，用于通过所述测试数据调用模板从目标数据库中调用所述目标场景的测试数据集；

测试单元，用于基于所述测试数据集对所述目标场景进行性能压力测试。

本申请第三方面提供一种数据处理设备，所述设备包括处理器以及存储器：

所述存储器用于存储程序代码，并将所述程序代码传输给所述处理器；

所述处理器用于根据所述程序代码中的指令，执行如上述第一方面所述的数据处理的方法的步骤。

本申请第四方面提供一种计算机可读存储介质，所述计算机可读存储介质用于存储程序代码，所述程序代码用于执行上述第一方面所述的方法。

从以上技术方案可以看出，本申请实施例具有以下优点：

本申请中，提供了一种数据处理方法、装置、设备及计算机可读存储介质，在目标场景中通过配置时间和字段，采集所需的实际生产数据来构成实际生产数据集，分析实际生产数据集中不同预设维度以及时间跨度的实际生产数据的变化趋势，形成目标场景的数据变化趋势报告，节省对目标场景所需的测试数据分析时间，提高目标场景的性能测试效率，同时还能根据实际情况对预设维度进行适应性调整，使用便捷，解决了现有技术中调用的测试数据难以与实际的生产环境在运行过程中出现的情况相匹配和贴合的技术问题。

附图说明

图1为本申请实施例中数据处理方法的第一个方法流程图；

图2为本申请实施例中数据处理方法的第二个方法流程图；

图3为本申请实施例中数据处理装置的第一个结构示意图；

图4为本申请实施例中数据处理装置的第二个结构示意图；

图5为本申请实施例中数据处理设备的结构示意图。

具体实施方式

为了使本技术领域的人员更好地理解本申请方案，下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。

本申请设计了一种数据处理方法、装置、设备及计算机可读存储介质，解决了现有技术中调用的测试数据难以与实际的生产环境在运行过程中出现的情况相匹配和贴合的技术问题。

为了便于理解，请参阅图1，图1为本申请实施例中数据处理方法的第一个方法流程图，如图1所示，具体为：

S1、获取目标场景在预设采集配置下的实际生产数据集，预设采集配置包括时间配置以及字段配置；

需要说明的是，在目标金融业务场景的实际运行过程之中，对应产生不同的实际生产金融数据，但不一定所有的实际生产金融数据都是目标金融业务场景性能压力测试所需的数据，例如，在贷款业务流程中，实际生产金融数据包括但不限于：贷款用户信息数据、贷款产品数据、贷款审批数据、贷款流程数据等，相同的实际生产金融数据还可以按字段分为多个类型，其中，在对银行的贷款业务系统进行性能压力测试时，贷款审批数据可以不作为目标金融业务场景性能压力测试所需的数据。

因此，可通过预设采集配置对目标字段以及目标时间进行配置。

目标字段可以包括但不限于：交易类型、交易渠道、交易方、交易金额、交易机构等；

目标时间可以为一个周期性的时间段，例如每日的15点至18点，目标时间也可以是一个固定的时间段，例如准确的日期内的24小时。

当前的数据采集模式灵活度较高，可以根据实际的情况进行适应性的调整。

S2、根据实际生产数据集中包含的实际生产数据的预设维度以及时间跨度，生成目标场景的数据变化趋势报告；

需要说明的是，针对采集并获取到的目标时间以及目标字段的实际生产数据所在的实际生产数据集，可以通过不同预设维度的设置，来分析实际生产数据集中实际生产数据的数据变化趋势，从而形成目标场景的数据变化趋势报告，为目标场景的性能压力测试的测试数据提供依据。例如，场景A的四种不同交易类型的实际生产数据在过去一个月中不同占比的变化趋势。数据变化趋势报告对实际性能测试稳定性以及性能测试的混合场景业务数据选择非常有帮助，能很好的贴合实际生产环境的峰值情况。

其中，步骤S2具体包括：

根据实际生产数据集中包含的实际生产数据的业务参数类型，生成在第一预设时间段内不同业务参数类型的实际生产数据在实际生产数据集中的变化趋势，得到目标场景的数据变化趋势报告。

需要说明的是，可以选择单一的业务参数类型作为预设维度，以生成在第一预设时间段内不同单一业务参数类型的实际生产数据的变化趋势，从而分析长期或短期对目标场景的性能压力测试影响较大的业务参数类型，或者是分析确定不同业务参数类型的波峰和波谷的情况，例如根据交易渠道，生成不同交易渠道下交易量占比的数据变化趋势。

进一步地，步骤S2还可以包括：

根据实际生产数据集中包含的实际生产数据的不同业务参数类型之间的相关性，生成在第二预设时间段内具有相关性的不同业务参数类型的实际生产数据在实际生产数据集中的变化趋势，得到目标场景的数据变化趋势报告。

需要说明的是，在实际对目标场景的性能压力测试中，单一的业务参数类型有时候很难满足实际的需要，因此，进一步地通过分析不同业务参数类型之间的相关性，从而生成具有相关性的不同业务参数类型的实际生产数据的变化趋势，从而确定目标场景的测试数据所需的不同业务参数类型。

在本申请第一个实施例的基础上，请参阅图2，图2为本申请实施例中数据处理方法的第二个方法流程图，如图2所示，具体为：

S3、根据数据变化趋势报告构建目标场景的测试数据调用模板；

需要说明的是，根据数据变化趋势报告将构建目标场景所使用的测试数据调用模板，例如以数据变化趋势报告中开始呈现上升趋势的时间为起点，经过一个波峰后到下一个开始呈现上升趋势的时间为终点，从而确定测试数据的业务参数类型、时间段以及数据量等，构建测试数据调用模板。

S4、通过测试数据调用模板从目标数据库中调用目标场景的测试数据集；

需要说明的是，在需要对目标场景进行压力测试时，根据测试的时间点，调用目标场景的测试数据集。

S5、基于测试数据集对目标场景进行性能压力测试。

请参阅图3，图3为本申请实施例中数据处理装置的第一个结构示意图，如图3所示，具体包括：

获取单元301，用于获取目标场景在预设采集配置下的实际生产数据集，预设采集配置包括时间配置以及字段配置；

处理单元302，用于根据实际生产数据集中包含的实际生产数据的预设维度以及时间跨度，生成目标场景的数据变化趋势报告。

进一步地，处理单元302具体用于：

根据实际生产数据集中包含的实际生产数据的业务参数类型，生成在第一预设时间段内不同业务参数类型的实际生产数据在实际生产数据集中的变化趋势，得到目标场景的数据变化趋势报告。

进一步地，处理单元302具体用于：

根据实际生产数据集中包含的实际生产数据的不同业务参数类型之间的相关性，生成在第二预设时间段内具有相关性的不同业务参数类型的实际生产数据在实际生产数据集中的变化趋势，得到目标场景的数据变化趋势报告。

进一步地，在本申请第三个实施例的基础上，请参阅图4，图4为本申请实施例中数据处理装置的第二个结构示意图，如图4所示，还包括：

构建单元401，用于根据数据变化趋势报告构建目标场景的测试数据调用模板；

调用单元402，用于通过测试数据调用模板从目标数据库中调用目标场景的测试数据集；

测试单元403，用于基于测试数据集对目标场景进行性能压力测试。

本申请实施例还提供了另一种数据处理设备，如图5所示，为了便于说明，仅示出了与本申请实施例相关的部分，具体技术细节未揭示的，请参照本申请实施例方法部分。该终端可以为包括手机、平板电脑、个人数字助理(英文全称：Personal DigitalAssistant，英文缩写：PDA)、销售终端(英文全称：Point ofSales，英文缩写：POS)、车载电脑等任意终端设备，以终端为手机为例：

图5示出的是与本申请实施例提供的终端相关的手机的部分结构的框图。参考图5，手机包括：射频(英文全称：Radio Frequency，英文缩写：RF)电路1010、存储器1020、输入单元1030、显示单元1040、传感器1050、音频电路1060、无线保真(英文全称：wirelessfidelity，英文缩写：WiFi)模块1070、处理器1080、以及电源1090等部件。本领域技术人员可以理解，图5中示出的手机结构并不构成对手机的限定，可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件布置。

下面结合图5对手机的各个构成部件进行具体的介绍：

RF电路1010可用于收发信息或通话过程中，信号的接收和发送，特别地，将基站的下行信息接收后，给处理器1080处理；另外，将设计上行的数据发送给基站。通常，RF电路1010包括但不限于天线、至少一个放大器、收发信机、耦合器、低噪声放大器(英文全称：LowNoiseAmplifier，英文缩写：LNA)、双工器等。此外，RF电路1010还可以通过无线通信与网络和其他设备通信。上述无线通信可以使用任一通信标准或协议，包括但不限于全球移动通讯系统(英文全称：Global System ofMobile communication，英文缩写：GSM)、通用分组无线服务(英文全称：GeneralPacket Radio Service，GPRS)、码分多址(英文全称：CodeDivision Multiple Access，英文缩写：CDMA)、宽带码分多址(英文全称：Wideband CodeDivisionMultipleAccess,英文缩写：WCDMA)、长期演进(英文全称：Long TermEvolution，英文缩写：LTE)、电子邮件、短消息服务(英文全称：ShortMessaging Service，SMS)等。

存储器1020可用于存储软件程序以及模块，处理器1080通过运行存储在存储器1020的软件程序以及模块，从而执行手机的各种功能应用以及数据处理。存储器1020可主要包括存储程序区和存储数据区，其中，存储程序区可存储操作系统、至少一个功能所需的应用程序(比如声音播放功能、图像播放功能等)等；存储数据区可存储根据手机的使用所创建的数据(比如音频数据、电话本等)等。此外，存储器1020可以包括高速随机存取存储器，还可以包括非易失性存储器，例如至少一个磁盘存储器件、闪存器件、或其他易失性固态存储器件。

输入单元1030可用于接收输入的数字或字符信息，以及产生与手机的用户设置以及功能控制有关的键信号输入。具体地，输入单元1030可包括触控面板1031以及其他输入设备1032。触控面板1031，也称为触摸屏，可收集用户在其上或附近的触摸操作(比如用户使用手指、触笔等任何适合的物体或附件在触控面板1031上或在触控面板1031附近的操作)，并根据预先设定的程式驱动相应的连接装置。可选的，触控面板1031可包括触摸检测装置和触摸控制器两个部分。其中，触摸检测装置检测用户的触摸方位，并检测触摸操作带来的信号，将信号传送给触摸控制器；触摸控制器从触摸检测装置上接收触摸信息，并将它转换成触点坐标，再送给处理器1080，并能接收处理器1080发来的命令并加以执行。此外，可以采用电阻式、电容式、红外线以及表面声波等多种类型实现触控面板1031。除了触控面板1031，输入单元1030还可以包括其他输入设备1032。具体地，其他输入设备1032可以包括但不限于物理键盘、功能键(比如音量控制按键、开关按键等)、轨迹球、鼠标、操作杆等中的一种或多种。

显示单元1040可用于显示由用户输入的信息或提供给用户的信息以及手机的各种菜单。显示单元1040可包括显示面板1041，可选的，可以采用液晶显示器(英文全称：Liquid Crystal Display，英文缩写：LCD)、有机发光二极管(英文全称：Organic Light-Emitting Diode，英文缩写：OLED)等形式来配置显示面板1041。进一步的，触控面板1031可覆盖显示面板1041，当触控面板1031检测到在其上或附近的触摸操作后，传送给处理器1080以确定触摸事件的类型，随后处理器1080根据触摸事件的类型在显示面板1041上提供相应的视觉输出。虽然在图5中，触控面板1031与显示面板1041是作为两个独立的部件来实现手机的输入和输入功能，但是在某些实施例中，可以将触控面板1031与显示面板1041集成而实现手机的输入和输出功能。

手机还可包括至少一种传感器1050，比如光传感器、运动传感器以及其他传感器。具体地，光传感器可包括环境光传感器及接近传感器，其中，环境光传感器可根据环境光线的明暗来调节显示面板1041的亮度，接近传感器可在手机移动到耳边时，关闭显示面板1041和/或背光。作为运动传感器的一种，加速计传感器可检测各个方向上(一般为三轴)加速度的大小，静止时可检测出重力的大小及方向，可用于识别手机姿态的应用(比如横竖屏切换、相关游戏、磁力计姿态校准)、振动识别相关功能(比如计步器、敲击)等；至于手机还可配置的陀螺仪、气压计、湿度计、温度计、红外线传感器等其他传感器，在此不再赘述。

音频电路1060、扬声器1061，传声器1062可提供用户与手机之间的音频接口。音频电路1060可将接收到的音频数据转换后的电信号，传输到扬声器1061，由扬声器1061转换为声音信号输出；另一方面，传声器1062将收集的声音信号转换为电信号，由音频电路1060接收后转换为音频数据，再将音频数据输出处理器1080处理后，经RF电路1010以发送给比如另一手机，或者将音频数据输出至存储器1020以便进一步处理。

WiFi属于短距离无线传输技术，手机通过WiFi模块1070可以帮助用户收发电子邮件、浏览网页和访问流式媒体等，它为用户提供了无线的宽带互联网访问。虽然图5示出了WiFi模块1070，但是可以理解的是，其并不属于手机的必须构成，完全可以根据需要在不改变发明的本质的范围内而省略。

处理器1080是手机的控制中心，利用各种接口和线路连接整个手机的各个部分，通过运行或执行存储在存储器1020内的软件程序和/或模块，以及调用存储在存储器1020内的数据，执行手机的各种功能和处理数据，从而对手机进行整体监控。可选的，处理器1080可包括一个或多个处理单元；优选的，处理器1080可集成应用处理器和调制解调处理器，其中，应用处理器主要处理操作系统、用户界面和应用程序等，调制解调处理器主要处理无线通信。可以理解的是，上述调制解调处理器也可以不集成到处理器1080中。

手机还包括给各个部件供电的电源1090(比如电池)，优选的，电源可以通过电源管理系统与处理器1080逻辑相连，从而通过电源管理系统实现管理充电、放电、以及功耗管理等功能。

尽管未示出，手机还可以包括摄像头、蓝牙模块等，在此不再赘述。

在本申请实施例中，该终端所包括的处理器1080还具有以下功能：

S1、获取目标场景在预设采集配置下的实际生产数据集，预设采集配置包括时间配置以及字段配置；

S2、根据实际生产数据集中包含的实际生产数据的预设维度以及时间跨度，生成目标场景的数据变化趋势报告。

进一步地，步骤S2之后还包括：

S3、根据数据变化趋势报告构建目标场景的测试数据调用模板；

S4、通过测试数据调用模板从目标数据库中调用目标场景的测试数据集；

S5、基于测试数据集对目标场景进行性能压力测试。

本申请实施例还提供一种计算机可读存储介质，用于存储程序代码，该程序代码用于执行前述各个实施例所述的一种数据处理方法中的任意一种实施方式。

本申请实施例中，提供了一种数据处理方法、装置、设备及计算机可读存储介质，在目标场景中通过配置时间和字段，采集所需的实际生产数据来构成实际生产数据集，分析实际生产数据集中不同预设维度以及时间跨度的实际生产数据的变化趋势，形成目标场景的数据变化趋势报告，节省对目标场景所需的测试数据分析时间，提高目标场景的性能测试效率，同时还能根据实际情况对预设维度进行适应性调整，使用便捷，解决了现有技术中调用的测试数据难以与实际的生产环境在运行过程中出现的情况相匹配和贴合的技术问题。

所属领域的技术人员可以清楚地了解到，为描述的方便和简洁，上述描述的系统，装置和单元的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。

本申请的说明书及上述附图中的术语“第一”、“第二”、“第三”、“第四”等(如果存在)是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的本申请的实施例例如能够以除了在这里图示或描述的那些以外的顺序实施。此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。

应当理解，在本申请中，“至少一个(项)”是指一个或者多个，“多个”是指两个或两个以上。“和/或”，用于描述关联对象的关联关系，表示可以存在三种关系，例如，“A和/或B”可以表示：只存在A，只存在B以及同时存在A和B三种情况，其中A，B可以是单数或者复数。字符“/”一般表示前后关联对象是一种“或”的关系。“以下至少一项(个)”或其类似表达，是指这些项中的任意组合，包括单项(个)或复数项(个)的任意组合。例如，a，b或c中的至少一项(个)，可以表示：a，b，c，“a和b”，“a和c”，“b和c”，或“a和b和c”，其中a，b，c可以是单个，也可以是多个。

在本申请所提供的几个实施例中，应该理解到，所揭露的系统，装置和方法，可以通过其它的方式实现。例如，以上所描述的装置实施例仅仅是示意性的，例如，所述单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口，装置或单元的间接耦合或通信连接，可以是电性，机械或其它的形式。

所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。

另外，在本申请各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。

所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：U盘、移动硬盘、只读存储器(英文全称：Read-OnlyMemory，英文缩写：ROM)、随机存取存储器(英文全称：RandomAccess Memory，英文缩写：RAM)、磁碟或者光盘等各种可以存储程序代码的介质。

以上所述，以上实施例仅用以说明本申请的技术方案，而非对其限制；尽管参照前述实施例对本申请进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本申请各实施例技术方案的精神和范围。