一种请求处理方法、装置及存储介质

技术领域

本申请涉及移动通信技术领域，尤其涉及一种请求处理方法、装置及存储介质。

背景技术

随着互联网技术的快速发展，终端用户对访问服务器的响应时间、访问请求的处理能力也有着越来越高的要求，推动了移动终端和“边缘计算(Edge computing)”的发展，边缘服务器也应运而生，当前，终端用户可以直接与边缘服务器进行交互，处理终端用户的访问请求，能够有效缓解终端计算压力。

目前，针对终端用户与边缘服务器之间的交互过程中存在的用户请求，边缘网格服务在保证负载均衡的情况下，会将一系列用户请求分配至同一边缘服务器中进行处理，但是，一旦执行用户请求的边缘服务器发生异常，未执行的用户请求仍然会转发到出现异常的边缘服务器上，只有在边缘服务器的管理者在控制台上监控到该边缘服务器异常，并对该边缘服务器进行恢复处理之后，边缘服务器才能继续处理该用户请求，使得边缘服务器在处理用户请求的过程中出现中断，处理用户请求的能力较低。

发明内容

为解决上述技术问题，本发明实施例期望提供一种请求处理方法、装置及存储介质，在处理用户请求的目标边缘服务器出现运行异常的情况下，直接从边缘服务器集群中选取出合适的备用边缘服务器来继续处理该用户请求，保证了用户请求的无间断处理，提高了请求处理的能力。

本发明的技术方案是这样实现的：

本发明提供了一种请求处理方法，所述方法包括：

在利用边缘服务器集群中目标边缘服务器接收到用户请求，执行用于完成所述用户请求的连续性动作信息指示的动作的情况下，监听所述目标边缘服务器的运行状态；

在所述运行状态为异常状态的情况下，从预设共享数据库中，获取所述用户请求的特征信息，并基于所述特征信息，从所述边缘服务器集群中确定备用边缘服务器；

将所述预设共享数据库中存储的所述连续性动作信息同步至所述备用边缘服务器，并利用所述备用边缘服务器，继续执行所述连续性动作信息指示的动作中所述目标边缘服务器未执行的动作。

在上述方法中，所述在利用边缘服务器集群中目标边缘服务器接收到用户请求之前，所述方法还包括：

利用边缘网关，基于路由规则，将所述用户请求转发至边缘网格服务；

利用边缘网格服务，基于预设负载均衡策略，将所述用户请求发送至所述目标边缘服务器。

在上述方法中，所述特征信息包括：所述用户请求的类型、携带的公钥和签名信息、参数信息、域名信息、来源信息、热度，以及用户类型。

在上述方法中，所述基于所述特征信息，从所述边缘服务器集群中确定备用边缘服务器，包括：

利用预设分类模型，确定与所述特征信息匹配的边缘服务器类型，确定为目标类型；

从所述边缘服务器集群中，选取出一个类型为所述目标类型的边缘服务器确定为所述备用边缘服务器。

在上述方法中，所述利用预设分类模型，确定与所述特征信息匹配的边缘服务器类型，确定为目标类型之前，所述方法还包括：

获取样本请求对应的样本特征，并利用预设特征权重，对所述样本特征进行特征加权，得到加权后的样本特征；

利用待训练分类模型，基于所述加权后的样本特征，确定所述样本特征对应的服务器类型；

计算所述服务器类型和针对所述样本请求预设的目标服务器类型之间的损失信息；

基于所述损失信息，对所述待训练分类模型进行模型训练，得到所述预设分类模型。

本发明提供了一种请求处理装置，包括：

监听模块，用于在利用边缘服务器集群中目标边缘服务器接收到用户请求，执行用于完成所述用户请求的连续性动作信息指示的动作的情况下，监听所述目标边缘服务器的运行状态；

确定模块，用于在所述运行状态为异常状态的情况下，从预设共享数据库中，获取所述用户请求的特征信息，并基于所述特征信息，从所述边缘服务器集群中确定备用边缘服务器；

执行模块，用于将所述预设共享数据库中存储的所述连续性动作信息同步至所述备用边缘服务器，并利用所述备用边缘服务器，继续执行所述连续性动作信息指示的动作中所述目标边缘服务器未执行的动作。

在上述装置中，还包括转发模块，用于利用边缘网关，基于路由规则，将所述用户请求转发至边缘网格服务；利用边缘网格服务，基于预设负载均衡策略，将所述用户请求发送至所述目标边缘服务器。

在上述装置中，所述特征信息包括：所述用户请求的类型、携带的公钥和签名信息、参数信息、域名信息、来源信息、热度，以及用户类型。

在上述装置中，所述确定模块，具体用于利用预设分类模型，确定与所述特征信息匹配的边缘服务器类型，确定为目标类型；从所述边缘服务器集群中，选取出一个类型为所述目标类型的边缘服务器确定为所述备用边缘服务器。

在上述装置中，还包括训练模块，用于获取样本请求对应的样本特征，并利用预设特征权重，对所述样本特征进行特征加权，得到加权后的样本特征；利用待训练分类模型，基于所述加权后的样本特征，确定所述样本信息对应的服务器类型；计算所述服务器类型和针对所述样本请求预设的目标服务器类型之间的损失信息；基于所述损失信息，对所述待训练分类模型进行模型训练，得到所述预设分类模型。

本发明提供了一种请求处理装置，包括：处理器、存储器和通信总线；

所述通信总线，用于实现所述处理器和所述存储器之间的通信连接；

所述处理器，用于执行所述存储器中存储的请求处理程序，以实现上述请求处理方法。

本发明提供了一种计算机可读存储介质，所述计算机可读存储介质存储有一个或者多个程序，所述一个或者多个程序可以被一个或者多个处理器执行，以实现上述请求处理方法。

本发明提供了一种请求处理方法、装置及存储介质，方法包括：在利用边缘服务器集群中目标边缘服务器接收到用户请求，执行用于完成用户请求的连续性动作信息指示的动作的情况下，监听目标边缘服务器的运行状态；在运行状态为异常状态的情况下，从预设共享数据库中，获取用户请求的特征信息，并基于特征信息，从边缘服务器集群中确定备用边缘服务器；将预设共享数据库中存储的连续性动作信息同步至备用边缘服务器，并利用备用边缘服务器，继续执行连续性动作信息指示的动作中目标边缘服务器未执行的动作。本发明提供的技术方案，在处理用户请求的目标边缘服务器出现运行异常的情况下，直接从边缘服务器集群中选取出合适的备用边缘服务器来继续处理该用户请求，保证了用户请求的无间断处理，提高了请求处理的能力。

附图说明

图1为本发明实施例提供的一种请求处理方法的流程示意图；

图2为本发明实施例提供的一种示例性的用户请求转发的流程示意图；

图3为本发明实施例提供的一种示例性的请求处理的流程示意图；

图4为本发明实施例提供的一种请求处理装置的结构示意图一；

图5为本发明实施例提供的一种请求处理装置的结构示意图二。

具体实施方式

下面将结合本发明实施例中的附图，对本发明中的技术方案进行清楚、完整地描述。可以理解的是，此处所描述的具体实施例仅仅用于解释相关申请，而非对该申请的限定。另外还需要说明的是，为了便于描述，附图中仅示出了与有关申请相关的部分。

本发明提供了一种请求处理方法，应用于请求处理装置，图1为本发明实施例提供的一种请求处理方法的流程示意图。如图1所示，主要包括以下步骤：

S101、在利用边缘服务器集群中目标边缘服务器接收到用户请求，执行用于完成用户请求的连续性动作信息指示的动作的情况下，监听目标边缘服务器的运行状态。

在本发明的实施例中，请求处理装置在利用边缘服务器集群中目标边缘服务器接收到用户请求，执行用于完成用户请求的连续性动作信息指示的动作的情况下，监听目标边缘服务器的运行状态。

需要说明的是，在本发明的实施例中，请求处理装置可以利用边缘服务器集群中的目标边缘服务器直接接收到用户请求，其中，该用户请求可以是第三方用户发送的，第三方用户可以是手机、电脑、平板，或者其他具有通信功能的设备。

具体的，在本发明的实施例中，请求处理装置在利用边缘服务器集群中目标边缘服务器接收到用户请求之前，还可以执行以下步骤：利用边缘网关，基于路由规则，将用户请求转发至边缘网格服务；利用边缘网格服务，基于预设负载均衡策略，将用户请求发送至目标边缘服务器。

需要说明的是，在本发明的实施例中，请求处理装置在接收到第三方用户发送的用户请求的情况下，会基于路由规则，利用边缘网关，将用户请求转发至边缘网格服务，进而，基于预设负载均衡策略，利用边缘网格服务，将用户请求发送至目标边缘服务器；其中，边缘网关用于管理边缘服务器，为第三方用户开放统一的网关接口；边缘网格服务作为边缘服务器对外的访问接口，能够实现同一边缘服务器集群中的所有边缘服务器之间的相互访问；预设负载均衡策略可以是流量策略。

图2为本发明实施例提供的一种示例性的用户请求转发的流程示意图。如图2所示，请求处理装置利用边缘网关，基于路由规则，将用户请求转发至边缘网格服务，然后，利用边缘网格服务，基于流量策略，从边缘服务器集群中，选取出目标边缘服务器，最后，将用户请求发送至目标边缘服务器，其中，边缘服务器集群中的边缘服务器可以是Pod，即容器编排引擎(Kubernetes)部署应用或者服务的最小基本单位，一个边缘服务器中可以封装多个应用容器，也可以封装一个应用容器。

需要说明的是，在本发明的实施例中，请求处理装置在利用边缘服务器集群中目标边缘服务器接收到用户请求，执行用于完成用户请求的连续性动作信息指示的动作的同时，监听目标边缘服务器的运行状态。

需要说明的是，在本发明的实施例中，如果目标边缘服务器的运行状态为正常状态的情况下，请求处理装置会一直利用目标边缘服务器执行用于完成用户请求的连续性动作信息指示的动作，直至连续性动作信息指示的动作执行结束。

S102、在运行状态为异常状态的情况下，从预设共享数据库中，获取用户请求的特征信息，并基于特征信息，从边缘服务器集群中确定备用边缘服务器。

在本发明的实施例中，请求处理装置在运行状态为异常状态的情况下，从预设共享数据库中，获取用户请求的特征信息，并基于特征信息，从边缘服务器集群中确定备用边缘服务器。

需要说明的是，在本发明的实施例中，请求处理装置在监听到目标边缘服务器的运行状态为异常状态的情况下，会从预设共享数据库中，获取用户请求的特征信息，其中，预设共享数据库中存储有用户请求的特征信息。

具体的，在本发明的实施例中，特征信息包括：用户请求的类型、携带的公钥和签名信息、参数信息、域名信息、来源信息、热度，以及用户类型。

需要说明的是，在本发明的实施例中，请求处理装置在监听到目标边缘服务器的运行状态为异常状态的情况下，可能会有大量的用户请求正在运行状态异常的目标边缘服务器上进行，但是这些用户请求由于请求的类型不同，访问的目标边缘服务器中的容器应用也不相同，比如，请求类型可以为GET：请求从目标边缘服务器获取特定资源、POST：在目标边缘服务器上创建一个新的资源、PATCH：更新目标边缘服务器上的资源；访问的目标边缘服务器中的容器应用可以为数据库类的容器应用，电商平台类的容器应用，或者计费系统类的容器应用。

需要说明的是，在本发明的实施例中，请求处理装置在监听到目标边缘服务器的运行状态为异常状态的情况下，需要将目标边缘服务器上执行的用户请求转发至合适的其他边缘服务器上，另外，请求处理装置需要对运行状态为异常状态的目标边缘服务器进行关闭，并进行异常原因诊断以及修复。

需要说明的是，在本发明的实施例中，请求处理装置在获取到用户请求的特征信息之后，会根据特征信息，从边缘服务器集群中确定备用边缘服务器。

具体的，在本发明的实施例中，请求处理装置基于特征信息，从边缘服务器集群中确定备用边缘服务器，包括：利用预设分类模型，确定与特征信息匹配的边缘服务器类型，确定为目标类型；从边缘服务器集群中，选取出一个类型为目标类型的边缘服务器确定为备用边缘服务器。

需要说明的是，在本发明的实施例中，请求处理装置会利用预设分类模型，确定与特征信息匹配的边缘服务器类型，确定为目标类型，其中，目标类型可以是容量大、处理效率高，或者安全性好，或者为其他类型，具体的目标类型可以根据实际情况和应用场景进行设定。

需要说明的是，在本发明的实施例中，请求处理装置将特征信息输入至预设分类模型之后，可以直接得到与特征信息匹配的边缘服务器类型，确定为目标类型，然后，根据目标类型，从边缘服务器集群中，选取出一个类型为目标类型的边缘服务器作为备用边缘服务器，也就是说，备用边缘服务器的选取考虑了用户请求的特征信息，进而根据用户请求携带的特征信息，从边缘服务器集群中选取出最适合转发用户请求的备用边缘服务器，避免了选取的备用边缘服务器无法瞬时负载用户请求的问题。

具体的，在本发明的实施例中，请求处理装置利用预设分类模型，确定与特征信息匹配的边缘服务器类型，确定为目标类型之前，还可以执行以下步骤：获取样本请求对应的样本特征，并利用预设特征权重，对样本特征进行特征加权，得到加权后的样本特征；利用待训练分类模型，基于加权后的样本特征，确定样本特征对应的服务器类型；计算服务器类型和针对样本请求预设的目标服务器类型之间的损失信息；基于损失信息，对待训练分类模型进行模型训练，得到预设分类模型。

需要说明的是，在本发明的实施例中，请求处理装置获取到样本请求对应的样本特征x，其中，x＝(x

需要说明的是，在本发明的实施例中，具体的样本特征为样本请求的类型(GET、POST、PATCH……)、携带的公钥和签名信息、参数信息、域名信息、来源信息、热度、用户类型，其中，用户类型可以包括互联网用户、集团政企用户、集团审批用户、测试用户，来源信息为来源于集群外部还是集群内部。

需要说明的是，在本发明的实施例中，请求处理装置在获取到样本特征之后，会从样本特征中选取出某一样本x的k个近邻样本，并且，针对每一个近邻样本预设一个目标服务器类型y，具体的目标服务器类型可以为容量大、处理效率高、安全性好，具体表示为

其中，v

需要说明的是，在本发明的实施例中，请求处理装置在得到加权后的样本特征之后，将加权后的样本特征输入待训练分类模型，得到样本特征对应的服务器类型；然后，计算服务器类型和针对样本请求预设的目标服务器类型y之间的损失信息；基于损失信息，对待训练分类模型进行模型训练，得到预设分类模型；其中，待训练分类模型可以为支持向量机(support vector machines,SVM)模型。

S103、将预设共享数据库中存储的连续性动作信息同步至备用边缘服务器，并利用备用边缘服务器，继续执行连续性动作信息指示的动作中目标边缘服务器未执行的动作。

在本发明的实施例中，请求处理装置将预设共享数据库中存储的连续性动作信息同步至备用边缘服务器，并利用备用边缘服务器，继续执行连续性动作信息指示的动作中目标边缘服务器未执行的动作。

需要说明的是，在本发明的实施例中，请求处理装置在从边缘服务器集群中选取出备用边缘服务器之后，会先将预设存储的连续性动作信息同步至备用边缘服务器，该预设共享数据库中存储有实时的连续性动作信息，这样，请求处理装置在利用备用边缘服务器根据连续性动作信息执行该连续性动作信息指示的动作的过程中，不会重复执行目标边缘服务器已执行完成的动作，并且，由于用户请求的特征信息以及连续性动作信息均实时存储至预设共享数据库中，在利用备用边缘服务器继续执行连续性动作信息指示的动作中目标边缘服务器未执行的动作时，可以直接从预设共享数据库中，获取实时的连续性动作信息不需要再次进行身份确认，从而保证了第三方用户的无间断访问。

图3为本发明实施例提供的一种示例性的请求处理的流程示意图。如图3所示，请求处理装置在接收到第三方用户的用户请求的情况下，利用边缘网关转发至边缘网格服务上，在根据负载均衡策略转发至目标边缘服务器上执行用于完成用户请求的连续性动作信息指示的动作，如果请求处理装置在利用目标边缘服务器执行连续性动作信息指示的动作的过程中，目标边缘服务器运行状态一直为正常状态，那么，连续性动作信息指示的动作将全部由目标边缘服务器进行完成，假如请求处理装置在利用目标边缘服务器执行连续性动作信息指示的5个动作的过程中，在执行连续性动作信息指示的第3个动作的情况下，目标边缘服务器的运行状态为异常状态，请求处理装置会从预设共享数据库中获取特征信息，然后，基于特征信息，从边缘服务器集群中确定备用边缘服务器，并将从预设共享数据库中存储的连续性动作信息同步至备用边缘服务器，利用备用边缘服务器，从连续性动作信息指示的第3个动作继续执行，直至连续性动作信息指示的所有动作执行结束。

本发明提供了一种请求处理方法，方法包括：在利用边缘服务器集群中目标边缘服务器接收到用户请求，执行用于完成用户请求的连续性动作信息指示的动作的情况下，监听目标边缘服务器的运行状态；在运行状态为异常状态的情况下，从预设共享数据库中，获取用户请求的特征信息，并基于特征信息，从边缘服务器集群中确定备用边缘服务器；将预设共享数据库中存储的连续性动作信息同步至备用边缘服务器，并利用备用边缘服务器，继续执行连续性动作信息指示的动作中目标边缘服务器未执行的动作。本发明提供的请求处理方法，在用户请求转发的目标边缘服务器出现异常的情况下，直接从边缘服务器集群中选取出合适的备用边缘服务器来继续执行目标边缘服务器未执行的动作，保证了用户请求的无间断处理，提高了请求处理的能力。

本发明提供了一种请求处理装置，图4为本发明实施例提供的一种请求处理装置的结构示意图一。如图4所示，包括：

监听模块401，用于在利用边缘服务器集群中目标边缘服务器接收到用户请求，执行用于完成所述用户请求的连续性动作信息指示的动作的情况下，监听所述目标边缘服务器的运行状态；

确定模块402，用于在所述运行状态为异常状态的情况下，从预设共享数据库中，获取所述用户请求的特征信息，并基于所述特征信息，从所述边缘服务器集群中确定备用边缘服务器；

执行模块403，用于将所述预设共享数据库中存储的所述连续性动作信息同步至所述备用边缘服务器，并利用所述备用边缘服务器，继续执行所述连续性动作信息指示的动作中所述目标边缘服务器未执行的动作。

可选的，所述请求处理装置还包括转发模块(图中未示出)，用于利用边缘网关，基于路由规则，将所述用户请求转发至边缘网格服务；利用边缘网格服务，基于预设负载均衡策略，将所述用户请求发送至所述目标边缘服务器。

可选的，所述确定模块402，具体用于利用预设分类模型，确定与所述特征信息匹配的的边缘服务器类型，确定为目标类型；从所述边缘服务器集群中，选取出一个类型为所述目标类型的边缘服务器确定为所述备用边缘服务器。

可选的，所述特征信息包括：所述用户请求的类型、携带的公钥和签名信息、参数信息、域名信息、来源信息、热度，以及用户类型。

可选的，所述请求处理装置还包括训练模块(图中未示出)，用于获取样本请求对应的样本特征，并利用预设特征权重，对所述样本特征进行特征加权，得到加权后的样本特征；利用待训练分类模型，基于所述加权后的样本特征，确定所述样本特征对应的服务器类型；计算所述服务器类型和针对所述样本请求预设的目标服务器类型之间的损失信息；基于所述损失信息，对所述待训练分类模型进行模型训练，得到所述预设分类模型。

本发明提供了一种请求处理装置，图5为本发明实施例提供的一种请求处理装置的结构示意图二。如图5所示，所述请求处理装置包括：处理器501、存储器502和通信总线503；

所述通信总线503，用于实现所述处理器501和所述存储器502之间的通信连接；

所述处理器501，用于执行所述存储器502中存储的请求处理程序，以实现上述请求处理方法。

本发明提供了一种请求处理装置，在利用边缘服务器集群中目标边缘服务器接收到用户请求，执行用于完成用户请求的连续性动作信息指示的动作的情况下，监听目标边缘服务器的运行状态；在运行状态为异常状态的情况下，从预设共享数据库中，获取用户请求的特征信息，并基于特征信息，从边缘服务器集群中确定备用边缘服务器；将预设共享数据库中存储的连续性动作信息同步至备用边缘服务器，并利用备用边缘服务器，继续执行连续性动作信息指示的动作中目标边缘服务器未执行的动作。本发明提供的请求处理装置，在处理用户请求的目标边缘服务器出现运行异常的情况下，直接从边缘服务器集群中选取出合适的备用边缘服务器来继续处理该用户请求，保证了用户请求的无间断处理，提高了请求处理的能力。

本发明提供了一种计算机可读存储介质，所述计算机可读存储介质存储有一个或者多个程序，所述一个或者多个程序可以被一个或者多个处理器执行，以实现上述请求处理方法。计算机可读存储介质可以是是易失性存储器(volatile memory)，例如随机存取存储器(Random-Access Memory，RAM)；或者非易失性存储器(non-volatile memory)，例如只读存储器(Read-Only Memory，ROM)，快闪存储器(flash memory)，硬盘(Hard Disk Drive，HDD)或固态硬盘(Solid-State Drive，SSD)；也可以是包括上述存储器之一或任意组合的各自设备，如移动电话、计算机、平板设备、个人数字助理等。

本领域内的技术人员应明白，本发明的实施例可提供为方法、系统、或计算机程序产品。因此，本发明可采用硬件实施例、软件实施例、或结合软件和硬件方面的实施例的形式。而且，本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器和光学存储器等)上实施的计算机程序产品的形式。

本发明是参照根据本发明实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。

这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。

这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。

以上所述，仅为本发明的具体实施方式，但本发明的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本实用申请揭露的技术范围内，可轻易想到的变化或替换，都应涵盖在本发明的保护范围之内。因此，本发明的保护范围应以所述权利要求的保护范围为准。