代理实例管理方法、装置、电子设备及存储介质

技术领域

本公开涉及数据处理领域，尤其涉及一种代理实例管理方法、装置、电子设备及存储介质。

背景技术

数据处理器(Data Processing Unit，DPU)是以数据为中心、I/O密集型、采用软件定义技术路线支撑基础设施资源层虚拟化，具备提升计算系统效率、降低整体系统的总拥有成本，并提高数据处理效能、降低其他计算芯片性能损耗的新一代计算芯片。

服务网格(Service Mesh)是云服务中的一个基础设施层，专注于实现微服务间服务请求的可靠传递，并在其基础上提供服务发现、负载均衡、请求路由和规则配置等流量控制层面操作。当前DPU上通常使用多个代理实例与云服务器节点上的应用服务组成云原生服务网格，在DPU上部署足够多的代理实例虽然能够承载云服务器节点上所有的并发流量。

但是，所部署的代理实例的数量是静态的，无法随着业务需求动态增加或缩减，存在以下问题：1)当云服务器节点上业务突然增大时，DPU上部署的代理实例数量无法满足服务请求和业务流量转发，会引起处理器或内存不足，发生单个数据报文处理时间增加、服务请求延迟增大、抖动增大导致服务不稳定或服务流量被丢弃导致大量重传等；2)当云服务器节点上业务流量减少时，预先部署的代理实例过多而导致DPU处理器、内存资源闲置和浪费。

发明内容

为了解决上述技术问题，本公开提供了一种代理实例管理方法、装置、电子设备及存储介质，以对代理实例进行动态管理。

第一方面，本公开实施例提供一种代理实例管理方法，包括：

基于预设的配置信息对代理实例进行初始配置；

接收控制面代理发送的服务请求监测数据，所述服务请求监测数据是控制面代理从服务接口获取得到的；

获取代理实例的负载值；

基于所述服务请求监测数据对代理实例进行管理，或基于所述代理实例的负载值对代理实例进行管理。

在一些实施例中，所述基于预设的配置信息对代理实例进行初始配置，包括：

根据所述预设的配置信息得到所述代理实例与服务请求之间的对应关系；

从所述对应关系中确定与所述代理实例对应的目标服务请求；

将所述代理实例与所述目标服务请求建立连接。

在一些实施例中，所述获取代理实例的负载值，包括：

计算所述代理实例的中央处理器以及内存的资源占用率；

从所述资源占用率与所述负载值的对应关系中确定与所述代理实例的中央处理器以及内存的资源占用率对应的所述代理实例的负载值。

在一些实施例中，所述基于所述服务请求监测数据对代理实例进行管理，包括：

判断所述服务请求监测数据是否满足代理实例的扩增条件；

若满足所述代理实例的扩增条件，则对代理实例进行扩增；

所述基于所述代理实例的负载值对代理实例进行管理，包括：

根据所述代理实例的负载值与多个阈值之间的大小关系，对代理实例进行扩增或缩减。

在一些实施例中，所述服务请求监测数据包括如下至少一种：

吞吐量数据、重传率、响应时长；

所述判断所述服务请求监测数据是否满足代理实例的扩增条件，包括：

若所述吞吐量数据小于预设吞吐量阈值，或所述重传率大于预设重传率阈值，或所述响应时长大于预设响应时长阈值，则满足代理实例的扩增条件；

若所述吞吐量数据大于或等于所述预设吞吐量阈值、所述重传率5小于或等于所述预设重传率阈值、且所述响应时长小于或等于所述预

设响应时长阈值，则不满足代理实例的扩增条件。

在一些实施例中，所述根据所述代理实例的负载值与多个阈值之间的大小关系，对代理实例进行扩增或缩减，包括：

若所述代理实例的负载值小于或等于预设的第一负载值阈值，则0对代理实例进行缩减；

若所述代理实例的负载值大于或等于预设的第二负载值阈值，则对代理实例进行扩增；

若所述代理实例的负载值大于所述预设的第一负载值阈值且小于所述预设的第二负载值阈值，则将代理实例保持不变。

5在一些实施例中，所述对代理实例进行缩减，包括：

断开所述代理实例与服务请求之间的连接，并对所述代理实例进行资源回收；

所述对代理实例进行扩增，包括：

从服务网格控制面获取新增的代理实例的配置信息；0根据所述新增的代理实例的配置信息确定与所述新增的代理实例

连接的服务请求；

将所述新增的代理实例与所述服务请求建立连接。

第二方面，本公开实施例提供一种代理实例管理装置，包括：

配置模块，用于基于预设的配置信息对代理实例进行初始配置；5接收模块，用于接收控制面代理发送的服务请求监测数据，所述

服务请求监测数据是控制面代理从服务接口获取得到的；

获取模块，用于获取代理实例的负载值；

管理模块，用于基于所述服务请求监测数据对代理实例进行管理，或基于所述代理实例的负载值对代理实例进行管理。

第三方面，本公开实施例提供一种电子设备，包括：

存储器；

处理器；以及

计算机程序；

其中，所述计算机程序存储在所述存储器中，并被配置为由所述处理器执行以实现如第一方面或第二方面所述的方法。

第四方面，本公开实施例提供一种计算机可读存储介质，其上存储有计算机程序，所述计算机程序被处理器执行以实现如第一方面所述的方法。

第五方面，本公开实施例还提供了一种计算机程序产品，该计算机程序产品包括计算机程序或指令，该计算机程序或指令被处理器执行时实现如第一方面所述的方法。

本公开实施例提供的代理实例管理方法、装置、电子设备及存储介质，通过基于预设的配置信息对代理实例进行初始配置，接收控制面代理发送的服务请求监测数据，所述服务请求监测数据是控制面代理从服务接口获取得到的，获取代理实例的负载值，基于所述服务请求监测数据对代理实例进行管理，或基于所述代理实例的负载值对代理实例进行管理。本公开由于根据服务请求监测数据或代理实例负载情况，对代理实例进行动态管理，提高了代理实例管理的灵活性，可以实现当云服务器节点上业务增大时，对代理实例扩增，以避免代理实例上出现流量过载，满足服务请求和业务流量转发的需求；当云服务器节点上业务流量减少时，对代理实例缩减，以避免处理器、内存资源闲置和浪费。

附图说明

此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本公开的实施例，并与说明书一起用于解释本公开的原理。

为了更清楚地说明本公开实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，对于本领域普通技术人员而言，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。

图1为本公开实施例提供的代理实例管理方法流程图；

图2为本公开实施例提供的对代理实例动态管理的流程示意图；

图3为本公开另一实施例提供的代理实例管理方法流程图；

图4为本公开另一实施例提供的代理实例管理方法流程图；

图5为本公开实施例提供的代理实例管理装置的结构示意图；

图6为本公开实施例提供的电子设备的结构示意图。

具体实施方式

为了能够更清楚地理解本公开的上述目的、特征和优点，下面将对本公开的方案进行进一步描述。需要说明的是，在不冲突的情况下，本公开的实施例及实施例中的特征可以相互组合。

在下面的描述中阐述了很多具体细节以便于充分理解本公开，但本公开还可以采用其他不同于在此描述的方式来实施；显然，说明书中的实施例只是本公开的一部分实施例，而不是全部的实施例。

数据处理器(Data Processing Unit，DPU)是以数据为中心、I/O密集型、采用软件定义技术路线支撑基础设施资源层虚拟化，具备提升计算系统效率、降低整体系统的总拥有成本，并提高数据处理效能、降低其他计算芯片性能损耗的新一代计算芯片。

服务网格(Service Mesh)是云服务中的一个基础设施层，专注于实现微服务间服务请求的可靠传递，并在其基础上提供服务发现、负载均衡、请求路由和规则配置等流量控制层面操作。当前DPU上通常使用多个代理实例与云服务器节点上的应用服务组成云原生服务网格，在DPU上部署足够多的代理实例虽然能够承载云服务器节点上所有的并发流量。

但是，所部署的代理实例的数量是静态的，无法随着业务需求动态增加或缩减，存在以下问题：1)当云服务器节点上业务突然增大时，DPU上部署的代理实例数量无法满足服务请求和业务流量转发，会引起处理器或内存不足，发生单个数据报文处理时间增加、服务请求延迟增大、抖动增大导致服务不稳定或服务流量被丢弃导致大量重传等；2)当云服务器节点上业务流量减少时，预先部署的代理实例过多而导致DPU处理器、内存资源闲置和浪费。

针对该问题，本公开实施例提供了一种代理实例管理方法，下面结合具体的实施例对该方法进行介绍。

图1为本公开实施例提供的代理实例管理方法流程图，该方法可以应用于电子设备，该方法可以应用于对代理实例动态管理的场景，当云服务器节点上业务增大时，对代理实例扩增，以满足服务请求和业务流量转发的需求；当云服务器节点上业务流量减少时，对代理实例缩减，以避免处理器、内存资源闲置和浪费。可以理解的是，本公开实施例提供的代理实例管理方法还可以应用在其他场景中。

DPU是工作在云服务器节点上，为云服务器节点提供高带宽、低延迟的异构网络计算加速引擎。电子设备架构在DPU上，具体可以为自动扩缩容单元或装置(Auto Scaler)。

下面对图1所示的的代理实例管理方法进行介绍，该方法包括如下几个步骤：

S101、基于预设的配置信息对代理实例进行初始配置。

在一些可选的实施方式中，用户会预先设定一些配置信息，电子设备响应于用户预设的配置信息，基于预设的配置信息对代理实例进行初始配置。预设的配置信息包括代理实例的初始数量，代理实例与服务容器之间的对应关系，即每个代理实例负责处理哪个服务容器中的服务请求或哪些服务容器中的服务请求。如图2所示，实线框“代理实例”表示初始配置的代理实例，实线框“Service Pod”表示初始的服务容器，初始配置了两个代理实例，初始有三个服务容器，每个代理实例均可以处理三个服务容器中的服务请求。

S102、接收控制面代理发送的服务请求监测数据，所述服务请求监测数据是控制面代理从服务接口获取得到的。

预先在云服务器节点上部署了控制面代理，控制面代理可以从服务接口获取到服务请求监测数据。控制面代理将服务请求监测数据发送给电子设备，电子设备接收控制面代理发送的服务请求监测数据，所述服务请求监测数据是控制面代理从服务接口获取得到的。在一些实施例中，所述服务请求监测数据包括如下至少一种：吞吐量数据、重传率、响应时长。

如图2所示，由于服务网格控制平面agent(控制面代理)与服务网格控制面进行了同步，服务网格控制面可以从服务接口(Service API)中获取服务请求监测数据，服务接口用于监测云服务器节点上的多个服务容器并得到服务请求监测数据，因此，控制面代理可以获取服务接口中的服务请求监测数据。进一步，控制面代理向电子设备发送服务请求监测数据，电子设备接收控制面代理发送的服务请求监测数据。

S103、获取代理实例的负载值。

如图2所示，电子设备可以获取各个代理实例的负载值，负载值可以反映出每个代理实例的处理器使用率、内存占用率等情况。

S104、基于所述服务请求监测数据对代理实例进行管理，或基于所述代理实例的负载值对代理实例进行管理。

在接收控制面代理发送的服务请求监测数据之后，电子设备可以根据所述服务请求监测数据对代理实例进行管理。或者在获取代理实例的负载值之后，电子设备可以根据所述代理实例的负载值对代理实例进行管理。对代理实例进行管理，也就是对代理实例进行动态的扩容或者回收，即增加或减少代理实例的个数，从而实现当云服务器节点上业务增大时，对代理实例扩增，以满足服务请求和业务流量转发的需求；当云服务器节点上业务流量减少时，对代理实例缩减，以避免处理器、内存资源闲置和浪费。

本公开实施例通过基于预设的配置信息对代理实例进行初始配置，接收控制面代理发送的服务请求监测数据，所述服务请求监测数据是控制面代理从服务接口获取得到的，获取代理实例的负载值，基于所

述服务请求监测数据对代理实例进行管理，或基于所述代理实例的负5载值对代理实例进行管理。本公开由于根据服务请求监测数据或代理

实例负载情况，对代理实例进行动态管理，提高了代理实例管理的灵活性，可以实现当云服务器节点上业务增大时，对代理实例扩增，以避免代理实例上出现流量过载，满足服务请求和业务流量转发的需求；

当云服务器节点上业务流量减少时，对代理实例缩减，以避免处理器、0内存资源闲置和浪费。

图3为本公开另一实施例提供的代理实例管理方法流程图，如图3

所示，该方法包括如下几个步骤：

S301、根据所述预设的配置信息得到所述代理实例与服务请求之5间的对应关系。

电子设备可以根据所述预设的配置信息得到所述代理实例与服务请求之间的对应关系。一个代理实例可以对一个服务请求进行处理，也可以对多个服务请求进行处理，在此不做限定。也就是说，代理实例与服务请求之间可以是一对一的关系，也可以是一对多的关系。

0S302、从所述对应关系中确定与所述代理实例对应的目标服务请求。

得到对应关系之后，电子设备可以从所述对应关系中确定出与每个代理实例对应的目标服务请求。

S303、将所述代理实例与所述目标服务请求建立连接。

5在确定出与每个代理实例对应的目标服务请求之后，电子设备将

每个代理实例与其对应的所述目标服务请求建立会话连接。

S304、接收控制面代理发送的服务请求监测数据，所述服务请求监测数据是控制面代理从服务接口获取得到的。

具体的，S304和S102的实现过程和原理一致，此处不再赘述。

S305、判断所述服务请求监测数据是否满足代理实例的扩增条件。

在接收到控制面代理发送的服务请求监测数据之后，电子设备判

断所述服务请求监测数据是否满足代理实例的扩增条件。在一些实施5例中，代理实例的扩增条件包括代理实例的吞吐量数据小于预设吞吐

量阈值、代理实例的重传率大于预设重传率阈值、代理实例的响应时长大于预设响应时长阈值等，不做具体限定。

在一些实施例中，所述服务请求监测数据包括如下至少一种：吞吐量数据、重传率、响应时长。

0可选的，服务请求监测数据至少包括吞吐量数据、重传率、响应

时长，在此不做限定。

在一些实施例中，S305包括但不限于S3051、S3052：

S3051、若所述吞吐量数据小于预设吞吐量阈值，或所述重传率大

于预设重传率阈值，或所述响应时长大于预设响应时长阈值，则满足5代理实例的扩增条件。

S3052、若所述吞吐量数据大于或等于所述预设吞吐量阈值、所述重传率小于或等于所述预设重传率阈值、且所述响应时长小于或等于所述预设响应时长阈值，则不满足代理实例的扩增条件。

S306、若满足所述代理实例的扩增条件，则对代理实例进行扩增。0如果电子设备判断出所述服务请求监测数据满足所述代理实例的扩增条件，则对代理实例进行扩增，即增加代理实例的个数，以避免代理实例上出现流量过载，进而满足服务请求和业务流量转发的需求。

S307、计算所述代理实例的中央处理器以及内存的资源占用率。

本步骤中，电子设备计算所述代理实例的中央处理器以及内存的5资源占用率，即得到所述代理实例的资源占用情况。

S308、从所述资源占用率与所述负载值的对应关系中确定与所述代理实例的中央处理器以及内存的资源占用率对应的所述代理实例的负载值。

电子设备中存储有所述中央处理器以及内存的占用率与所述负载值的对应关系，电子设备可以从所述中央处理器以及内存的占用率与所述负载值的对应关系中确定与所述代理实例的中央处理器以及内存的占用率对应的所述代理实例当前的负载值。例如，占用率40％对应的负载值为4，占用率58％对应的负载值为5.8等，本步骤只是对所述中央处理器以及内存的占用率与所述负载值的对应关系解释说明，并非限定，不对所述中央处理器以及内存的占用率与所述负载值的对应关系做具体限定。可以是一一对应的关系，也可以是多对一的关系，例如占用率70％-75％对应的负载值均为7。

可以理解的是，资源占用率越高，资源占用情况越严重，负载值越大。

S309、根据所述代理实例的负载值与多个阈值之间的大小关系，对代理实例进行扩增或缩减。

在确定出所述代理实例的负载值之后，电子设备可以根据所述代理实例的负载值与多个阈值之间的大小关系，对代理实例进行扩增或缩减。当负载值较大时，对代理实例扩增，以避免代理实例上出现流量过载，满足服务请求和业务流量转发的需求；当负载值较小时，对代理实例缩减，以避免处理器、内存资源闲置和浪费。

本公开实施例通过根据所述预设的配置信息得到所述代理实例与服务请求之间的对应关系，从所述对应关系中确定与所述代理实例对应的目标服务请求，将所述代理实例与所述目标服务请求建立连接。进一步，接收控制面代理发送的服务请求监测数据，所述服务请求监测数据是控制面代理从服务接口获取得到的，判断所述服务请求监测数据是否满足代理实例的扩增条件，进而若满足所述代理实例的扩增条件，则对代理实例进行扩增；或者计算所述代理实例的中央处理器以及内存的资源占用率，从所述资源占用率与所述负载值的对应关系中确定与所述代理实例的中央处理器以及内存的资源占用率对应的所述代理实例的负载值，进而根据所述代理实例的负载值与多个阈值之间的大小关系，对代理实例进行扩增或缩减。通过两种不同的判断依据进行判断，进而根据判断结果对代理实例进行动态管理，提高了代理实例管理的灵活性。本公开可以实现当云服务器节点上业务增大时，对代理实例扩增，以避免代理实例上出现流量过载，满足服务请求和业务流量转发的需求；当云服务器节点上业务流量减少时，对代理实例缩减，以避免处理器、内存资源闲置和浪费。

图4为本公开另一实施例提供的代理实例管理方法流程图，如图4所示，该方法包括如下几个步骤：

S401、基于预设的配置信息对代理实例进行初始配置。

具体的，S401和S101的实现过程和原理一致，此处不再赘述。

S402、接收控制面代理发送的服务请求监测数据，所述服务请求监测数据是控制面代理从服务接口获取得到的。

具体的，S402和S102的实现过程和原理一致，此处不再赘述。

S403、判断所述服务请求监测数据是否满足代理实例的扩增条件，若是，则执行S407，否则执行S408。

在接收到控制面代理发送的服务请求监测数据之后，电子设备可以判断所述服务请求监测数据是否满足代理实例的扩增条件，如果所述服务请求监测数据满足代理实例的扩增条件，则执行S407；如果所述服务请求监测数据不满足代理实例的扩增条件，则执行S408。

S404、获取代理实例的负载值。

具体的，S404和S103的实现过程和原理一致，此处不再赘述。

S405、判断所述代理实例的负载值是否小于或等于预设的第一负载值阈值，若是，则执行S409，否则执行S406。

在获取到代理实例的负载值之后，电子设备判断所述代理实例的负载值是否小于或等于预设的第一负载值阈值。如果所述代理实例的负载值小于或等于预设的第一负载值阈值，则执行S409；如果所述代理实例的负载值大于预设的第一负载值阈值，则执行S406以及S406之后的步骤。

S406、判断所述代理实例的负载值是否大于或等于预设的第二负载值阈值，若是，则执行S407，否则执行S408。

如果所述代理实例的负载值大于预设的第一负载值阈值，则判断所述代理实例的负载值是否大于或等于预设的第二负载值阈值。如果所述代理实例的负载值大于或等于预设的第二负载值阈值，则执行S407；如果所述代理实例的负载值小于预设的第二负载值阈值，则执行S408。

S407、对代理实例进行扩增。

如果所述代理实例的负载值大于或等于预设的第二负载值阈值，即负载值较大，则对代理实例进行扩增。或者如果所述服务请求监测数据满足代理实例的扩增条件，则对代理实例进行扩增。从而避免代理实例上出现流量过载，满足服务请求和业务流量转发的需求。

在一些实施例中，S407包括但不限于S4071、S4072、S4073：

S4071、从服务网格控制面获取新增的代理实例的配置信息。

如图2所示，电子设备(具体为Auto Scaler)可以从服务网格控制面获取新增的代理实例的配置信息。由于服务网格控制平面agent(控制面代理)与服务网格控制面进行了同步，服务网格控制面可以从服务接口(Service API)中获取新增的代理实例的配置信息，服务接口用于生成新增的代理实例的配置信息，因此，控制面代理可以获取服务接口中的新增的代理实例的配置信息。

S4072、根据所述新增的代理实例的配置信息确定与所述新增的代理实例连接的服务请求。

获取新增的代理实例的配置信息之后，电子设备可以根据所述新增的代理实例的配置信息确定与所述新增的代理实例连接的服务请求。

S4073、将所述新增的代理实例与所述服务请求建立连接。

在确定出与所述新增的代理实例连接的服务请求之后，电子设备将所述新增的代理实例与所述服务请求建立会话连接。

S408、将代理实例保持不变。

如果所述代理实例的负载值大于预设的第一负载值阈值、且所述代理实例的负载值小于预设的第二负载值阈值，则将代理实例的数量

保持不变。或者如果所述服务请求监测数据不满足代理实例的扩增条5件，则将代理实例的数量保持不变。

S409、对代理实例进行缩减。

如果所述代理实例的负载值小于或等于预设的第一负载值阈值，则对代理实例进行缩减。

在一些实施例中，所述对代理实例进行缩减，包括：断开所述代0理实例与服务请求之间的连接，并对所述代理实例进行资源回收。

具体的，电子设备断开所述代理实例与服务请求之间的连接，并对所述代理实例进行资源回收，从而避免处理器、内存资源闲置和浪费。

本公开实施例通过基于预设的配置信息对代理实例进行初始配置。5进一步，接收控制面代理发送的服务请求监测数据，所述服务请求监

测数据是控制面代理从服务接口获取得到的，判断所述服务请求监测数据是否满足代理实例的扩增条件，若是，则对代理实例进行扩增，否则将代理实例保持不变；或者获取代理实例的负载值，判断所述代

理实例的负载值是否小于或等于预设的第一负载值阈值，判断所述代0理实例的负载值是否大于或等于预设的第二负载值阈值，进而根据所

述代理实例的负载值与多个阈值之间的大小关系，对代理实例进行扩增，或将代理实例保持不变，或对代理实例进行缩减。由于设置了多种判断依据，进而根据判断结果对代理实例进行扩增，或将代理实例

保持不变，或对代理实例进行缩减，提高了代理实例管理的灵活性，5可以避免代理实例上出现流量过载，无法满足服务请求和业务流量转

发的需求的问题，也可以避免处理器、内存资源闲置和浪费的问题。

图5为本公开实施例提供的代理实例管理装置的结构示意图。该代理实例管理装置可以是如上实施例的电子设备，或者代理实例管理装置可以该电子设备中的部件或组件。本公开实施例提供的代理实例管理装置可以执行代理实例管理方法实施例提供的处理流程，如图5所示，代理实例管理装置50包括：配置模块51、接收模块52、获取模块53、管理模块54；其中，配置模块51用于基于预设的配置信息对代理实例进行初始配置；接收模块52用于接收控制面代理发送的服务请求监测数据，所述服务请求监测数据是控制面代理从服务接口获取得到的；获取模块53用于获取代理实例的负载值；管理模块54用于基于所述服务请求监测数据对代理实例进行管理，或基于所述代理实例的负载值对代理实例进行管理。

可选的，所述配置模块51基于预设的配置信息对代理实例进行初始配置时，具体用于：根据所述预设的配置信息得到所述代理实例与服务请求之间的对应关系；从所述对应关系中确定与所述代理实例对应的目标服务请求；将所述代理实例与所述目标服务请求建立连接。

可选的，所述获取模块53获取代理实例的负载值时，具体用于：计算所述代理实例的中央处理器以及内存的资源占用率；从所述资源占用率与所述负载值的对应关系中确定与所述代理实例的中央处理器以及内存的资源占用率对应的所述代理实例的负载值。

可选的，所述管理模块54基于所述服务请求监测数据对代理实例进行管理时，具体用于：判断所述服务请求监测数据是否满足代理实例的扩增条件；若满足所述代理实例的扩增条件，则对代理实例进行扩增；所述管理模块54基于所述代理实例的负载值对代理实例进行管理时，具体用于：根据所述代理实例的负载值与多个阈值之间的大小关系，对代理实例进行扩增或缩减。

可选的，所述服务请求监测数据包括如下至少一种：吞吐量数据、重传率、响应时长；

所述管理模块54判断所述服务请求监测数据是否满足代理实例的扩增条件时，具体用于：若所述吞吐量数据小于预设吞吐量阈值，或所述重传率大于预设重传率阈值，或所述响应时长大于预设响应时长阈值，则满足代理实例的扩增条件；若所述吞吐量数据大于或等于所述预设吞吐量阈值、所述重传率小于或等于所述预设重传率阈值、且所述响应时长小于或等于所述预设响应时长阈值，则不满足代理实例的扩增条件。

可选的，所述管理模块54根据所述代理实例的负载值与多个阈值之间的大小关系，对代理实例进行扩增或缩减时，具体用于：若所述代理实例的负载值小于或等于预设的第一负载值阈值，则对代理实例进行缩减；若所述代理实例的负载值大于或等于预设的第二负载值阈值，则对代理实例进行扩增；若所述代理实例的负载值大于所述预设的第一负载值阈值且小于所述预设的第二负载值阈值，则将代理实例保持不变。

可选的，所述管理模块54对代理实例进行缩减时，具体用于：断开所述代理实例与服务请求之间的连接，并对所述代理实例进行资源回收；所述管理模块54对代理实例进行扩增时，具体用于：从服务网格控制面获取新增的代理实例的配置信息；根据所述新增的代理实例的配置信息确定与所述新增的代理实例连接的服务请求；将所述新增的代理实例与所述服务请求建立连接。

图5所示实施例的代理实例管理装置可用于执行上述方法实施例的技术方案，其实现原理和技术效果类似，此处不再赘述。

图6为本公开实施例提供的电子设备的结构示意图。该电子设备可以是云服务器节点或数据处理器。本公开实施例提供的电子设备可以执行代理实例管理方法实施例提供的处理流程，如图6所示，电子设备60包括：存储器61、处理器62、计算机程序和通讯接口63；其中，计算机程序存储在存储器61中，并被配置为由处理器62执行如上所述的代理实例管理方法。

另外，本公开实施例还提供一种计算机可读存储介质，其上存储有计算机程序，所述计算机程序被处理器执行以实现上述实施例所述的代理实例管理方法。

此外，本公开实施例还提供了一种计算机程序产品，该计算机程序产品包括计算机程序或指令，该计算机程序或指令被处理器执行时实现如上所述的代理实例管理方法。

需要说明的是，本公开上述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开中，计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：电线、光缆、RF(射频)等等，或者上述的任意合适的组合。

在一些实施方式中，客户端、服务器可以利用诸如HTTP(HyperText TransferProtocol，超文本传输协议)之类的任何当前已知或未来研发的网络协议进行通信，并且可以与任意形式或介质的数字数据通信(例如，通信网络)互连。通信网络的示例包括局域网(“LAN”)，广域网(“WAN”)，网际网(例如，互联网)以及端对端网络(例如，ad hoc端对端网络)，以及任何当前已知或未来研发的网络。

上述计算机可读介质可以是上述电子设备中所包含的；也可以是单独存在，而未装配入该电子设备中。

上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被该电子设备执行时，使得该电子设备：

基于预设的配置信息对代理实例进行初始配置；

接收控制面代理发送的服务请求监测数据，所述服务请求监测数据是控制面代理从服务接口获取得到的；

获取代理实例的负载值；

基于所述服务请求监测数据对代理实例进行管理，或基于所述代理实例的负载值对代理实例进行管理。

另外，该电子设备还可以执行如上所述的代理实例管理方法中的其他步骤。

可以以一种或多种程序设计语言或其组合来编写用于执行本公开的操作的计算机程序代码，上述程序设计语言包括但不限于面向对象的程序设计语言—诸如Java、Smalltalk、C++，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。

附图中的流程图和框图，图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。

描述于本公开实施例中所涉及到的单元可以通过软件的方式实现，也可以通过硬件的方式来实现。其中，单元的名称在某种情况下并不构成对该单元本身的限定。

本文中以上描述的功能可以至少部分地由一个或多个硬件逻辑部件来执行。例如，非限制性地，可以使用的示范类型的硬件逻辑部件包括：现场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、片上系统(SOC)、复杂可编程逻辑设备(CPLD)等等。

在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。

需要说明的是，在本文中，诸如“第一”和“第二”等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。

以上所述仅是本公开的具体实施方式，使本领域技术人员能够理解或实现本公开。对这些实施例的多种修改对本领域的技术人员来说将是显而易见的，本文中所定义的一般原理可以在不脱离本公开的精神或范围的情况下，在其它实施例中实现。因此，本公开将不会被限制于本文所述的这些实施例，而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。