算力调用方法和装置

技术领域

本发明涉及通信领域，尤其涉及一种算力调用方法和装置。

背景技术

近年来，随着深度学习、大数据、群体智能等人工智能技术在智慧医疗、智慧教育、智能安防、智能制造、智能巡检等领域的广泛应用，人工智能技术已经成为当代社会一项通用的技术，也是将来智能社会必不可少的技术。对于人工智能技术而言，算力资源是人工智能发展的技术保障，是人工智能发展的动力和引擎。

为了保证算力资源利用率，提高用户的业务体验，如何快速、合理的管理和调度算力资源是当前急需解决的技术问题。

发明内容

本发明的实施例提供一种算力调用方法和装置，用于快速、合理的管理和调度算力资源。

为达到上述目的，本发明的实施例采用如下技术方案：

第一方面，提供一种算力调用方法，包括：算力调用装置首先接收算力节点发送的算力信息，然后为算力信息添加分类标识，并根据算力信息的分类标识，调用算力节点的算力。其中，分类标识用于标识算力的类型。

第二方面，提供一种算力调用装置，包括接收单元、处理单元和调用单元；接收单元，用于接收算力节点发送的算力信息；处理单元，用于为接收单元接收的算力信息添加分类标识；分类标识用于标识算力的类型；调用单元，用于根据算力信息的分类标识，调用算力节点的算力。

第三方面，提供一种算力调用装置，包括：存储器、处理器、总线和通信接口；存储器用于存储计算机执行指令，处理器与存储器通过总线连接；当算力调用装置运行时，处理器执行存储器存储的计算机执行指令，以使算力调用装置执行如第一方面提供的算力调用方法。

第四方面，提供一种计算机可读存储介质，计算机可读存储介质包括计算机执行指令，当计算机执行指令在计算机上运行时，使得计算机执行如第一方面提供的算力调用方法。

本发明实施例提供的算力调用方法，包括：算力调用装置首先接收算力节点发送的算力信息，然后为算力信息添加分类标识，并根据算力信息的分类标识，调用算力节点的算力。其中，分类标识用于标识算力的类型。这样一来，算力调用装置在接收到业务请求并调用算力节点的算力时，可以根据算力信息的分类标识，快速、准确的确定并调用与业务请求对应的算力资源，保证了算力资源的利用率。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1为本发明实施例提供的一种算力调用的场景示意图；

图2为本发明实施例提供的一种算力调用装置的流程示意图；

图3为本发明实施例提供的又一种算力调用装置的流程示意图；

图4为本发明实施例提供的一种算力调用方法的流程示意图；

图5为本发明实施例提供的一种算力调用装置的流程示意图。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

需要说明的是，本发明实施例中，“示例性的”或者“例如”等词用于表示作例子、例证或说明。本发明实施例中被描述为“示例性的”或者“例如”的任何实施例或设计方案不应被解释为比其它实施例或设计方案更优选或更具优势。确切而言，使用“示例性的”或者“例如”等词旨在以具体方式呈现相关概念。

为了便于清楚描述本发明实施例的技术方案，在本发明的实施例中，采用了“第一”、“第二”等字样对功能和作用基本相同的相同项或相似项进行区分，本领域技术人员可以理解“第一”、“第二”等字样并不是在对数量和执行次序进行限定。

近年来，随着深度学习、大数据、群体智能等人工智能技术在智慧医疗、智慧教育、智能安防、智能制造、智能巡检等领域的广泛应用，人工智能技术已经成为当代社会一项通用的技术，也是将来智能社会必不可少的技术。对于人工智能技术而言，算力资源是人工智能发展的技术保障，是人工智能发展的动力和引擎。

为了保证算力资源利用率，提高用户的业务体验，如何快速、合理的管理和调度算力资源是当前急需解决的技术问题。

基于背景技术存在的问题，本发明实施例提供一种算力调度方法及装置，算力调用装置首先接收算力节点发送的算力信息，然后为算力信息添加分类标识，并根据算力信息的分类标识，调用算力节点的算力。其中，分类标识用于标识算力的类型。这样一来，算力调用装置在接收到业务请求并调用算力节点的算力时，可以根据算力信息的分类标识，快速、准确的确定并调用与业务请求对应的算力资源，保证了算力资源的利用率。

本发明实施例提供的一种算力调度方法应用于如图1所示的算力调度的场景。具体的，由算力调度系统10中的设备(即算力调度装置101)为目标算力调度合适的算力节点。具体的，当用户(或用户设备)需要处理某一业务时，UE向算力调度系统10中的算力调度装置101发送算力需求信息；当算力调度装置101获取到目标业务的算力需求信息时，可以从数据处理系统20中确定处理目标业务的目标算力节点。该数据处理系统20中可以包括多个算力节点，例如包括算力节点201、算力节点202以及算力节点203。其中，一个算力节点可以由一个或多个设备组成。示例性的，如图1所示，算力节点201中包括设备2011、设备2012以及设备2013，算力节点202中包括设备2021和设备2022，算力节203中包括设备2031、设备2032、设备2033以及设备2034。通常，在实际应用中上述各个设备或服务功能之间的连接可以为无线连接，为了方便直观地表示各个设备之间的连接关系，图1中采用实线示意。

具体的，算力节点201、算力节点202以及算力节点203均与算力调度装置101存在连接关系。算力节点201、算力节点202或算力节点203可以用于处理业务，即将业务对应的算力提供给用户(或UE)。本发明实施例中，算力调度装置101在接收到业务请求并调用算力节点的算力时，可以根据基于算力节点(包括算力节点201、算力节点202以及算力节点203)的算力信息的分类标识，快速、准确的确定并调用与业务请求对应的算力资源，保证了算力资源的利用率。

本发明实施例中，上述数据处理系统20中包含的算力节点可以为终端设备、移动边缘计算(mobile edge computing，MEC)设备或数据中心设备中的一种或多种。

可选地，上述数据处理系统中可以包括一个或多个算力节点，一个算力节点中也可以包括一个或多个设备。本发明实施例对上述数据处理系统中的各个算力节点和设备的数量不作限制。

图1中的各个设备均包括图2所示算力调度装置所包括的元件。下面以图2所示的算力调度装置为例，介绍图1中的各个设备的硬件结构。

图2示出了本申请实施例提供的算力调度装置的一种硬件结构示意图。如图2所示，该算力调度装置包括处理器21，存储器22、通信接口23、总线24。处理器21，存储器22以及通信接口23之间可以通过总线24连接。

处理器21是算力调度装置的控制中心，可以是一个处理器，也可以是多个处理元件的统称。例如，处理器21可以是一个通用中央处理单元(central processing unit，CPU)，也可以是其他通用处理器等。其中，通用处理器可以是微处理器或者是任何常规的处理器等。

作为一种实施例，处理器21可以包括一个或多个CPU，例如图2中所示的CPU 0和CPU 1。

存储器22可以是只读存储器(read-only memory，ROM)或可存储静态信息和指令的其他类型的静态存储设备，随机存取存储器(random access memory，RAM)或者可存储信息和指令的其他类型的动态存储设备，也可以是电可擦可编程只读存储器(electricallyerasable programmable read-only memory，EEPROM)、磁盘存储介质或者其他磁存储设备、或者能够用于携带或存储具有指令或数据结构形式的期望的程序代码并能够由计算机存取的任何其他介质，但不限于此。

一种可能的实现方式中，存储器22可以独立于处理器21存在，存储器22可以通过总线24与处理器21相连接，用于存储指令或者程序代码。处理器21调用并执行存储器22中存储的指令或程序代码时，能够实现本发明实施例提供的算力调度方法。

另一种可能的实现方式中，存储器22也可以和处理器21集成在一起。

通信接口23，用于与其他设备通过通信网络连接。所述通信网络可以是以太网，无线接入网，无线局域网(wireless local area networks，WLAN)等。通信接口23可以包括用于接收数据的接收单元，以及用于发送数据的发送单元。

总线24，可以是工业标准体系结构(Industry Standard Architecture，ISA)总线、外部设备互连(Peripheral Component Interconnect，PCI)总线或扩展工业标准体系结构(Extended Industry Standard Architecture，EISA)总线等。该总线可以分为地址总线、数据总线、控制总线等。为便于表示，图2中仅用一条粗线表示，但并不表示仅有一根总线或一种类型的总线。

需要指出的是，图2示出的结构并不构成对该算力调度装置的限定。除图2所示部件之外，该算力调度装置可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件布置。

图3示出了本申请实施例中算力调度装置的另一种硬件结构。如图3所示，算力调度装置可以包括处理器31以及通信接口32。处理器31与通信接口32耦合。

处理器31的功能可以参考上述处理器21的描述。此外，处理器31还具备存储功能，可以参考上述存储器22的功能。

通信接口32用于为处理器31提供数据。该通信接口32可以是算力调度装置的内部接口，也可以是算力调度装置对外的接口(相当于通信接口23)。

需要指出的是，图2(或图3)中示出的结构并不构成对算力调度装置的限定，除图2(或图3)所示部件之外，该算力调度装置可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件布置。

下面结合上述图1示出的通信系统和上述图2(或图3)示出的算力调度装置，对本申请实施例提供的算力调度方法进行详细介绍。

如图4所示，本发明实施例提供的算力调度方法可以包括S401-S406。

S401、接收算力节点发送的注册请求消息。

具体的，零散算力的贡献者(即算力节点)将手机终端、闲置电脑、或企业的小型数据中心等闲散的算力向系统发送注册请求消息。其中，注册请求消息包括：算力节点的GPU、CPU、NPU以及可用时间段，存储信息等。

S402、根据注册请求消息，向算力节点发送测试消息。

在接收到算力节点发送的注册请求消息后，算力调度装置根据注册请求消息，向算力节点发送测试消息。

具体的，在接收到算力节点发送的注册请求消息后，算力调度装置根据注册请求消息，向算力节点发送算力测试程序，测试注册设备的资源，包括计算资源、存储资源等，同时测试算力节点到算力网络系统平台的网络情况，并将测试结果与用户确认。

S403、接收算力节点根据测试消息发送的确认消息。

算力节点在接收测试消息后，与算力节点对应的用户进行确认。在用户确认后，算力节点向算力调度装置发送确认消息。

S404、接收算力节点发送的算力信息。

具体的，在接收算力节点根据测试消息发送的确认消息后，算力调度装置得到该算力节点的算力信息。其中，算力信息包括：算力、算力节点标识、网络质量、存储能力或空闲时间中的至少一项。

可选的，在接收算力节点发送的算力信息后，算力调度装置将该算力信息存储至数据库中。

S405、为算力信息添加分类标识。

其中，分类标识用于标识算力的类型。分类标识包括：业务标识、算力类型标识、网络质量标识、存储能力标识和空闲时间标识。

具体的，由于算力信息中包括多项算力子信息，因此，算力调度装置算力信息中的每个算力子信息添加分类标识。

可选的，算力调度装置可以为算力信息添加业务标识。

可选的，算力调度装置还可以为算力添加算力类型标识。

进一步可选的，算力调度装置为算力添加算力类型标识时，由于不同的厂商芯片各种的衡量标准不同，无法直接使用各算力节点提供的原始算力描述，因此，算力调度装置首先对算力进行归一化处理，以得到处理后的算力，然后为处理后的算力添加算力类型标识。

具体的，计算资源可分类三类：逻辑运算能力，并行计算能力，神经网络加速能力。由于不同的厂商芯片各种的衡量标准不同，无法直接使用各算力节点提供的原始算力描述，因此，算力调度装置将算力节点提供的原始算力映射到统一的量纲维度。示例性的，对于逻辑运算能力，典型如CPU芯片。不同的芯片都能提供逻辑运算能力，如CPU，ASIC芯片都可以提供逻辑运算能力。在这种情况下，算力调度装置根据下述公式确定统一量化后的逻辑运算能力：A＝B*C+D。其中，A为统一量化后的逻辑运算能力，B为折算系数，C为原始逻辑运算能力，D为补偿系数。同理，并行运算能力和神经网络加速能力都用同样的方式映射到统一的量纲维度。

可选的，算力调度装置还可以为网络质量添加网络质量标识。

可选的，算力调度装置还可以为存储能力添加存储能力标识。

可选的，算力调度装置还可以为空闲时间添加空闲时间标识。

示例性的，为第一算力节点的算力信息添加分类标识的具体标签项及标签值如表1所示。其中，标签项即算力节点信息中的算力子信息，标签值即算力信息的分类标识。

表1

可选的，当算力为含有神经网络加速资源时，该算力节点的业务标识为神经网络类训练业务。当算力为含有并行计算资源时，该算力节点的业务标识为渲染工程或者模型训练训练业务。当算力为网络带宽时延在某个值范围内时，该算力节点的业务标识为直播业务。

S406、根据算力信息的分类标识，调用算力节点的算力。

在为算力信息添加分类标识后，算力调度装置将添加分类标识后的算力节点加入到算力资源池中，资源池发布该算力节点可用。在接收到其他终端发送的算力请求后，算力调度装置根据算力信息的分类标识，调用算力节点的算力。

本申请提供一种算力调用方法，包括：算力调用装置首先接收算力节点发送的算力信息，然后为算力信息添加分类标识，并根据算力信息的分类标识，调用算力节点的算力。其中，分类标识用于标识算力的类型。

由上可知，算力调用装置首先接收算力节点发送的算力信息，然后为算力信息添加分类标识，并根据算力信息的分类标识，调用算力节点的算力。其中，分类标识用于标识算力的类型。这样一来，算力调用装置在接收到业务请求并调用算力节点的算力时，可以根据算力信息的分类标识，快速、准确的确定并调用与业务请求对应的算力资源，保证了算力资源的利用率。

上述主要从方法的角度对本申请实施例提供的方案进行了介绍。为了实现上述功能，其包含了执行各个功能相应的硬件结构和/或软件模块。本领域技术人员应该很容易意识到，结合本文中所公开的实施例描述的各示例的单元及算法步骤，本申请实施例能够以硬件或硬件和计算机软件的结合形式来实现。某个功能究竟以硬件还是计算机软件驱动硬件的方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本发明的范围。

本申请实施例可以根据上述方法示例对算力调度装置进行功能模块的划分，例如，可以对应各个功能划分各个功能模块，也可以将两个或两个以上的功能集成在一个处理模块中。上述集成的模块既可以采用硬件的形式实现，也可以采用软件功能模块的形式实现。可选的，本申请实施例中对模块的划分是示意性的，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式。

如图5所示，为本申请实施例提供的一种算力调度装置50的结构示意图。该算力调度装置50用于解决如何快速、合理的管理和调度算力资源是当前急需解决的技术问题，例如用于执行图4所示的算力调度方法。该算力调度装置50包括：接收单元501、处理单元502和调用单元503。

接收单元501，用于接收算力节点发送的算力信息。例如，接收单元501用于执行图4中的S404。

处理单元502，用于为接收单元501接收的算力信息添加分类标识。分类标识用于标识算力的类型。例如，处理单元502用于执行图4中的S405。

调用单元503，用于根据算力信息的分类标识，调用算力节点的算力。例如，调用单元503用于执行图4中的S406。

可选的，算力信息包括：算力、算力节点标识、网络质量、存储能力或空闲时间中的至少一项。

可选的，分类标识包括：业务标识、算力类型标识、网络质量标识、存储能力标识和空闲时间标识。处理单元502，具体用于：为算力信息添加业务标识；为算力添加算力类型标识；为网络质量添加网络质量标识；为存储能力添加存储能力标识；为空闲时间添加空闲时间标识。

可选的，处理单元502，具体用于：对算力进行归一化处理，以得到处理后的算力；为处理后的算力添加算力类型标识。

可选的接收单元501，还用于接收算力节点发送的注册请求消息。例如，接收单元501用于执行图4中的S401。

算力调用装置50还包括：发送单元504。

发送单元504，用于根据接收单元501接收的注册请求消息，向算力节点发送测试消息。例如，发送单元504用于执行图4中的S402。

接收单元501，还用于接收算力节点根据发送单元504发送的测试消息发送的确认消息。例如，接收单元501用于执行图4中的S403。

本申请实施例还提供一种计算机可读存储介质，计算机可读存储介质包括计算机执行指令。当计算机执行指令在计算机上运行时，使得计算机执行如上述实施例提供的线程调度方法中，线程调度装置执行的各个步骤。

本申请实施例还提供一种计算机程序产品，该计算机程序产品可直接加载到存储器中，并含有软件代码，该计算机程序产品经由计算机载入并执行后能够实现上述实施例提供的线程调度方法中，线程调度装置执行的各个步骤。

在上述实施例中，可以全部或部分地通过软件、硬件、固件或者其任意组合来实现。当使用软件程序实现时，可以全部或部分地以计算机程序产品的形式来实现。该计算机程序产品包括一个或多个计算机指令。在计算机上加载和执行计算机执行指令时，全部或部分地产生按照本申请实施例的流程或功能。计算机可以是通用计算机、专用计算机、计算机网络、或者其他可编程装置。计算机指令可以存储在计算机可读存储介质中，或者从一个计算机可读存储介质向另一个计算机可读存储介质传输，例如，计算机指令可以从一个网站站点、计算机、服务器或者数据中心通过有线(例如同轴电缆、光纤、数字用户线(digitalsubscriber line，DSL))或无线(例如红外、无线、微波等)方式向另一个网站站点、计算机、服务器或数据中心进行传输。计算机可读存储介质可以是计算机能够存取的任何可用介质或者是包含一个或多个可以用介质集成的服务器、数据中心等数据存储设备。可用介质可以是磁性介质(例如，软盘、硬盘、磁带)，光介质(例如，DVD)、或者半导体介质(例如固态硬盘(solid state disk，SSD))等。

通过以上的实施方式的描述，所属领域的技术人员可以清楚地了解到，为描述的方便和简洁，仅以上述各功能模块的划分进行举例说明，实际应用中，可以根据需要而将上述功能分配由不同的功能模块完成，即将装置的内部结构划分成不同的功能模块，以完成以上描述的全部或者部分功能。

在本发明所提供的几个实施例中，应该理解到，所揭露的装置和方法，可以通过其它的方式实现。例如，以上所描述的装置实施例仅仅是示意性的，例如，所述模块或单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式。例如多个单元或组件可以结合或者可以集成到另一个装置，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口，装置或单元的间接耦合或通信连接，可以是电性，机械或其它的形式。作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是一个物理单元或多个物理单元，即可以位于一个地方，或者也可以分布到多个不同地方。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。

另外，在本发明各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个可读取的存储介质中。基于这样的理解，本申请实施例的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来，该软件产品存储在一个存储介质中，包括若干指令用以使得一个设备(可以是单片机，芯片等)或处理器(processor)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：U盘、移动硬盘、ROM、RAM、磁碟或者光盘等各种可以存储程序代码的介质。

以上所述，仅为本发明的具体实施方式，但本发明的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本发明揭露的技术范围内，可轻易想到的变化或替换，都应涵盖在本发明的保护范围之内。因此，本发明的保护范围应以权利要求的保护范围为准。