一种面向资源消耗性应用的认知服务缓存方法和系统

技术领域

本发明属于超算云环境领域，更具体地，涉及一种面向资源消耗性应用的认知服务缓存方法和系统。

背景技术

超算作为计算研究的基础，服务国家重大科研项目，也服务教育、气象、海洋、人工智能、生物信息等应用领域的科学研究。高校、企业等单位，大多以自建超算集群的方式来使用超算，但自建需经历调研、选型、比价、采购、建设、部署、安防、资管、运维等漫长过程，且成本投入巨大，投入产出比较低。随着“云计算”的发展，“超算”和“云计算”相结合，市场上诞生了超算云平台。超算云平台即互联网化的超算服务，用户可以在互联网上直接使用大型超算中心、数据中心的计算资源，进行科学研究。超算云平台可以使更广大的用户更好、更方便地使用超算资源，成本相比过去也大幅降低。

对于一些资源消耗性应用，即在使用过程中需要消耗大量计算资源的应用，如气象服务应用，在使用时需要获取大量的实时气象数据，并进行计算处理。因此资源消耗性应用通常需要在超云平台上进行计算处理，但由于资源的时效性，这些资源使用后会被释放，会造成计算资源的一次性使用。

为了解决此问题，有人提出了边缘缓存。边缘缓存是在流量低峰期，通过在基站和移动设备上提前缓存流行的内容。这不仅能够缓解回程链路的压力，而且可以减少内容的传输延时。因此，边缘缓存引起了人们的广泛关注。一些基于边缘云的应用需要特定的数据作为支撑，超云平台上的资源可以运用于其他的计算分析，如果能够通过学习用户和应用的需求相关性，提前在超云环境下进行提前缓存，并下放至边缘云用户使用，就可以使用户更便捷的获取所需的计算资源，提高资源利用率，减少网络消耗成本。

但现有的缓存策略均是考虑某一项影响缓存的指数，但是在实际缓存过程中，设备的异构性、用户所处环境的动态性，以及文件的大小、流行度等固有属性都会影响缓存成本。所以有必要研究一种新的缓存策略，能同时考虑用户移动性、移动设备的存储、内容流行程度等对缓存的影响，对缓存成本最小问题进行优化。

发明内容

针对相关技术的缺陷，本发明的目的在于提供一种面向资源消耗性应用的认知服务缓存方法和系统，旨在解决现有技术未综合考虑缓存影响因素导致缓存策略不佳的问题。

为实现上述目的，本发明的一个方面提供了一种面向资源消耗性应用的认知服务缓存方法，包括以下步骤：

S1.检测用户缓存感知指数和任务缓存感知指数；

S2.将所述用户缓存感知指数和任务缓存感知指数均进行归一化后，再融合得到联合缓存感知指数；

S3.将不同时间点的联合缓存感知指数空间分解成对应的超立方体空间；

S4.采用组合多臂赌博机算法进行在线学习，将用户作为玩家，将服务提供边缘云作为组合多臂赌博机问题中的臂，将不同时间点的候选臂集合放在超立方体空间中；

S5.设置合适的偏移序列作为平衡方程，获取最小任务成本对应的超臂，得到延时最小的服务缓存策略，从而对边缘云进行选择；

S6.将任务缓存到所选择的边缘云上，由所述边缘云完成用户所请求的任务。

进一步地，采用自适应的组合变化因素UCB算法获取最小任务成本对应的超臂；

所述自适应的组合变化因素UCB算法的输入包括每条臂的权值、每条臂此前被选择过的次数、缓存感知指数和任务请求用户的请求。

进一步地，所述用户缓存感知指数包括时间、位置和设备状态，所述任务缓存感知指数包括内容大小和内容流行度。

进一步地，所述步骤S5包括：

观察候选臂集合里面的服务提供边缘云的开销；

更新所选择的任务请求用户的延时开销V(t，n)；

更新由边缘云n提供服务的延时的权重值：

r

其中V

记录不同时间点所选择的边缘云，令被选择的臂为1，即

A

更新伯努利分布函数：

更新在时间点t、边缘云n提供服务的次数：

N

本发明的另一方面还提供了一种面向资源消耗性应用的认知服务缓存系统，包括学习单元和选择单元；

所述学习单元包括：

检测模块，用于检测用户缓存感知指数和任务缓存感知指数；

融合模块，将所述用户缓存感知指数和任务缓存感知指数均进行归一化后，再融合得到联合缓存感知指数；

分解模块，将不同时间点的联合缓存感知指数空间分解成对应的超立方体空间；

CFUCB模块，采用组合多臂赌博机算法进行在线学习，将用户作为玩家，将服务提供边缘云作为组合多臂赌博机问题中的臂，将不同时间点的候选臂集合放在超立方体空间中；设置合适的偏移序列作为平衡方程，获取最小任务成本对应的超臂，得到延时最小的服务缓存策略，从而对边缘云进行选择；

所述选择单元用于将任务缓存到所选择的边缘云上，由所述边缘云完成用户所请求的任务。

进一步地，所述CFUCB模块中，采用自适应的组合变化因素UCB算法获取最小任务成本对应的超臂；

所述自适应的组合变化因素UCB算法的输入包括每条臂的权值、每条臂此前被选择过的次数、缓存感知指数和任务请求用户的请求。

进一步地，所述用户缓存感知指数包括时间、位置和设备状态，所述任务缓存感知指数包括内容大小和内容流行度。

进一步地，所述CFUCB模块中，设置合适的偏移序列作为平衡方程，获取最小任务成本对应的超臂，得到延时最小的服务缓存策略包括：

观察候选臂集合里面的服务提供边缘云的开销；

更新所选择的任务请求用户的延时开销V(t，n)；

更新由边缘云n提供服务的延时的权重值：

r

其中V

记录不同时间点所选择的边缘云，令被选择的臂为1，即

A

更新伯努利分布函数：

更新在时间点t、边缘云n提供服务的次数：

N

通过本发明所构思的以上技术方案，与现有技术相比，本发明的认知缓存方法综合考虑了用户和任务相关的缓存感知指数，并与时间一起作为学习单元的输入，每当用户发起新的任务请求时，通过自适应的UCB算法做出缓存策略。通过仿真实验，结果表明相比其他缓存方法，本发明中的认知服务缓存方法产生的延迟更少，学习遗憾也更少，因此本发明提出的认知缓存方法优于其他缓存方法。

附图说明

图1是本发明实施例方法的整体示意图；

图2是本发明实施例中不同缓存方法的平均时延结果对比图；

图3是本发明实施例中不同缓存方法的平均学习遗憾值结果对比图。

具体实施方式

为了使本发明的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本发明进行进一步详细说明。应当理解，此处所描述的具体实施例仅仅用以解释本发明，并不用于限定本发明。此外，下面所描述的本发明各个实施方式中所涉及到的技术特征只要彼此之间未构成冲突就可以相互组合。

为实现上述目的，本发明实施例的一个方面提供了一种面向资源消耗性应用的认知服务缓存方法，包括以下步骤：

S1.检测用户缓存感知指数和任务缓存感知指数；

S2.将所述用户缓存感知指数和任务缓存感知指数均进行归一化后，再融合得到联合缓存感知指数；

所述用户缓存感知指数包括时间、位置和设备状态，所述任务缓存感知指数包括内容大小和内容流行度。

S3.将不同时间点的联合缓存感知指数空间分解成对应的超立方体空间；

S4.采用组合多臂赌博机算法进行在线学习，将用户作为玩家，将服务提供边缘云作为组合多臂赌博机问题中的臂，将不同时间点的候选臂集合放在超立方体空间中；

S5.设置合适的偏移序列作为平衡方程，采用自适应的组合变化因素UCB算法获取最小任务成本对应的超臂，得到延时最小的服务缓存策略，从而对边缘云进行选择；

自适应的组合变化因素UCB算法的输入包括每条臂的权值、每条臂此前被选择过的次数、缓存感知指数和任务请求用户的请求；

S6.将任务缓存到所选择的边缘云上，由所述边缘云完成用户所请求的任务。

进一步地，所述步骤S5包括：

观察候选臂集合里面的服务提供边缘云的开销；

更新所选择的任务请求用户的延时开销V(t，n)；

更新由边缘云n提供服务的延时的权重值：

r

其中V

记录不同时间点所选择的边缘云，令被选择的臂为1，即

A

更新伯努利分布函数：

更新在时间点t、边缘云n提供服务的次数：

N

本发明实施例的另一方面还提供了一种面向资源消耗性应用的认知服务缓存系统，包括学习单元和选择单元；

所述学习单元包括：

检测模块，用于检测用户缓存感知指数和任务缓存感知指数；

融合模块，将所述用户缓存感知指数和任务缓存感知指数均进行归一化后，再融合得到联合缓存感知指数；

分解模块，将不同时间点的联合缓存感知指数空间分解成对应的超立方体空间；

CFUCB模块，采用组合多臂赌博机算法进行在线学习，将用户作为玩家，将服务提供边缘云作为组合多臂赌博机问题中的臂，将不同时间点的候选臂集合放在超立方体空间中；设置合适的偏移序列作为平衡方程，获取最小任务成本对应的超臂，得到延时最小的服务缓存策略，从而对边缘云进行选择；

所述选择单元用于将任务缓存到所选择的边缘云上，由所述边缘云完成用户所请求的任务。

具体每个单元的功能可参见前述方法实施例中的介绍，在此不再赘述。

下面结合一个优选实施例，对上述实施例中涉及的内容进行说明。

系统模型包括云、边缘云和用户，云端包括K个服务，每个用户随机向边缘云请求服务，假设用户的请求模式未知。如图1，为了实现认知缓存，需要部署一个缓存代理，包括一个学习单元和一个选择单元。学习单元学习用户和任务的缓存感知指数。选择单元在学习模块的基础上进行缓存决策。

在超云环境中，将端分为两类：任务请求用户(ReU)和服务提供边缘云(SeC)。当ReU发出任务请求时：

首先查看自己所在的边缘云是否能提供，有就直接获取；

其次尝试从超云网络中的其它边缘云获取。假设用户集合记为N＝{1，2，…，N}。假设系统运行在离散的时间段T＝{1，2，…，T}其中T表示有限的时间范围。

缓存感知指数模型：

在进行缓存时，用户的缓存感知指数和任务的缓存感知指数均会影响用户的缓存策略和请求策略。假设用户i的缓存感知指数

假设任务f的缓存感知指数

将两个缓存感知指数融合记为联合缓存感知指数：

缓存延时模型：

缓存策略应当平衡可以保存的平均任务延迟和任务请求数，当进行缓存任务时，平均时延为：

其中D为保存的平均任务时延，R是任务请求的次数。

接下来，基于强化学习算法对问题进行求解。

本发明的目标是在满足ReU发出的任务请求的前提下，使得ReU获取服务需要的延时最小，即一个最小任务成本问题。

最小任务成本问题是一种在线学习问题，可以在多臂赌博(MAB)框架下解决，将服务的缓存问题转化为组合多臂赌博机问题。

确切地说，ReU是玩家，SeC相当于是MAB问题中的臂。最小任务成本问题是在任务和服务缓存感知指数影响下得到的优化方案，所以对现有的MAB算法进行改进和扩展，提出自适应的组合变化因素UCB(CFUCB)算法，即该算法的输入除了每条臂的权值和每条臂此前被选择过的次数，还增加了用缓存感知指数以及ReU请求作为算法的输入，来学习执行最优的服务缓存决策。

学习单元中的分解模块可将缓存感知指数空间

然后求最小任务成本对应的SeC超臂，通过设置合适的偏移序列作为平衡方程，得到最优的SeC超臂，并同时更新对应SeC的各种参数：

①所选择的任务请求用户的延时开销V(t，n)；

②由边缘云n提供服务的延时的权重值：

r

其中V

③记录不同时间点所选择的边缘云，令被选择的臂为1，即

A

④伯努利分布函数：

⑤在时间点t、边缘云n提供服务的次数：

N

这样随着时间变化，算法就能尽可能的达到学习目标。

最后，选择单元依据学习单元输出的结果，将任务缓存到选择的边缘云上，再由该边缘云完成用户的任务。

本发明采用自适应的UCB算法，利用改进的组合多臂赌博机对超云环境下的面向资源消耗型应用缓存方案进行学习，寻找最佳的认知服务缓存方法，以实现延时最小的服务缓存。由于超云计算环境并不能提前知道超算用户和任务的缓存指数，因此利用多臂博弈理论实现对缓存指数的学习，以达到一种探索-利用的均衡。

本发明对所提的方案进行了仿真分析，并与另外两种服务缓存方案进行了对比实验。图2显示了不同缓存方案下的平均时延的变化。可以看到，随着学习时间的增长，三个方案的平均时延都在不断减少，并最终在一定时间后达到稳定。其中的三角形线表示的是在已知用户的请求模式的理想状态下的平均时延。然而在超云计算环境下，用户的请求模式往往是未知的。但在学习500回合后，本发明提出的缓存方案能够使平均时延达到相同的程度，明显优于其他缓存方案。

图3展示了不同缓存方案下的平均学习regret值的变化。可以看到三个策略下的regret值在学习100回合内都大幅度减小，并在200回合内达到稳定。该发明提出的缓存方案同样能达到很低的学习regret，比其他缓存方案要好。

本领域的技术人员容易理解，以上所述仅为本发明的较佳实施例而已，并不用以限制本发明，凡在本发明的精神和原则之内所作的任何修改、等同替换和改进等，均应包含在本发明的保护范围之内。