掌桥专利:专业的专利平台
掌桥专利
首页

应用异常检测方法、装置、设备和介质

文献发布时间:2024-04-18 19:58:21


应用异常检测方法、装置、设备和介质

技术领域

本公开涉及人工智能领域、信息安全领域、金融科技领域或其他相关领域,更具体地,涉及一种应用异常检测方法、装置、设备、介质和程序产品。

背景技术

应用运行过程中,可能会产生异常行为,影响应用服务的可用性和可靠性。相关技术中,可以基于人工智能算法得到异常检测模型对异常行为检测,例如包括获取应用的历史指标数据、数据预处理、人工标注标签、构建模型、模型训练、模型部署以及利用该模型在生产环境实现异常检测等步骤。

在实现本公开发明构思的过程中,发明人发现,历史指标数据量较大,人工标注标签会耗费大量时间和经济成本,导致训练阶段的时间过长,从而异常行为检测的整体耗时变长,难以高效地实现模型部署,无法尽快在生产环境中进行异常行为检测。

发明内容

鉴于上述问题,本公开提供了应用异常检测方法、装置、设备、介质和程序产品。

本公开实施例的一个方面,提供了一种应用异常检测方法,包括:获取应用在待检测时间点的应用指标数据,所述应用指标数据包括在所述应用运行过程中产生的时间序列数据;将待检测的应用指标数据输入异常检测模型,得到第一异常结果,所述第一异常结果包括应用异常结果或应用正常结果;在所述第一异常结果为所述应用异常结果时,发出报警信号;所述异常检测模型通过预先将无标签历史指标数据作为训练样本进行X次训练得到,其中至少一次训练包括利用部分无标签历史指标数据的不确定性值得到标签并进行监督训练,所述不确定性值表征了对应无标签历史指标数据的不确定程度,X大于等于1。

根据本公开的实施例,在将待检测的应用指标数据输入异常检测模型之前,所述方法还包括:确定待检测时间点之前预定时间段内的第一子指标数据;确定Q个历史时间段内的Q个第二子指标数据,所述Q个历史时间段与所述预定时间段中任两个时间段属于不同日期的相同时间段位置,Q为大于或等于1的整数;按照时间先后顺序对所述第一子指标数据和所述Q个第二子指标数据排序,得到待检测的所述应用指标数据。

根据本公开的实施例,所述应用部署于多个服务器,所述多个服务器中任两个服务器之间运行的应用服务不同,其中每个服务器具有待检测的所述应用指标数据;所述将待检测的应用指标数据输入异常检测模型,得到第一异常结果包括:按照所述多个服务器各自运行应用服务之间的调用顺序,拼接所述多个服务器各自待检测的所述应用指标数据,得到模型输入数据;利用所述异常检测模型处理所述模型输入数据,得到所述第一异常结果。

根据本公开的实施例,所述利用部分无标签历史指标数据的不确定性值得到标签并进行监督训练包括:得到无标签的S个第一历史指标数据各自的第二异常结果,所述第二异常结果包括应用异常概率值和应用正常概率值,S为大于或等于1的整数;基于每个第一历史指标数据的应用异常概率值和应用正常概率值之间的差异程度,得到其不确定性值;获得所述不确定性值大于预设阈值的第一历史指标数据的标签,所述标签包括应用异常标签或应用正常标签;基于有标签的第一历史指标数据对所述异常检测模型监督训练。

根据本公开的实施例,在基于有标签的第一历史指标数据对所述异常检测模型监督训练之后,所述将无标签历史指标数据作为训练样本进行X次训练还包括:采集无标签的K个第二历史指标数据,K为大于或等于1的整数;对于每个第二历史指标数据,分别计算其与每个有标签的第一历史指标数据之间的相似度;基于具有最大相似度的有标签的第一历史指标数据,得到所述每个第二历史指标数据的标签;基于有标签的第二历史指标数据继续训练所述异常检测模型。

根据本公开的实施例,在得到无标签的S个第一历史指标数据各自的第二异常结果之前,所述将无标签历史指标数据作为训练样本进行X次训练还包括:将无标签的N个第一历史指标数据进行聚类,得到M个聚类簇,N为大于或等于2的整数,M为小于N的整数,N大于S;对于每个聚类簇,取出其中至少一个第一历史指标数据,所述S个第一历史指标数据包括从所述M个聚类簇中取出的所有第一历史指标数据。

根据本公开的实施例,所述对于每个聚类簇,取出其中至少一个第一历史指标数据包括:从所述每个聚类簇中随机取出部分第一历史指标数据;和/或所述获得所述不确定性值大于预设阈值的第一历史指标数据的标签包括:基于所述不确定性值大于预设阈值的第一历史指标数据所属的聚类簇确定所述标签。

根据本公开的实施例,所述得到无标签的S个第一历史指标数据各自的第二异常结果包括:利用分类模型处理所述S个第一历史指标数据,得到各自的第二异常结果,所述分类模型预先通过有标签的第三历史指标数据训练得到。

根据本公开的实施例,所述基于每个第一历史指标数据的应用异常概率值和应用正常概率值之间的差异程度,得到其不确定性值包括:计算所述应用异常概率值和所述应用正常概率值之间差值的绝对值;将所述差值的绝对值的负数作为所述不确定性值。

本公开实施例的另一方面提供了一种应用异常检测装置,包括:数据获取模块,用于获取应用在待检测时间点的应用指标数据,所述应用指标数据包括在所述应用运行过程中产生的时间序列数据;数据输入模块,用于将待检测的应用指标数据输入异常检测模型,得到第一异常结果,所述第一异常结果包括应用异常结果或应用正常结果;报警模块,用于在所述第一异常结果为所述应用异常结果时,发出报警信号;所述异常检测模型通过预先将无标签历史指标数据作为训练样本进行X次训练得到,其中至少一次训练包括利用部分无标签历史指标数据的不确定性值得到标签并进行监督训练,所述不确定性值表征了对应无标签历史指标数据的不确定程度,X大于等于1。

本公开实施例的另一方面提供了一种电子设备,包括:一个或多个处理器;存储装置,用于存储一个或多个程序,其中,当所述一个或多个程序被所述一个或多个处理器执行时,使得一个或多个处理器执行如上所述的方法。

本公开实施例的另一方面还提供了一种计算机可读存储介质,其上存储有可执行指令,该指令被处理器执行时使处理器执行如上所述的方法。

本公开实施例的另一方面还提供了一种计算机程序产品,包括计算机程序,该计算机程序被处理器执行时实现如上所述的方法。

上述一个或多个实施例具有如下有益效果:在待检测时间点获取应用运行过程中产生的时间序列数据作为异常检测模型的输入,并在检测到异常时及时发出报警信号,能够提高应用异常检测的速度。另外,预先将无标签历史指标数据作为训练样本进行X次训练,至少基于不确定性值获得历史指标数据的标签进行监督训练得到异常检测模型,最终部署到实际异常检测场景中。从而能够基于不确定性值实现筛选和减小样本标注量的目的,再进一步得到标签并进行监督训练,能够尽快在生产环境中进行异常行为检测,以便检测到异常后及时发出报警信号。

附图说明

通过以下参照附图对本公开实施例的描述,本公开的上述内容以及其他目的、特征和优点将更为清楚,在附图中:

图1示意性示出了根据本公开实施例的应用异常检测方法的应用场景图;

图2示意性示出了根据本公开实施例的监督训练的流程图;

图3示意性示出了根据本公开实施例的继续训练模型的流程图;

图4示意性示出了根据本公开实施例的得到待检测的应用指标数据的流程图;

图5示意性示出了根据本公开实施例的得到第一异常结果的流程图;

图6示意性示出了根据本公开实施例的聚类处理的流程图;

图7示意性示出了根据本公开另一实施例的应用异常检测方法的流程图;

图8A和图8B示意性示出了根据本公开实施例的应用异常检测装置的结构框图;以及

图9示意性示出了根据本公开实施例的适于实现应用异常检测方法的电子设备的方框图。

具体实施方式

以下,将参照附图来描述本公开的实施例。但是应该理解,这些描述只是示例性的,而并非要限制本公开的范围。在下面的详细描述中,为便于解释,阐述了许多具体的细节以提供对本公开实施例的全面理解。然而,明显地,一个或多个实施例在没有这些具体细节的情况下也可以被实施。此外,在以下说明中,省略了对公知结构和技术的描述,以避免不必要地混淆本公开的概念。

在此使用的术语仅仅是为了描述具体实施例,而并非意在限制本公开。在此使用的术语“包括”、“包含”等表明了所述特征、步骤、操作和/或部件的存在,但是并不排除存在或添加一个或多个其他特征、步骤、操作或部件。

在此使用的所有术语(包括技术和科学术语)具有本领域技术人员通常所理解的含义,除非另外定义。应注意,这里使用的术语应解释为具有与本说明书的上下文相一致的含义,而不应以理想化或过于刻板的方式来解释。

在使用类似于“A、B和C等中至少一个”这样的表述的情况下,一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如,“具有A、B和C中至少一个的系统”应包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C、和/或具有A、B、C的系统等)。

以云上应用举例,云上应用可能会产生一些异常行为影响服务的可用性和可靠性,甚至造成经济损失。异常行为可能由磁盘故障,内存泄露,网络波动等引起,并且由性能指标的变化反映。而云上应用生产的海量监控数据,某一组件发生偏差可能会成为异常,引起整个系统的故障。由于云上系统的复杂性,不同应用的同一指标在不同场景下的数据特征不同,因此在大数据背景下,及时准确地检测出异常具有挑战性。

例如基于机器学习的异常检测算法中,可以使用无监督学习进行模型训练,无监督学习虽然不需要数据的标签,成本较低,但是数据存在噪音导致误报率更高,需要支持经理检查应用状态。而使用有监督学习训练则需要数据标签,于海量数据下对数据进行标注,从而产生极大的成本。因此,数据不准确、缺乏标记数据,样本类别不均衡等问题限制了人工智能异常检测模型在生产环境中应用的效率。

在本公开的一些实施例中提供了一种应用异常检测方法,在待检测时间点获取应用运行过程中产生的时间序列数据作为异常检测模型的输入,并在检测到异常时及时发出报警信号,能够提高应用异常检测的速度。另外,预先将无标签历史指标数据作为训练样本进行X次训练,至少基于不确定性值获得历史指标数据的标签进行监督训练得到异常检测模型,最终部署到实际异常检测场景中。从而能够基于不确定性值实现筛选和减小样本标注量的目的,再进一步得到标签并进行监督训练,能够尽快在生产环境中进行异常行为检测,以便检测到异常后及时发出报警信号。

异常检测旨在识别出偏离期望的数据对象,因此能够根据采集到应用的性能指标数据,及时并有效地识别应用的异常行为。在识别出应用的异常后能及时通知支持经理,并展示出异常指标,提高应急时效。

图1示意性示出了根据本公开实施例的应用异常检测方法的应用场景图。需要注意的是,图1所示仅为可以应用本公开实施例的示例,以帮助本领域技术人员理解本公开的技术内容,但并不意味着本公开实施例不可以用于其他设备、系统、环境或场景。

如图1所示,根据该实施例的应用场景100可以包括终端设备101、102、103,网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。

用户可以使用终端设备101、102、103通过网络104与服务器105交互,以接收或发送消息等。终端设备101、102、103上可以安装有各种通讯客户端应用,例如购物类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等(仅为示例)。

终端设备101、102、103可以是具有显示屏并且支持网页浏览的各种电子设备,包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。

服务器105可以是提供各种服务的服务器,例如对用户利用终端设备101、102、103所浏览的网站提供支持的后台管理服务器(仅为示例)。后台管理服务器可以对接收到的用户请求等数据进行分析等处理,并将处理结果(例如根据用户请求获取或生成的网页、信息、或数据等)反馈给终端设备。

服务器105可以是独立的物理服务器,也可以是多个物理服务器构成的服务器集群或分布式系统,还可以是提供云服务、云计算、网络服务、中间件服务等基础云计算服务的云服务器。

在诸如客户端应用程序、web应用程序等应用(英文缩写为APP)中,客户端(即前端)与服务器端(即后端)可以通过网络报文进行数据通信,例如,即在APP客户端中,将服务器端需要从客户端获取的参数进行组装,调用网络请求方法向服务器端发送。需要说明的是,本发明实施例所提供的应用异常检测方法可以由终端设备101、102、103或服务器105执行。相应地,本发明实施例所提供的应用异常检测装置一般可以设置于终端设备101、102、103或服务器105中。

应该理解,图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。

以下将基于图1描述的场景,通过图2~图7对本公开实施例的应用异常检测方法进行详细描述。

在一些实施例中,应用异常检测方法包括:获取应用在待检测时间点的应用指标数据,应用指标数据包括在应用运行过程中产生的时间序列数据;将待检测的应用指标数据输入异常检测模型,得到第一异常结果,第一异常结果包括应用异常结果或应用正常结果;在第一异常结果为应用异常结果时,发出报警信号;异常检测模型通过预先将无标签历史指标数据作为训练样本进行X次训练得到,其中至少一次训练包括利用部分无标签历史指标数据的不确定性值得到标签并进行监督训练,不确定性值表征了对应无标签历史指标数据的不确定程度,X大于等于1。

例如,应用指标数据可以来自一个或多个应用。当来自一个应用时,能够根据该应用的指标数据判断是否出现异常。当来自多个应用时,可以通过多个应用之间的指标数据相互影响情况,协同判断是否存在出现异常的应用。

当应用出现异常时,如发生问题和故障(例如网络故障、数据中心故障、软件漏洞等),性能指标上也会表现出相应的异常变化(例如突增、突降等)。例如,本公开实施例中涉及的应用指标数据或历史指标数据可以包括用户访问量、查询请求量、查询成功量、CPU利用率、存储利用率、网络资源利用率等一个或多个性能指标。

在进行异常检测之前,可以预先构建的异常检测模型,可以是基于深度学习构建得到的神经网络模型,从而可以根据应用指标数据进行异常检测。因此,异常检测模型可以学习到不同性能指标之间的联系,一个或多个性能指标在时间维度的趋势变化的关联特征。

例如,神经网络模型可以包括例如卷积神经网络(Convolutional NeuralNetworks,CNN)、循环神经网络(Recurrent Neural Network,RNN)、长短期记忆网络(LongShort-Term Memory,LSTM)中的任意一种或多种的组合,但不仅限于此,还可以是其他网络模型,例如全连接神经网络(DNN),本领域技术人员可以根据实际需求设计异常检测模型的网络结构。

若应用出现异常,则第一异常结果为应用异常结果,反之则为应用正常结果,如出现“应用异常”或“应用正常”的提示词。应用异常结果时,还可以给出存在异常时的异常类型。异常类型可包括但不限于以下几种:系统异常、网络攻击触发的异常、数据库丢失、数据报表错误等。

根据本公开的实施例,在待检测时间点获取应用运行过程中产生的时间序列数据作为异常检测模型的输入,并在检测到异常时及时发出报警信号,能够提高应用异常检测的速度。另外,在训练阶段能够基于不确定性值实现筛选和减小样本标注量的目的,再进一步得到标签并进行监督训练,能够尽快在生产环境中进行异常行为检测,以便检测到异常后及时发出报警信号。

图2示意性示出了根据本公开实施例的监督训练的流程图。

如图2所示,参照模型训练方法200,异常检测模型被配置为预先通过如下操作训练得到:

在操作S210,得到无标签的S个第一历史指标数据各自的第二异常结果,第二异常结果包括应用异常概率值和应用正常概率值,S为大于或等于1的整数。

在一些实施例中,可以是通过人工标注得到第一异常结果,也可以是通过各个第一历史指标数据对应的日志信息确定第一异常结果。

在一些实施例中,可以利用分类模型处理S个第一历史指标数据,得到各自的第二异常结果,分类模型预先通过有标签的第三历史指标数据训练得到。

分类模型可以基于与异常检测模型相同或不同的人工智能算法构建得到。第三历史指标数据可以包括人工标注好的历史数据。示例性地,分类模型可以基于递归神经网络算法(RNN,Recurrent Neural Network)、孤立森林算法(Isolation Forest)、指数加权移动平均算法(EWMA,Exponentially Weighted Moving-Average)、随机森林算法等中的至少一种构建得到。

模型训练方法200以主动学习的方式引入查询策略,用以选择合适的样本进行标注。例如,分类模型基于随机森林算法构建得到,以随机森林算法作为基础分类器执行主动学习过程中的查询策略,计算得出数据点为正常和异常的概率值。基于得出的概率值,计算得出数据点的不确定性值,提高查询策略的准确性。

在操作S220,基于每个第一历史指标数据的应用异常概率值和应用正常概率值之间的差异程度,得到其不确定性值。差异程度可以用差值、百分比、平方差、标准差等方式表征。在一些实施例中,可以直接将差异程度作为不确定性值。

不确定性值表示对某个第一历史指标数据的不确定程度的度量。例如,可以使用标准差来表示预测结果的不确定性,较高的值则不确定性较大。

在一些实施例中,基于每个第一历史指标数据的应用异常概率值和应用正常概率值之间的差异程度,得到其不确定性值包括:计算应用异常概率值和应用正常概率值之间差值的绝对值。将差值的绝对值的负数作为不确定性值。

例如使用以下公式1得出数据的不确定性值Uncertain,其中Prob

Uncertain=-|(1-Prob

根据本公开的实施例,差值绝对值越大表征模型的预测结果越有倾向性,即分类模型能够得到足够的信息,可以通过分类模型的异常结果直接作为标签。相反,若差值绝对值越小,则说明分类模型不能够得到足够的信息,故后续进行专门的获得标签操作。通过少量的数据标记处理具有特定特征的多样化数据,提高后续训练效率,及异常检测模型的准确性。

在操作S230,获得不确定性值大于预设阈值的第一历史指标数据的标签,标签包括应用异常标签或应用正常标签。

预设阈值可以根据处理数据的能力灵活设定,例如设置为-0.1,仅为示例。

例如当不确定性值高于预设阈值时,则认为该数据具有较大的信息量,由专家人工对该数据进行打标签。也可以接入专门的自动化标注平台自动打标签。

在操作S240,基于有标签的第一历史指标数据对异常检测模型监督训练。

根据本公开的实施例,先对无标签的第一历史指标数据分类得到应用异常概率值和应用正常概率值,再基于两者的差异程度得到不确定性值,接着获得不确定性值大于预设阈值的第一历史指标数据的标签,实现了对第一历史指标数据的训练可用性进行主动学习的效果,提高了训练数据的准确性和训练效率。

图3示意性示出了根据本公开实施例的继续训练模型的流程图。

在基于有标签的第一历史指标数据训练异常检测模型之后,如图3所示,该实施例包括:

在操作S310,采集无标签的K个第二历史指标数据,K为大于或等于1的整数。

在操作S320,对于每个第二历史指标数据,分别计算其与每个有标签的第一历史指标数据之间的相似度。

例如,历史指标数据为一个或多个性能指标组成的矩阵,相似度计算可以选择欧氏距离、曼哈顿距离等距离计算方式。在一些实施例中,可以分别予以不同的性能指标以对应的权重。权重分配方式可以是线性分配或者softmax方式等。

在一些实施例中,基于皮尔逊相似度计算公式,将未打标数据(无标签的K个第二历史指标数据)X和不确定性值高于预设阈值的第一历史指标数据Y进行相似度计算,如公式2,cov(X,Y)为X,Y的协方差,σ为标准差:

在操作S330,基于具有最大相似度的有标签的第一历史指标数据,得到每个第二历史指标数据的标签。

若未打标数据与其中一个有标签的第一历史指标数据相似度最高,且该相似度大于一定值(如0.9),则直接获取标签,从而减少专家标注的成本,也能够减少聚类处理、运行查询策略等步骤。

在操作S340,基于有标签的第二历史指标数据继续训练异常检测模型。

在实际场景中,无标签的S个第一历史指标数据可能是一部分数据,其余未打标的数据不断输入。若再次处理未达标数据得到第二异常结果和不确定性值会造成效率降低,同时产生冗余信息。

因此一次或多次在未标记的集合中取K个第二历史指标数据,按照上述相似度计算步骤选择第二历史指标数据进行标签标记,并将有标签的第二历史指标数据加入训练集中,以对操作S240训练完成的模型训练,在迭代预定轮次后,获得最终的检测模型。能够减小样本处理量和计算资源,提高训练效率。

在一些实施例中,K个第二历史指标数据可以来自上述待检测的应用指标数据,即异常检测模型可以根据应用运行过程中产生的时间序列数据不断迭代训练,以能够检测到新出现的异常,并提高准确性。

图4示意性示出了根据本公开实施例的得到待检测的应用指标数据的流程图。

在将待检测的应用指标数据输入异常检测模型之前,如图4所示,该实施例得到待检测的应用指标数据包括:

在操作S410,确定待检测时间点之前预定时间段内的第一子指标数据。

在操作S420,确定Q个历史时间段内的Q个第二子指标数据,Q个历史时间段与预定时间段属于不同天数内的相同时间位置,Q为大于或等于1的整数。

子指标数据包括用户访问量、查询请求量、查询成功量、CPU利用率、存储利用率、网络资源利用率等一个或多个性能指标。可选择指定时间窗口(即时间段长度)的数据作为待检测的子指标数据。其中,时间段长度可根据检测需要、数据的周期性等因素来确定。

在操作S430,按照时间先后顺序对第一子指标数据和Q个第二子指标数据排序,得到待检测的应用指标数据。

例如,提供当天固定时间间隔的数据点,以及对应时间段昨天、前天和上周的数据点,组成一个时序序列。针对一台服务器,需要提供当前3小时内的数据,通常为180个点,以及昨天,前天,三天前和七天前对应时间段的180个点,总共组成900个数据点。

根据本公开的实施例,在日常监控可以通过具有时间序列信息的应用指标数据快速检测到应用发生异常,从而更好地进行资源调度、异常修复等工作,为用户提供稳定的用户体验。异常检测模型可以用于针对应用指标数据的时序信息进行时序预测。时序预测指利用数据在时间上的分布规律进行的预测。

图5示意性示出了根据本公开实施例的得到第一异常结果的流程图。

应用部署于多个服务器,多个服务器中任两个服务器之间运行的应用服务不同,其中每个服务器具有待检测的应用指标数据。

如图5所示,该实施例是操作S110的其中一个实施例,包括:

在操作S510,按照多个服务器各自运行应用服务之间的调用顺序,拼接多个服务器各自待检测的应用指标数据,得到模型输入数据。将多个服务器的应用指标数据整合起来,以便后续的异常检测模型能够对整体系统的运行情况进行分析。

将应用程序安装和运行在多个服务器上,以实现负载均衡、高可用性等目的。应用服务指在服务器上运行的应用程序特定的功能或服务。调用顺序指多个服务器之间相互调用应用服务的关系,即一个服务器的应用服务可能会调用另一个服务器上的应用服务。

在操作S520,利用异常检测模型处理模型输入数据,得到第一异常结果。

例如,某应用在触发异常检测时,会向监控系统发出请求,得到α个应用服务器的900个数据点,最终得到900*α个数据组成的集合。

根据本公开的实施例,可以实现对多个服务器中应用指标数据的整合和异常检测,从而及时发现和处理潜在的问题。通过将多个服务器各自的应用指标数据拼接起来,形成模型输入数据,并利用异常检测模型对其进行处理,可以实现对整个系统的综合监控和异常检测,提高系统的可靠性和稳定性。

图6示意性示出了根据本公开实施例的聚类处理的流程图。

在得到无标签的S个第一历史指标数据各自的第二异常结果之前,如图6所示,该实施例包括:

在操作S610,将无标签的N个第一历史指标数据进行聚类,得到M个聚类簇,N为大于或等于2的整数,M为小于N的整数,N大于S。

例如,在一个数据集中,可以使用聚类算法将第一历史指标数据分为不同的簇,每个簇内的第一历史指标数据具有相似的特征。

在操作S620,对于每个聚类簇,取出其中至少一个第一历史指标数据,S个第一历史指标数据包括从M个聚类簇中取出的所有第一历史指标数据。

举例而言,通常应用运行产生的正常数据的数量多于异常数据量,为提升检测效率,采用DBSCAN算法,输入参数包括:原始数据集,Eps定义密度时的邻域半径和MmPtS定义核心点时的阈值。将原始数据点分为三类,若一个对象在其半径Eps内含有超过MmPts数目的点,则该数据点为核心点。若一个对象在其半径Eps内含有点的数量小于MinPts,但是该对象落在核心点的邻域内,则该对象为边界点。若一个对象既不是核心点也不是边界点,则该对象为噪音点。

具体流程为:从数据集中依次选取数据点p(即第一历史指标数据)。如果对于参数Eps和MinPts,所选取的数据对象点p为核心点,则找出所有从p密度可达的数据对象点,形成一个簇。如果选取的数据对象点p是边缘点,选取另一个数据对象点。重复以上选取步骤,直到所有数据点都被处理,最终得到划分的簇。

在一些实施例中,对于每个聚类簇,取出其中至少一个第一历史指标数据包括:从每个聚类簇中随机取出部分第一历史指标数据。和/或,获得不确定性值大于预设阈值的第一历史指标数据的标签包括:基于不确定性值大于预设阈值的第一历史指标数据所属的聚类簇确定标签。

从不同簇内选取相同batchsize大小的数据,作为基于池的主动学习算法的输入。基于数据预处理步骤中的分簇结果,在每个簇中随机挑选相同batchsize的数据点,输入到主动学习算法的选择策略中,从而减少计算次数。

基于所属的聚类簇确定标签将标签与所属聚类簇关联起来,提高自动或手动标注标签的效率,有助于后续的数据处理和分析,以便对具有较大不确定性的数据点进行特殊处理或重点关注。

根据本公开的实施例,能够提高训练样本的准确性,通过从每个聚类簇中获取至少一个第一历史指标数据,并随机取出部分数据,确保数据样本具有代表性,能够更准确地进行数据分析和处理。此外,通过基于分簇结果进行数据采样,减少了需要计算和处理的数据量,降低了计算的复杂性和计算资源的消耗,从而降低了计算量。同时,通过设定不确定性阈值并确定具有较大不确定性的数据点的标签,可以帮助识别出需要特殊处理或重点关注的数据点,降低了标注数量,提高训练效率。

图7示意性示出了根据本公开另一实施例的应用异常检测方法的流程图。

以云上应用的异常检测场景举例,性能指标数据U,测试集T。如图7所示,该实施例的应用异常检测方法包括:

在操作S710,性能指标数据U中新增未打标样本。采用DBSCAN算法对U进行分簇,在每个簇中选择相同数量的数据,并进行标记,构造已标记的样本集L1,利用已标记样本集L1训练随机森林分类器。

在操作S720,利用训练完成的随机森林分类器对性能指标数据U中部分未打标样本执行上文描述的查询策略,得到不确定性,并进行降序排序。然后由专家标注排序靠前的有价值的样本,得到已标记样本集L2。

对于性能指标数据U中其他未达标样本,根据皮尔逊相关系数,计算排序后的样本和已标记的样本,根据相似度结果考虑是否选择该数据交给专家进行标注,得到已标记样本集L3,按照批次计算相似度,依次递增得到已标记样本集Li。

在操作S730,利用每个已标记样本集Li多次迭代训练模型。在前次训练的基础上迁移学习训练,或者重新训练。

在操作S740,得到最终模型。

根据本公开的实施例,通过主动学习算法,相较于有监督学习能显著减少样本标注量,节约成本。相较于无监督学习,模型受到异常数据的影响较小。

基于上述应用异常检测方法,本公开还提供了一种应用异常检测装置。以下将结合图8A和图B对该装置进行详细描述。

图8A和图B示意性示出了根据本公开实施例的应用异常检测装置的结构框图。

如图8A所示,该实施例的应用异常检测装置800包括数据获取模块810、数据输入模块820和报警模块830。

数据获取模块810用于获取应用在待检测时间点的应用指标数据,应用指标数据包括在应用运行过程中产生的时间序列数据;

数据输入模块820用于将待检测的应用指标数据输入异常检测模型,得到第一异常结果,第一异常结果包括应用异常结果或应用正常结果;

在一些实施例中,数据输入模块820可以执行操作S510~操作S520,在此不再赘述。

报警模块830用于在第一异常结果为应用异常结果时,发出报警信号;

异常检测模型预先将无标签历史指标数据作为训练样本进行X次训练得到,其中至少一次训练包括利用部分无标签历史指标数据的不确定性值得到标签并进行监督训练,不确定性值表征了对应无标签历史指标数据的不确定程度,X大于等于1。

在另一些实施例中,应用异常检测装置800还可以包括模型训练模块840。模型训练模块840包括历史分类单元841、不确定性值计算单元842、标签标注单元843和模型训练单元844。异常检测模型被配置为预先通过模型训练模块840进行训练。

历史分类单元841可以执行操作S210,用于得到无标签的S个第一历史指标数据各自的第二异常结果,第二异常结果包括应用异常概率值和应用正常概率值,S为大于或等于1的整数。

不确定性值计算单元842可以执行操作S220,用于基于每个第一历史指标数据的应用异常概率值和应用正常概率值之间的差异程度,得到其不确定性值。

标签标注单元843可以执行操作S230,用于获得不确定性值大于预设阈值的第一历史指标数据的标签,标签包括应用异常标签或应用正常标签。

在一些实施例中,标签标注单元843可以执行操作S610~操作S620,在此不再赘述。

模型训练单元844可以执行操作S240,用于基于有标签的第一历史指标数据训练异常检测模型。

在一些实施例中,模型训练单元844还可以执行操作S310~操作S340,在此不再赘述。

在一些实施例中,应用异常检测装置800还可以包括数据确定模块,该模块可以执行操作S410~操作S430,在此不再赘述。

应用异常检测装置800包括分别用于执行如上图2~图7描述的任意一个实施例的各个步骤的模块。

需要说明的是,装置部分实施例中各模块/单元/子单元等的实施方式、解决的技术问题、实现的功能、以及达到的技术效果分别与方法部分实施例中各对应的步骤的实施方式、解决的技术问题、实现的功能、以及达到的技术效果相同或类似,在此不再赘述。

根据本公开的实施例,数据获取模块810、数据输入模块820、报警模块830和模型训练模块840中的任意多个模块可以合并在一个模块中实现,或者其中的任意一个模块可以被拆分成多个模块。或者,这些模块中的一个或多个模块的至少部分功能可以与其他模块的至少部分功能相结合,并在一个模块中实现。

根据本公开的实施例,数据获取模块810、数据输入模块820、报警模块830和模型训练模块840中的至少一个可以至少被部分地实现为硬件电路,例如现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、片上系统、基板上的系统、封装上的系统、专用集成电路(ASIC),或可以通过对电路进行集成或封装的任何其他的合理方式等硬件或固件来实现,或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者,数据获取模块810、数据输入模块820、报警模块830和模型训练模块840中的至少一个可以至少被部分地实现为计算机程序模块,当该计算机程序模块被运行时,可以执行相应的功能。

图9示意性示出了根据本公开实施例的适于实现应用异常检测方法的电子设备的方框图。

如图9所示,根据本公开实施例的电子设备900包括处理器901,其可以根据存储在只读存储器(ROM)902中的程序或者从存储部分908加载到随机访问存储器(RAM)903中的程序而执行各种适当的动作和处理。处理器901例如可以包括通用微处理器(例如CPU)、指令集处理器和/或相关芯片组和/或专用微处理器(例如,专用集成电路(ASIC))等等。处理器901还可以包括用于缓存用途的板载存储器。处理器901可以包括用于执行根据本公开实施例的方法流程的不同动作的单一处理单元或者是多个处理单元。

在RAM 903中,存储有电子设备900操作所需的各种程序和数据。处理器901、ROM902以及RAM 903通过总线904彼此相连。处理器901通过执行ROM 902和/或RAM 903中的程序来执行根据本公开实施例的方法流程的各种操作。需要注意,程序也可以存储在除ROM902和RAM 903以外的一个或多个存储器中。处理器901也可以通过执行存储在一个或多个存储器中的程序来执行根据本公开实施例的方法流程的各种操作。

根据本公开的实施例,电子设备900还可以包括输入/输出(I/O)接口905,输入/输出(I/O)接口905也连接至总线904。电子设备900还可以包括连接至I/O接口905的以下部件中的一项或多项:包括键盘、鼠标等的输入部分906。包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分907。包括硬盘等的存储部分908。以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分909。通信部分909经由诸如因特网的网络执行通信处理。驱动器910也根据需要连接至I/O接口905。可拆卸介质911,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器910上,以便于从其上读出的计算机程序根据需要被安装入存储部分908。

本公开还提供了一种计算机可读存储介质,该计算机可读存储介质可以是上述实施例中描述的设备/装置/系统中所包含的。也可以是单独存在,而未装配入该设备/装置/系统中。上述计算机可读存储介质承载有一个或者多个程序,当上述一个或者多个程序被执行时,实现根据本公开实施例的方法。

根据本公开的实施例,计算机可读存储介质可以是非易失性的计算机可读存储介质,例如可以包括但不限于:便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。例如,根据本公开的实施例,计算机可读存储介质可以包括上文描述的ROM 902和/或RAM 903和/或ROM 902和RAM 903以外的一个或多个存储器。

本公开的实施例还包括一种计算机程序产品,其包括计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。当计算机程序产品在计算机系统中运行时,该程序代码用于使计算机系统实现本公开实施例所提供的方法。

在该计算机程序被处理器901执行时执行本公开实施例的系统/装置中限定的上述功能。根据本公开的实施例,上文描述的系统、装置、模块、单元等可以通过计算机程序模块来实现。

在一种实施例中,该计算机程序可以依托于光存储器件、磁存储器件等有形存储介质。在另一种实施例中,该计算机程序也可以在网络介质上以信号的形式进行传输、分发,并通过通信部分909被下载和安装,和/或从可拆卸介质911被安装。该计算机程序包含的程序代码可以用任何适当的网络介质传输,包括但不限于:无线、有线等等,或者上述的任意合适的组合。

在这样的实施例中,该计算机程序可以通过通信部分909从网络上被下载和安装,和/或从可拆卸介质911被安装。在该计算机程序被处理器901执行时,执行本公开实施例的系统中限定的上述功能。根据本公开的实施例,上文描述的系统、设备、装置、模块、单元等可以通过计算机程序模块来实现。

根据本公开的实施例,可以以一种或多种程序设计语言的任意组合来编写用于执行本公开实施例提供的计算机程序的程序代码,具体地,可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。程序设计语言包括但不限于诸如Java,C++,python,“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中,远程计算设备可以通过任意种类的网络,包括局域网(LAN)或广域网(WAN),连接到用户计算设备,或者,可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。

附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图或流程图中的每个方框、以及框图或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。

本领域技术人员可以理解,本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合或/或结合,即使这样的组合或结合没有明确记载于本公开中。特别地,在不脱离本公开精神和教导的情况下,本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合和/或结合。所有这些组合和/或结合均落入本公开的范围。

以上对本公开的实施例进行了描述。但是,这些实施例仅仅是为了说明的目的,而并非为了限制本公开的范围。尽管在以上分别描述了各实施例,但是这并不意味着各个实施例中的措施不能有利地结合使用。本公开的范围由所附权利要求及其等同物限定。不脱离本公开的范围,本领域技术人员可以做出多种替代和修改,这些替代和修改都应落在本公开的范围之内。

相关技术
  • 医保报销异常检测方法、装置、计算机设备和存储介质
  • 异常检测方法、装置、电子设备及可读存储介质
  • 一种异常检测方法、装置、服务器及存储介质
  • USB集线器、USB设备枚举异常检测方法及计算机存储介质
  • 一种浴室加热装置和用于控制浴室加热装置的方法、设备、电子设备及计算机可读存储介质
  • 模型生成方法、应用界面异常检测方法、装置、终端设备及计算机可读存储介质
  • 应用软件的异常检测方法、装置、设备及存储介质
技术分类

06120116484127