视频片段分类模型构建方法、系统、电子设备及存储介质

技术领域

本发明属于机器学习领域，尤其涉及一种视频片段分类模型构建方法、系统、电子设备及存储介质。

背景技术

在当下一个多媒体技术广泛应用的时代，图像和视频类型的多媒体素材在日常生活中大量涌现，在一些短视频网站，用户会上传大量自己制作的视频，每个视频在不同的片段，会表达着不同的含义，如果模型可以自动的识别一个视频中不同片段分别代表着什么含义，那么对于视频的理解将会更加的深刻，有助于促进视频推荐、视频搜索的发展。

现有技术使用预训练模型提取视频的特征，使用inception来提取视频每一帧的特征，然后对这些特征进行聚合的操作，针对音频特征，也使用预训练模型，比如vggish，来提取音频的特征，并把音频特征与视频特征进行交互，最后使用分类器进行处理。但是针对视频库比较大的情况，如果对所有的视频片段进行分类的话，那么推断的时间会非常长，不方便模型的上线部署；其次，没有考虑标签之间的关系，并且对于类别比较相似的情况下，现有方法的识别效果不佳。

发明内容

本申请实施例提供了一种视频片段分类模型构建方法、系统、电子设备及存储介质，以至少解决现有视频片段分类方法不灵活、且对标签和类别问题考虑欠缺的问题。

第一方面，本申请实施例提供了一种视频片段分类模型构建方法，包括：第一模型训练步骤，获取用于训练的一视频集，并获取所述视频集中的视频的标注数据，根据所述标注数据训练得到一第一模型；训练集预过滤步骤，使用所述第一模型对所述视频集中不符合一预设规则的所述视频进行过滤；视频特征获取步骤，使用一第二模型对过滤后的所述视频集进行预测，获取所述视频集的特征；分类模型构建步骤，根据所述视频集的特征，通过反向传播构建一视频片段分类模型。

优选的，所述视频特征获取步骤包括：第一特征获取步骤，获取所述视频集中所述视频的图像特征和音频特征，并将所述图像特征和所述音频特征进行交互得到一第一特征。

优选的，所述视频特征获取步骤包括：第二特征获取步骤，使用一树模型学习所述视频集中所述视频的所述标注数据之间的关系，并基于所述标注数据之间的关系得到一第二特征。

优选的，所述视频特征获取步骤包括：第三特征获取步骤，计算所述视频集中所述视频的类别余弦距离，并根据所述余弦距离得到一第三特征。

第二方面，本申请实施例提供了一种视频片段分类模型构建系统，适用于上述一种视频片段分类模型构建方法，包括：第一模型训练模块，获取用于训练的一视频集，并获取所述视频集中的视频的标注数据，根据所述标注数据训练得到一第一模型；训练集预过滤模块，使用所述第一模型对所述视频集中不符合一预设规则的所述视频进行过滤；视频特征获取模块，使用一第二模型对过滤后的所述视频集进行预测，获取所述视频集的特征；分类模型构建模块，根据所述视频集的特征，通过反向传播构建一视频片段分类模型。

在其中一些实施例中，所述视频特征获取模块包括：第一特征获取单元，获取所述视频集中所述视频的图像特征和音频特征，并将所述图像特征和所述音频特征进行交互得到一第一特征。

在其中一些实施例中，所述视频特征获取模块包括：第二特征获取单元，使用一树模型学习所述视频集中所述视频的所述标注数据之间的关系，并基于所述标注数据之间的关系得到一第二特征。

在其中一些实施例中，所述视频特征获取模块包括：第三特征获取单元，计算所述视频集中所述视频的类别余弦距离，并根据所述余弦距离得到一第三特征。

第三方面，本申请实施例提供了一种电子设备，包括存储器、处理器以及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现如上述第一方面所述的一种视频片段分类模型构建方法。

第四方面，本申请实施例提供了一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现如上述第一方面所述的一种视频片段分类模型构建方法。

本发明可应用于推荐技术领域。相比于相关技术，本申请实施例提供的一种视频片段分类模型构建方法针对视频的时间片段定位，充分利用原本的视频信息，降低计算的复杂度；通过图神经网络或者机器学习的方法，来学习每个类别之间的权重，加入到模型的特征中；针对一些类别特征比较模糊的情况，扩大不同类别之间的差距，提高模型的效果，增强模型对模糊类别的识别。

附图说明

此处所说明的附图用来提供对本申请的进一步理解，构成本申请的一部分，本申请的示意性实施例及其说明用于解释本申请，并不构成对本申请的不当限定。在附图中：

图1为本发明的视频片段分类模型构建方法流程图；

图2为图1中步骤S3的分步骤流程图；

图3为本发明的视频片段分类模型构建系统的框架图；

图4为本发明的电子设备的框架图；

以上图中：

1、第一模型训练模块；2、训练集预过滤模块；3、视频特征获取模块；4、分类模型构建模块；31、第一特征获取单元；32、第二特征获取单元；33、第三特征获取单元；60、总线；61、处理器；62、存储器；63、通信接口。

具体实施方式

为了使本申请的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本申请进行描述和说明。应当理解，此处所描述的具体实施例仅仅用以解释本申请，并不用于限定本申请。基于本申请提供的实施例，本领域普通技术人员在没有作出创造性劳动的前提下所获得的所有其他实施例，都属于本申请保护的范围。

显而易见地，下面描述中的附图仅仅是本申请的一些示例或实施例，对于本领域的普通技术人员而言，在不付出创造性劳动的前提下，还可以根据这些附图将本申请应用于其他类似情景。此外，还可以理解的是，虽然这种开发过程中所作出的努力可能是复杂并且冗长的，然而对于与本申请公开的内容相关的本领域的普通技术人员而言，在本申请揭露的技术内容的基础上进行的一些设计，制造或者生产等变更只是常规的技术手段，不应当理解为本申请公开的内容不充分。

在本申请中提及“实施例”意味着，结合实施例描述的特定特征、结构或特性可以包含在本申请的至少一个实施例中。在说明书中的各个位置出现该短语并不一定均是指相同的实施例，也不是与其它实施例互斥的独立的或备选的实施例。本领域普通技术人员显式地和隐式地理解的是，本申请所描述的实施例在不冲突的情况下，可以与其它实施例相结合。

除非另作定义，本申请所涉及的技术术语或者科学术语应当为本申请所属技术领域内具有一般技能的人士所理解的通常意义。本申请所涉及的“一”、“一个”、“一种”、“该”等类似词语并不表示数量限制，可表示单数或复数。本申请所涉及的术语“包括”、“包含”、“具有”以及它们任何变形，意图在于覆盖不排他的包含；例如包含了一系列步骤或模块(单元)的过程、方法、系统、产品或设备没有限定于已列出的步骤或单元，而是可以还包括没有列出的步骤或单元，或可以还包括对于这些过程、方法、产品或设备固有的其它步骤或单元。

以下，结合附图详细介绍本发明的实施例：

图1为本发明的视频片段分类模型构建方法流程图，请参见图1，本发明视频片段分类模型构建方法包括如下步骤：

S1：获取用于训练的一视频集，并获取所述视频集中的视频的标注数据，根据所述标注数据训练得到一第一模型。

在具体实施中，确定好用于训练的视频范围，并收集大量的视频级别的标注数据，可选的，可从公开视频网站进行标注数据的爬取，在具体实施中，以视频对应的标签作为标注数据。

在具体实施中，根据获取的标注数据，训练一个视频级别的模型。在具体实施中，使用一预训练模型提取视频特征，并通过局部聚类的方式进行特征的聚合，并将其通过一个分类层获取到该视频级别的模型；可选的，预训练模型包括但不限于inception net、resnet、efficient net。

S2：使用所述第一模型对所述视频集中不符合一预设规则的所述视频进行过滤。

在具体实施中，使用上述训练好的视频级别的模型对视频片段进行过滤。在一般情况下，一个完整的视频会具有一些对应的标签，虽然这些标签并不能完整的表达视频内容，但是大部分的含义可以涵盖。在具体实施中，如果一个视频时间片的标签，不在这个视频原有的标签中，那么存在较大的可能性，这个时间片视频不属于这个标签。因此，本申请实施例首先基于大量的视频标签，训练一个视频级别的模型，当需要计算包含某一类的时间片段都有哪些时，首先使用预训练好的视频级别模型，对所有的视频进行预测，如果预测结果中，某个视频的得分低于阈值，那么本申请实施例就认为这个视频的所有片段都不属于这个类别。

在具体实施中，如果使用视频级别的模型对某一个视频，在一特定类别的推断概率很低的情况下，将该视频完整过滤，包括该视频所包含的所有片段。

S3：使用一第二模型对过滤后的所述视频集进行预测，获取所述视频集的特征。

在具体实施中，在经过过滤之后的视频集上，使用一个片段级别的模型对视频片段进行预测。

可选的，图2为图1中步骤S3的分步骤流程图，请参见图2：

S31：获取所述视频集中所述视频的图像特征和音频特征，并将所述图像特征和所述音频特征进行交互得到一第一特征；

S32：使用一树模型学习所述视频集中所述视频的所述标注数据之间的关系，并基于所述标注数据之间的关系得到一第二特征；

S33：计算所述视频集中所述视频的类别余弦距离，并根据所述余弦距离得到一第三特征。

在具体实施中，使用一预训练模型提取视频中图像的特征和音频的特征，并对图像的特征和音频的特征进行深度的交互，得到第一特征；可选的，预训练模型包括但不限于inception net、vggish、resnet、efficient net；可选的，对于音频特征的提取，可以人工设计一些特征，包括但不限于MFCC、梅尔频谱图。

在具体实施中，为了在模型中加入标签间的关系，采用树模型学习每个标签之间的关系，得到第二特征；可选的，树模型包括但不限于决策树、随机森林。

在具体实施中，针对部分类别差异不明显的问题，采用三元组损失的思想，对于某一类的视频，将其与其他类别的视频计算余弦距离，得到第三特征。

请继续参见图1：

S4：根据所述视频集的特征，通过反向传播构建一视频片段分类模型。

在具体实施中，将第一特征、第二特征、第三特征进行concat操作，同时通过赋予每个特征参数的方式以使模型可动态学习，将concat之后的特征通过一个分类层，得到模型的loss。

在具体实施中，对模型进行反向传播，更新模型参数，以得到最终的模型。

需要说明的是，在上述流程中或者附图的流程图中示出的步骤可以在诸如一组计算机可执行指令的计算机系统中执行，并且，虽然在流程图中示出了逻辑顺序，但是在某些情况下，可以以不同于此处的顺序执行所示出或描述的步骤。

本申请实施例提供了一种视频片段分类模型构建系统，适用于上述的一种视频片段分类模型构建方法。如以下所使用的，术语“单元”、“模块”等可以实现预定功能的软件和/或硬件的组合。尽管以下实施例所描述的装置较佳地以软件来实现，但是硬件、或者软件和硬件的组合的实现也是可能并被构想的。

图3为根据本发明的视频片段分类模型构建系统的框架图，请参见图3，包括：

第一模型训练模块1：获取用于训练的一视频集，并获取所述视频集中的视频的标注数据，根据所述标注数据训练得到一第一模型。

在具体实施中，确定好用于训练的视频范围，并收集大量的视频级别的标注数据，可选的，可从公开视频网站进行标注数据的爬取，在具体实施中，以视频对应的标签作为标注数据。

在具体实施中，根据获取的标注数据，训练一个视频级别的模型。在具体实施中，使用一预训练模型提取视频特征，并通过局部聚类的方式进行特征的聚合，并将其通过一个分类层获取到该视频级别的模型；可选的，预训练模型包括但不限于inception net、resnet、efficient net。

训练集预过滤模块2：使用所述第一模型对所述视频集中不符合一预设规则的所述视频进行过滤。

在具体实施中，使用上述训练好的视频级别的模型对视频片段进行过滤。在一般情况下，一个完整的视频会具有一些对应的标签，虽然这些标签并不能完整的表达视频内容，但是大部分的含义可以涵盖。在具体实施中，如果一个视频时间片的标签，不在这个视频原有的标签中，那么存在较大的可能性，这个时间片视频不属于这个标签。因此，本申请实施例首先基于大量的视频标签，训练一个视频级别的模型，当需要计算包含某一类的时间片段都有哪些时，首先使用预训练好的视频级别模型，对所有的视频进行预测，如果预测结果中，某个视频的得分低于阈值，那么本申请实施例就认为这个视频的所有片段都不属于这个类别。

在具体实施中，如果使用视频级别的模型对某一个视频，在一特定类别的推断概率很低的情况下，将该视频完整过滤，包括该视频所包含的所有片段。

视频特征获取模块3：使用一第二模型对过滤后的所述视频集进行预测，获取所述视频集的特征。

在具体实施中，在经过过滤之后的视频集上，使用一个片段级别的模型对视频片段进行预测。

可选的，视频特征获取模块3进一步包括：

第一特征获取单元31：获取所述视频集中所述视频的图像特征和音频特征，并将所述图像特征和所述音频特征进行交互得到一第一特征；

第二特征获取单元32：使用一树模型学习所述视频集中所述视频的所述标注数据之间的关系，并基于所述标注数据之间的关系得到一第二特征；

第三特征获取单元33：计算所述视频集中所述视频的类别余弦距离，并根据所述余弦距离得到一第三特征。

在具体实施中，使用一预训练模型提取视频中图像的特征和音频的特征，并对图像的特征和音频的特征进行深度的交互，得到第一特征；可选的，预训练模型包括但不限于inception net、vggish、resnet、efficient net；可选的，对于音频特征的提取，可以人工设计一些特征，包括但不限于MFCC、梅尔频谱图。

在具体实施中，为了在模型中加入标签间的关系，采用树模型学习每个标签之间的关系，得到第二特征；可选的，树模型包括但不限于决策树、随机森林。

在具体实施中，针对部分类别差异不明显的问题，采用三元组损失的思想，对于某一类的视频，将其与其他类别的视频计算余弦距离，得到第三特征。

分类模型构建模块4：根据所述视频集的特征，通过反向传播构建一视频片段分类模型。

在具体实施中，将第一特征、第二特征、第三特征进行concat操作，同时通过赋予每个特征参数的方式以使模型可动态学习，将concat之后的特征通过一个分类层，得到模型的loss。

在具体实施中，对模型进行反向传播，更新模型参数，以得到最终的模型。

另外，结合图1描述的一种视频片段分类模型构建方法可以由电子设备来实现。图4为本发明的电子设备的框架图。

电子设备可以包括处理器61以及存储有计算机程序指令的存储器62。

具体地，上述处理器61可以包括中央处理器(CPU)，或者特定集成电路(Application Specific Integrated Circuit，简称为ASIC)，或者可以被配置成实施本申请实施例的一个或多个集成电路。

其中，存储器62可以包括用于数据或指令的大容量存储器。举例来说而非限制，存储器62可包括硬盘驱动器(Hard Disk Drive，简称为HDD)、软盘驱动器、固态驱动器(SolidState Drive，简称为SSD)、闪存、光盘、磁光盘、磁带或通用串行总线(Universal SerialBus，简称为USB)驱动器或者两个或更多个以上这些的组合。在合适的情况下，存储器62可包括可移除或不可移除(或固定)的介质。在合适的情况下，存储器62可在数据处理装置的内部或外部。在特定实施例中，存储器62是非易失性(Non-Volatile)存储器。在特定实施例中，存储器62包括只读存储器(Read-Only Memory，简称为ROM)和随机存取存储器(RandomAccess Memory，简称为RAM)。在合适的情况下，该ROM可以是掩模编程的ROM、可编程ROM(Programmable Read-Only Memory，简称为PROM)、可擦除PROM(Erasable ProgrammableRead-Only Memory，简称为EPROM)、电可擦除PROM(Electrically Erasable ProgrammableRead-Only Memory，简称为EEPROM)、电可改写ROM(Electrically Alterable Read-OnlyMemory，简称为EAROM)或闪存(FLASH)或者两个或更多个以上这些的组合。在合适的情况下，该RAM可以是静态随机存取存储器(Static Random-Access Memory，简称为SRAM)或动态随机存取存储器(Dynamic Random Access Memory，简称为DRAM)，其中，DRAM可以是快速页模式动态随机存取存储器(Fast Page Mode Dynamic Random Access Memory，简称为FPMDRAM)、扩展数据输出动态随机存取存储器(Extended Date Out Dynamic RandomAccess Memory，简称为EDODRAM)、同步动态随机存取内存(Synchronous Dynamic Random-Access Memory，简称SDRAM)等。

存储器62可以用来存储或者缓存需要处理和/或通信使用的各种数据文件，以及处理器61所执行的可能的计算机程序指令。

处理器61通过读取并执行存储器62中存储的计算机程序指令，以实现上述实施例中的任意一种视频片段分类模型构建方法。

在其中一些实施例中，电子设备还可包括通信接口63和总线60。其中，如图4所示，处理器61、存储器62、通信接口63通过总线60连接并完成相互间的通信。

通信端口63可以实现与其他部件例如：外接设备、图像/数据采集设备、数据库、外部存储以及图像/数据处理工作站等之间进行数据通信。

总线60包括硬件、软件或两者，将电子设备的部件彼此耦接在一起。总线60包括但不限于以下至少之一：数据总线(Data Bus)、地址总线(Address Bus)、控制总线(ControlBus)、扩展总线(Expansion Bus)、局部总线(Local Bus)。举例来说而非限制，总线60可包括图形加速接口(Accelerated Graphics Port，简称为AGP)或其他图形总线、增强工业标准架构(Extended Industry Standard Architecture，简称为EISA)总线、前端总线(FrontSide Bus，简称为FSB)、超传输(Hyper Transport，简称为HT)互连、工业标准架构(Industry Standard Architecture，简称为ISA)总线、无线带宽(InfiniBand)互连、低引脚数(Low Pin Count，简称为LPC)总线、存储器总线、微信道架构(Micro ChannelArchitecture，简称为MCA)总线、外围组件互连(Peripheral Component Interconnect，简称为PCI)总线、PCI-Express(PCI-X)总线、串行高级技术附件(Serial AdvancedTechnology Attachment，简称为SATA)总线、视频电子标准协会局部(Video ElectronicsStandards Association Local Bus，简称为VLB)总线或其他合适的总线或者两个或更多个以上这些的组合。在合适的情况下，总线60可包括一个或多个总线。尽管本申请实施例描述和示出了特定的总线，但本申请考虑任何合适的总线或互连。

该电子设备可以执行本申请实施例中的一种视频片段分类模型构建方法。

另外，结合上述实施例中的一种视频片段分类模型构建方法，本申请实施例可提供一种计算机可读存储介质来实现。该计算机可读存储介质上存储有计算机程序指令；该计算机程序指令被处理器执行时实现上述实施例中的任意一种视频片段分类模型构建方法。

而前述的存储介质包括：U盘、移动硬盘、只读存储器(ReadOnly Memory，简称为ROM)、随机存取存储器(Random Access Memory，简称为RAM)、磁碟或者光盘等各种可以存储程序代码的介质。

以上所述实施例的各技术特征可以进行任意的组合，为使描述简洁，未对上述实施例中的各个技术特征所有可能的组合都进行描述，然而，只要这些技术特征的组合不存在矛盾，都应当认为是本说明书记载的范围。

以上所述实施例仅表达了本申请的几种实施方式，其描述较为具体和详细，但并不能因此而理解为对发明专利范围的限制。应当指出的是，对于本领域的普通技术人员来说，在不脱离本申请构思的前提下，还可以做出若干变形和改进，这些都属于本申请的保护范围。因此，本申请专利的保护范围应以所附权利要求为准。