掌桥专利:专业的专利平台
掌桥专利
首页

用信号通知用于跳过和合并模式的多假设的方法和装置、以及用信号通知具有运动矢量差的合并中的距离偏移表的方法和装置

文献发布时间:2023-06-19 10:58:46


用信号通知用于跳过和合并模式的多假设的方法和装置、以及用信号通知具有运动矢量差的合并中的距离偏移表的方法和装置

通过引用并入本文

本公开要求于2019年12月13日提交的、申请号为16/713,490、名称为“用信号通知用于跳过和合并模式的多假设的方法和装置、以及用信号通知具有运动矢量差的合并中的距离偏移表的方法和装置”的美国非临时申请、于2018年12月13日提交的、申请号为62/779,407、名称为“用信号通知用于跳过/合并模式的多假设的方法”的美国临时申请、以及于2018年12月20日提交的、申请号为62/782,848、名称为“用信号通知具有运动矢量差的合并中的距离偏移表的方法”的美国临时申请的优先权,其全部内容通过引用合并于此。

技术领域

本公开描述总体上涉及视频编解码的实施例。

背景技术

本文所提供的背景描述旨在总体上呈现本公开的背景。在背景技术部分以及本说明书的各个方面中所描述的目前已署名的发明人的工作所进行的程度,并不表明其在本公开提交时作为现有技术,且从未明示或暗示其被承认为本公开的现有技术。

可以使用具有运动补偿的帧间图片预测技术来执行视频编码和解码。未压缩的数字视频可以包括一系列图片,每个图片具有例如1920×1080亮度样本及相关色度样本的空间维度。所述系列图片可以具有固定的或可变的图片速率(也非正式地称为帧率),例如每秒60张图片或60Hz。未压缩的视频具有很高的比特率要求。例如,每个样本8比特的1080p604:2:0视频(60Hz帧率下1920x1080亮度样本分辨率)要求接近1.5Gbit/s带宽。一小时这样的视频就需要超过600GB的存储空间。

视频编码和解码的一个目的是通过压缩减少输入视频信号的冗余。压缩可以帮助降低对上述带宽或存储空间的要求,在某些情况下可降低两个或更多数量级。无损压缩和有损压缩,以及两者的组合均可采用。无损压缩是指从压缩的原始信号中重建原始信号精确副本的技术。当使用有损压缩时,重建信号可能与原始信号不完全相同,但是原始信号和重建信号之间的失真足够小,使得重建信号可用于预期应用。有损压缩广泛应用于视频。容许的失真量取决于应用。例如,相比于电视应用的用户,某些消费流媒体应用的用户可以容忍更高的失真。可实现的压缩比反映出:较高的允许/容许失真可产生较高的压缩比。

运动补偿可以是一种有损压缩技术,且可涉及如下技术:来自先前重建的图片或重建图片一部分(参考图片)的样本数据块在空间上按运动矢量(下文称为MV)指示的方向移位后,用于新重建的图片或图片部分的预测。在某些情况下,参考图片可与当前正在重建的图片相同。MV可具有两个维度X和Y,或者三个维度,其中第三个维度表示正在使用的参考图片(后者间接地可以是时间维度)。

在一些视频压缩技术中,应用于样本数据的某个区域的MV可根据其它MV来预测,例如根据与正在重建的区域空间相邻的样本数据的另一个区域相关的、且按解码顺序在该MV前面的那些MV。这样做可以大大减少编解码MV所需的数据量,从而消除冗余并增加压缩量。MV预测可以有效地进行,例如,因为在对从相机导出的输入视频信号(称为自然视频)进行编解码时,存在一种统计上的可能性,即面积大于单个MV适用区域的区域,会朝着类似的方向移动,因此,在某些情况下,可以使用从相邻区域的MV导出的相似运动矢量进行预测。这导致针对给定区域发现的MV与根据周围MV预测的MV相似或相同,并且在熵编解码之后,又可以用比直接编解码MV时使用的比特数更少的比特数来表示。在某些情况下,MV预测可以是对从原始信号(即样本流)导出的信号(即MV)进行无损压缩的示例。在其它情况下,例如由于根据几个周围MV计算预测值时产生的取整误差,MV预测本身可能是有损的。

H.265/HEVC(ITU-T H.265建议书,“高效视频编解码”,2016年12月)描述了各种MV预测机制。在H.265提供的多种MV预测机制中,本公开描述的是下文称为“空间合并”的技术。

参照图1,当前块(101)包括编码器在运动搜索过程中发现的样本,所述样本可以根据已在空间上移位的相同大小的先前块进行预测。不直接对MV进行编解码,而是使用与五个周围样本中的任何一个相关联的MV,从与一个或多个参考图片相关联的元数据中导出该MV,例如,从最近的(按解码顺序)参考图片中导出该MV。其中,五个周围样本分别用A0、A1和B0、B1、B2(分别为102到106)表示。在H.265中,MV预测可使用相邻块正在使用的同一参考图片的预测值。

发明内容

根据示例性实施例,一种在视频解码器中执行的视频解码的方法包括:接收包括当前块的信令信息的已编码视频比特流。所述方法进一步包括:基于所述信令信息确定所述当前块的块重建信息。所述方法进一步包括:使用所述确定的块重建信息重建所述当前块。

根据示例性实施例,一种用于视频解码的视频解码器包括处理电路,所述处理电路被配置为:接收包括当前块的信令信息的已编码视频比特流。所述处理电路进一步被配置为:基于所述信令信息确定所述当前块的块重建信息。所述处理电路进一步被配置为:使用所述确定的块重建信息重建所述当前块。

根据示例性实施例,一种非易失性计算机可读介质,用于存储指令,当所述指令由视频解码器中的处理器执行时,使得所述处理器执行一种方法,包括:接收包括当前块的信令信息的已编码视频比特流;基于所述信令信息确定所述当前块的块重建信息;以及使用所述确定的块重建信息重建所述当前块。

附图说明

根据以下详细描述和附图,所公开的主题的其他特征、性质和各种优点将进一步明确,

其中:

图1是一个示例中的当前块及其周围的空间合并候选的示意图。

图2是根据实施例的通信系统(200)的简化框图的示意图。

图3是根据实施例的通信系统(300)的简化框图的示意图。

图4是根据实施例的解码器的简化框图的示意图。

图5是根据实施例的编码器的简化框图的示意图。

图6示出了根据另一实施例的编码器的框图。

图7示出了根据另一实施例的解码器的框图。

图8是根据实施例的控制点运动矢量继承的示意图。

图9是根据实施例的用于构造的仿射合并模式的候选位置的位置示意图。

图10是根据实施例的基于子块的时间MV预测(SbTMVP)所使用的空间相邻块的示意图。

图11是根据实施例的导出子CU运动场的示意图。

图12A是用于基于历史的MV预测(HMVP)缓冲器的解码流程图的示意图。

图12B是更新HMVP缓冲器的示意图。

图13是根据实施例的应用了加权因子的块的示意图。

图14是根据实施例的基于具有运动矢量差(MMVD)的合并模式中的合并候选的运动矢量,确定与两个参考图片列表相关联的两个参考图片处的起点的示意图。

图15是根据实施例的要在MMVD模式下被评估的、两个起点周围的预定点的示意图。

图16是根据实施例的方向表选择的示意图。

图17是根据实施例的示例解码过程的示意图。

图18是根据本公开实施例的计算机系统的示意图。

具体实施方式

图2示出了根据本公开实施例的通信系统(200)的简化框图。通信系统(200)包括多个终端装置,所述终端装置可通过例如网络(250)彼此通信。举例来说,通信系统(200)包括通过网络(250)互连的第一对终端装置(210)和(220)。在图2的实施例中,第一对终端装置(210)和(220)执行单向数据传输。举例来说,终端装置(210)可对视频数据(例如由终端装置(210)采集的视频图片流)进行编码以通过网络(250)传输到另一终端装置(220)。已编码的视频数据以一个或多个已编码视频码流形式传输。终端装置(220)可从网络(250)接收已编码视频数据,对已编码视频数据进行解码以恢复视频数据,并根据恢复的视频数据显示视频图片。单向数据传输在媒体服务等应用中是较常见的。

在另一实施例中,通信系统(200)包括执行已编码视频数据的双向传输的第二对终端装置(230)和(240),所述双向传输可例如在视频会议期间发生。对于双向数据传输,在一个示例中,终端装置(230)和(240)中的每个终端装置可对视频数据(例如由终端装置采集的视频图片流)进行编码,以通过网络(250)传输到终端装置(230)和(240)中的另一终端装置。终端装置(230)和(240)中的每个终端装置还可接收由终端装置(230)和(240)中的另一终端装置传输的已编码视频数据,且可对所述已编码视频数据进行解码以恢复视频数据,且可根据恢复的视频数据在可访问的显示装置上显示视频图片。

在图2的实施例中,终端装置(210)、(220)、(230)和(240)可为服务器、个人计算机和智能电话,但本公开的原理可不限于此。本公开的实施例适用于膝上型计算机、平板电脑、媒体播放器和/或专用视频会议设备。网络(250)表示在终端装置(210)、(220)、(230)和(240)之间传送已编码视频数据的任何数目的网络,包括例如有线(连线的)和/或无线通信网络。通信网络(250)可在电路交换和/或分组交换信道中交换数据。该网络可包括电信网络、局域网、广域网和/或互联网。出于本公开的目的,除非在下文中有所解释,否则网络(250)的架构和拓扑对于本公开的操作来说可能是无关紧要的。

作为所公开的主题的实施例,图3示出了视频编码器和视频解码器在流式传输环境中的放置方式。所公开主题可同等地适用于其它支持视频的应用,包括例如视频会议、数字TV、在包括CD、DVD、存储棒等的数字介质上存储压缩视频等等。

流式传输系统可包括采集子系统(313),所述采集子系统可包括数码相机等视频源(301),所述视频源创建未压缩的视频图片流(302)。在实施例中,视频图片流(302)包括由数码相机拍摄的样本。相较于已编码的视频数据(304)(或已编码的视频码流),视频图片流(302)被描绘为粗线以强调高数据量的视频图片流,视频图片流(302)可由电子装置(320)处理,所述电子装置(320)包括耦接到视频源(301)的视频编码器(303)。视频编码器(303)可包括硬件、软件或软硬件组合以实现或实施如下文更详细地描述的所公开主题的各方面。相较于视频图片流(302),已编码的视频数据(304)(或已编码的视频码流(304))被描绘为细线以强调较低数据量的已编码的视频数据(304)(或已编码的视频码流(304)),其可存储在流式传输服务器(305)上以供将来使用。一个或多个流式传输客户端子系统,例如图3中的客户端子系统(306)和客户端子系统(308),可访问流式传输服务器(305)以检索已编码的视频数据(304)的副本(307)和副本(309)。客户端子系统(306)可包括例如电子装置(330)中的视频解码器(310)。视频解码器(310)对已编码的视频数据的传入副本(307)进行解码,且产生可在显示器(312)(例如显示屏)或另一呈现装置(未描绘)上呈现的输出视频图片流(311)。在一些流式传输系统中,可根据某些视频编码/压缩标准对已编码的视频数据(304)、视频数据(307)和视频数据(309)(例如视频码流)进行编码。该些标准的实施例包括ITU-TH.265。在实施例中,正在开发的视频编解码标准非正式地称为通用视频编解码(Versatile Video Coding,VVC),所公开的主题可用于VVC标准的上下文中。

应注意,电子装置(320)和电子装置(330)可包括其它组件(未示出)。举例来说,电子装置(320)可包括视频解码器(未示出),且电子装置(330)还可包括视频编码器(未示出)。

图4示出了根据本公开实施例的视频解码器(410)的框图。视频解码器(410)可设置在电子装置(430)中。电子装置(430)可包括接收器(431)(例如接收电路)。视频解码器(410)可用于代替图3实施例中的视频解码器(310)。

接收器(431)可接收将由视频解码器(410)解码的一个或多个已编码视频序列;在同一实施例或另一实施例中,一次接收一个已编码视频序列,其中每个已编码视频序列的解码独立于其它已编码视频序列。可从信道(401)接收已编码视频序列,所述信道可以是通向存储已编码的视频数据的存储装置的硬件/软件链路。接收器(431)可接收已编码的视频数据以及其它数据,例如,可转发到它们各自的使用实体(未标示)的已编码音频数据和/或辅助数据流。接收器(431)可将已编码视频序列与其它数据分开。为了防止网络抖动,缓冲存储器(415)可耦接在接收器(431)与熵解码器/解析器(420)(此后称为“解析器(420)”)之间。在某些应用中,缓冲存储器(415)是视频解码器(410)的一部分。在其它情况下,所述缓冲存储器(415)可设置在视频解码器(410)外部(未标示)。而在其它情况下,视频解码器(410)的外部设置缓冲存储器(未标示)以例如防止网络抖动,且在视频解码器(410)的内部可配置另一缓冲存储器(415)以例如处理播出定时。而当接收器(431)从具有足够带宽和可控性的存储/转发装置或从等时同步网络接收数据时,也可能不需要配置缓冲存储器(415),或可以将所述缓冲存储器做得较小。当然,为了在互联网等业务分组网络上使用,也可能需要缓冲存储器(415),所述缓冲存储器可相对较大且可具有自适应性大小,且可至少部分地实施于操作系统或视频解码器(410)外部的类似元件(未标示)中。

视频解码器(410)可包括解析器(420)以根据已编码视频序列重建符号(421)。这些符号的类别包括用于管理视频解码器(410)的操作的信息,以及用以控制显示装置(412)(例如,显示屏)等显示装置的潜在信息,所述显示装置不是电子装置(430)的组成部分,但可耦接到电子装置(430),如图4中所示。用于显示装置的控制信息可以是辅助增强信息(Supplemental Enhancement Information,SEI消息)或视频可用性信息(VideoUsability Information,VUI)的参数集片段(未标示)。解析器(420)可对接收到的已编码视频序列进行解析/熵解码。已编码视频序列的编码可根据视频编码技术或标准进行,且可遵循各种原理,包括可变长度编码、霍夫曼编码(Huffman coding)、具有或不具有上下文灵敏度的算术编码等等。解析器(420)可基于对应于群组的至少一个参数,从已编码视频序列提取用于视频解码器中的像素的子群中的至少一个子群的子群参数集。子群可包括图片群组(Group of Pictures,GOP)、图片、图块、切片、宏块、编码单元(Coding Unit,CU)、块、变换单元(Transform Unit,TU)、预测单元(Prediction Unit,PU)等等。解析器(420)还可从已编码视频序列提取信息,例如变换系数、量化器参数值、运动矢量等等。

解析器(420)可对从缓冲存储器(415)接收的视频序列执行熵解码/解析操作,从而创建符号(421)。

取决于已编码视频图片或一部分已编码视频图片(例如:帧间图片和帧内图片、帧间块和帧内块)的类型以及其它因素,符号(421)的重建可涉及多个不同单元。涉及哪些单元以及涉及方式可由解析器(420)从已编码视频序列解析的子群控制信息控制。为了简洁起见,未描述解析器(420)与下文的多个单元之间的此类子群控制信息流。

除已经提及的功能块以外,视频解码器(410)可在概念上细分成如下文所描述的数个功能单元。在商业约束下运行的实际实施例中,这些单元中的许多单元彼此紧密交互并且可以彼此集成。然而,出于描述所公开主题的目的,概念上细分成下文的功能单元是适当的。

第一单元是缩放器/逆变换单元(451)。缩放器/逆变换单元(451)从解析器(420)接收作为符号(421)的量化变换系数以及控制信息,包括使用哪种变换方式、块大小、量化因子、量化缩放矩阵等。缩放器/逆变换单元(451)可输出包括样本值的块,所述样本值可输入到聚合器(455)中。

在一些情况下,缩放器/逆变换单元(451)的输出样本可属于帧内编码块;即:不使用来自先前重建的图片的预测性信息,但可使用来自当前图片的先前重建部分的预测性信息的块。此类预测性信息可由帧内图片预测单元(452)提供。在一些情况下,帧内图片预测单元(452)采用从当前图片缓冲器(458)提取的已重建信息生成大小和形状与正在重建的块相同的周围块。举例来说,当前图片缓冲器(458)缓冲部分重建的当前图片和/或完全重建的当前图片。在一些情况下,聚合器(455)基于每个样本,将帧内预测单元(452)生成的预测信息添加到由缩放器/逆变换单元(451)提供的输出样本信息中。

在其它情况下,缩放器/逆变换单元(451)的输出样本可属于帧间编码和潜在运动补偿块。在此情况下,运动补偿预测单元(453)可访问参考图片存储器(457)以提取用于预测的样本。在根据符号(421)对提取的样本进行运动补偿之后,这些样本可由聚合器(455)添加到缩放器/逆变换单元(451)的输出(在这种情况下被称作残差样本或残差信号),从而生成输出样本信息。运动补偿预测单元(453)从参考图片存储器(457)内的地址获取预测样本可受到运动矢量控制,且所述运动矢量以所述符号(421)的形式而供运动补偿预测单元(453)使用,所述符号(421)例如是包括X、Y和参考图片分量。运动补偿还可包括在使用子样本精确运动矢量时,从参考图片存储器(457)提取的样本值的内插、运动矢量预测机制等等。

聚合器(455)的输出样本可在环路滤波器单元(456)中被各种环路滤波技术采用。视频压缩技术可包括环路内滤波器技术,所述环路内滤波器技术受控于包括在已编码视频序列(也称作已编码视频码流)中的参数,且所述参数作为来自解析器(420)的符号(421)可用于环路滤波器单元(456)。然而,在其他实施例中,视频压缩技术还可响应于在解码已编码图片或已编码视频序列的先前(按解码次序)部分期间获得的元信息,以及响应于先前重建且经过环路滤波的样本值。

环路滤波器单元(456)的输出可以是样本流,所述样本流可输出到显示装置(412)以及存储在参考图片存储器(457),以用于后续的帧间图片预测。

一旦完全重建,某些已编码图片就可用作参考图片以用于将来预测。举例来说,一旦对应于当前图片的已编码图片被完全重建,且已编码图片(通过例如解析器(420))被识别为参考图片,则当前图片缓冲器(458)可变为参考图片存储器(457)的一部分,且可在开始重建后续已编码图片之前重新分配新的当前图片缓冲器。

视频解码器(410)可根据例如ITU-T H.265标准中的预定视频压缩技术执行解码操作。在已编码视频序列遵循视频压缩技术或标准的语法以及视频压缩技术或标准中记录的配置文件的意义上,已编码视频序列可符合所使用的视频压缩技术或标准指定的语法。具体地说,配置文件可从视频压缩技术或标准中可用的所有工具中选择某些工具作为在所述配置文件下可供使用的仅有工具。对于合规性,还要求已编码视频序列的复杂度处于视频压缩技术或标准的层级所限定的范围内。在一些情况下,层级限制最大图片大小、最大帧率、最大重建取样率(以例如每秒兆(mega)个样本为单位进行测量)、最大参考图片大小等。在一些情况下,由层级设定的限制可通过假想参考解码器(Hypothetical ReferenceDecoder,HRD)规范和在已编码视频序列中用信号表示的HRD缓冲器管理的元数据来进一步限定。

在实施例中,接收器(431)可连同已编码视频一起接收附加(冗余)数据。所述附加数据可以是已编码视频序列的一部分。所述附加数据可由视频解码器(410)用以对数据进行适当解码和/或较准确地重建原始视频数据。附加数据可呈例如时间、空间或信噪比(signal noise ratio,SNR)增强层、冗余切片、冗余图片、前向纠错码等形式。

图5示出了根据本公开实施例的视频编码器(503)的框图。视频编码器(503)设置于电子装置(520)中。电子装置(520)包括传输器(540)(例如传输电路)。视频编码器(503)可用于代替图3实施例中的视频编码器(303)。

视频编码器(503)可从视频源(501)(并非图5实施例中的电子装置(520)的一部分)接收视频样本,所述视频源可采集将由视频编码器(503)编码的视频图像。在另一实施例中,视频源(501)是电子装置(520)的一部分。

视频源(501)可提供将由视频编码器(503)编码的呈数字视频样本流形式的源视频序列,所述数字视频样本流可具有任何合适位深度(例如:8位、10位、12位……)、任何色彩空间(例如BT.601Y CrCB、RGB……)和任何合适取样结构(例如Y CrCb 4:2:0、Y CrCb 4:4:4)。在媒体服务系统中,视频源(501)可以是存储先前已准备的视频的存储装置。在视频会议系统中,视频源(501)可以是采集本地图像信息作为视频序列的相机。可将视频数据提供为多个单独的图片,当按顺序观看时,这些图片被赋予运动。图片自身可构建为空间像素阵列,其中取决于所用的取样结构、色彩空间等,每个像素可包括一个或多个样本。所属领域的技术人员可以很容易理解像素与样本之间的关系。下文侧重于描述样本。

根据实施例,视频编码器(503)可实时或在由应用所要求的任何其它时间约束下,将源视频序列的图片编码且压缩成已编码视频序列(543)。施行适当的编码速度是控制器(550)的一个功能。在一些实施例中,控制器(550)控制如下文所描述的其它功能单元且在功能上耦接到这些单元。为了简洁起见,图中未标示耦接。由控制器(550)设置的参数可包括速率控制相关参数(图片跳过、量化器、率失真优化技术的λ值等)、图片大小、图片群组(group of pictures,GOP)布局,最大运动矢量搜索范围等。控制器(550)可用于具有其它合适的功能,这些功能涉及针对某一系统设计优化的视频编码器(503)。

在一些实施例中,视频编码器(503)在编码环路中进行操作。作为简单的描述,在实施例中,编码环路可包括源编码器(530)(例如,负责基于待编码的输入图片和参考图片创建符号,例如符号流)和嵌入于视频编码器(503)中的(本地)解码器(533)。解码器(533)以类似于(远程)解码器创建样本数据的方式重建符号以创建样本数据(因为在公开的主题中所考虑的视频压缩技术中,符号与已编码视频码流之间的任何压缩是无损的)。将重建的样本流(样本数据)输入到参考图片存储器(534)。由于符号流的解码产生与解码器位置(本地或远程)无关的位精确结果,因此参考图片存储器(534)中的内容在本地编码器与远程编码器之间也是按比特位精确对应的。换句话说,编码器的预测部分“看到”的参考图片样本与解码器将在解码期间使用预测时所“看到”的样本值完全相同。这种参考图片同步性基本原理(以及在例如因信道误差而无法维持同步性的情况下产生的漂移)也用于一些相关技术。

“本地”解码器(533)的操作可与例如已在上文结合图4详细描述视频解码器(410)的“远程”解码器相同。然而,另外简要参考图4,当符号可用且熵编码器(545)和解析器(420)能够无损地将符号编码/解码为已编码视频序列时,包括缓冲存储器(415)和解析器(420)在内的视频解码器(410)的熵解码部分,可能无法完全在本地解码器(533)中实施。

此时可以观察到,除存在于解码器中的解析/熵解码之外的任何解码器技术,也必定以基本上相同的功能形式存在于对应的编码器中。出于此原因,所公开的主题侧重于解码器操作。可简化编码器技术的描述,因为编码器技术与全面地描述的解码器技术互逆。仅在某些区域中需要更详细的描述,并且在下文提供。

在操作期间,在一些实施例中,源编码器(530)可执行运动补偿预测编码。参考来自视频序列中被指定为“参考图片”的一个或多个先前已编码图片,所述运动补偿预测编码对输入图片进行预测性编码。以此方式,编码引擎(532)对输入图片的像素块与参考图片的像素块之间的差异进行编码,所述参考图片可被选作所述输入图片的预测参考。

本地视频解码器(533)可基于源编码器(530)创建的符号,对可指定为参考图片的已编码视频数据进行解码。编码引擎(532)的操作可为有损过程。当已编码视频数据可在视频解码器(图5中未示)处被解码时,重建的视频序列通常可以是带有一些误差的源视频序列的副本。本地视频解码器(533)复制解码过程,所述解码过程可由视频解码器对参考图片执行,且可使重建的参考图片存储在参考图片高速缓存(534)中。以此方式,视频编码器(503)可在本地存储重建的参考图片的副本,所述副本与将由远端视频解码器获得的重建参考图片具有共同内容(不存在传输误差)。

预测器(535)可针对编码引擎(532)执行预测搜索。即,对于将要编码的新图片,预测器(535)可在参考图片存储器(534)中搜索可作为所述新图片的适当预测参考的样本数据(作为候选参考像素块)或某些元数据,例如参考图片运动矢量、块形状等。预测器(535)可基于样本块逐像素块操作,以找到合适的预测参考。在一些情况下,根据预测器(535)获得的搜索结果,可确定输入图片可具有从参考图片存储器(534)中存储的多个参考图片取得的预测参考。

控制器(550)可管理源编码器(530)的编码操作,包括例如设置用于对视频数据进行编码的参数和子群参数。

可在熵编码器(545)中对所有上述功能单元的输出进行熵编码。熵编码器(545)根据诸如霍夫曼编码、可变长度编码、算术编码等技术对各种功能单元生成的符号进行无损压缩,从而将所述符号转换成已编码视频序列。

传输器(540)可缓冲由熵编码器(545)创建的已编码视频序列,从而为通过通信信道(560)进行传输做准备,所述通信信道可以是通向将存储已编码的视频数据的存储装置的硬件/软件链路。传输器(540)可将来自视频编码器(503)的已编码视频数据与要传输的其它数据合并,所述其它数据例如是已编码音频数据和/或辅助数据流(未示出来源)。

控制器(550)可管理视频编码器(503)的操作。在编码期间,控制器(550)可以为每个已编码图片分配某一已编码图片类型,但这可能影响可应用于相应的图片的编码技术。例如,通常可将图片分配为以下任一种图片类型:

帧内图片(I图片),其可以是不将序列中的任何其它图片用作预测源就可被编码和解码的图片。一些视频编解码器容许不同类型的帧内图片,包括例如独立解码器刷新(Independent Decoder Refresh,“IDR”)图片。所属领域的技术人员了解I图片的变体及其相应的应用和特征。

预测性图片(P图片),其可以是可使用帧内预测或帧间预测进行编码和解码的图片,所述帧内预测或帧间预测使用至多一个运动矢量和参考索引来预测每个块的样本值。

双向预测性图片(B图片),其可以是可使用帧内预测或帧间预测进行编码和解码的图片,所述帧内预测或帧间预测使用至多两个运动矢量和参考索引来预测每个块的样本值。类似地,多个预测性图片可使用多于两个参考图片和相关联元数据以用于重建单个块。

源图片通常可在空间上细分成多个样本块(例如,4×4、8×8、4×8或16×16个样本的块),且逐块进行编码。这些块可参考其它(已编码)块进行预测编码,根据应用于块的相应图片的编码分配来确定所述其它块。举例来说,I图片的块可进行非预测编码,或所述块可参考同一图片的已经编码的块来进行预测编码(空间预测或帧内预测)。P图片的像素块可参考一个先前编码的参考图片通过空间预测或通过时域预测进行预测编码。B图片的块可参考一个或两个先前编码的参考图片通过空间预测或通过时域预测进行预测编码。

视频编码器(503)可根据例如ITU-T H.265建议书的预定视频编码技术或标准执行编码操作。在操作中,视频编码器(503)可执行各种压缩操作,包括利用输入视频序列中的时间和空间冗余的预测编码操作。因此,已编码视频数据可符合所用视频编码技术或标准指定的语法。

在实施例中,传输器(540)可在传输已编码的视频时传输附加数据。源编码器(530)可将此类数据作为已编码视频序列的一部分。附加数据可包括时间/空间/SNR增强层、冗余图片和切片等其它形式的冗余数据、补充增强信息(SEI)消息、视觉可用性信息(VUI)参数集片段等。

采集到的视频可作为呈时间序列的多个源图片(视频图片)。帧内图片预测(常常简化为帧内预测)利用给定图片中的空间相关性,而帧间图片预测则利用图片之间的(时间或其它)相关性。在实施例中,将正在编码/解码的特定图片分割成块,正在编码/解码的特定图片被称作当前图片。在当前图片中的块类似于视频中先前已编码且仍被缓冲的参考图片中的参考块时,可通过称作运动矢量的矢量对当前图片中的块进行编码。所述运动矢量指向参考图片中的参考块,且在使用多个参考图片的情况下,所述运动矢量可具有识别参考图片的第三维度。

在一些实施例中,双向预测技术可用于帧间图片预测中。根据双向预测技术,使用两个参考图片,例如按解码次序都在视频中的当前图片之前(但按显示次序可能分别是过去和将来)第一参考图片和第二参考图片。可通过指向第一参考图片中的第一参考块的第一运动矢量和指向第二参考图片中的第二参考块的第二运动矢量对当前图片中的块进行编码。具体来说,可通过第一参考块和第二参考块的组合来预测所述块。

此外,合并模式技术可用于帧间图片预测中以改善编码效率。

根据本公开的一些实施例,帧间图片预测和帧内图片预测等预测的执行以块为单位。举例来说,根据HEVC标准,将视频图片序列中的图片分割成编码树单元(coding treeunit,CTU)以用于压缩,图片中的CTU具有相同大小,例如64×64像素、32×32像素或16×16像素。一般来说,CTU包括三个编码树块(coding tree block,CTB),所述三个编码树块是一个亮度CTB和两个色度CTB。更进一步的,还可将每个CTU以四叉树拆分为一个或多个编码单元(coding unit,CU)。举例来说,可将64×64像素的CTU拆分为一个64×64像素的CU,或4个32×32像素的CU,或16个16×16像素的CU。在实施例中,分析每个CU以确定用于CU的预测类型,例如帧间预测类型或帧内预测类型。此外,取决于时间和/或空间可预测性,将CU拆分为一个或多个预测单元(prediction unit,PU)。通常,每个PU包括亮度预测块(predictionblock,PB)和两个色度PB。在实施例中,编码(编码/解码)中的预测操作以预测块为单位来执行。以亮度预测块作为预测块为例,预测块包括像素值(例如,亮度值)的矩阵,例如8×8像素、16×16像素、8×16像素、16×8像素等等。

图6示出了根据本公开另一实施例的视频编码器(603)的示意图。视频编码器(603)用于接收视频图片序列中的当前视频图片内的样本值的处理块(例如预测块),且将所述处理块编码到作为已编码视频序列的一部分的已编码图片中。在本实施例中,视频编码器(603)用于代替图3实施例中的视频编码器(303)。

在HEVC实施例中,视频编码器(603)接收用于处理块的样本值的矩阵,所述处理块为例如8×8样本的预测块等。视频编码器(603)使用例如率失真(rate-distortion)优化来确定是否使用帧内模式、帧间模式或双向预测模式来编码所述处理块。当在帧内模式中编码处理块时,视频编码器(603)可使用帧内预测技术以将处理块编码到已编码图片中;且当在帧间模式或双向预测模式中编码处理块时,视频编码器(603)可分别使用帧间预测或双向预测技术将处理块编码到已编码图片中。在某些视频编码技术中,合并模式可以是帧间图片预测子模式,其中,在不借助预测值外部的已编码运动矢量分量的情况下,从一个或多个运动矢量预测值导出运动矢量。在某些其它视频编码技术中,可存在适用于主题块的运动矢量分量。在实施例中,视频编码器(603)包括其它组件,例如用于确定处理块模式的模式决策模块(未示出)。

在图6的实施例中,视频编码器(603)包括如图6所示的耦接到一起的帧间编码器(630)、帧内编码器(622)、残差计算器(623)、开关(626)、残差编码器(624)、通用控制器(621)和熵编码器(625)。

帧间编码器(630)用于接收当前块(例如处理块)的样本、比较所述块与参考图片中的一个或多个参考块(例如先前图片和后来图片中的块)、生成帧间预测信息(例如根据帧间编码技术的冗余信息描述、运动矢量、合并模式信息)、以及基于帧间预测信息使用任何合适的技术计算帧间预测结果(例如已预测块)。在一些实施例中,参考图片是基于已编码的视频信息解码的已解码参考图片。

帧内编码器(622)用于接收当前块(例如处理块)的样本、在一些情况下比较所述块与同一图片中已编码的块、在变换之后生成量化系数、以及在一些情况下还(例如根据一个或多个帧内编码技术的帧内预测方向信息)生成帧内预测信息。在实施例中,帧内编码器(622)还基于帧内预测信息和同一图片中的参考块计算帧内预测结果(例如已预测块)。

通用控制器(621)用于确定通用控制数据,且基于所述通用控制数据控制视频编码器(603)的其它组件。在实施例中,通用控制器(621)确定块的模式,且基于所述模式将控制信号提供到开关(626)。举例来说,当所述模式是帧内模式时,通用控制器(621)控制开关(626)以选择供残差计算器(623)使用的帧内模式结果,且控制熵编码器(625)以选择帧内预测信息且将所述帧内预测信息添加在码流中;以及当所述模式是帧间模式时,通用控制器(621)控制开关(626)以选择供残差计算器(623)使用的帧间预测结果,且控制熵编码器(625)以选择帧间预测信息且将所述帧间预测信息添加在码流中。

残差计算器(623)用于计算所接收的块与选自帧内编码器(622)或帧间编码器(630)的预测结果之间的差(残差数据)。残差编码器(624)用于基于残差数据操作,以对残差数据进行编码以生成变换系数。在实施例中,残差编码器(624)用于将残差数据从空间域转换到频域,且生成变换系数。变换系数接着经由量化处理以获得量化的变换系数。在各种实施例中,视频编码器(603)还包括残差解码器(628)。残差解码器(628)用于执行逆变换,且生成已解码残差数据。已解码残差数据可适当地由帧内编码器(622)和帧间编码器(630)使用。举例来说,帧间编码器(630)可基于已解码残差数据和帧间预测信息生成已解码块,且帧内编码器(622)可基于已解码残差数据和帧内预测信息生成已解码块。适当处理已解码块以生成已解码图片,且在一些实施例中,所述已解码图片可在存储器电路(未示出)中缓冲并用作参考图片。

熵编码器(625)用于将码流格式化以产生已编码的块。熵编码器(625)根据HEVC标准等合适标准产生各种信息。在实施例中,熵编码器(625)用于获得通用控制数据、所选预测信息(例如帧内预测信息或帧间预测信息)、残差信息和码流中的其它合适的信息。应注意,根据所公开的主题,当在帧间模式或双向预测模式的合并子模式中对块进行编码时,不存在残差信息。

图7示出了根据本公开另一实施例的视频解码器(710)的示意图。视频解码器(710)用于接收作为已编码视频序列的一部分的已编码图像,且对所述已编码图像进行解码以生成重建的图片。在实施例中,视频解码器(710)用于代替图3实施例中的视频解码器(310)。

在图7实施例中,视频解码器(710)包括如图7中所示耦接到一起的熵解码器(771)、帧间解码器(780)、残差解码器(773)、重建模块(774)和帧内解码器(772)。

熵解码器(771)可用于根据已编码图片来重建某些符号,这些符号表示构成所述已编码图片的语法元素。此类符号可包括例如用于对所述块进行编码的模式(例如帧内模式、帧间模式、双向预测模式、后两者的合并子模式或另一子模式)、可分别识别供帧内解码器(772)或帧间解码器(780)用以进行预测的某些样本或元数据的预测信息(例如帧内预测信息或帧间预测信息)、呈例如量化的变换系数形式的残差信息等等。在实施例中,当预测模式是帧间或双向预测模式时,将帧间预测信息提供到帧间解码器(780);以及当预测类型是帧内预测类型时,将帧内预测信息提供到帧内解码器(772)。残差信息可经由逆量化并提供到残差解码器(773)。

帧间解码器(780)用于接收帧间预测信息,且基于所述帧间预测信息生成帧间预测结果。

帧内解码器(772)用于接收帧内预测信息,且基于所述帧内预测信息生成预测结果。

残差解码器(773)用于执行逆量化以提取解量化的变换系数,且处理所述解量化的变换系数,以将残差从频域转换到空间域。残差解码器(773)还可能需要某些控制信息(用以获得量化器参数QP),且所述信息可由熵解码器(771)提供(未标示数据路径,因为这仅仅是低量控制信息)。

重建模块(774)用于在空间域中组合由残差解码器(773)输出的残差与预测结果(可由帧间预测模块或帧内预测模块输出)以形成重建的块,所述重建的块可以是重建的图片的一部分,所述重建的图片继而可以是重建的视频的一部分。应注意,可执行解块操作等其它合适的操作来改善视觉质量。

应注意,可使用任何合适的技术来实施视频编码器(303)、视频编码器(503)和视频编码器(603)以及视频解码器(310)、视频解码器(410)和视频解码器(710)。在实施例中,可使用一个或多个集成电路来实施视频编码器(303)、视频编码器(503)和视频编码器(603)以及视频解码器(310)、视频解码器(410)和视频解码器(710)。在另一实施例中,可使用执行软件指令的一个或多个处理器来实施视频编码器(303)、视频编码器(503)和视频编码器(603)以及视频解码器(310)、视频解码器(410)和视频解码器(710)。

根据一些实施例,AF_MERGE模式可以应用于宽度和高度都大于或等于8的CU。在这种模式中,当前CU的控制点运动矢量(CPMV)可以基于空间相邻CU的运动信息生成。最多可以有五个控制点运动矢量预测值(CPMVP)候选,并且可以发信号通知索引,以指示要用于当前CU的CPMVP。

在一些实施例中,使用以下三种类型的CPMV候选来形成仿射合并候选列表:(i)从相邻CU的CPMV推断出的继承的仿射合并候选;(ii)使用相邻CU的平移MV导出的构造的仿射合并候选CPMVP;以及(iii)零MV

根据一些实施例,最多可以有两个继承的仿射候选,这两个继承的仿射候选可以从相邻块的仿射运动模型导出。这两个继承的候选可以包括来自左相邻CU的一个候选和来自上相邻CU的一个候选。作为示例,候选块可以是图1所示的候选块。对于左预测值(predictor),扫描顺序可以是A0→A1,并且对于上预测值,扫描顺序可以是B0→B1→B2。在一些实施例中,每一侧仅选择第一个继承的候选,并且在两个继承的候选之间不执行修剪(pruning)检查。当识别出相邻仿射CU时,该CU的控制点运动矢量可用于导出当前CU的仿射合并列表中的CPMVP候选。如图8所示,其示出了当前块800。如果以仿射模式对相邻的左下块A进行编码,则获得包含块A的CU 802的左上角、右上角和左下角的运动矢量v

根据一些实施例,构造的仿射候选可以通过组合每个控制点的相邻平移运动信息来构造。控制点的运动信息可以从当前块900的指定的空间相邻块和时间相邻块(即,“T”)导出,如图9中所示。CPMV

在一些实施例中,在获得四个控制点的MV之后,可以基于这些控制点的运动信息构造仿射合并候选。可以使用控制点MV的以下示例组合创建块:{CPMV

3个CPMV的组合可构造6参数仿射合并候选,2个CPMV的组合可构造4参数仿射合并候选。在一些实施例中,为了避免运动缩放过程,如果控制点的参考索引不同,则可以丢弃控制点MV的相关组合。

根据一些实施例,类似于HEVC中的时间运动矢量预测(TMVP),基于子块的时间运动矢量预测(SbTMVP)方法可以使用同位(collocated)图片中的运动场来改进当前图片中的CU的运动矢量预测和合并模式。TMVP使用的相同的同位图片可用于SbTVMP。SbTMVP与TMVP的区别在于以下两个主要方面:(1)TMVP预测CU级别的运动,而SbTMVP预测子CU级别的运动;以及(2)TMVP从同位图片中的同位块(该同位块是相对于当前CU的右下块或中心块)获取时间运动矢量,而SbTMVP在从同位图片获取时间运动信息之前应用运动偏移,其中该运动偏移是从当前CU的空间相邻块之一的运动矢量获得的。

图10和图11示出了SbTVMP过程。在一些实施例中,SbTVMP分两个步骤预测当前CU内的子CU的运动矢量。在第一步骤中,如图10所示,以A1、B1、B0和A0的顺序检查当前块(1000)的空间邻居。一旦识别出具有使用同位图片作为其参考图片的运动矢量的第一可用空间相邻块,则选择该运动矢量作为要应用的运动偏移。如果没有从空间邻居中识别出这样的运动矢量,则将运动偏移设置为(0,0)。

在第二步骤中,应用在第一步骤中识别的运动偏移(即,将其添加到当前块的坐标中),以从图11所示的同位图片获取子CU级别的运动信息(例如,运动矢量和参考索引)。图11中的示例假定运动偏移(1149)被设置为空间相邻块A1的运动矢量(1143)。然后,对于当前图片(1141)的当前块(1142)中的当前子CU(例如,子CU(1144)),同位图片(1151)的同位块(1152)中的对应同位子CU(例如,同位子CU(1154))的运动信息被用于导出当前子CU的运动信息。以与HEVC中的TMVP过程类似的方式,将对应同位子CU(例如,同位子CU(1154))的运动信息转换为当前子CU(例如,子CU(1144))的运动矢量和参考索引。其中,应用时间运动缩放以将时间运动矢量的参考图片与当前CU的参考图片对准。

根据一些实施例,可以在基于子块的合并模式中使用同时包含SbTVMP候选和仿射合并候选的组合的基于子块的合并列表。SbTVMP模式可以由序列参数集(SPS)标志启用/禁用。如果启用了SbTMVP模式,则将SbTMVP预测值添加为基于子块的合并列表的第一个条目,然后是仿射合并候选。在某些应用中,基于子块的合并列表的最大允许大小为5。例如,SbTMVP中使用的子CU大小固定为8×8。与仿射合并模式一样,SbTMVP模式仅适用于宽度和高度都大于或等于8的CU。

附加SbTMVP合并候选的编码逻辑与其它合并候选的编码逻辑相同。即,对于P切片或B切片中的每个CU,可以执行附加的率失真(RD)检查,以确定是否使用SbTMVP候选。

根据一些实施例,基于历史的MVP(HMVP)方法包括被定义为先前已编码块的运动信息的HMVP候选。在编码/解码过程中,维护包括多个HMVP候选的表。当遇到新切片时,清空该表。每当存在帧间编码的非仿射块时,将相关联的运动信息作为新的HMVP候选添加到表的最后一个条目。HMVP方法的编解码流程如图12A所示。

表大小S被设置为6,这表示最多6个HMVP候选可以被添加到表中。当将新的运动候选插入表中时,使用约束的FIFO规则,使得首先应用冗余校验来确定表中是否存在相同的HMVP。如果找到,则从表中删除相同的HMVP,然后向前移动所有HMVP候选,即索引减少1。图12B示出了将新的运动候选插入HMVP表中的示例。

HMVP候选可用于合并候选列表构建过程。按顺序检查表中最新的几个HMVP候选,并将其插入到TMVP候选之后的候选列表中。可以在HMVP候选上对除子块运动候选(即,ATMVP)之外的空间或时间合并候选进行修剪。

在一些实施例中,为了减少修剪操作的次数,将待检查的HMPV候选的数量(由L表示)设置为L=(N<=4)?M:(8-N),其中,N表示表中可用的非子块合并候选的数量,M表示表中可用的HMVP候选的数量。另外,一旦可用合并候选的总数量达到用信号通知的最大允许合并候选减去1,就终止来自HMVP列表的合并候选列表构建过程。此外,用于组合的双向预测合并候选推导的对的数量从12减少到6。

HMVP候选也可以用于AMVP候选列表构建过程。将表中最后K个HMVP候选的运动矢量插入到TMVP候选之后。仅将具有与AMVP目标参考图片相同的参考图片的HMVP候选用于构建AMVP候选列表。对HMVP候选进行修剪。在一些应用中,将K设置为4,而AMVP列表大小保持不变,即等于2。

根据一些实施例,可以通过对当前合并候选列表中的预定义候选对进行平均来生成成对平均候选(pairwise average candidate)。在一些示例中,成对平均候选的数量为6,并且预定义对被定义为{(0,1),(0,2),(1,2),(0,3),(1,3),(2,3)},其中数字表示合并候选列表的合并索引。可以为每个参考列表分别计算平均运动矢量。如果两个运动矢量在一个列表中均可用,则即使当这两个运动矢量指向不同的参考图片时,也可以对它们进行平均。如果只有一个运动矢量可用,则可以直接使用该运动矢量。如果没有运动矢量可用,则可以认为该列表无效。成对平均候选可以替换HEVC标准中的组合候选。

当前图片参考有时可以被称为帧内块复制,其中运动矢量是指当前图片中已经重建的参考样本。HEVC屏幕内容编解码扩展(HEVC SCC)支持简洁位置报告(CPR)。CPR编解码的CU可以用信号通知为帧间编码块。CPR编解码的CU的亮度运动(或块)矢量可以是整数精度。色度运动矢量也可以被裁剪为整数精度。

在一些实施例中,当与自适应运动矢量精度(AMVR)组合时,CPR模式可以在1像素和4像素运动矢量精度之间切换。当前图片可以放置在参考图片列表L0的末尾。为了降低存储器消耗和解码器复杂度,CPR可以仅允许使用当前CTU的重建部分,这允许使用用于硬件实现的本地片上存储器来实现CPR模式。

在一些实施例中,在编码器侧,可以对CPR执行基于哈希的运动估计。编码器可以对宽度或高度不大于16个亮度样本的块执行RD检查。对于非合并模式,可以首先使用基于哈希的搜索来执行块矢量搜索。如果哈希搜索没有返回有效候选,则可以执行基于块匹配的本地搜索。

在一些实施例中,在基于哈希的搜索中,可以将当前块与参考块之间的哈希密钥匹配(32位循环冗余校验(CRC))扩展到所有允许的块大小。当前图片中每个位置的哈希密钥计算可以基于4×4子块。对于较大尺寸的当前块,当所有4×4子块的所有哈希密钥与对应参考位置中的哈希密钥匹配时,可以确定哈希密钥与参考块的哈希密钥匹配。如果发现多个参考块的哈希密钥与当前块的哈希密钥匹配,则可以计算每个匹配的参考块的块矢量成本,并且选择成本最小的匹配的参考块。

在一些实施例中,在块匹配搜索中,搜索范围可以设置为当前CTU内的当前块的左侧和顶部的N个样本。在CTU的开始处,如果没有时间参考图片,则将N的值初始化为128,如果有至少一个时间参考图片,则将N的值初始化为64。哈希命中率可以被定义为CTU中使用基于哈希的搜索找到匹配的样本的百分比。在对当前CTU进行编码时,如果哈希命中率低于5%,则N减少一半。

可以使用多假设预测方法来改进帧间图片中的现有预测模式,包括高级运动矢量预测(AMVP)模式的单向预测、跳过和合并模式以及帧内模式。多假设预测方法可以将现有的预测模式与附加的合并索引预测相结合。可以如在合并模式中那样执行合并索引预测,其中可以发信号通知合并索引,以获取用于运动补偿预测的运动信息。最终预测可以是合并索引预测和由现有预测模式生成的预测的加权平均,其中,根据组合应用不同的权重。

在一些实施例中,可以使用多假设预测来改进AMVP模式的单向预测。发信号通知一个标志,以启用或禁用多假设预测。此外,当标志为真时,发信号通知一个附加的合并索引。这样,多假设预测将单向预测转换为双向预测,其中一个预测使用AMVP模式中的原始语法元素获得,而另一个预测使用合并模式获得。最终预测如双向预测那样使用1:1权重来组合这两个预测。合并候选列表首先从排除了子CU候选(例如,仿射、交替时间运动矢量预测(ATMVP))的合并模式导出。接下来,将合并候选列表分成两个单独的列表,一个用于列表0(L0),其包含来自候选的所有L0运动,另一个用于列表1(L1),其包含所有L1运动。在去除冗余和填补空缺之后,分别为L0和L1生成两个合并列表。当应用多假设预测来改进AMVP模式时,存在两个约束。首先,对亮度编码块(CB)面积大于或等于64的那些CU启用多假设预测。其次,多假设预测仅应用于低延迟B图片的L1。

在一些实施例中,当多假设预测应用于跳过或合并模式时,可以显式地发信号通知多假设预测的启用。除了原始预测之外,还可以选择附加的合并索引预测。因此,多假设预测的每个候选都意味着是一对合并候选,其包含用于第一个合并索引预测的一个合并候选、以及用于第二个合并索引预测的另一个合并候选。然而,在每一对合并候选中,用于第二个合并索引预测的合并候选可以隐式地导出为后续合并候选(即,已经用信号通知的合并索引加1),而无需发信号通知任何附加的合并索引。在通过排除那些对而去除包含类似合并候选的冗余并填补空缺之后,形成用于多假设预测的候选列表。然后,可以获取来自一对两个合并候选的运动矢量,以生成最终预测,其中可以将5:3权重分别应用于第一合并索引预测和第二合并索引预测。此外,启用了多假设预测的合并或跳过CU除了保存现有假设的运动信息之外,还可以保存附加假设的运动信息以供后续相邻CU参考。可以从候选列表中排除子CU候选(例如,仿射、SbTMVP),并且对于低延迟B图片,多假设预测可以不应用于跳过模式。此外,当将多假设预测应用于合并或跳过模式时,对于CU宽度或CU高度小于16的那些CU,或者CU宽度和CU高度都等于16的那些CU,可以在针对多假设的运动补偿中使用双线性内插滤波器。

根据一些实施例,当应用多假设预测来改进帧内预测模式时,多假设预测将一个帧内预测和一个合并索引预测进行组合。在合并模式CU中,可以针对合并模式发信号通知一个标志,以便在标志为真时从帧内候选列表中选择帧内模式。

在一些实施例中,对于亮度分量,帧内候选列表从包括DC模式、平面模式、水平模式和垂直模式的4种帧内预测模式中导出,并且帧内候选列表的大小可以是3或4,具体取决于块形状。例如,当CU宽度比CU高度大两倍时,将水平模式从帧内候选列表中排除,当CU高度比CU宽度大两倍时,将垂直模式从帧内候选列表中排除。在一些实施例中,使用加权平均对根据帧内模式索引选择的一个帧内预测模式候选和根据合并索引选择的一个合并模式预测候选进行组合。在一些实施例中,对于色度分量,应用直接模式(DM)而无需额外信令。

根据一些实施例,用于组合预测的权重可以实现如下。当选择DC模式或平面模式,或者CB宽度或高度小于4时,对帧内和帧间预测候选应用相等的权重。对于CB宽度和高度大于或等于4的那些CB,当选择水平/垂直模式时,可以首先将一个CB垂直或水平分割为四个等面积区域。表示为(w_intra

图13示出了多假设预测的示例。帧间预测值(i)(1322)和帧内预测值(i)(1324)对应于第i区域的帧间预测部分和帧内预测部分。权重w_inter(i)和w_intra(i)分别对应于第i区域的帧间预测权重和帧内预测权重。最终预测值(1312)可以通过组合加权的帧间预测值(1322)和帧内预测值(1324)来形成。可以使用最终预测值(1312)和残差样本(1314)来重建当前块(1310)。残差样本可以表示当前块(1310)与最终预测值(1312)之间的差。

在用于跳过/合并模式的多假设预测中,要用信号通知的合并索引的最大数量小于常规合并候选列表中的候选的最大数量。然而,对于用于跳过/合并模式的该多假设预测,常规合并候选列表中的候选的最大数量仍用于合并索引信令的截断一元编码(truncated unary coding)。本公开的实施例改进了这种信令。

根据本公开的实施例,术语“块”可以解释为预测块、编码块或编码单元(即,CU)。

本公开的实施例修改了跳过/合并模式中的用于多假设预测的合并索引信令的当前设计。

在一些实施例中,当将多假设预测应用于跳过或合并模式时,通过显式信令来执行多假设预测的启用。如果启用用于跳过/合并模式的多假设预测,则可以使用截断一元编码来发信号通知合并索引。因此,每个用信号通知的合并索引都可用于暗示一对合并候选。例如,用信号通知的合并索引可用于显式地发信号通知第一合并候选,并且可以从用信号通知的合并索引(即,已用信号通知的合并索引加1)导出第二合并候选。

根据一些实施例,max_num_candidates指示合并候选列表中的合并候选的最大允许数量。对于帧间合并/跳过模式,合并索引的截断一元二值化的最大值可以是(max_num_candidates–1)。在一些实施例中,如果用于跳过或合并模式启用多假设预测,则可以用信号通知的合并索引的最大数量为(max_num_candidates-1),因为每个用信号通知的合并索引对应列表上的两个连续的合并候选。

根据一些实施例,当针对当前块发信号通知合并标志为真时,发信号通知使用标志,以指示是否启用了用于跳过/合并模式的多假设预测。如果该使用标志为真,这表示启用了多假设模式,则除了使用标志之外还发信号通知合并索引。(max_num_candidates–2)的值可用作合并索引编码的截断一元二值化中的最大值。

在一个示例中,max_num_candidates等于6,并且用于跳过/合并模式的多假设预测的二值化的使用标志为真。在该示例中,合并索引的最大值为4(即,max_num_candidates–2)。表1列出了所有可能的合并索引值及其对应的一元代码的映射。

表1、一元编码的合并索引

根据一些实施例,当针对当前块发信号通知合并标志为真时,随后发信号通知合并索引。(max_num_candidates–1)的值可用作合并索引编码中的截断一元二值化的最大值。此外,当合并索引的值小于(max_num_candidates–1)时,随后发信号通知使用标志,以指示是否启用了用于跳过/合并模式的多假设预测。如果合并索引值大于或等于(max_num_candidates–1),则使用标志隐式地设置为假。例如,当合并索引值大于或等于(max_num_candidates-1)时,该合并索引值被视为无效,并且当这种情况发生时,解码器将使用标志设置为假,或者即使使用标志被用信号通知为真,也将使用标志视为假。

根据一些实施例,为了多假设预测可用,合并候选列表中应当有一对合并候选可用。在一些实施例中,当满足某些条件时,多假设预测不可用于跳过/合并模式。

在一个实施例中,如果常规合并列表的合并候选的最大允许数量是max_num_candidates,且该值小于2,则多假设预测不可用于跳过/合并模式。因此,在这种情况下,在一些示例中,不发信号通知用于多假设预测的使用标志,并且将其推断为假。在另一示例中,当max_num_candidates小于2时,多假设预测的使用标志被用信号通知为假(比特流一致性要求)。

在一些实施例中,如果使用CPR模式,则可以以CPR模式对合并候选中的一些候选进行编码。例如,如果在多假设预测中不允许CPR编码块和常规帧间编码块的组合,则在一些实施例中应当满足以下约束:当可用的常规帧间编码合并候选的数量小于2时,多假设预测的使用标志被用信号通知为假(比特流一致性要求)。

在一些实施例中,具有运动矢量差的合并(MMVD)模式用于确定当前块的运动矢量预测值。当启用跳过模式或合并模式时,可以使用MMVD模式。MMVD模式重用跳过模式或合并模式的合并候选列表上的合并候选。例如,从合并候选列表中选择的合并候选可用于提供参考图片处的起点。当前块的运动矢量可以用起点和运动偏移来表示,运动偏移包括相对于起点的运动幅度和运动方向。在编码器侧,合并候选的选择和运动偏移的确定可以基于搜索过程(评估过程)。在解码器侧,可以基于来自编码器侧的信令来确定所选择的合并候选和运动偏移。

MMVD模式可以重用本文所描述的各种帧间预测模式中构建的合并候选列表。在一些示例中,针对MMVD模式仅考虑合并候选列表上的默认合并类型(例如,MRG_TYPE_DEFAULT_N)的候选。默认合并类型的合并候选的示例可以包括:(i)在合并模式中采用的合并候选,(ii)在HMVP模式中来自历史缓冲器的合并候选,以及(iii)如本文所述的成对平均运动矢量候选。在一些示例中,仿射模式或SbTMVP模式中的合并候选不用于MMVD模式中的扩展。

基本候选索引(IDX)可用于定义起点。例如,表2中示出了与从0到3的索引相关联的合并候选(运动矢量预测值(MVP))的列表。可以从列表中确定索引为基本候选索引的合并候选,并将其用于提供起点。

表2、基本候选IDX

距离索引可用于提供运动幅度信息。例如,表3中示出了多个预定义像素距离,每个预定义像素距离与从0到7的索引相关联。可以从多个像素距离中确定索引为距离索引的像素距离,并将其用于提供运动幅度。

表3、距离IDX

方向索引可用于提供运动方向信息。方向索引可以表示MVD相对于起点的方向。例如,表4中示出了索引从00到11(二进制)的四个方向。可以从这四个方向确定索引为方向索引的方向,并将其用于提供相对于起点的运动偏移的方向。

表4、方向IDX

MMVD语法元素可以在比特流中传输,以用信号通知MMVD模式中的一组MMVD索引,所述一组MMVD索引包括基本候选索引、方向索引和距离IDX。

在一些实施例中,在发送用于编解码当前块的跳过和合并标志之后,发信号通知MMVD启用标志。例如,当跳过和合并标志为真时,解析MMVD标志。在示例中,当MMVD标志等于1时,解析MMVD语法元素(所述一组MMVD索引)。在一个示例中,当MMVD标志不为1时,解析与另一种模式相关联的标志,例如仿射标志。当仿射标志等于1时,使用仿射模式处理当前块。在示例中,当仿射标志不为1时,解析跳过/合并索引,以使用跳过/合并模式处理当前块。

图14和图15示出了根据本公开实施例的在MMVD模式下的搜索过程的示例。通过执行搜索过程,可以为当前图片(或称为当前帧)中的当前块(1401)确定包括基本候选索引、方向索引和距离索引的一组MMVD索引。

如图14和图15所示,其示出了属于第一合并候选的第一运动矢量(1411)和第二运动矢量(1421)。第一合并候选可以是为当前块(1401)构建的合并候选列表上的合并候选。第一运动矢量(1411)和第二运动矢量(1421)可以分别与参考图片列表L0和L1中的两个参考图片(1402)和(1403)相关联。因此,可以在参考图片(1402)和(1403)处确定图14中的两个起点(1422)和(1424)。

在示例中,基于起点(1422)和(1424),可以评估在垂直方向(由+Y或-Y表示)或水平方向(由+X和-X表示)上从参考图片(1402)和(1403)中的起点(1422)和(1424)延伸的多个预定义点。在一个示例中,相对于各个起点(1422)或(1424)彼此镜像的一对点,例如一对点(1514)和(1524),或一对点(1515)和(1525),可用于确定一对运动矢量,其可形成当前块(1401)的运动矢量预测值候选。可以对根据起点(1511)或(1521)周围的预定义点所确定的那些运动矢量预测值候选进行评估。

除了第一合并候选之外,还可以类似地评估当前块(1401)的合并候选列表上的其它可用或有效合并候选。在一个示例中,对于单向预测合并候选,仅评估与两个参考图片列表中的一个相关联的一个预测方向。

基于所述评估,可以确定最佳运动矢量预测值候选。因此,对应于最佳运动矢量预测值候选,可以从合并列表中选择最佳合并候选,并且还可以确定运动方向和运动距离。例如,基于所选择的合并候选和表2,可以确定基本候选索引。基于所选择的运动矢量预测值,例如对应于预定义点(1515)(或(1525))的运动矢量预测值,可以确定点(1515)相对于起点(1511)的方向和距离。根据表3和表4,可以相应地确定方向索引和距离索引。

应注意,上述示例仅用于说明目的。在可选示例中,基于MMVD模式中提供的运动矢量表示方法,可以不同地定义运动距离和运动方向。另外,可以不同地执行评估过程(搜索过程)。例如,对于双向预测合并候选,可以基于一组预定义距离和方向来评估三种类型的预测方向(例如,L0、L1、以及L0和L1),以选择最佳运动矢量预测值。又例如,可以通过镜像或缩放将单向预测合并候选转换为双向预测合并候选,并随后对其进行评估。在上述示例中,可以用信号通知附加语法,其指示由评估过程产生的预测方向(例如,L0、L1或L0和L1)。

如上所述,在编码器处评估合并候选列表上的合并候选,以确定MMVD模式下的基本候选。在解码器处,使用基本候选索引作为输入,可以从合并候选列表中选择运动矢量预测值。因此,除了用于存储合并候选的线缓冲器之外,对于MMVD模式不需要额外的线缓冲器。

在一些实施例中,MMVD使用由对角线方向候选组成的附加表,如表5所示。根据图16所示的基本运动矢量的方向,选择水平/垂直表和对角线表的其中之一。

表5、方向表

在一些实施例中,MMVD使用基于图片分辨率的自适应距离表。例如,如果图片分辨率不大于2K(即,1920×1080),则表6用作基本距离表,否则表7用作基本距离表。

表6、MMVD距离表

表7、MMVD距离表

在一些实施例中,MMVD根据基于出现(occurrence-based)的距离表重新排序使用自适应距离表。例如,可以根据先前已编码图片中的、从高到低排序的每个距离索引的使用的出现对距离索引重新排序。在一些实施例中,修改MMVD候选值,使得如果MMVD距离大于阈值,则以MMVD模式编码的CU具有全采样而不是子采样运动矢量。

根据一些实施例,仿射MMVD方法(也称为具有预测偏移的仿射合并模式)选择第一可用仿射合并候选作为基本预测值。然后,该方法将运动矢量偏移应用于来自基本预测值的每个控制点的运动矢量值。如果没有可用的仿射合并候选,则不使用仿射MMVD方法。

在一些实施例中,在每控制点(CP)信令方法中,使用选定的基本预测值的帧间预测方向和每个方向的参考索引而无需对其进行更改。对于每个控制点,zero_MVD标志可用于指示控制点是否需要偏移信令。如果zero_MVD标志为真,则控制点不需要其它信令。否则,可以为控制点发信号通知距离索引和偏移方向索引。表8图示了示例性的用信号通知的距离索引和对应的距离偏移。

表8、距离索引和对应的偏移

在一些实施例中,方向索引可以表示四个方向,如表9所示,只有x方向或y方向可以具有MV差,但不能两个方向都具有MV差。

表9、方向IDX

在一些实施例中,如果帧间预测是单向预测,则对于每个控制点预测值,在偏移方向上应用用信号通知的距离偏移。产生的运动矢量将是每个控制点的MV值。在一些实施例中,如果帧间预测是双向预测,则在用信号通知的控制点预测值的L0运动矢量的偏移方向上应用用信号通知的距离偏移,并且基于镜像来应用要应用于L1 MV的偏移。

根据一些实施例,距离偏移索引和偏移方向索引按块用信号通知。相同的偏移可以应用于所有可用的控制点。控制点的数量可以由基本预测值的仿射类型来确定。距离偏移表和偏移方向表可以与表8和表9中的相同。当同时对块的所有控制点执行信令时,不使用zero_MVD标志。

当在编码器侧和解码器侧以相同的方式收集距离表已使用的偏移值的出现统计数据时,编码器和解码器都基于该出现统计数据导出距离表的新顺序,并且更新的距离表被下一图片用于MMVD。这些特征引入了图片之间的依赖性,并且导致了错误恢复问题。本公开的实施例旨在减少这种依赖性、以及由此产生的错误恢复问题。在这点上,本公开的实施例通过发信号通知解码器使用哪个重新排序的距离表的指示而不是使解码器导出该表,来增强基于发生的MMVD距离表重新排序的当前设计。

根据一些实施例,在编码器侧,在MMVD距离表被重新排序之后,可以生成并在比特流中发信号通知顺序码。在一些实施例中,在解码器侧,在对顺序码进行解码之后,可以基于顺序码构建MMVD距离表。在一个实施例中,MMVD距离表的顺序码可以在切片头、图块/图块组头或其它头之一中发信号通知。

在一些实施例中,MMVD距离表的顺序由整数表示,其可以被称为顺序码。对于具有8个条目的当前MMVD表,该数字可以具有24位,其由8个3位元素组成。每个3位元素可以表示原始距离索引值。按照导出的MMVD距离表的顺序连接所有8个元素将得到一个特定的整数值。元素可以按降序或升序连接。元素的数量可以增加或减少,因此表示每个元素的比特的数量可以相应地改变。

在一个示例中,对于表6中的原始MMVD距离表,在重新排序之后,新的顺序变为{1像素,2像素,1/2像素,1/4像素,16像素,4像素,32像素,8像素},原始距离索引的顺序变为{2,3,1,0,6,4,7,5}。如表10所示,十六进制(Hex)格式的顺序码是0x4C8CB。在这点上,元素索引0对应于具有1像素距离的距离索引2和二进制值010。因此,二进制顺序码的前三位是010。每个元素和距离索引都具有各自的二进制值,当这些二进制值串联在一起时,形成二进制顺序码和等效的十六进制顺序码。

表10、MMVD距离表的顺序的表示

在一些实施例中,表代码可以是整数值,该顺序码仅由8个元素中的7个组成,并且可以推断出剩余的元素。推断出的元素可以是第一个元素,或者最后一个元素,或者具有预定义元素索引的任何元素。当推断出最后一个元素时,顺序码的比特数可以是21而不是24。元素可以按降序或升序连接。元素可以按降序或升序连接。元素的数量可以增加或减少,因此,表示每个元素的比特的数量可以相应地改变。

在一个示例中,对于表6中的原始MMVD距离表,在重新排序之后,新的顺序变为{1像素,2像素,1/2像素,1/4像素,16像素,4像素,32像素,8像素},原始距离索引的顺序变为{2,3,1,0,6,4,7,5}。当推断出最后一个元素时,只有前7个元素可以按顺序码进行编码,如表11所示。最终的顺序码是0x99197。

表11、推断出最后一个元素的MMVD距离表的顺序的表示

根据一些实施例,MMVD距离表的顺序码可以使用预测来发信号通知。基本顺序码可以在图片参数集(PPS)、序列参数集(SPS)或其它头中发信号通知,顺序码与基本顺序码之间的差可以在切片头、图块/图块组头、或其它头之一中发信号通知。在一个实施例中,基本顺序码可以是包括MMVD距离表的所有元素的预定义值。例如,对于8元素MMVD距离表,基本顺序可以被预定义为{1/4像素,1/2像素,1像素,2像素,4像素,8像素,16像素,32像素},其距离索引顺序为{0,1,2,3,4,5,6,7}。每个元素的二进制值如表12所示,并且十六进制值中的基本顺序码是0x53977。

表12、基本顺序码的MMVD距离表的顺序的表示

在一些实施例中,为了在编码器侧对图片的顺序码进行编码,在比特流中发信号通知导出的实际顺序码值和基本顺序码值之间的差。该差的值可以被称为顺序码增量。在一些实施例中,在解码器侧,在对顺序码增量进行解码之后,将该值与预定义的基本顺序码相加,以导出实际顺序码,如等式1所示。随后,可以根据顺序码导出MMVD距离表。

等式1:

顺序码=顺序码增量+基本顺序码

基本顺序码的预定义值可以不限于上述示例。例如,该预定义值可以是任何预定义顺序。

根据一些实施例,在编码器和解码器上都存储了一些预定义距离表顺序(称为一组表)。对于编码器侧,可以在比特流中发信号通知从当前图片、切片、图块或图片的任何片段的组中选择的表的索引。在解码器侧,可以以与编码器侧所使用的方式相同的方式,将与接收的索引相对应的组中的表用作当前图片、切片、图块或图片的任何片段的MMVD距离表。

在一些示例中,该组的所有表中的距离条目是相同候选距离的不同排列(例如,参见表11中的示例)。在其它示例中,该组的所有表中的距离条目可以不同。例如,该组中可以有两个不同的表,例如来自表6的一个表和来自表7的另一个表。索引0或1可用于选择使用哪一个表。

在一些示例中,可以使用一组预定义的表。编码器可以首先发信号通知一个标志,以指示是否使用了预定义表。如果使用了预定义表,则发信号通知表索引。如果未使用预定义表,则在解码器处发信号通知新的非预定义表。该非预定义表可以被缓冲并且稍后由其它图片引用。为了识别缓冲的非预定义表,可以发信号通知另一表索引。非预定义表的最大数量可以由比特流中预定义或发信号通知的数量来约束。当缓冲的非预定义表达到最大数量时,可以从缓冲器中删除一个表。例如,可以删除最早的表。可以通过比特流中用信号通知的某个标志来重置缓冲器,或者通过其它缓冲器重置机制来重置缓冲器,例如通过即时解码刷新(IDR)图片来重置缓冲器。

在一些示例中,可以在解码器参数集(DPS)、视频参数集(VPS)或序列参数集(SPS)中用信号通知一组预定义表。在DPS中用信号通知的该组预定义表可以被激活并且在包括顺序编码的全部已编码视频序列(CVS)的整个比特流中使用。在VPS中用信号通知的该组预定义表可以被激活并在CVS组内使用,其中每一CVS针对每一层或组件进行编码。在SPS中用信号通知的该组预定义表可以被激活并在相关CVS中使用。在图片参数集(PPS)、头参数集(HPS)、自适应参数集(APS)、切片头或图块/图块组头中用信号通知的标志可以指示索引是否可以指示预定义表中的一个或者是否将重新索引(重新排序)集用于相关图片或图块/图块组中。如果标志指示存在索引,则索引可以指定使用哪个预定义表对预定义表中的相关图片中的CU进行编码。如果在不同参数中定义多个表,则在参数集中定义的、最后激活的表被激活和使用。如果标志指示不存在索引并且手动定义距离顺序,则如表7、表8和表9中给出的那样用信号通知距离索引。

在一些示例中,在PPS、HPS、APS、切片头或图块/图块组头中用信号通知的标志可以指示是使用预定义表,还是显式地发信号通知与元素索引相对应的所有像素距离。如果该标志指示显式地发信号通知全部或部分像素距离信息,则任何参数集中的预定义表都不会被激活并用于相关图片,并且在当前PPS、HPS、APS、切片头或图块/图块组头中定义的表被用于对相关图片中的CU进行编码。新定义的表可以包括从元素索引到像素距离的所有映射信息。

在一些示例中,在PPS、HPS、APS、切片头或图块/图块组头中发信号通知的标志可以指示是使用预定义表,还是显式地发信号通知与元素索引相对应的像素距离差。如果该标志指示显式地发信号通知全部或部分像素距离差,则任何参数集中的预定义表中的一个被激活并用于相关图片。此外,可以通过将针对当前图片显式地发信号通知的像素距离差与预定义像素距离值相加来获得像素距离值。

根据一些实施例,当使用仿射MMVD方法中的任一种方法时,可以应用上文所公开的、根据一组预定义候选发信号通知MMVD距离表顺序码或发信号通知MMVD距离表顺序的方法,以便发信号通知用于仿射MMVD的重新排序的距离偏移表。在一些示例中,任何仿射MMVD方法可以具有与用于MMVD的默认表不同的距离偏移表。此外,距离偏移表中的元素的数量可以与用于MMVD的元素的数量不同,使得表示用于仿射MMVD的距离偏移表中的每个元素所需的比特的数量可以不同于MMVD的比特的数量。

图17示出了由解码器执行的过程的实施例。该过程可以开始于步骤(S1700),在步骤(S1700),接收包括当前块的信令信息的已编码视频比特流。该过程进行到步骤(S1702),在步骤(S1702),基于所述信令信息确定所述当前块的块重建信息。该过程进行到步骤(S1704),在步骤(S1704),使用所述确定的块重建信息重建所述当前块。作为示例,所述信令信息可以指示是否以合并模式对所述当前块进行编码,以及是否为所述当前块启用了多假设预测。如果启用了多假设预测,则所述块重建信息可以包括由合并索引指定的第一合并候选、以及从所述合并索引导出的第二合并候选。作为另一示例,所述当前块以MMVD模式进行编码,并且所述信令信息包括MMVD距离表的顺序码。如果所述当前块以MMVD模式进行编码,则所述块重建信息可以是使用所述MMVD距离表获得的运动矢量。

上述技术可以使用计算机可读指令实现为计算机软件,并物理存储在一个或多个计算机可读介质中。例如,图18示出了一种计算机系统(1800),其适于实现所公开的主题的某些实施例。

所述计算机软件可通过任何合适的机器代码或计算机语言进行编码,通过汇编、编译、链接等机制创建包括指令的代码,所述指令可由一个或多个计算机中央处理单元(CPU),图形处理单元(GPU)等直接执行或通过译码、微代码等方式执行。

所述指令可以在各种类型的计算机或其组件上执行,包括例如个人计算机、平板电脑、服务器、智能手机、游戏设备、物联网设备等。

图18所示的用于计算机系统(1800)的组件本质上是示例性的,并不用于对实现本申请实施例的计算机软件的使用范围或功能进行任何限制。也不应将组件的配置解释为与计算机系统(1800)的示例性实施例中所示的任一组件或其组合具有任何依赖性或要求。

计算机系统(1800)可以包括某些人机界面输入设备。这种人机界面输入设备可以通过触觉输入(如:键盘输入、滑动、数据手套移动)、音频输入(如:声音、掌声)、视觉输入(如:手势)、嗅觉输入(未示出),对一个或多个人类用户的输入做出响应。所述人机界面设备还可用于捕获某些媒体,气与人类有意识的输入不必直接相关,如音频(例如:语音、音乐、环境声音)、图像(例如:扫描图像、从静止影像相机获得的摄影图像)、视频(例如二维视频、包括立体视频的三维视频)。

人机界面输入设备可包括以下中的一个或多个(仅绘出其中一个):键盘(1801)、鼠标(1802)、触控板(1803)、触摸屏(1810)、数据手套(未示出)、操纵杆(1805)、麦克风(1806)、扫描仪(1807)、照相机(1808)。

计算机系统(1800)还可以包括某些人机界面输出设备。这种人机界面输出设备可以通过例如触觉输出、声音、光和嗅觉/味觉来刺激一个或多个人类用户的感觉。这样的人机界面输出设备可包括触觉输出设备(例如通过触摸屏(1810)、数据手套(未示出)或操纵杆(1805)的触觉反馈,但也可以有不用作输入设备的触觉反馈设备)、音频输出设备(例如,扬声器(1809)、耳机(未示出))、视觉输出设备(例如,包括阴极射线管屏幕、液晶屏幕、等离子屏幕、有机发光二极管屏的屏幕(1810),其中每一个都具有或没有触摸屏输入功能、每一个都具有或没有触觉反馈功能——其中一些可通过诸如立体画面输出的手段输出二维视觉输出或三维以上的输出;虚拟现实眼镜(未示出)、全息显示器和放烟箱(未示出))以及打印机(未示出)。

计算机系统(1800)还可以包括人可访问的存储设备及其相关介质,如包括具有CD/DVD的高密度只读/可重写式光盘(CD/DVD ROM/RW)(1820)或类似介质(1821)的光学介质、拇指驱动器(1822)、可移动硬盘驱动器或固体状态驱动器(1823),诸如磁带和软盘(未示出)的传统磁介质,诸如安全软件保护器(未示出)等的基于ROM/ASIC/PLD的专用设备,等等。

本领域技术人员还应当理解,结合所公开的主题使用的术语“计算机可读介质”不包括传输介质、载波或其它瞬时信号。

计算机系统(1800)还可以包括通往一个或多个通信网络的接口。例如,网络可以是无线的、有线的、光学的。网络还可为局域网、广域网、城域网、车载网络和工业网络、实时网络、延迟容忍网络等等。网络还包括以太网、无线局域网、蜂窝网络(GSM、3G、4G、5G、LTE等)等局域网、电视有线或无线广域数字网络(包括有线电视、卫星电视、和地面广播电视)、车载和工业网络(包括CANBus)等等。某些网络通常需要外部网络接口适配器,用于连接到某些通用数据端口或外围总线(1849)(例如,计算机系统(1800)的USB端口);其它系统通常通过连接到如下所述的系统总线集成到计算机系统(1800)的核心(例如,以太网接口集成到PC计算机系统或蜂窝网络接口集成到智能电话计算机系统)。通过使用这些网络中的任何一个,计算机系统(1800)可以与其它实体进行通信。所述通信可以是单向的,仅用于接收(例如,无线电视),单向的仅用于发送(例如CAN总线到某些CAN总线设备),或双向的,例如通过局域或广域数字网络到其它计算机系统。上述的每个网络和网络接口可使用某些协议和协议栈。

上述的人机界面设备、人可访问的存储设备以及网络接口可以连接到计算机系统(1800)的核心(1840)。

核心(1840)可包括一个或多个中央处理单元(CPU)(1841)、图形处理单元(GPU)(1842)、以现场可编程门阵列(FPGA)(1843)形式的专用可编程处理单元、用于特定任务的硬件加速器(1844)等。这些设备以及只读存储器(ROM)(1845)、随机存取存储器(1846)、内部大容量存储器(例如内部非用户可存取硬盘驱动器、固态硬盘等)(1847)等可通过系统总线(1848)进行连接。在某些计算机系统中,可以以一个或多个物理插头的形式访问系统总线(1848),以便可通过额外的中央处理单元、图形处理单元等进行扩展。外围装置可直接附接到核心的系统总线(1848),或通过外围总线(1849)进行连接。外围总线的体系结构包括外部控制器接口PCI、通用串行总线USB等。

CPU(1841)、GPU(1842)、FPGA(1843)和加速器(1844)可以执行某些指令,这些指令组合起来可以构成上述计算机代码。该计算机代码可以存储在ROM(1845)或RAM(1846)中。过渡数据也可以存储在RAM(1846)中,而永久数据可以存储在例如内部大容量存储器(1847)中。通过使用高速缓冲存储器可实现对任何存储器设备的快速存储和检索,高速缓冲存储器可与一个或多个CPU(1841)、GPU(1842)、大容量存储器(1847)、ROM(1845)、RAM(1846)等紧密关联。

所述计算机可读介质上可具有计算机代码,用于执行各种计算机实现的操作。介质和计算机代码可以是为本申请的目的而特别设计和构造的,也可以是计算机软件领域的技术人员所熟知和可用的介质和代码。

作为实施例而非限制,具有体系结构(1800)的计算机系统,特别是核心(1840),可以作为处理器(包括CPU、GPU、FPGA、加速器等)提供执行包含在一个或多个有形的计算机可读介质中的软件的功能。这种计算机可读介质可以是与上述的用户可访问的大容量存储器相关联的介质,以及具有非易失性的核心(1840)的特定存储器,例如核心内部大容量存储器(1847)或ROM(1845)。实现本申请的各种实施例的软件可以存储在这种设备中并且由核心(1840)执行。根据特定需要,计算机可读介质可包括一个或一个以上存储设备或芯片。该软件可以使得核心(1840)特别是其中的处理器(包括CPU、GPU、FPGA等)执行本文所述的特定过程或特定过程的特定部分,包括定义存储在RAM(1846)中的数据结构以及根据软件定义的过程来修改这种数据结构。另外或作为替代,计算机系统可以提供逻辑硬连线或以其它方式包含在电路(例如,加速器(1844))中的功能,该电路可以代替软件或与软件一起运行以执行本文所述的特定过程或特定过程的特定部分。在适当的情况下,对软件的引用可以包括逻辑,反之亦然。在适当的情况下,对计算机可读介质的引用可包括存储执行软件的电路(如集成电路(IC)),包含执行逻辑的电路,或两者兼备。本申请包括任何合适的硬件和软件组合。

附录A:首字母缩略词

JEM:联合开发模型(joint exploration model)

VVC:通用视频编解码(versatile video coding)

BMS:基准集合(benchmark set)

MV:运动矢量(Motion Vector)

HEVC:高效视频编解码(High Efficiency Video Coding)

SEI:辅助增强信息(Supplementary Enhancement Information)

VUI:视频可用性信息(Video Usability Information)

GOPs:图片群组(Groups of Pictures)

TUs:变换单元(Transform Units)

PUs:预测单元(Prediction Units)

CTUs:编码树单元(Coding Tree Units)

CTBs:编码树块(Coding Tree Blocks)

PBs:预测块(Prediction Blocks)

HRD:假想参考解码器(Hypothetical Reference Decoder)

SNR:信噪比(Signal Noise Ratio)

CPUs:中央处理单元(Central Processing Units)

GPUs:图形处理单元(Graphics Processing Units)

CRT:阴极射线管(Cathode Ray Tube)

LCD:液晶显示(Liquid-Crystal Display)

OLED:有机发光二极管(Organic Light-Emitting Diode)

CD:光盘(Compact Disc)

DVD:数字化视频光盘(Digital Video Disc)

ROM:只读存储器(Read-Only Memory)

RAM:随机存取存储器(Random Access Memory)

ASIC:专用集成电路(Application-Specific Integrated Circuit)

PLD:可编程逻辑设备(Programmable Logic Device)

LAN:局域网(Local Area Network)

GSM:全球移动通信系统(Global System for Mobile communications)

LTE:长期演进(Long-Term Evolution)

CANBus:控制器局域网总线(Controller Area Network Bus)

USB:通用串行总线(Universal Serial Bus)

PCI:外围设备互连(Peripheral Component Interconnect)

FPGA:现场可编程门阵列(Field Programmable Gate Areas)

SSD:固态驱动器(solid-state drive)

IC:集成电路(Integrated Circuit)

CU:编码单元(Coding Unit)

虽然本申请已对多个示例性实施例进行了描述,但实施例的各种变更、排列和各种等同替换均属于本申请的范围内。因此应理解,本领域技术人员能够设计多种系统和方法,所述系统和方法虽然未在本文中明确示出或描述,但其体现了本申请的原则,因此属于本申请的精神和范围之内。

(1)一种在视频解码器中执行的视频解码的方法,所述方法包括:接收包括当前块的信令信息的已编码视频比特流;基于所述信令信息确定所述当前块的块重建信息;以及使用所述确定的块重建信息重建所述当前块。

(2)根据特征(1)所述的方法,其中,所述信令信息指示所述当前块以合并模式进行编码,并且所述信令信息还指示所述当前块是否以多假设模式进行编码。

(3)根据特征(2)所述的方法,其中,当确定所述信令信息指示所述当前块以多假设模式进行编码时,所述信令信息还包括合并索引,所述合并索引的最大值为合并候选列表中的候选的最大数量减2。

(4)根据特征(3)所述的方法,其中,所述合并索引以一元代码进行编码。

(5)根据特征(3)或(4)所述的方法,其中,所述合并模式通过第一标志发信号通知,并且所述多假设模式通过第二标志发信号通知。

(6)根据特征(3)-(5)中的任一个所述的方法,其中,所述块重建信息包括由所述合并索引指定的第一合并候选,以及从所述合并索引导出的第二合并候选。

(7)根据特征(2)-(6)中的任一个所述的方法,其中,当确定合并候选列表中的候选的数量小于2时,确定所述当前块不以所述多假设模式进行编码。

(8)根据特征(2)-(7)所述的方法,其中,当确定合并索引的值大于或等于合并候选列表中的候选的最大数量减1时,确定所述当前块不以所述多假设模式进行编码。

(9)根据特征(1)所述的方法,其中,所述当前块以具有运动矢量差的合并(MMVD)模式进行编码,并且所述信令信息包括MMVD距离表的顺序码。

(10)根据特征(9)所述的方法,其中,所述块重建信息包括使用所述MMVD距离表获得的运动矢量。

(11)根据特征(9)或(10)所述的方法,其中,所述顺序码是二进制顺序码,所述二进制顺序码指定所述MMVD距离表的一个或多个元素。

(12)根据特征(11)所述的方法,其中,从所述二进制顺序码推断出所述MMVD距离表的至少一个元素。

(13)根据特征(9)-(12)中的任一个所述的方法,其中,所述顺序码是基本顺序码,指定所述MMVD距离表的一个或多个元素的最终顺序码由所述基本顺序码和所述最终顺序码与所述基本顺序码的差之和来确定。

(14)根据特征(12)或(13)中的任一个所述的方法,其中,所述最终顺序码和所述基本顺序码之间的差包括在所述信令信息中。

(15)根据特征(9)-(14)中的任一个所述的方法,其中,所述顺序码包括在图片参数集(PPS)的头部和序列参数集(SPS)的头部的其中之一中。

(16)一种用于视频解码的视频解码器,包括:处理电路,被配置为:接收包括当前块的信令信息的已编码视频比特流;

基于所述信令信息确定所述当前块的块重建信息;以及使用所述确定的块重建信息重建所述当前块。

(17)根据特征(16)所述的视频解码器,其中,所述信令信息指示所述当前块以合并模式进行编码,并且所述信令信息还指示所述当前块是否以多假设模式进行编码。

(18)根据特征(17)所述的视频解码器,其中,当确定所述信令信息指示所述当前块以多假设模式进行编码时,所述信令信息还包括合并索引,所述合并索引的最大值为合并候选列表中的候选的最大数量减2。

(19)根据特征(18)所述的视频解码器,其中,所述合并索引以一元代码进行编码。

(20)一种非易失性计算机可读介质,用于存储指令,当所述指令由视频解码器中的处理器执行时,使得所述处理器执行一种方法,包括:接收包括当前块的信令信息的已编码视频比特流;基于所述信令信息确定所述当前块的块重建信息;以及使用所述确定的块重建信息重建所述当前块。

技术分类

06120112752677