用于非线性自适应环路滤波器的限幅电平

本申请是分案申请，原申请的申请号是202080046392.9，原申请日是2020年06月24日，原申请的全部内容通过引用结合在本申请中。

相关申请的交叉引用

本申请要求2019年6月24日在俄罗斯专利局提交的申请号为PCT/RU2019/000454的国际专利申请、2019年6月25日在俄罗斯专利局提交的申请号为PCT/RU2019/000456的国际专利申请、2019年7月3日在俄罗斯专利局提交的申请号为PCT/RU2019/000476的国际专利申请、2019年7月7日在美国专利局提交的申请号为62,871,200的美国临时申请、以及2019年7月8日在俄罗斯专利局提交的申请号为PCT/RU2019/000483的国际专利申请的优先权，其全部公开内容结合于此作为参考。

技术领域

通常，本公开涉及视频译码领域。更具体地，本公开涉及用于视频译码的滤波器(例如非线性环内滤波器)和用于对重建视频帧进行滤波的方法以及包括用于视频译码的滤波器的编码装置和解码装置。

背景技术

视频译码(视频编码和解码)用于各种数字视频应用(例如广播数字电视、互联网和移动网络上的视频传输)、实时对话应用(例如视频聊天、视频会议)、DVD和蓝光光盘、视频内容获取与编辑系统、以及安全应用摄录机。

即使描述较短的视频，所需的视频数据量也可能很大，这可能会导致在带宽容量有限的通信网络上流式传输或以其他方式传送数据时产生困难。因此，视频数据在通过现代电信网络传送之前通常会被压缩。因为存储资源可能有限，所以在视频存储在存储设备上时，视频的尺寸也可能是个问题。在传输或存储之前，视频数据通常在源处由视频压缩设备使用软件和/或硬件进行编码，从而减少表示数字视频图像所需的数据量。然后，压缩数据在目的地处由对视频数据进行解码的视频解压缩设备接收。由于网络资源有限且对更高视频质量的需求不断增长，需要一种在几乎不牺牲图像质量的情况下提高压缩率的改进的压缩和解压缩技术。

最近采用的ITU-T H.265/HEVC标准(ISO/IEC 23008-2:2013，“信息技术-异构环境中的高效译码和媒体分发-第2部分：高效视频译码”，2013年11月)公布了能合理权衡译码效率和计算复杂度的一组最新视频译码工具。

在关于视频技术的电路和系统的IEEE汇刊，第22卷，第12期，2012年12月中，GaryJ.Sullivan的“高效视频译码(HEVC)标准概述”给出了ITU-T H.265/HEVC标准的概述，其全部内容结合于此作为参考。

该标准中的视频译码工具之一是自适应环路滤波器，该自适应环路滤波器在使用重建帧进行预测之前对此帧执行滤波。Qian Chen、Yunfei Zheng、Peng Yin、Xiaoan Lu、Joel Sol′e、Qian Xu、Edouard Francois、Dapeng Wu的“基于分类四叉树的自适应环路滤波器”(2011年关于多媒体与博览会的IEEE国际会议第1-6页)描述了一种传统自适应环路滤波器。在这种滤波器中，滤波的重建帧的每个像素是生成的滤波的像素的位置周围的重建帧中的该像素的连通区域中几个像素的加权和。像素的连通区域通常定义为该像素的相邻像素集合。该集合可以围绕像素对称排布，其中可以在重建帧的边界或重建块的边界附近应用修改。常用的集合可以是菱形的，例如对于亮度分量是7×7菱形或对于色度分量是5×5菱形，如图12所示。

(线性)自适应环路滤波器的滤波过程如下执行：

O(x，y)＝∑(i，j)w(i，j)*I(x+i，y+j)，

其中，样本I(x+i，y+j)是来自坐标为(x，y)的像素的连通区域的输入重建样本，O(x，y)是滤波的输出重建样本(即滤波器结果)，w(i，j)表示滤波器系数。

可以通过下式(根据可在http：//phenix.it-sudparis.eu/jvet/上公开获得的JVET-M0385中描述的非线性自适应环路滤波器方法)修改上式，且不会影响译码效率：

Δ(x，y，i，j)＝I(x+i，y+j)-I(x，y)

Clip(d，b)＝min(b，max(-b，d))

对于亮度滤波，

对于色度滤波，

Idx(i，j)＝0，1，2或3

如果最大权重系数w(i，j)是n位整数值，BitDepthLuma是亮度分量的位深度(亮度像素中的最大位数)，BitDepthChroma是色度分量的位深度，则滤波器实现需要以下N次整数乘法：对于亮度分量滤波，将n位值乘以(BitDepthLuma+3)位值，对于色度分量滤波，将n位值乘以(BitDepthChroma+3)位值，其中N是滤波器长度。

发明内容

对于亮度分量，下述方法提供了一种低复杂度非线性环内滤波器，该环内滤波器需要将n位滤波器系数乘以(BitDepthLuma+2)位值的N次乘法，而非现有解决方案中的将n位滤波器系数乘以(BitDepthChroma+3)位值的N次乘法。对于色度分量，下述方法提供了一种低复杂度非线性环内滤波器，该环内滤波器需要将n位滤波器系数乘以(BitDepthChroma+2)位值的N次乘法，而非现有解决方案中的将n位滤波器系数乘以(BitDepthChroma+3)位值的N次乘法。

本公开的实施例提供了一种改进的用于重建帧滤波的低复杂度环内滤波器。

本公开的实施例可以在不降低滤波质量的情况下，降低所需乘法的复杂度。

前述目的和其他目的通过独立权利要求的主题实现。根据从属权利要求、说明书、附图，其他实施方式显而易见。

本公开的实施例提供了一种通过对视频流的重建帧执行自适应环路滤波来进行环内滤波的方法，该方法由编码设备或解码设备实现，其中，该方法包括：形成/确定重建帧的像素的亮度分量和色度分量中的至少一个与该像素的连通区域中的相邻像素的亮度分量和色度分量中的至少一个之间的差异，根据相应限幅电平对差异进行限幅，形成/确定限幅的差异的加权和；以及将加权和与像素的亮度分量和色度分量中的至少一个相加以确定像素的滤波的相应分量，其中，相应限幅电平是从亮度分量和色度分量的同一限幅电平集合中选择的。

根据本公开，可以将自适应环路滤波应用于重建帧的像素的亮度分量和色度分量中的一个或多个。如果将自适应环路滤波应用于两个或两个以上的分量，特别是像素的所有亮度分量和色度分量，则对每个分量分别执行滤波。换句话说，下面将详细描述上述方法的步骤，其中上述步骤分别执行于经受自适应环路滤波的每个分量。

可以将自适应环路滤波应用于重建帧的单个像素、特别是对应于诸如译码块等块的一组像素、或重建帧的所有像素。

如上所述，像素的连通区域通常可以定义为该像素的相邻像素集合。该集合可以围绕像素对称排布，其中可以在重建帧的边界或重建块的边界附近应用修改。常用的集合可以是菱形的，例如对于亮度分量是7×7菱形或对于色度分量是5×5菱形。

对于连通区域中的每个相邻像素，确定重建帧的像素的亮度分量和色度分量中的至少一个(即亮度分量或色度分量)与相邻像素的亮度分量和色度分量中的至少一个(即亮度分量或相应色度分量)之间的差异。每个所得差异根据其相应限幅电平进行限幅。换句话说，连通区域中的每个相邻像素对于亮度分量和色度分量中的至少一个中的每个分量具有相关联的相应限幅电平。因此，相应限幅电平取决于被滤波的分量以及对应相邻像素的坐标(x+i,y+j)相对于亮度分量和色度分量中的至少一个被滤波的像素的坐标(x,y)的偏移(i,j)。

无论像素的哪个分量(即亮度分量或两个色度分量之一)被滤波，从单个限幅电平集合中选择相应的限幅电平。同一限幅电平集合可以特别包括亮度分量和色度分量的所有允许或可能的限幅电平。

从同一可能的限幅电平集合中选择亮度分量和色度分量的限幅电平可以简化非线性自适应环路滤波器的实现。特别地，可以简化根据公式或表对限幅电平的确定。

可以根据亮度分量和色度分量中的至少一个的位深度选择相应限幅电平。替代地或附加地，可以根据连通区域中的相应相邻像素的相应限幅索引选择相应限幅电平。换句话说，对于每个相邻像素，根据该相邻像素的限幅索引选择对应限幅电平，该限幅索引对于该相邻像素的不同分量可能不同。

特别地，从亮度分量和色度分量的同一限幅电平集合中选择相应限幅电平可能意味着，如果亮度分量和色度分量的位深度相同，则对于特定的限幅索引，将为亮度分量和色度分量选择相同的限幅电平。换句话说，限幅电平集合中的限幅电平只由位深度和限幅索引确定，而与执行的是亮度滤波还是色度滤波无关。因此，当限幅索引相同且亮度分量和色度分量的位深度相同时，从限幅电平集合中选择的限幅电平是相同的，就此而言，该限幅电平集合对于亮度分量和色度分量可以是统一的。这不排除以下情况：如果相邻像素的亮度分量和色度分量具有不同的位深度和/或不同的限幅索引，则可以为相邻像素的亮度分量和色度分量选择不同的限幅电平。

可以在视频流中信令通知相应限幅索引。

相应限幅电平可以是小于或等于2

与节省硬件平方面积的现有技术相比，对于每次乘法，限幅电平的第一极限可以允许将滤波乘法位深度减小1位。

根据一种实施方式，重建帧中坐标为(x，y)的像素的滤波的相应分量O′(x，y)可以根据下式获得：

Δ(x，y，i，j)＝I(x+i，y+j)-I(x，y)

Clip(Δ，Lim)＝Clip3(-Lim(i，j)，Lim(i，j)，Δ)

其中，I(x+i，y+j)是重建帧中坐标为(x+i，y+j)的像素的亮度分量的正BitDepthLuma位值或色度分量的BitDepthChroma位值，w(i，j)表示对应于像素的连通区域中位置相对于滤波的像素具有偏移(i，j)的相邻像素的n位整数滤波器系数，Lim(i，j)表示对应于像素的连通区域中具有偏移(i，j)的相邻像素的相应限幅电平。

相应限幅电平可以是正k位限幅值，k＜＝BitDepth，其中，BitDepth表示亮度分量和色度分量中的至少一个的位深度。

特别地，对于亮度分量，相应限幅电平可以是Lim(i，j)＜＝2

根据一种实施方式，相应限幅电平可以是从表示亮度分量和色度分量的可能限幅电平集合的查找表(look-up table.LUT)中选择的。

以LUT的形式提供限幅电平可以进一步简化非线性ALF的实现。可以在解码器侧根据相应位深度和限幅索引clipIdx确定相应限幅电平，其中限幅索引clipIdx可以编码到位流中并从位流中解析出来。

LUT可以定义如下：

其中，BitDepth表示亮度分量和色度分量中的至少一个的位深度，clipIdx表示限幅索引。

或者，LUT可以定义如下：

其中，BitDepth表示亮度分量和色度分量中的至少一个的位深度，clipIdx表示限幅索引。

亮度分量和色度分量的限幅电平集合Lim(i,j)可以通过改变亮度分量的位深度BitDepthLuma和色度分量的位深度BitDepthChroma以及索引Idx(i,j)根据下式确定：

对于亮度分量，

对于色度分量，

或者，亮度分量和色度分量的限幅电平集合Lim(i,j)可以通过改变亮度分量的位深度BitDepthLuma和色度分量的位深度BitDepthChroma以及索引Idx(i,j)根据下式确定：

对于亮度分量，

对于色度分量，

Idx(i，j)＝0

和/或

对于亮度分量，

对于色度分量，

Idx(i，j)>0。

或者，亮度分量和色度分量的限幅电平集合Lim(i,j)可以通过改变亮度分量或色度分量的位深度BitDepth以及索引Idx(i,j)根据下式确定：

Idx(i，j)＝0

和/或

对于亮度滤波，

Idx(i，j)＞0。

表示亮度分量和色度分量的限幅电平集合Lim(i，j)的LUT可以通过改变亮度分量的位深度BitDepthLuma和色度分量的位深度BitDepthChroma以及索引Idx(i，j)根据下式获得：

对于亮度分量，

对于色度分量，

或者，表示亮度分量和色度分量的限幅电平集合Lim(i，j)的LUT可以通过改变亮度分量的位深度BitDepthLuma和色度分量的位深度BitDepthChroma以及索引Idx(i，j)根据下式确定：

对于亮度分量，

对于色度分量，

Idx(i，j)＝0

和/或

对于亮度分量，

对于色度分量，

Idx(i，j)＞0。

或者，表示亮度分量和色度分量的限幅电平集合Lim(i，j)的LUT可以通过改变亮度分量或色度分量的位深度BitDepth以及索引Idx(i，j)根据下式确定：

Idx(i，j)＝0

和/或

Idx(i，j)＞0。

根据一种实施方式，对于限幅电平集合，索引Idx(i，j)选自0到m的正值范围，其中，m是正整数值。根据一种实施方式，对于可能限幅电平集合，Idx(i，j)＝0，1，2，..，m，m是正整数。m可以设置为等于3。

根据一种实施方式，亮度分量和色度分量的可能的限幅电平集合Lim(i，j)可以通过改变亮度分量的位深度BitDepthLuma和色度分量的位深度BitDepthChroma以及索引Idx(i，j)根据下式确定：

对于亮度分量，Lim(i，j)＝

[1＜＜(BitDepthLuma-ShiftConst[Idx(i，j)])]

对于色度分量，Lim(i，j)＝

[1＜＜(BitDepthChroma-ShiftConst[Idx(i，j)])]

Idx(i，j)＝0，1，2，3

ShiftConst[0]＝0,ShiftConst[1]＝3,ShiftConst[2]＝5,ShiftConst[3]＝7

或

ShiftConst[0]＝0,ShiftConst[1]＝2,ShiftConst[2]＝4,ShiftConst[3]＝6。

可以对重建帧的亮度分量和色度分量应用环内滤波。

根据实施例的一方面，提供了一种在视频编码装置或解码装置中使用的环内滤波装置，其中，环内滤波装置用于处理重建帧以生成滤波的重建帧，其中，重建帧包括多个像素，每个像素与像素值相关联，并且其中，环内滤波器装置包括用于执行根据实施例的任何一种方法的一个或多个处理电路。

根据实施例的另一方面，提供了一种编码器，该编码器包括用于执行根据实施例的任何一种方法的处理电路。

根据实施例的另一方面，提供了一种解码器，该解码器包括用于执行根据实施例的任何一种方法的处理电路。

根据实施例的另一方面，提供了一种包括指令的计算机程序产品，该指令在由计算机执行时，使计算机执行根据实施例的任何一种方法。

根据实施例的另一方面，提供了一种编码器，该编码器包括：一个或多个处理器；以及非暂时性计算机可读存储介质，该非暂时性计算机可读存储介质耦合到一个或多个处理器并且存储由一个或多个处理器执行的指令，其中，指令在由一个或多个处理器执行时，将编码器配置为执行根据实施例的任何一种方法。

根据实施例的另一方面，提供了一种解码器，该解码器包括：一个或多个处理器；以及非暂时性计算机可读存储介质，该非暂时性计算机可读存储介质耦合到一个或多个处理器并且存储由一个或多个处理器执行的指令，其中，指令在由一个或多个处理器执行时，将解码器配置为执行根据实施例的任何一种方法。

根据实施例的另一方面，提供了一种用于处理重建帧以生成滤波的重建帧的编码器，其中，重建帧包括多个像素，每个像素与像素值相关联，并且其中，该编码器包括：减法单元，用于形成/确定重建帧的像素的亮度分量和色度分量中的至少一个与像素的连通区域中的相邻像素的亮度分量和色度分量中的至少一个之间的差异；限幅单元，用于根据相应限幅电平对差异进行限幅；第一加法单元，用于形成/确定限幅的差异的加权和；以及第二加法单元，用于将加权和与像素的亮度分量和色度分量中的至少一个相加以确定像素的滤波的相应分量，其中，相应限幅电平是从亮度分量和色度分量的同一限幅电平集合中选择的。

根据实施例的另一方面，提供了一种用于处理重建帧以生成滤波的重建帧的解码器，其中，重建帧包括多个像素，每个像素与像素值相关联，并且其中，该解码器包括：减法单元，用于形成/确定重建帧的像素的亮度分量和色度分量中的至少一个与像素的连通区域中的相邻像素的亮度分量和色度分量中的至少一个之间的差异；限幅单元，用于根据相应限幅电平对差异进行限幅；第一加法单元，用于形成/确定限幅的差异的加权和；以及第二加法单元，用于将加权和与像素的亮度分量和色度分量中的至少一个相加以确定像素的滤波的相应分量，其中，相应限幅电平是从亮度分量和色度分量的同一限幅电平集合中选择的。

在上述实施例中，形成重建帧的像素(滤波的像素或待滤波像素)与该像素的连通区域中位于沿一个方向的线上的相邻像素之间的差异。换句话说，形成滤波的像素的位置周围的重建帧中的该像素的连通区域中几个像素的加权和，其中，相邻像素是指重建帧或重建块中在滤波的像素周围的多个像素。在示例中，该方向可以理解为经过坐标为(x,y)、(x+i,x+j)、(x-i,x-j)的m个点(例如3个点)的线。换句话说，滤波的像素对应于坐标(x,y)，相邻像素分别对应于坐标(x+i,x+j)、(x-i,x-j)，对于每个方向和偏移(i,j)，形成滤波的像素(x,y)与相邻像素(x+i,x+j)之间的限幅差异以及滤波的像素(x,y)与相邻像素(x-i,x-j)之间的另一限幅差异。可以考虑多个方向以提供对称滤波。常用的示例是用于亮度滤波的7×7菱形和用于色度滤波的5×5菱形，如图12所示。

根据本公开的另一方面，上述重建帧滤波方法可以在编码器侧和解码器侧用于亮度分量和色度分量。

根据另一方面，本公开涉及一种用于对视频流进行解码的装置，该装置包括处理器和存储器。存储器存储使处理器执行根据实施例的任何一种方法的指令。

根据另一方面，本公开涉及一种用于对视频流进行编码的装置，该装置包括处理器和存储器。存储器存储使处理器执行根据实施例的任何一种方法的指令。

根据另一方面，提出了一种计算机可读存储介质，该计算机可读存储介质上存储有指令，上述指令在执行时使一个或多个处理器用于对视频数据进行译码。上述指令使一个或多个处理器执行根据实施例的任何一种方法。

根据另一方面，本公开涉及一种计算机程序，该计算机程序包括程序代码，该程序代码在计算机上执行时用于执行根据实施例的任何一种方法。

因此，对于亮度分量，所描述的环内滤波器可能需要将n位滤波器系数乘以待滤波像素与位于沿一个方向的线上的相邻像素之间的两个限幅差异之和的(BitDepthLuma+2)位值的N次乘法，而非现有技术的解决方案那样将n位滤波器系数乘以(BitDepthLuma+3)位值的N次乘法。对于色度分量，环内滤波器可能需要将n位滤波器系数乘以待滤波像素与位于沿一个方向的线上的相邻像素之间的两个限幅差异之和的(BitDepthChroma+2)位值的N次乘法，而非现有技术的解决方案那样将n位滤波器系数乘以(BitDepthChroma+3)位值的N次乘法。

在附图和以下描述中阐述了一个或多个实施例的细节。根据说明书、附图、权利要求，其他特征、目的、优点将显而易见。

附图说明

在下文中，将参考附图详细描述本发明的实施例，在附图中：

图1A是示出用于实现本公开实施例的视频译码系统的示例的框图；

图1B是示出用于实现本公开实施例的视频译码系统的另一示例的框图；

图2示出根据本公开实施例的包括滤波器的编码装置的示意图；

图3示出根据本公开实施例的包括滤波器的解码装置的示意图；

图4是示出编码装置或解码装置的示例的框图；

图5是示出编码装置或解码装置的另一示例的框图；

图6是示出限幅电平相对于现有技术的变化的示意图；

图7是示出根据本公开实施例的示例性过程的示例性机制的示意图；

图8示出根据本公开实施例的视频编码/解码方法的流程图；

图9示出图示根据本公开实施例的编码/解码装置的示例的框图；

图10是示出实现内容分发服务的内容供应系统的示例结构的框图；以及

图11是示出终端设备的示例的结构的框图；

图12示出用于ALF的示例性7×7和5×5菱形滤波器抽头。

在下文中，如果没有另外明确指出，则相同的附图标记表示相同或至少在功能上等同的特征。

具体实施方式

在以下描述中，参考了附图，这些附图形成了本公开的一部分，并且通过说明的方式示出了本公开的实施例的特定方面或其中可以使用本公开的实施例的特定方面。应理解，本公开的实施例可以用在其他方面，并且包括在附图中未示出的结构或逻辑变化。因此，以下具体实施方式不应被视为限制性的，并且本公开的范围由所附权利要求限定。

例如，应当理解，与所描述的方法有关的公开对于配置为执行该方法的相应设备或系统也可以成立，反之亦然。例如，如果描述了一个或多个特定的方法步骤，则对应的设备可以包括一个或多个单元(例如，功能单元)以执行所述的一个或多个方法步骤(例如，一个单元执行一个或多个步骤，或多个单元各自执行多个步骤中的一个或多个)，即使这样的一个或多个单元未在附图中明确描述或示出。另一方面，例如，如果基于一个或多个单元(例如，功能单元)来描述特定装置，则相应的方法可以包括执行一个或多个单元的功能的一个步骤(例如，执行一个或多个单元的功能的一个步骤，或分别执行一个或多个单元的功能的多个步骤)，即使在附图中没有明确地描述或示出这样的一个或多个步骤。此外，应理解，除非另外特别指出，否则本文描述的各种示例性实施例和/或方面的特征可以彼此组合。

在本公开的全文中使用以下术语：

-译码块(coding block)：M×N样本块，M和N为正整数值，其中，将译码树块(CTB)划分为译码块称为分割。

-译码树块(coding tree block，CTB)：L×L样本块，L为正整数值，其中，将分量帧划分为CTB称为分割。

-译码树单元(coding tree unit，CTU)：包括具有三个样本阵列的图像的亮度样本的CTB、色度样本的两个对应CTB、或单色图像或使用三种单独颜色平面和语法结构(用于对样本进行译码)译码的图像的样本的CTB。

-译码单元(coding unit，CU)：包括具有三个样本阵列的图像的亮度样本的译码块、色度样本的两个对应译码块，或单色图像或使用三种单独颜色平面和语法结构(用于对样本进行译码)译码的图像的样本的译码块。

-分量(component)：来自以4:2:0、4:2:2或4:4:4颜色格式构成图像的三个阵列(一个亮度和两个色度)之一的单个样本或阵列，或以单色格式构成图像的阵列的单个样本或阵列。

-图像(picture)：单色格式的亮度样本阵列，或4:2:0、4:2:2和4:4:4颜色格式的一个亮度样本阵列和两个相应的色度样本阵列。

视频译码通常是指处理形成视频或视频序列的图像序列的处理。替代术语“图像”，术语“帧”或“图片”在视频编码领域中可以用作同义词。视频译码(通常称为译码)包括视频编码和视频解码两部分。视频编码在源侧执行，通常包括处理(例如压缩)原始视频图像以减少表示视频图像所需的数据量(从而更高效存储和/或传输)。视频解码在目的地端执行，通常包括相对于编码器作逆处理，以重建视频图像。实施例涉及的视频图像(或通常称为图像)的“译码”应理解为涉及视频图像或相应视频序列的“编码”或“解码”。编码部分和解码部分也合称为编解码(编码和解码，CODEC)。

在无损视频译码的情况下，可以重建原始视频图像，即重建的视频图像具有与原始视频图像相同的质量(假设存储或传输期间没有传输损耗或其他数据丢失)。在有损视频译码的情况下，例如通过量化等执行进一步压缩，以减少表示视频图像所需的数据量，解码器侧无法完全重建视频图像，即重建的视频图像的质量比原始视频图像的质量更低或更差。

几种视频译码标准属于“有损混合视频编解码”(即，将样本域中的空间预测和时间预测与在变换域中应用量化的2D变换译码结合)。视频序列中的每个图像通常分割为不重叠的块的集合，并且通常在块级别执行译码。换句话说，编码器通常在块(视频块)级别处理(即编码)视频，例如使用空间(图像内)预测和/或时间(图像间)预测生成预测块；从当前块(当前处理/待处理的块)中减去预测块，得到残差块；在变换域中变换残差块并量化残差块，以减少待传输(压缩)的数据量，而解码器将相对于编码器的逆处理应用于编码或压缩的块，以重建用于表示的当前块。另外，编码器重复解码器的处理循环，使得编码器和解码器生成相同的预测(例如帧内预测和帧间预测)和/或重建用于处理，即对后续块进行译码。

在以下视频译码系统10的实施例中，基于图1A、图1B、图2至图3描述视频编码器20和视频解码器30。

图1A是示出示例译码系统10的示意框图，例如可以利用本申请技术的视频译码系统10(或简称译码系统10)。视频译码系统10的视频编码器20(或简称编码器20)和视频解码器30(或简称解码器30)代表可以用于执行根据本申请中描述的各种示例的技术的设备的示例。

如图1A所示，译码系统10包括源设备12，源设备12用于将编码图像数据21提供给例如目的地设备14用于对编码图像数据13进行解码。

源设备12包括编码器20，并且可以附加地(即可选地)包括图像源16、诸如图像预处理器18等预处理器(或预处理单元)18、通信接口或通信单元22。

图像源16可以包括或可以是任何类型的图像捕获设备，例如用于捕获现实世界图像等的照相机，和/或任何类型的图像生成设备，例如用于生成计算机动画图像的计算机图形处理器，或用于获得和/或提供现实世界图像、计算机生成的图像(例如屏幕内容、虚拟现实(virtual reality，VR)图像)和/或其任何组合(例如增强现实(augmented reality，AR)图像))的任何类型的其他设备。图像源可以是存储任何上述图像的任何类型的内存或存储器。

为了区分预处理器18和预处理单元18执行的处理，图像或图像数据17也可以称为原始图像或原始图像数据17。

预处理器18可以用于接收(原始)图像数据17并对图像数据17执行预处理，以获得预处理的图像19或预处理的图像数据19。例如，预处理器18执行的预处理可以包括修剪、颜色格式转换(例如从RGB转换为YCbCr)、调色、或去噪。可以理解，预处理单元18可以是可选组件。

视频编码器20可以用于接收预处理的图像数据19并提供编码的图像数据21(下面将基于图2等进一步描述)。

源设备12的通信接口22可以用于：接收编码图像数据21并通过通信信道13向诸如目的地设备14等另一设备或任何其他设备发送编码图像数据21(或其任何其他处理版本)，以便存储或直接重建。

目的地设备14包括解码器30(例如视频解码器30)，并且可以附加地(即可选地)包括通信接口或通信单元28、后处理器32(或后处理单元32)和显示设备34。

目的地设备14的通信接口28可以用于直接从源设备12或从诸如存储设备(例如编码图像数据存储设备)等任何其他源接收编码图像数据21(或其任何其他处理版本)，并将编码图像数据21提供给解码器30。

通信接口22和通信接口28可以用于经由源设备12与目的设备14之间的直接通信链路(例如直接有线或无线连接)或通过任何类型的网络(例如有线或无线网络或其任何组合、或任何类型的私网和公网或其任何组合)发送或接收编码图像数据21或编码数据13。

通信接口22可以用于将编码图像数据21封装为诸如包等适合的格式，和/或使用任何类型的传输编码或处理来处理编码图像数据，以在通信链路或通信网络上进行传输。

通信接口22对应于通信接口28，可以用于接收传输的数据并使用任何类型的对应传输解码或处理和/或解封装来处理传输的数据，以获得编码图像数据21。

通信接口22和通信接口28均可配置为如图1A中从源设备12指向目的地设备14的对应通信信道13的箭头所指示的单向通信接口，或配置为双向通信接口，并且可以用于发送和接收消息，例如以建立连接、确认并交换与通信链路和/或数据传输(例如编码图像数据传输)相关的任何其他信息。

解码器30可以用于接收编码图像数据21并提供解码图像数据31或解码图像31(下面将例如基于图3或图5进一步描述)。

目的地设备14的后处理器32可以用于对解码图像数据31(也称为重建图像数据)例如解码图像31进行后处理，以获得后处理的图像数据33，例如后处理的图像33。后处理单元32执行的后处理可以包括任何一种或多种颜色格式转换(例如从YCbCr转换为RGB)、调色、修剪、重采样、或任何其他处理，例如以产生由显示设备34等显示的解码图像数据31。

目的地设备14的显示设备34可以用于接收后处理图像数据33，以向用户或观众等显示图像。显示设备34可以是或包括用于表示重建图像的任何类型的显示器，例如集成或外部显示屏或显示器。显示器可以是液晶显示器(liquid crystal display，LCD)、有机发光二极管(organic light emitting diode，OLED)显示器、等离子显示器、投影仪、微型LED显示器、硅基液晶显示器(liquid crystal on silicon，LCoS)、数字光处理器(digitallight processor，DLP)、或任何其他类型的显示屏。

尽管图1A将源设备12和目的地设备14描绘为单独的设备，但设备实施例也可以包括这两个设备或功能，即，源设备12或对应的功能和目的地设备14或对应的功能。在这种实施例中，可以使用相同的硬件和/或软件或通过单独的硬件和/或软件或其任何组合来实现源设备12或对应的功能和目的地设备14或对应的功能。

基于本说明书，对于技术人员将显而易见的是，图1A所示的源设备12和/或目的地设备14内的不同单元或功能的存在和(准确)划分可以根据实际设备和应用而有所不同。

编码器20(例如视频编码器20)和/或解码器30(例如视频解码器30)可以通过如图1B所示的处理电路实现，例如一个或多个微处理器、数字信号处理器(digital signalprocessor，DSP)、专用集成电路(application-specific integrated circuit，ASIC)、现场可编程门阵列(field-programmable gate array，FPGA)、离散逻辑、硬件、视频译码专用处理器或其任意组合。编码器20可以通过处理电路46实现，以包含参考图2的编码器20讨论的各种模块和/或本文描述的任何其他编码器系统或子系统。解码器30可以通过处理电路46实现，以包含参考图3的解码器30讨论的各种模块和/或本文描述的任何其他解码器系统或子系统。处理电路可以用于执行下文讨论的各种操作。如图5所示，如果部分技术在软件中实施，则设备可以将用于软件的指令存储在适合的非暂时性计算机可读存储介质中，并且可以使用一个或多个处理器在硬件中执行指令，从而执行本公开的技术。例如，如图1B所示，视频编码器20和视频解码器30可以作为组合编解码器(encoder/decoder，CODEC)的一部分集成在单个设备中。

图1B所示的视频译码系统40包括实现视频编码器20和视频解码器30的处理电路。另外，可以提供一个或多个成像设备41(例如用于捕获现实世界图像的照相机)、天线42、一个或多个存储器44、一个或多个处理器43、和/或显示设备45(例如上述显示设备34)作为视频译码系统40的一部分。

源设备12和目的地设备14可以包括各种设备中的任何一种，包括任何类型的手持设备或固定设备，例如笔记本电脑或膝上型电脑、手机、智能手机、平板或平板电脑、相机、台式计算机、机顶盒、电视机、显示设备、数字媒体播放器、视频游戏机、视频流设备(例如内容业务服务器或内容分发服务器)、广播接收器设备、广播发射器设备等，并且可以不使用或使用任何类型的操作系统。在一些情况下，源设备12和目的地设备14可以配备用于无线通信。因此，源设备12和目的地设备14可以是无线通信设备。

在一些情况下，图1A所示的视频译码系统10仅是示例，本申请的技术可以应用于视频译码系统(例如视频编码或视频解码)，这些视频译码系统不一定包括编码设备与解码设备之间的任何数据通信。在其他示例中，数据是从本地存储器中检索，通过网络流式传输等。视频编码设备可以对数据进行编码并将数据存储在存储器中，和/或视频解码设备可以从存储器中检索数据并对数据进行解码。在一些示例中，编码和解码由相互不通信而只是将数据编码在存储器中和/或从存储器中检索并解码数据的设备执行。

为了便于描述，在本文中例如参考高效视频译码(high-efficiency videocoding，HEVC)或通用视频译码(versatile video coding，VVC)的参考软件描述本公开的实施例，VVC是由ITU-T视频译码专家组(video coding experts group，VCEG)和ISO/IEC运动图像专家组(motion picture experts group，MPEG)的视频译码联合工作组(jointcollaboration team on video coding，JCT-VC)开发的下一代视频译码标准。本领域普通技术人员将理解本公开的实施例不限于HEVC或VVC。

编码器和编码方法

图2示出了示例视频编码器20的示意框图，视频编码器20用于实现本申请的技术。在图2的示例中，视频编码器20包括输入端201(或输入接口201)、残差计算单元204、变换处理单元206、量化单元208、反量化单元210、逆变换处理单元212、重建单元214、环路滤波器单元220、解码图像缓冲区(decoded picture buffer，DPB)230、模式选择单元260、熵编码单元270、以及输出端272(或输出接口272)。模式选择单元260可以包括帧间预测单元244、帧内预测单元254、以及分割单元262。帧间预测单元244可以包括运动估计单元和运动补偿单元(未示出)。图2所示的视频编码器20也可以称为混合型视频编码器或根据混合型视频编解码器的视频编码器。

残差计算单元204、变换处理单元206、量化单元208、以及模式选择单元260可以称为形成编码器20的前向信号路径，而反量化单元210、逆变换处理单元212、重建单元214、环路滤波器220、解码图像缓冲区(DPB)230、帧间预测单元244、以及帧内预测单元254可以称为形成视频编码器20的后向信号路径，其中视频编码器20的后向信号路径对应于解码器的信号路径(参见图3中的视频解码器30)。反量化单元210、逆变换处理单元212、重建单元214、环路滤波器220、解码图像缓冲区(DPB)230、帧间预测单元244、以及帧内预测单元254也称为形成视频编码器20的“内置解码器”。

图像和图像分割(图像和块)

编码器20可以用于例如通过输入端201接收图像17(或图像数据17)，例如形成视频或视频序列的图像序列中的图像。接收的图像或图像数据也可以是预处理的图像19(或预处理的图像数据19)。为了简单起见，以下描述针对图像17。图像17也可以称为当前图像或待译码的图像(特别是在视频译码中将当前图像区分于其他图像，例如同一视频序列(即也包括当前图像的视频序列)中的先前编码和/或解码的图像)。

(数字)图像是或可以视为由具有强度值的样本组成的二维阵列或矩阵。阵列中的样本也可以称为像素(简称图像元素)。阵列或图像在水平方向和垂直方向(或轴)上的样本数量定义了图像的尺寸和/或分辨率。为了表示颜色，通常采用三个颜色分量，即图像可以表示为或包括三个样本阵列。在RBG格式或颜色空间中，图像包括对应的红色、绿色、蓝色样本阵列。然而，在视频译码中，每个像素通常以亮度和色度格式或颜色空间表示，例如YCbCr，包括由Y表示的亮度分量(有时也用L表示)以及由Cb、Cr表示的两个色度分量。亮度(luma)分量Y表示亮度或灰度水平强度(例如在灰度等级图像中两者相同)，而两个色度(chroma)分量Cb和Cr表示色度或颜色信息分量。相应地，YCbCr格式的图像包括亮度样本值(Y)的亮度样本阵列和色度值(Cb和Cr)的两个色度样本阵列。RGB格式的图像可以将转换或变换为YCbCr格式，反之亦然。该过程也称为颜色变换或转换。如果图像是单色的，则该图像可以只包括亮度样本阵列。相应地，图像可以是例如单色格式的亮度样本阵列或4:2:0、4:2:2和4:4:4颜色格式的一个亮度样本阵列和两个相应色度样本阵列。

视频编码器20的实施例可以包括图像分割单元(图2中未示出)，用于将图像17分割为多个(通常不重叠的)图像块203。这些块也可以称为根块、宏块(H.264/AVC)、或译码树块(CTB)、或译码树单元(CTU)(根据H.265/HEVC和VVC)。图像分割单元可以用于对视频序列的所有图像使用相同的块尺寸以及限定块尺寸的对应网格，或在图像或图像子集或图像组之间改变块尺寸，并将每个图像分割为对应块。

在其他实施例中，视频编码器可以用于直接接收图像17的块203，例如，形成图像17的一个、几个、或所有块。图像块203也可以称为当前图像块或待译码图像块。

与图像17一样，图像块203也是或视为具有强度值(样本值)的样本组成的二维阵列或矩阵，但是尺寸比图像17小。换句话说，块203可以包括例如一个样本阵列(例如在单色图像17的情况下，亮度阵列，或在彩色图像的情况下，亮度阵列或色度阵列)或三个样本阵列(例如在彩色图像17情况下，一个亮度阵列和两个色度阵列)或任何其他数量和/或类型的阵列，具体取决于所采用的颜色格式。块203的水平方向和垂直方向(或轴)上的样本数量定义了块203的尺寸。相应地，块可以例如包括M×N(M列×N行)样本阵列或M×N变换系数阵列。

图2所示的视频编码器20的实施例可以用于逐块对图像17进行编码，例如，对每个块203执行编码和预测。

图2所示的视频编码器20的实施例还可以用于使用切片(也称为视频切片)分割和/或编码图像，其中图像可以分割为一个或多个(通常不重叠的)切片或使用一个或多个切片编码，每个切片可包括一个或多个块(例如CTU)或一组或多组块(例如区块(tile)(H.265/HEVC和VVC)或砖(brick)(VVC))。

图2所示的视频编码器20的实施例还可以用于使用切片/区块组(也称为视频区块组)和/或区块(也称为视频区块)分割和/或编码图像，其中图像可以分割为一个或多个(通常不重叠的)切片/区块组或使用一个或多个切片/区块组编码，每个切片/区块组可以包括一个或多个块(例如CTU)或一个或多个区块，其中每个区块可以为矩形并且可以包括一个或多个块(例如CTU)，例如完整或部分块。

残差计算

残差计算单元204可以用于例如通过逐个样本(逐个像素)地从图像块203的样本值减去预测块265的样本值以获取样本域中的残差块205，基于图像块203和预测块265(关于预测块265的其他细节在后文提供)计算残差块205(也称为残差205)。

变换

变换处理单元206可以用于对残差块205的样本值应用变换(例如离散余弦变换(discrete cosine transform，DCT)或离散正弦变换(discrete sine transform，DST))以获取变换域中的变换系数207。变换系数207也可以称为变换残差系数并表示变换域中的残差块205。

变换处理单元206可以用于应用DCT/DST的整数近似，例如H.265/HEVC指定的变换。与正交DCT变换相比，这种整数近似通常按特定因子缩放。为了保留由正向和逆向变换处理的残差块的范数，将附加缩放因子用作变换过程的一部分。缩放因子通常基于某些约束条件来选择，例如缩放因子是用于移位运算的2的幂、变换系数的位深度、准确度与实现成本之间的权衡等。例如，可以为由逆变换处理单元312执行的逆变换(以及例如由视频解码器30处的逆变换处理单元212执行的相应逆变换)指定特定缩放因子，并且可以相应地指定例如由编码器200处的变换处理单元206执行的前向变换的相应缩放因子。

视频编码器20的实施例(对应地，变换处理单元206)可以用于输出变换参数，例如一种或多种变换的类型，例如直接输出或经由熵编码单元270进行编码或压缩后输出，从而例如视频解码器30可以接收并使用变换参数进行解码。

量化

量化单元208可以用于例如通过应用标量量化或矢量量化来对变换系数207进行量化以获取量化系数209。量化系数209还可以称为量化变换系数209或量化残差系数209。

量化过程可以降低与一些或全部变换系数207关联的位深度。例如，在量化期间，n位的变换系数可以向下取整到m位的变换系数，其中n大于m。通过调节量化参数(quantization parameter，QP)可以修改量化程度。例如，对于标量量化，可以应用不同的缩放比例以实现更精细的或更粗略的量化。较小的量化步长对应于较精细的量化，而较大的量化步长对应于较粗略的量化。量化参数(QP)可以指示适用的量化步长。例如，量化参数可以是适用量化步长的预定义集合的索引。例如，小量化参数可以对应于精细量化(小量化步长)，而大量化参数可以对应于粗略量化(大量化步长)，或反之亦然。量化可以包括除以量化步长，相应的和/或逆去量化(例如，通过反量化单元210执行)可以包括乘以量化步长。根据一些标准(例如HEVC)的实施例可以用于使用量化参数以确定量化步长。一般地，可以使用包括除法的等式的定点近似(fixed point approximation)基于量化参数来计算量化步长。可以为量化和去量化引入附加缩放因子，以恢复残差块的范数，由于在用于量化步长和量化参数的方程的定点近似中使用了缩放，因此该范数可能会经过了修改。在一个示例性实施方式中，可以组合逆变换的缩放和去量化。或者，可以使用自定义的量化表，并例如在位流中将该表从编码器发送到解码器。量化是有损操作，其中损失随着量化步长的增大而增大。

视频编码器20的实施例(对应地，量化单元208)可以用于输出量化参数(quantization parameter，QP)，例如直接输出或经由熵编码单元270进行编码后输出，从而例如视频解码器30可以接收并使用量化参数进行解码。

反量化

反量化单元210用于对量化系数应用量化单元208的反量化，以获得解量化系数211，例如基于或使用与量化单元208相同的量化步长应用与量化单元208应用的量化方案的反量化方案。解量化系数211也可以称为解量化残差系数211，对应于变换系数207，但是由于量化造成损耗，解量化残差系数211通常不同于变换系数207。

逆变换

逆变换处理单元212用于应用变换处理单元206应用的变换的逆变换，例如，逆离散余弦逆变换(DCT)或离散正弦逆变换(DST)或其他逆变换，以在样本域中获得重建残差块213(或对应的解量化系数213)。重建残差块213也可以称为变换块213。

重建

重建单元214(例如加法器或求和器214)用于例如通过逐样本将重建残差块213的样本值与预测块265的样本值相加，来将变换块213(即重建残差块213)与预测块265相加，以在样本域中获得重建块215。

滤波

环路滤波器单元220(或简称“环路滤波器”220)用于对重建块215进行滤波，以获得滤波块221，或通常用于对重建样本进行滤波以获得滤波样本。环路滤波器单元可以用于平滑像素过渡或以其他方式提高视频质量。环路滤波器单元220可以包括一个或多个环路滤波器，例如去块滤波器、样本自适应偏移(sample-adaptive offset，SAO)滤波器或一个或多个其他滤波器，例如自适应环路滤波器(adaptive loop filter，ALF)、噪声抑制滤波器(noise suppression filter，NSF)或其任何组合。在一个示例中，环路滤波器单元220可以包括去块滤波器、SAO滤波器和ALF滤波器。滤波过程的顺序可以是去块滤波器、SAO、ALF。在另一示例中，增加一个称为具有色度缩放的亮度映射(luma mapping with chromascaling，LMCS)(即自适应环内整形器)的过程。在去块之前执行该过程。在另一示例中，去块滤波过程还可以应用于内部子块边缘，例如仿射子块边缘、ATMVP子块边缘、子块变换(sub-block transform，SBT)边缘和内部子部分(intra sub-partition，ISP)边缘。尽管环路滤波器单元220在图2中示出为环内滤波器，但是在其他配置中，环路滤波器单元220可以实现为环后滤波器。滤波块221也可以称为滤波重建块221。

视频编码器20的实施例(对应地，环路滤波器单元220)可以用于输出环路滤波器参数(例如SAO滤波器参数、ALF滤波器参数或LMCS参数)，例如直接输出或经由熵编码单元270进行编码后输出，从而例如解码器30可以接收并使用相同的环路滤波器参数或相应的环路滤波器进行解码。

解码图像缓冲区

解码图像缓冲区(DPB)230可以是存储参考图像或通常存储参考图像数据，以供视频编码器20对视频数据进行编码的存储器。DPB 230可以由多种存储设备中的任何一种形成，例如动态随机存取存储器(dynamic random access memory，DRAM)，包括同步DRAM(synchronous DRAM，SDRAM)、磁阻RAM(magnetoresistive RAM，MRAM)、电阻RAM(resistiveRAM，RRAM)或其他类型的存储设备。解码图像缓冲区(DPB)230可以用于存储一个或多个滤波块221。解码图像缓冲区230还可以用于存储同一当前图像或不同图像(例如先前重建的图像)的其他先前滤波的块，例如先前重建和滤波的块221，并且可以提供完整的先前重建(即解码)的图像(和对应参考块和样本)和/或部分重建的当前图像(和对应参考块和样本)，例如用于帧间预测。解码图像缓冲区(DPB)230还可以用于存储一个或多个未滤波的重建块215或通常存储未滤波的重建样本(例如在重建块215未被环路滤波器单元220滤波的情况下)，或存储重建块或样本的任何其他进一步处理的版本。

模式选择(分割和预测)

模式选择单元260包括分割单元262、帧间预测单元244和帧内预测单元254，用于从解码图像缓冲区230或其他缓冲区(例如行缓冲区，未示出)接收或获得原始块203(当前图像17的当前块203)和重建图像数据等原始图像数据，例如同一(当前)图像的和/或一个或多个先前解码图像的滤波和/或未滤波的重建样本或块。重建图像数据用作帧间预测或帧内预测等预测所需的参考图像数据，以获得预测块265或预测器265。

模式选择单元260可以用于为当前块预测模式(包括不分割)和预测模式(例如帧内或帧间预测模式)确定或选择一种分割，并生成对应的预测块265以用于残差块205的计算和重建块215的重建。

模式选择单元260的实施例可以用于选择分割和预测模式(例如，从模式选择单元260支持的或可用于模式选择单元260的模式中)，该预测模式提供最佳匹配或者说最小残差(最小残差是指传输或存储中更好的压缩)，或者提供最小信令开销(最小信令开销是指传输或存储中更好的压缩)，或者同时考虑或平衡以上两者。模式选择单元260可以用于基于率失真优化(rate distortion optimization，RDO)确定分割和预测模式，即选择提供最小率失真的预测模式。本文“最佳”、“最小”、“最优”等术语不一定指总体上“最佳”、“最小”、“最优”等，但也可以指满足或终止选择标准，例如值超过或低于阈值或可能导致“次优选择”但会降低复杂度和处理时间的其他限制。

换句话说，分割单元262可以用于将视频序列中的图像分割为译码树单元(CTU)序列，CTU 203可以例如通过迭代使用四叉树分割(quad-tree partitioning，QT)、二叉树分割(binary-tree partitioning，BT)、或三叉树分割(triple-tree partitioning，TT)或其任意组合进一步分割为较小的块部分或子块(再次形成块)，并且用于对每个块部分或子块执行预测，其中模式选择包括选择分割块203的树结构和选择应用于每个块部分或子块的预测模式。

在下文中，将详细说明由示例视频编码器20执行的分割(例如由分割单元262执行)和预测处理(由帧间预测单元244和帧内预测单元254执行)。

分割

分割单元262可以用于将视频序列中的图像分割为译码树单元(CTU)序列，分割单元262可以将译码树单元(CTU)203分割(或划分)为较小的部分，例如正方形或矩形形状的小块。对于具有三个样本阵列的图像，CTU包括N×N亮度样本块以及两个对应的色度样本块。在当前的通用视频译码(VVC)规范中，CTU中亮度块的最大允许尺寸指定为128×128，但将来可能会指定为不同于128×128的值，例如256×256。图像的CTU可以集中/分组为切片/区块组、区块或砖。区块覆盖图像的矩形区域，区块可以分为一个或多个砖。砖由区块内的多个CTU行组成。未分割为多个砖的区块可以称为砖。但是，砖是区块的真实子集，因此不称为区块。VVC支持两种区块组模式，即光栅扫描切片/区块组模式和矩形切片模式。在光栅扫描区块组模式下，切片/区块组包含图像的区块光栅扫描中的区块序列。在矩形切片模式下，切片包含图像的多个砖，这些砖共同组成图像的矩形区域。矩形切片内的砖按切片的砖光栅扫描顺序排列。

这些较小的块(也可以称为子块)可以进一步分割为更小的部分。这也称为树分割或分层树分割，其中例如在根树级别0(层次级别0、深度0)的根块可以递归地分割，例如分割为下一较低树级别的两个或两个以上的块，例如树级别1(层次级别1、深度1)的节点，其中，这些块可以再次分割为下一较低级别的两个或两个以上的块，例如树级别2(层次级别2、深度2)等，直到分割例如因为满足终止标准(例如达到最大树深度或最小块尺寸)而终止。未进一步分割的块也称为树的叶块或叶节点。分割为两个部分的树称为二叉树(binary-tree，BT)，分割为三个部分的树称为三叉树(ternary-tree，TT)，分割为四个部分的树称为四叉树(quad-tree，QT)。

例如，译码树单元(CTU)可以是或包括具有三个样本阵列的图像的亮度样本的CTB、色度样本的两个对应CTB、或单色图像或使用三种单独颜色平面和语法结构(用于对样本进行译码)译码的图像的样本的CTB。相应地，译码树块(CTB)可以是N×N样本块，N为某个值，使得分量划分为CTB，这就是分割。译码单元(CU)可以是或包括具有三个样本阵列的图像的亮度样本的译码块、色度样本的两个对应译码块、或单色图像或使用三种单独颜色平面和语法结构(用于对样本进行译码)译码的图像的样本的译码块。相应地，译码块(CB)可以是M×N样本块，M和N为某些值，使得CTB划分为译码块，这就是分割。

例如，在实施例中，根据HEVC可以通过使用表示为译码树的四叉树结构将译码树单元(CTU)划分为CU。在叶CU级别做出是否使用图像间(时间)预测或图像内(空间)预测对图像区域进行译码的决定。每个叶CU可以根据PU划分类型进一步划分为一个、两个、或四个PU。在一个PU内使用相同的预测过程，并以PU为单位向解码器传输相关信息。在基于PU划分类型应用预测过程而获得残差块之后，可以根据类似于用于CU的译码树的另一四叉树结构将叶CU分割为变换单元(TU)。

例如，在实施例中，根据当前正在开发的最新视频译码标准(称为通用视频译码(VVC))，使用二叉树和三叉树划分分割结构的组合四叉树嵌套多类型树例如用于分割译码树单元。在译码树单元内的译码树结构中，CU可以为正方形或矩形。例如首先通过四叉树对译码树单元(CTU)进行分割。然后可以通过多类型树结构进一步分割四叉树叶节点。多类型树结构中有四种划分类型：垂直二叉树划分(SPLIT_BT_VER)、水平二叉树划分(SPLIT_BT_HOR)、垂直三叉树划分(SPLIT_TT_VER)、水平三叉树划分(SPLIT_TT_HOR)。多类型树叶节点称为译码单元(CU)，除非CU对于最大变换长度而言太大，这种分段用于预测和变换处理，而无需任何进一步的划分。这表示在大多数情况下，CU、预测单元(prediction unit，PU)、变换单元(transform unit，TU)在四叉树嵌套多类型树译码块结构中的块尺寸相同。当最大支持变换长度小于CU的颜色分量的宽度或高度时，会出现异常。

VVC开发了四叉树嵌套多类型树译码树的结构中的分割划分信息的唯一信令机制。在该信令机制中，译码树单元(CTU)作为四叉树的根首先通过四叉树结构分割。然后每个四叉树叶节点(当足够大可以)通过多类型树结构进一步分割。在多类型树结构中，信令通知第一标志(mtt_split_cu_flag)指示节点是否进一步分割；当节点进一步分割时，信令通知第二标志(mtt_split_cu_vertical_flag)指示划分方向，再信令通知第三标志(mtt_split_cu_binary_flag)指示划分是二叉树划分还是三叉树划分。解码器可以根据mtt_split_cu_vertical_flag和mtt_split_cu_binary_flag的值基于预定规则或表导出CU的多类型树划分模式(MttSplitMode)。应注意，对于某些设计，例如VVC硬件解码器中的64×64亮度块和32×32色度流水线设计，当亮度译码块的宽度或高度大于64时，不允许TT划分。当色度译码块的宽度或高度大于32时，也不允许TT划分。流水线设计将图像划分为多个虚拟流水线数据单元(virtual pipeline data unit，VPDU)，VPDU定义为图像中的不重叠单元。在硬件解码器中，连续的VPDU在多个流水线阶段同时处理。在大多数流水线阶段，VPDU尺寸与缓冲区大小大致成正比，因此需要保持较小的VPDU尺寸。在大多数硬件解码器中，VPDU尺寸可以设置为最大变换块(TB)尺寸。但是在VVC中，三叉树(TT)和二叉树(BT)分割可能会增加VPDU尺寸。

另外应注意，当树节点块的一部分超过底部或图像右边界时，迫使对树节点块进行划分，直到每个译码CU的所有样本都位于图像边界内。

例如，帧内子分割(intra sub-partition，ISP)工具可以根据块尺寸将亮度帧内预测块垂直或水平划分为2个或4个子部分。

在一个示例中，视频编码器20的模式选择单元260可以用于执行本文描述的分割技术的任何组合。

如上所述，视频编码器20用于从(例如预定)预测模式集合中确定或选择最佳或最优的预测模式。预测模式集合可以包括帧内预测模式和/或帧间预测模式。

帧内预测

帧内预测模式集合可以包括35种不同的帧内预测模式，例如像DC(或均值)模式和平面模式等非方向性模式，或如HEVC中定义的方向性模式，或者可以包括67种不同的帧内预测模式，例如像DC(或均值)模式和平面模式等非方向性模式，或如VVC中定义的方向性模式。作为一个示例，几种传统角度帧内预测模式自适应地替换为VVC中定义的非正方形块的广角帧内预测模式。作为另一示例，为了避免DC预测的除法运算，仅使用较长边来计算非正方形块的平均值。并且，可以使用位置决定的帧内预测组合(position dependent intraprediction combination，PDPC)方法进一步修改平面模式的帧内预测结果。

帧内预测单元254用于根据帧内预测模式集合中的帧内预测模式使用同一当前图像的相邻块的重建样本来生成(帧内)预测块265。

帧内预测单元254(或通常为模式选择单元260)还可以用于将帧内预测参数(或通常为指示块的选定帧内预测模式的信息)以语法元素266的形式输出到熵编码单元270，以包括在编码图像数据21中，从而例如视频解码器30可以接收和使用预测参数进行解码。

帧间预测

帧间预测模式集合或可能的帧间预测模式取决于可用参考图像(即，例如存储在DBP 230中的先前的至少部分解码的图像)和其他帧间预测参数，例如取决于是否使用整个参考图像或只使用参考图像的一部分(例如当前块的区域周围的搜索窗口区域)来搜索最佳匹配参考块和/或例如取决于是否应用像素插值，例如半像素、四分之一像素和/或1/16像素插值。

除了上述预测模式之外，还可以使用跳过模式、直接模式、和/或其他帧间预测模式。

例如，对于扩展合并预测，这种模式的合并候选列表由以下五种候选类型按顺序组成：来自空间相邻CU的空间MVP、来自同位CU的时间MVP、来自FIFO表的基于历史的MVP、成对平均MVP和零MV。可以应用基于双边匹配的解码器侧运动矢量修正(decoder sidemotion vector refinement，DMVR)来提高合并模式的MV的准确度。

带有MVD的合并模式(merge mode with MVD，MMVD)是具有运动矢量差异(motionvector difference，MVD)的合并模式。在发送跳过标志和合并标志之后立即发送MMVD标志，以指定MMVD模式是否用于CU。可以应用CU级别自适应运动矢量分辨率(adaptivemotion vector resolution，AMVR)方案。AMVR允许以不同精度对CU的MVD进行译码。根据当前CU的预测模式，可以自适应地选择当前CU的MVD。

当以合并模式对CU译码时，可以将帧间/帧内联合预测(combined inter/intraprediction，CIIP)模式应用于当前CU。对帧间和帧内预测信号进行加权平均以获得CIIP预测。在仿射运动补偿预测中，通过2个控制点(4参数)或3个控制点(6参数)运动矢量的运动信息描述块的仿射运动场。基于子块的时间运动矢量预测(subblock-based temporalmotion vector prediction，SbTMVP)与HEVC中的时间运动矢量预测(temporal motionvector prediction，TMVP)类似，但预测的是当前CU内的子CU的运动矢量。双向光流(bi-directional optical flow，BDOF)以前称为BIO，是一种需要较少的计算量的简化版本，特别是在乘法次数和乘数大小方面的计算量。在三角形分割模式下，可以使用对角线划分或反对角线划分将CU均匀划分为两个三角形部分。此外，双向预测模式在简单平均的基础上进行了扩展，以允许两个预测信号的加权平均。

帧间预测单元244可以包括运动估计(motion estimation，ME)单元和运动补偿(motion compensation，MC)单元(均未在图2中示出)。运动估计单元可以用于接收或获得图像块203(当前图像17的当前图像块203)和解码图像231，或至少一个或多个先前重建块，例如一个或多个先前解码的图像231的重建块，以进行运动估计。例如，视频序列可以包括当前图像和先前解码的图像231，或换句话说，当前图像和先前解码的图像231可以是形成视频序列的图像序列的一部分或形成该图像序列。

编码器20可以用于从多个先前解码的图像中的同一或不同图像的多个参考块中选择参考块，并将参考图像(或参考图像索引)和/或参考块的位置(x、y坐标)与当前块的位置之间的偏移(空间偏移)作为帧间预测参数提供给运动估计单元。该偏移也称为运动矢量(motion vector，MV)。

运动补偿单元可以用于获得(例如接收)帧间预测参数，并基于或使用帧间预测参数执行帧间预测以获得(帧间)预测块265。运动补偿单元执行的运动补偿可能涉及基于通过运动估计确定的运动/块矢量来提取或生成预测块，还可能涉及对子像素精度执行内插。插值滤波可从已知像素样本生成其他像素样本，从而潜在地增加可用于对图像块进行编码的候选预测块的数量。在接收到当前图像块的PU的运动矢量时，运动补偿单元可以在参考图像列表之一中定位运动矢量指向的预测块。

运动补偿单元还可以生成与块和视频切片相关联的语法元素，以供视频解码器30在对视频切片的图像块进行解码中使用。作为切片和相应语法元素的补充或替代，可以生成或使用区块组和/或区块以及相应语法元素。

熵译码

熵编码单元270用于将例如熵编码算法或方案(例如可变长度译码(variablelength coding，VLC)方案、上下文自适应VLC方案(context adaptive VLC，CAVLC)、算术译码方案、二值化、上下文自适应二进制算术译码(context adaptive binary arithmeticcoding，CABAC)、基于语法的上下文自适应二进制算术译码(syntax-based context-adaptive binary arithmetic coding，SBAC)、概率区间分割熵(probability intervalpartitioning entropy，PIPE)译码、或其他熵编码方法或技术)应用于或绕过(不进行压缩)量化系数209、帧间预测参数、帧内预测参数、环路滤波器参数、和/或其他语法元素，以获得可以通过输出端272以编码位流21等形式输出的编码图像数据21，从而例如视频解码器30可以接收并使用用于解码的参数。编码位流21可以发送到视频解码器30，或者可以存储在存储器中，以供稍后由视频解码器30发送或检索。

视频编码器20的其他结构变型可以用于对视频流进行编码。例如，对于某些块或帧，基于非变换的编码器20可以直接量化残差信号而无需使用变换处理单元206。在另一实施方式中，编码器20可以使量化单元208和反量化单元210组合为单个单元。

解码器和解码方法

图3示出了用于实现本申请的技术的视频解码器30的示例。视频解码器30用于接收例如由编码器20编码的编码图像数据21(例如编码位流21)，以获得解码图像331。编码图像数据或位流包括用于对编码图像数据进行解码的信息，例如表示编码视频切片(和/或区块组或区块)的图像块的数据以及相关语法元素。

在图3的示例中，解码器30包括熵解码单元304、反量化单元310、逆变换处理单元312、重建单元314(例如求和器314)、环路滤波器320、解码图像缓冲区(DBP)330、模式应用单元360、帧间预测单元344、以及帧内预测单元354。帧间预测单元344可以是或包括运动补偿单元。在一些实例中，视频解码器30可执行大体上相对于参考图2的视频编码器20描述的编码过程相反的解码过程。

如关于编码器20所述，反量化单元210、逆变换处理单元212、重建单元214、环路滤波器220、解码图像缓冲区(DPB)230、帧间预测单元244、以及帧内预测单元254还称为形成视频编码器20的“内置解码器”。相应地，反量化单元310在功能上可以与反量化单元210相同，逆变换处理单元312在功能上可以与逆变换处理单元212相同，重建单元314在功能上可以与重建单元214相同，环路滤波器320在功能上可以与环路滤波器220相同，解码图像缓冲区330在功能上可以与解码图像缓冲区230相同。因此，针对视频编码器20的相应单元和功能提供的解释相应地适用于视频解码器30的相应单元和功能。

熵解码

熵解码单元304用于解析位流21(或通常为编码图像数据21)并例如对编码图像数据21执行熵解码，以获得例如量化系数309和/或解码的译码参数366，例如帧间预测参数(例如参考图像索引和运动矢量)、帧内预测参数(例如帧内预测模式或索引)、变换参数、量化参数、环路滤波器参数、和/或其他语法元素中的任何一个或全部。熵解码单元304可以用于应用关于编码器20的熵编码单元270所述的编码方案对应的解码算法或方案。熵解码单元304还可以用于向模式应用单元360提供帧间预测参数、帧内预测参数、和/或其他语法元素，并且向解码器30的其他单元提供其他参数。视频解码器30可以接收视频切片级别和/或视频块级别的语法元素。作为切片和相应语法元素的补充或替代，可以接收和/或使用区块组和/或区块以及相应语法元素。

反量化

反量化单元310可以用于(例如通过熵解码单元304解析和/或解码)从编码图像数据21接收量化参数(quantization parameter，QP)(或通常为与反量化相关的信息)和量化系数，并基于量化参数对解码的量化系数309进行反量化以获得解量化系数311(也可以称为变换系数311)。反量化过程可以包括使用视频编码器20为视频切片(或区块或区块组)中的每个视频块确定的量化参数来确定量化程度，同样也确定需要应用的反量化程度。

逆变换

逆变换处理单元312可以用于接收解量化系数311，也称为变换系数311，并将变换应用于解量化系数311以获得样本域中的重建残差块313。重建残差块313也可以称为变换块313。变换可以是逆变换，例如逆DCT、逆DST、逆整数变换或概念上类似的逆变换过程。逆变换处理单元312还可以用于(例如通过熵解码单元304解析和/或解码)从编码图像数据21接收变换参数或相应信息，以确定将应用于解量化系数311的变换。

重建

重建单元314(例如加法器或求和器314)可以用于例如通过将重建残差块313的样本值与预测块365的样本值相加，来将重建残差块313与预测块365相加，以在样本域中获得重建块315。

滤波

环路滤波器单元320(在译码环路中或之后)用于对重建块315进行滤波，以获得滤波块321，例如以进行平滑像素过渡或以其他方式提高视频质量。环路滤波器单元320可以包括一个或多个环路滤波器，例如去块滤波器、样本自适应偏移(SAO)滤波器或一个或多个其他滤波器，例如自适应环路滤波器(ALF)、噪声抑制滤波器(NSF)或其任意组合。在一个示例中，环路滤波器单元220可以包括去块滤波器、SAO滤波器和ALF滤波器。滤波过程的顺序可以是去块滤波器、SAO、ALF。在另一示例中，增加一个称为具有色度缩放的亮度映射(LMCS)(即自适应环内整形器)的过程。在去块之前执行该过程。在另一示例中，去块滤波过程还可以应用于内部子块边缘，例如仿射子块边缘、ATMVP子块边缘、子块变换(SBT)边缘和内部子部分(ISP)边缘。尽管环路滤波器单元320在图3中示出为环内滤波器，但是在其他配置中，环路滤波器单元320可以实现为环后滤波器。

解码图像缓冲区

然后将图像的解码视频块321存储在解码图像缓冲区330中，解码图像缓冲区330将解码图像331存储为参考图像，以用于其他图像的后续运动补偿和/或用于输出或分别显示。

解码器30用于例如通过输出端312输出解码图像311，以向用户呈现或供用户观看。

预测

帧间预测单元344在功能上可以与帧间预测单元244(特别是运动补偿单元)相同，帧内预测单元354在功能上可以与帧内预测单元254相同，并且基于(例如通过熵解码单元304解析和/或解码)从编码图像数据21接收的分割和/或预测参数或相应信息决定划分或分割和执行预测。模式应用单元360可以用于基于重建图像、块或相应的样本(滤波或未滤波)对每个块执行预测(帧内预测或帧间预测)以获得预测块365。

当视频切片或图像译码为帧内译码(intra coded，I)切片时，模式应用单元360的帧内预测单元354用于基于信令通知的帧内预测模式和来自当前图像的先前解码块的数据生成用于当前视频切片的图像块的预测块365。当视频切片或图像译码为帧间译码(即，B或P)切片时，模式应用单元360的帧间预测单元344(例如运动补偿单元)用于基于运动矢量和从熵解码单元304接收的其他语法元素生成用于当前视频切片的视频块的预测块365。对于帧间预测，可以从参考图像列表之一中的参考图像之一产生这些预测块。视频解码器30可以基于存储在DPB 330中的参考图像，使用默认构建技术来构建参考图像列表0和列表1。相同或类似的方法可以应用于使用区块组(例如视频区块组)和/或区块(例如视频区块)作为切片(例如视频切片)的补充或替代的实施例，例如视频可以使用I、P或B区块组和/或区块译码。

模式应用单元360用于通过解析运动矢量或相关信息和其他语法元素，确定用于当前视频切片的视频/图像块的预测信息，并使用预测信息生成用于被解码的当前视频块的预测块。例如，模式应用单元360使用接收到的一些语法元素确定用于对视频切片的视频块进行编码的预测模式(例如帧内预测或帧间预测)、帧间预测切片类型(例如B切片、P切片、或GPB切片)，用于切片的一个或多个参考图像列表的构建信息、用于切片的每个帧间编码视频块的运动矢量、用于切片的每个帧间编码视频块的帧间预测状态、其他信息，以解码当前视频切片中的视频块。相同或类似的方法可以应用于使用区块组(例如视频区块组)和/或区块(例如视频区块)作为切片(例如视频切片)的补充或替代的实施例，例如视频可以使用I、P或B区块组和/或区块译码。

图3所示的视频解码器30的实施例可以用于使用切片(也称为视频切片)分割和/或解码图像，其中图像可以分割为一个或多个(通常不重叠的)切片或使用一个或多个切片解码，每个切片可包括一个或多个块(例如CTU)或一组或多组块(例如区块(H.265/HEVC和VVC)或砖(VVC))。

图3所示的视频解码器30的实施例可以用于使用切片/区块组(也称为视频区块组)和/或区块(也称为视频区块)分割和/或解码图像，其中图像可以分割为一个或多个(通常不重叠的)切片/区块组或使用一个或多个切片/区块组解码，每个切片/区块组可以包括一个或多个块(例如CTU)或一个或多个区块，其中每个区块可以为矩形并且可以包括一个或多个块(例如CTU)，例如完整或部分块。

视频解码器30的其他变型可以用于对编码图像数据21进行解码。例如，解码器30可以在不使用环路滤波单元320的情况下产生输出视频流。例如，对于某些块或帧，基于非变换的解码器30可以直接反量化残差信号而无需使用逆变换处理单元312。在另一实施方式中，视频解码器30可以使反量化单元310和逆变换处理单元312组合为单个单元。

应理解，在编码器20和解码器30中，可以对当前步骤的处理结果进一步处理，然后输出到下一步骤。例如，在插值滤波、运动矢量推导、或环路滤波之后，可以对插值滤波、运动矢量推导、或环路滤波的处理结果进行进一步操作，例如限幅(clip)或移位(shift)。

图4是根据本公开实施例的视频译码设备400的示意图。视频译码设备400适用于实现如下所述的公开实施例。在一个实施例中，视频译码设备400可以是解码器(例如图1A的视频解码器30)或编码器(例如图1A的视频编码器20)。

视频译码设备400可以包括：用于接收数据的入口端口410(或输入端口410)和一个或多个接收器单元(Rx)420；用于处理数据的处理器、逻辑单元、或中央处理单元(central processing unit，CPU)430；用于发送数据的一个或多个发射器单元(Tx)440和出口端口450(或输出端口450)；用于存储数据的存储器460。视频译码设备400还可以包括耦合到入口端口410、接收器单元420、发射器单元440、以及出口端口450的光电(optical-to-electrical，OE)组件和光电(electrical-to-optical，EO)组件，用于光信号或电信号的输入和输出。

处理器430可以通过硬件和软件实现。处理器430可以实现为一个或多个CPU芯片、核(例如多核处理器)、FPGA、ASIC和DSP。处理器430可以与入口端口410、接收器单元420、发射器单元440、出口端口450和存储器460通信。处理器430可以包括译码模块470。译码模块470实现本文描述的公开实施例。例如，译码模块470可以实现、处理、准备或提供各种译码操作。因此，将译码模块470包括在内为视频译码设备400的功能提供了实质性的改进，并且实现了视频译码设备400到不同状态的转换。或者，译码模块470可以实现为存储在存储器460中并由处理器430执行的指令。

存储器460可以包括一个或多个磁盘、磁带驱动器、和固态驱动器，并且可以用作溢出数据存储设备，以在选择要执行的程序时存储程序，并存储在程序执行期间读取的指令和数据。存储器460可以例如是易失性和/或非易失性的，并且可以是只读存储器(read-only memory，ROM)、随机存取存储器(random access memory，RAM)、三态内容可寻址存储器(ternary content-addressable memory，TCAM)、和/或静态随机存储器(staticrandom-access memory，SRAM)。

图5是根据示例性实施例的可以用作图1A中的源设备12和/或目的地设备14的装置500的简化框图。

装置500中的处理器502可以是中央处理单元。或者，处理器502可以是任何其他类型的设备或多个设备，能够操作或处理现有信息或以后开发的信息。尽管所公开的实施方式可以利用如图所示的单个处理器(例如，处理器502)来实践，但是使用一个以上的处理器可以实现速度和效率上的优势。

在实施方式中，装置500中的存储器504可以是只读存储器(ROM)设备或随机存取存储器(RAM)设备。任何其他合适类型的存储设备可以用作存储器504。存储器504可以包括由处理器502使用总线512访问的代码和数据506。存储器504还可以包括操作系统508和应用程序510。应用程序510包括至少一个程序，该程序允许处理器502执行本文描述的方法。例如，应用程序510可以包括应用程序1至N，应用程序1至N还包括执行本文描述的方法的视频译码应用。

装置500还可以包括一个或多个输出设备，例如显示器518。在一个示例中，显示器518可以是将显示器与可操作以感测触摸输入的触敏元件组合的触敏显示器。显示器518可以经由总线512连接到处理器502。

虽然本文描绘为单个总线，但是装置500的总线512可以由多个总线组成。此外，辅助存储器(未示出)可以直接耦合到装置500的其他组件，或者可以经由网络访问，并且可以包括单个集成单元(例如存储卡)或多个单元(例如多个存储卡)。因此，装置500可以以多种配置来实现。

非线性自适应环路滤波器

本公开提供了如可在

通常，根据本公开的由编码设备或解码设备实现的通过对视频流的重建帧执行自适应环路滤波来进行环内滤波的方法可以通过图8所示的以下步骤实现：

步骤1310：形成/确定重建帧的像素的亮度分量和色度分量中的至少一个与该像素的连通区域中的相邻像素的亮度分量和色度分量中的至少一个之间的差异。像素的连通区域通常定义为该像素的相邻像素集合。该集合可以围绕像素对称排布，其中可以在重建帧的边界或重建块的边界附近应用修改。常用的集合可以是菱形的，例如对于亮度分量是7×7菱形或对于色度分量是5×5菱形。可以分别对重建帧的亮度分量和色度分量执行环内滤波。确定像素的相应分量之间的进入相应滤波过程的差异。换句话说，确定像素的亮度分量之间的差异以对亮度分量执行非线性ALF滤波。同样，对于每个色度分量，确定像素的相应色度分量之间的差异，以对相应色度分量执行非线性ALF滤波。

步骤1320：根据相应限幅电平对差异进行限幅。每个相邻像素和每个差异可以具有其自己的限幅电平。换句话说，限幅电平可以取决于相应相邻像素相对于待滤波像素的坐标(x，y)的偏移(i，j)。

步骤1330：形成/确定限幅的差异的加权和。可以分别为每个差异定义加权系数。换句话说，加权系数或权重可以取决于相应相邻像素相对于待滤波像素的坐标(x，y)的偏移(i，j)。

步骤1340：通过将加权和与像素的亮度分量和色度分量中的至少一个相加以确定像素的滤波的相应分量，即亮度分量或相应色度分量。

根据本公开的一方面，可以从亮度分量和色度分量的同一可能的限幅电平集合中选择相应限幅电平。换句话说，可以提供单个限幅电平集合，可以从该集合中获得上述方法中使用的所有限幅电平。虽然可以(特别是根据亮度分量和色度分量的不同位深度)对亮度分量和色度分量应用不同的限幅电平，但是为所有分量提供同一可能的限幅电平集合。这种方法也为视频的RGB译码提供了统一的限幅。

可能的限幅电平的集合可以是预定义的，或者可以根据一个或多个预定义公式确定。可能的限幅电平集合可以以表格(特别是查找表(LUT))的形式预定义。可以通过一个或多个参数公式确定可能的限幅电平集合，特别是LUT。换句话说，可以使用具有参数的一个或多个公式确定可能的限幅值集合。这些参数可以包括位深度和索引。通过改变参数，可以以表格形式通过参数指示表格的行和列确定可能的限幅值的集合。

本公开还提供了用于VVC测试模型5.0(VTM5.0)的非线性自适应环路滤波器的简化，其中在滤波过程中应用了自适应限幅操作。对于最坏的情况，非线性自适应环路滤波器需要将8位滤波器系数乘以(BitDepth+3)位值的12次乘法，(BitDepth+3)位值等于滤波样本与相邻样本之间的限幅差异之和。

根据本公开实施例的方法修改了限幅值的计算公式并应用二次限幅以确保求和后乘法操作数的位深度。该方法允许为最坏情况下的12次乘法中的每次乘法节省2位乘法位深度，从8×(BitDepth+3)节省到8×(BitDepth+1)。如上所述，可以使用亮度分量和色度分量的相同限幅电平等式/公式以统一计算。简化表明性能变化可忽略不计，即：在全帧内(all-intra，A1)配置和随机接入(random-access，RA)配置中分别为0.00％/-0.02％/-0.01％和0.02％/-0.04％/-0.04％(Y/Cb/Cr)。

本公开大体上提供了自适应环路滤波器(ALF)的非线性部分的三个方面的简化：

1.修改限幅电平公式，以确保限幅的差异在11位范围内。

2.应用二次限幅，以确保限幅的差异之和仍在11位范围内。

3.使用同一可能的限幅电平集合，特别是使用相同的公式计算亮度和色度限幅值。

这些修改可以将12次乘法中的每次乘法的滤波乘法位深度从8×(BitDepth+3)减少到8×(BitDepth+1)，从而节省硬件(HardWare)平方面积。

方面1：修改限幅值计算公式

作为本公开的第一方面，提出修改限幅值计算公式以确保通过Lim(i，j)的负值和正值限幅后的输出在11位范围内(对于10位的内部BitDepth)。用于亮度分量和色度分量的限幅电平的示例性公式的集合可以是：

对于亮度滤波，

对于色度滤波，

Idx(i，j)＝0，1，2，3

根据该公式，在Idx＝0时达到最大限幅电平。假设BitDepthLuma＝10，则最大限幅值为Lim(i，j)＝2

对于Idx，其他值(特别是小数值)也是可能的。

可以对VVC规范文本进行以下修改：

AlfClip

filterClips[sfIdx][j]＝Round(2

…

AlfClip

可能有替代的实施方式，特别是基于如下详细描述的不同公式。可以以表格形式提供对于两个参数BitDepth和Idx的可能的限幅电平集合。不同的BitDepth值可以与表中不同的行相关联。不同的Idx值可以与表中不同的列相关联。替代于使用本公开中描述的公式之一通过计算其条目确定该表，可以如下文所述预定义该表。

该修改节省了1位滤波乘法位深度。

方面2：二次限幅

根据第二方面，建议进一步对滤波样本(即待滤波样本)与相邻样本之间的限幅差异之和进行二次限幅，以确保限幅差异之和仍在11位范围内(对于10位的内部BitDepth)：

Δ(x，y，i，j)＝I(x+i，y+j)-I(x，y)

Clip(d，b)＝min(b，maz(-b，d))

对于亮度滤波，Thr＝2

对于色度滤波，Thr＝2

其中，Thr是二次限幅的限幅电平。

实现上述公式的VVC规范的可能修改可以如下：

Thr

sum＝f[idx[0]]*Clip3(-Thr

Thr

并且对于色度分量：

–Thr

sum＝f[0]*Clip3(-Thr

此修改另外节省了1位的滤波乘法位深度。

方面3：使用相同的公式计算亮度和色度限幅值

根据第三方面，建议对亮度和色度使用相同的公式计算限幅值：

对于亮度滤波，

对于色度滤波，

可以对VVC规范进行以下更改：

AlfClip

filterClips[sfIdx][j]＝Round(2

…

AlfClip

图6是示出限幅电平相对于现有技术的上述示例性变化的示意图。根据本公开的该方面，使用相同的公式确定亮度和色度分量的限幅电平AlfClip

图7是以数学术语示出限幅电平相对于现有技术的上述示例性变化的示意图。使用相同的公式确定亮度分量和色度分量的限幅电平。因此，只有单个可能的限幅电平的集合用于亮度分量和色度分量，其中相应位深度和限幅索引可以用作指向各自应用的限幅电平的参数。换句话说，虽然实际应用的限幅电平取决于相应分量的位深度和索引(其本身可能取决于相邻像素的偏移(i,j))，但是限幅电平取自同一可能限幅电平集合，该集合由分量的可能位深度范围和索引范围定义。因此，对于相同的位深度和相邻像素，将相同的限幅电平应用于亮度分量和色度分量。将相同的可能限幅电平集合用于亮度和色度分量使得滤波过程与RGB译码统一。

通常，可以将单个可能限幅电平集合用于亮度和色度分量。如上所述，可以将相同的公式用于亮度和色度分量来确定限幅电平。通过计算得出了可能限幅电平集合，其中BitDepthLuma/BitDepthChroma和Idx表示用于确定可能限幅电平集合的参数。由于该集合是基于两个参数确定的，因此可以由表格表示。如上所述，在表格中，行可以与BitDepthLuma/BitDepthChroma的不同值相关联，而列可以与索引Idx的不同值相关联。

可以根据以上公式或以下描述的任何公式，从BitDepthLuma/BitDepthChroma和Idx的允许值的集合开始计算表中的条目。或者，该表可以是预定义的。

由于亮度分量和色度分量的限幅值或限幅电平的统一，尤其是其计算的统一，第三方面带来了额外的简化。

根据该方面(亮度/色度协调)，在另一实施方式中，可以使用表格替代公式。如下所述，这也可以与第一方面(限幅公式中的10位位深度)结合。

在根据本公开的一些实施例计算限幅电平时，为避免浮点运算，可以替代地使用表格定义，在示例性实施例中，表格定义为位深度8、9、10、……16和4个限幅索引Idx指定整数输出(4×9＝36个条目)。

根据第三方面，同一表格可以用于亮度分量和色度分量，特别是可以使用以下亮度公式来计算：

filterClips[sfIdx][j]＝Round(2

在VTM-5.0中，自适应环路滤波器的限幅值是通过浮点算术运算来计算的。在本公开中，可以通过使用整数运算来简化限幅值的计算。在共同的测试条件下，与VTM-5.0相比，本公开的方法可以实现相似的译码效率和编码/解码时间。

如上所述，环内滤波器320、220用于处理解码重建视频流中的重建帧以生成滤波的重建帧。

图8示出根据本公开实施例的视频编码/解码方法的流程图。所示方法通过如下对视频流的重建帧执行自适应环路滤波来执行环内滤波：在步骤1310中，确定重建帧的像素的亮度分量和色度分量中的至少一个与该像素的连通区域中的相邻像素的亮度分量和色度分量中的至少一个之间的差异。在步骤1320中，根据相应限幅电平对确定的差异进行限幅。在步骤1330中，形成限幅的差异的加权和。最后，在步骤1340中，将加权和与像素的亮度分量和色度分量中的至少一个相加以确定像素的滤波的相应分量。相应限幅电平是从亮度分量和色度分量的同一可能限幅电平集合中选择的。

图9示出图示根据本公开实施例的编码/解码装置的示例的框图。编码/解码装置20/30包括减法单元1410、限幅单元1420、第一加法单元1430、第二加法单元1440，减法单元1410用于形成重建帧的像素的亮度分量和色度分量中的至少一个与该像素的连通区域中的相邻像素的亮度分量和色度分量中的至少一个之间的差异，限幅单元1420用于根据相应限幅电平对差异进行限幅，第一加法单元1430用于形成限幅的差异的加权和，第二加法单元1440用于将加权和与像素的亮度分量和色度分量中的至少一个相加以确定像素的滤波的相应分量，其中，相应限幅电平是从亮度分量和色度分量的同一可能限幅电平集合中选择的。

加法单元1430和1440、减法单元1410、限幅单元1420可以以硬件、软件、固件或其任意组合来实现。如果以软件实现，则这些功能可以存储在计算机可读介质上或作为一个或多个指令或码通过通信介质传输并由基于硬件的处理单元执行。指令可以由一个或多个处理器执行，例如一个或多个数字信号处理器(DSP)、通用微处理器、专用集成电路(ASIC)、现场可编程逻辑阵列(FPGA)或其他等效的集成或离散逻辑电路。相应地，如本文所使用的术语“处理器”可以指任何前述结构或适合于实现本文所描述的技术的任何其他结构。此外，在一些方面，本文描述的功能可以提供在用于编码和解码的专用硬件和/或软件模块中或并入组合编解码器中。此外，这些技术可以在一个或多个电路或逻辑元件中完全实现。

根据上述一个或多个方面，本公开提供了非线性ALF的以下实施方式。

在以下实施例和实施方式中，索引Idx(i，j)的范围的极限值m可以设置为3。

根据第一实施方式，将重建帧(例如每个重建帧)划分为一组块(超像素)，并且每个块由自适应环路滤波器进行滤波，因为根据以下等式，滤波的重建帧的每个像素是生成的滤波的像素的位置周围的重建帧中的该像素的连通区域中几个像素的加权和：

Δ(x，y，i，j)＝I(x+i，y+j)-I(x，y)

Clip(d，b)＝min(b，max(-b，d))

对于亮度滤波，

对于色度滤波，

其中Idx(i，j)可以选自0到m的正值范围，其中m为正整数值，例如Idx(i，j)＝0，1，2或m。

这里，I(x+i，y+j)是重建帧中坐标为(x+i，y+j)的点中的像素值(或像素亮度)对应的亮度分量的正BitDepthLuma位值或色度分量的BitDepthChroma位值。0′(x，y)为重建帧中坐标为(x，y)的滤波的像素，w(i，j)表示相对于滤波的像素具有偏移(i，j)的像素位置对应的n位整数滤波器系数，Lim(i，j)为正k位限幅值，k＜＝BitDepth，对于亮度分量，Lim(i，j)＜＝2

根据第二实施方式，对于亮度分量和色度分量，可以通过以下相同的公式确定限幅电平Lim(i，j)：

对于亮度滤波，

对于色度滤波，

其中Idx(i，j)可以选自0到m的正值范围，其中m为正整数值，例如Idx(i，j)＝0，1，2或m。

浮点值或小数可用于Idx以生成上述等式中的整数值指数用于限幅电平。

根据第三实施方式，对于亮度分量滤波，如果BitDepthLuma等于10，则最大限幅电平为Lim(i，j)＝1023，如果BitDepthLuma等于8，则最大限幅电平为Lim(i，j)＝255。

根据第四实施方式，对于色度分量滤波，如果BitDepthChroma等于10，则最大限幅电平为Lim(i，j)＝1023，如果BitDepthChroma等于8，则最大限幅电平为Lim(i，j)＝255。

根据第五实施方式，对于亮度分量和色度分量，可以通过以下相同的公式确定限幅电平Lim(i，j)：

对于亮度滤波，

对于色度滤波，

其中Idx(i，j)可以选自0到m的正值范围，其中m为正整数值，例如Idx(i，j)＝0，1，2或m。

在此实施方式中，限幅电平Lim(i，j)是正k位限幅值，k＜＝BitDepth+1，对于亮度分量，Lim(i，j)＜＝2

浮点值或小数可用于Idx以生成上述等式中的整数值指数用于限幅电平。

根据第六实施方式，对于亮度分量和色度分量，可以通过以下相同的公式确定限幅电平Lim(i，j)：

对于亮度滤波，

对于色度滤波，

Idx(i，j)＝0

和/或

对于亮度滤波，

对于色度滤波，

其中Idx(i，j)可以选自1到m的正值范围，其中m为正整数值，例如Idx(i，j)＝1，2或m。

浮点值或小数可用于Idx以生成上述等式中的整数值指数用于限幅电平。

根据第七实施方式，对于亮度分量和色度分量，可以通过以下公式确定限幅电平Lim(i，j)：

Idx(i，j)＝0

和/或

其中Idx(i，j)可以选自1到m的正值范围，其中m为正整数值，例如Idx(i，j)＝1，2或m并且

其中例如，BitDepth可以为BitDepthLuma或BitDepthChroma。

浮点值或小数可用于Idx以生成上述等式中的整数值指数用于限幅电平。

第五实施方式至第七实施方式提供了单个可能限幅电平集合Lim(i，j)，根据BitDepthLuma/BitDepthChroma和Idx(i，j)的值，从该集合中确定具有偏移(i，j)的相应相邻像素的限幅电平。仅为亮度分量和色度分量提供了一个限幅电平集合，从而简化了ALF过程。

根据第八实施方式，可以根据第五实施方式至第七实施方式中的任何实施方式的公式通过表格表示来确定可能的限幅电平的集合Lim(i，j)。

在本公开中，用于亮度分量和色度分量滤波的限幅电平Lim(i，j)可以具有表格表示。

在本公开中，这里提供了以下两个表格表示示例，需要说明的是，限幅电平Lim(i，j)的表格表示可以包括但不限于以下两个表格示例。

在一个示例中，可以使用表格表示确定限幅电平Lim(i，j)：

如果idx＝Idx(i，j)＝0，1，2或3：

如果BitDepthLuma等于8，则限幅电平Lim(idx)＝[255，63，15，3]；

如果BitDepthLuma等于9，则限幅电平Lim(idx)＝[511，107，22，4]；

如果BitDepthLuma等于10，则限幅电平Lim(idx)＝[1023，180，31，5]；

如果BitDepthLuma等于11，则限幅电平Lim(idx)＝[2047，303，44，6]；

如果BitDepthLuma等于12，则限幅电平Lim(idx)＝[4095，511，63，7]；

如果BitDepthLuma等于13，则限幅电平Lim(idx)＝[8191，860，90，9]；

如果BitDepthLuma等于14，则限幅电平Lirn(idx)＝[16383，1447，127，10]；

如果BitDepthLuma等于15，则限幅电平Lim(idx)＝[32767，2434，180，12]；

和/或

如果BitDepthLuma等于16，则限幅电平Lim(idx)＝[65535，4095，255，15]。

在另一示例中，可以使用另一表格表示确定限幅电平Lim(i，j)：

如果idx＝Idx(I，j)＝0，1，2或3：

如果BitDepthLuma等于8，则限幅电平Lim(idx)＝[255，64，16，4]；

如果BitDepthLuma等于9，则限幅电平Lim(idx)＝[511，108，23，5]；

如果BitDepthLuma等于10，则限幅电平Lirn(idx)＝[1023，181，32，6]；

如果BitDepthLuma等于11，则限幅电平Lim(idx)＝[2047，304，45，7]；

如果BitDepthLuma等于12，则限幅电平Lim(idx)＝[4095，512，64，8]；

如果BitDepthLuma等于13，则限幅电平Lirn(idx)＝[8191，861，91，10]；

如果BitDepthLuma等于14，则限幅电平Lim(idx)＝[16383，1448，128，11]；

如果BitDepthLuma等于15，则限幅电平Lim(idx)＝[32767，2435，181，13]；

和/或

如果BitDepthLuma等于16，则限幅电平Lim(idx)＝[65535，4096，256，16]。

根据第九实施方式，重建帧的上述滤波方法可以用于编码器和解码器侧并且用于亮度分量和色度分量。

因此，对于亮度分量具有最大限幅电平Lim(i，j)＜＝2

下面概述了一些特定实施例。在以下实施例中，重建帧由自适应环路滤波器(例如非线性ALF)滤波。

根据第一实施例，本公开涉及一种在视频编码装置或解码装置中使用的环内滤波装置，其中环内滤波装置用于处理重建帧以生成滤波的重建帧，其中，重建帧包括多个像素，每个像素与像素值相关联，并且其中，环内滤波器装置包括一个或多个处理电路，上述一个或多个处理电路用于：

对重建帧中的像素(即滤波像素，例如每个像素)进行滤波，其中滤波的重建帧的滤波的像素(例如每个像素)是滤波像素(例如I(x，y))与滤波像素和相邻像素之间的限幅差异的加权和(例如∑

限幅电平可以小于或等于2

滤波的像素具体可以根据以下等式获得：

/>

Δ(x，y，i，j)＝I(x+i，y+j)-I(x，y)

Clip(d，b)＝min(b，max(-b，d))

其中，I(x+i，y+j)是重建帧中坐标为(x+i，y+j)的点中的像素值(或像素亮度)对应的亮度分量的正BitDepthLuma位值或色度分量的BitDepthChroma位值，0′(x，y)为重建帧中坐标为(x，y)的滤波的像素，w(i，j)表示相对于滤波的像素具有偏移(i，j)的像素位置对应的n位整数滤波器系数，Lim(i，j)为正限幅值(例如，在上述等式中，Lim(i，j)＝b)，对于亮度分量，Lim(i，j)＜＝2

限幅电平(或限幅值)Lim(i，j)特别可以是正k位限幅值，其中k＜＝BitDepth。

用于亮度分量和色度分量滤波的限幅电平Lim(i，j)可以具有表格表示，特别是以查找表(look-uptable，LUT)形式的表格表示。

用于亮度分量和色度分量滤波的限幅电平Lim(i，j)可以从表格表示(特别是以查找表(LUT)形式)中获得或通过表格表示确定。

根据第一实施例的实施方式，限幅电平Lim(i，j)可以通过以下公式确定：

对于亮度滤波，

对于色度滤波，

其中索引Idx(i，j)选自0到m的非负值范围，m大于或等于0。根据一种实施方式，Idx(i，j)＝0，1，2或m。

根据第一实施例的实施方式，限幅电平Lim(i，j)可以通过以下公式确定：

对于亮度滤波，

对于色度滤波，

其中索引Idx(i，j)选自0到m的非负值范围，m大于或等于0。根据示例，Idx(i，j)＝0，1，2或m。在此实施方式中，限幅电平Lim(i，j)是正k位限幅值，k＜＝BitDepth+1，对于亮度分量，Lim(i，j)＜＝2

根据第一实施例的实施方式，限幅电平Lim(i，j)可以通过以下公式确定：

对于亮度滤波，

对于色度滤波，

其中索引Idx(i，j)选自0到m的非负值范围，m大于或等于0。根据一种实施方式，Idx(i，j)＝0，1，2或m。

根据第一实施例的实施方式，限幅电平Lim(i，j)可以通过以下公式确定：

对于亮度滤波，

对于色度滤波，

Idx(i，j)＝0

和/或

对于亮度滤波，

对于色度滤波，

其中索引Idx(i，j)选自1到m的非负值范围，m大于0。根据一种实施方式，Idx(i，j)＝1，2或m。

根据第一实施例的实施方式，限幅电平Lim(i，j)可以通过以下公式确定：

对于亮度滤波，

对于色度滤波，

其中索引Idx(i，j)选自从0到3的非负值范围。根据实施方式，Idx(i，j)＝0，1，2，3。

根据第一实施例的实施方式，对于重建帧的滤波像素(例如I(x，y))的亮度分量和色度分量，可以通过相同的公式确定限幅电平Lim(i，j)，或者，对于重建帧的滤波像素(例如I(x，y))的亮度分量和色度分量，可以应用相同的限幅电平Lim(i，j)。

根据第一实施例的实施方式，对于重建帧的滤波像素(例如I(x，y))的亮度分量和色度分量，可以通过以下相同的公式确定限幅电平Lim(i，j)：

对于亮度滤波，

对于色度滤波，

其中索引Idx(i，j)选自0到m的非负值范围，m大于或等于0。根据一种实施方式，Idx(i，j)＝0，1，2或m。

根据第一实施例的实施方式，对于重建帧的滤波像素(例如I(x，y))的亮度分量和色度分量，可以通过以下相同的公式确定限幅电平Lim(i，j)：

对于亮度滤波，

对于色度滤波，

Idx(i，j)＝0，

和/或

对于亮度滤波，

对于色度滤波，

其中索引Idx(i，j)选自1到m的非负值范围，m大于0。根据一种实施方式，Idx(i，j)＝1，2或m。

根据第一实施例的实施方式，限幅电平Lim(i，j)可以从表格表示中获得或通过表格表示确定，并且表格表示可以根据用于亮度分量和色度分量的以下相同的公式获得或生成：

对于亮度滤波，

对于色度滤波，

Idx(i，j)＝0，

和/或

对于亮度滤波，

对于色度滤波，

其中索引Idx(i，j)选自1到m的非负值范围，m大于0。根据一种实施方式，Idx(i，j)＝1，2或m。

根据第一实施例的实施方式，对于重建帧的滤波像素(例如I(x，y))的亮度分量和色度分量，可以通过以下相同的公式确定限幅电平Lim(i，j)，其中BitDepth表示亮度或色度位深度：

Idx(i，j)＝0，

和/或

其中索引Idx(i，j)选自1到m的非负值范围，m大于0。根据一种实施方式，Idx(i，j)＝1，2或m。

根据第一实施例的实施方式，限幅电平Lim(i，j)可以从表格表示中获得或通过表格表示确定，并且表格表示可以根据用于亮度分量和色度分量的以下相同的公式获得或生成，其中BitDepth表示亮度或色度位深度：

Idx(i，j)＝0，

和/或

其中索引Idx(i，j)选自1到m的非负值范围，m大于0。根据一种实施方式，Idx(i，j)＝1，2或m。

根据第一实施例的实施方式，对于重建帧的滤波像素(例如I(x，y))的亮度分量和色度分量，可以通过以下相同的公式确定限幅电平Lim(i，j)，其中BitDepth表示亮度或色度位深度：

Idx(i，j)＝0，

和/或

其中索引Idx(i，j)选自1到m的非负值范围，m大于0。根据一种实施方式，Idx(i，j)＝1，2或m。

根据第一实施例的实施方式，对于亮度分量滤波，

如果BitDepthLuma等于10，则最大限幅电平可能是Lim(i，j)＝1023，和/或

如果BitDepthLuma等于8，则最大限幅电平可能是Lim(i，j)＝255。

根据第一实施例的实施方式，对于亮度分量滤波，

如果BitDepthLuma等于10，则最大限幅电平Lim(i，j)＝1023，和/或

如果BitDepthLuma等于9，则最大限幅电平Lim(i，j)＝511，

如果BitDepthLuma等于8，则最大限幅电平Lim(i，j)＝255。

根据第一实施例的实施方式，对于亮度分量滤波，

如果BitDepthLuma等于16，则最大限幅电平Lim(i，j)＝65535；

如果BitDepthLuma等于15，则最大限幅电平Lim(i，j)＝32767；

如果BitDepthLuma等于14，则最大限幅电平Lim(i，j)＝16383；

如果BitDepthLuma等于13，则最大限幅电平Lim(i，j)＝8191；

如果BitDepthLuma等于12，则最大限幅电平Lim(i，j)＝4095，

如果BitDepthLuma等于11，则最大限幅电平Lim(i，j)＝2047；

如果BitDepthLuma等于10，则最大限幅电平Lim(i，j)＝1023，

如果BitDepthLuma等于9，则最大限幅电平Lim(i，j)＝511，和/或

如果BitDepthLuma等于8，则最大限幅电平Lim(i，j)＝255。

根据第一实施例的实施方式，对于色度分量滤波，

如果BitDepthChroma等于10，则最大限幅电平可能是Lim(i，j)＝1023，和/或，

如果BitDepthChroma等于8，则最大限幅电平可能是Lim(i，j)＝255。

根据第一实施例的实施方式，对于色度分量滤波，

如果BitDepthChroma等于16，则最大限幅电平Lim(i，j)＝65535；

如果BitDepthChroma等于15，则最大限幅电平Lim(i，j)＝32767；

如果BitDepthChroma等于14，则最大限幅电平Lim(i，j)＝16383；

如果BitDepthChroma等于13，则最大限幅电平Lim(i，j)＝8191；

如果BitDepthChroma等于12，则最大限幅电平Lim(i，j)＝4095，

如果BitDepthChroma等于11，则最大限幅电平Lim(i，j)＝2047。

如果BitDepthChroma等于10，则最大限幅电平Lim(i，j)＝1023，

如果BitDepthChroma等于9，则最大限幅电平Lim(i，j)＝511，和/或

如果BitDepthChroma等于8，则最大限幅电平Lim(i，j)＝255。

根据第一实施例的实施方式，对于重建帧的滤波像素(例如I(x，y))的亮度分量和色度分量，可以通过以下相同的公式确定限幅电平Lim(i，j)：

对于亮度滤波，Lim(i，j)＝

[1＜＜(BitDepthLuma-ShiftConst[Idx(i，j)])]-1

对于色度滤波，Lim(i，j)＝

[1＜＜(BitDepthChroma-ShiftConst[Idx(i，j)])]-1

Idx(i，j)＝0，1，2，3

ShiftConst[0]＝0，ShiftConst[1]＝3，ShiftConst[2]＝6，ShiftConst[3＝8

或

ShiftConst[0]＝0，ShiftConst[1]＝2，ShiftConst[2]＝4，ShiftConst[3]＝8。

根据第一实施例的实施方式，可以从重建帧的滤波像素(例如I(x，y))的亮度分量和色度分量的同一组可能值中选择限幅电平Lim(i，j)。

根据第一实施例的实施方式，对于重建帧的滤波像素(例如I(x，y))的亮度分量和色度分量，可以通过以下相同的公式确定限幅电平Lim(i，j)：

对于亮度滤波，

对于色度滤波，

其中索引Idx(i，j)选自0到m的非负值范围，m大于或等于0。根据示例，Idx(i，j)＝0，1，2或m。

在此实施方式中，限幅电平Lim(i，j)是正k位限幅值，k＜＝BitDepth+1，对于亮度分量，Lim(i，j)＜＝2

根据第一实施例的实施方式，对于重建帧的亮度分量和色度分量，可以通过以下相同的表格表示确定限幅电平(或限幅值)Lim(i，j)：

如果idx＝Idx(i，j)＝0，1，2或3：

如果BitDepthLuma等于8，则限幅电平Lim(idx)＝[255，63，15，3]；

如果BitDepthLuma等于9，则限幅电平Lim(idx)＝[511，107，22，4]；

如果BitDepthLuma等于10，则限幅电平Lim(idx)＝[1023，180，31，5]；

如果BitDepthLuma等于11，则限幅电平Lim(idx)＝[2047，303，44，6]；

如果BitDepthLuma等于12，则限幅电平Lim(idx)＝[4095，511，63，7]；

如果BitDepthLuma等于13，则限幅电平Lim(idx)＝[8191，860，90，9]；

如果BitDepthLuma等于14，则限幅电平Lirn(idx)＝[16383，1447，127，10]；

如果BitDepthLuma等于15，则限幅电平Lim(idx)＝[32767，2434，180，12]；和/或

如果BitDepthLuma等于16，则限幅电平Lim(idx)＝[65535，4095，255，15]。

根据第一实施例的实施方式，对于重建帧的亮度分量和色度分量，可以通过以下相同的表格表示确定限幅电平(或限幅值)Lim(i，j)：

如果idx＝Idx(i，j)＝0，1，2或3：

如果BitDepthLuma等于8，则限幅电平Lim(idx)＝[255，64，16，4]；

如果BitDepthLuma等于9，则限幅电平Lim(idx)＝[511，108，23，5]；

如果BitDepthLuma等于10，则限幅电平Lim(idx)＝[1023，181，32，6]；

如果BitDepthLuma等于11，则限幅电平Lim(idx)＝[2047，304，45，7]；

如果BitDepthLuma等于12，则限幅电平Lim(idx)＝[4095，512，64，8]；

如果BitDepthLuma等于13，则限幅电平Lirn(idx)＝[8191，861，91，10]；

如果BitDepthLuma等于14，则限幅电平Lim(idx)＝[16383，1448，128，11]；

如果BitDepthLuma等于15，则限幅电平Lim(idx)＝[32767，2435，181，13]；

和/或

如果BitDepthLuma等于16，则限幅电平Lim(idx)＝[65535，4096，256，16]。

根据第一实施例的实施方式，为了用于视频编码装置或解码装置，上述环内滤波器可以用于处理当前重建块，其中当前重建块包括重建帧中的多个像素。

根据第一实施例的实施方式，环内滤波器可以应用于重建帧的亮度分量和色度分量。

根据第一实施例的实施方式，滤波的重建帧可用于为视频信号生成编码视频数据用于传输或存储，或者可用于对视频信号进行解码以在显示设备中显示。

根据第一实施例的一个方面，提供了一种编码装置，该编码装置用于对输入视频流中的当前帧进行编码，其中，该编码装置包括根据第一实施例的任一实施方式的环内滤波器装置。

根据第一实施例的又一方面，提供了一种解码装置，该解码装置用于对编码帧进行解码，其中，该解码装置包括根据第一实施例的任一实施方式的环内滤波器装置。

根据第一实施例的实施方式，限幅电平Lim(i，j)可以从表格表示中获得或通过表格表示确定，对于亮度分量和色度分量，可以使用相同的表格表示。

根据第一实施例的实施方式，限幅电平可以小于或等于2

根据第二实施例，本公开涉及一种用于处理解码视频流中的重建帧以生成滤波的重建帧的环内滤波方法，其中，重建帧包括多个像素，每个像素与像素值相关联，其中，环内滤波方法包括：

对重建帧中的像素(即滤波像素，例如每个像素)进行滤波，其中滤波的重建帧的滤波的像素是滤波像素与滤波像素和相邻像素之间的限幅差异的加权和的总和，或者，滤波的重建帧的滤波的像素基于该总和。

限幅电平可以小于或等于2

该方法可以特别包括处理当前重建块，其中，当前重建块包括重建帧中的多个像素。

滤波的像素具体可以根据以下等式获得：

Δ(x，y，i，j)＝I(x+i，y+j)-I(x，y)

Clip(d，b)＝min(b，max(-b，d))

其中，I(x+i，y+j)是重建帧中坐标为(x+i，y+j)的点中的像素值(或像素亮度)对应的亮度分量的正BitDepthLuma位值或色度分量的BitDepthChroma位值，O′(x，y)为重建帧中坐标为(x，y)的滤波的像素，w(i，j)表示相对于滤波的像素具有偏移(i，j)的像素位置对应的n位整数滤波器系数，Lim(i，j)为正限幅值。根据一种特定实施方式，对于亮度分量，Lim(i，j)＜＝2

在一个示例中，像素亮度或像素值可以是屏幕或显示器上的像素的亮度对应的值。换句话说，像素亮度是像素对应的值。

在一个示例中，亮度样本具有图像坐标，例如指定亮度样本的图像坐标(x，y)。

在一个示例中，色度样本具有图像坐标，例如指定色度样本的图像坐标(x，y)。

可以理解，在滤波处理之前或滤波处理期间，将像素(例如I(x，y))理解为待滤波像素或滤波像素，在执行滤波处理后，像素(例如I(x，y))的值可能会发生变化，该像素可以理解为滤波的像素(例如O′(x，y))。

限幅电平Lim(i，j)特别可以是正k位限幅值，其中k＜＝BitDepth。

用于亮度分量和色度分量滤波的限幅电平Lim(i，j)可以具有表格表示，特别是以查找表(LUT)形式的表格表示。

用于亮度分量和色度分量滤波的限幅电平Lim(i，j)可以从表格表示(特别是以查找表(LUT)形式)中获得或通过表格表示确定。

根据第二实施例的实施方式，限幅电平Lim(i，j)具体可以通过以下公式确定：

对于亮度滤波，

对于色度滤波，

其中索引Idx(i，j)选自0到m的非负值范围，m大于或等于0。根据一种实施方式，Idx(i，j)＝0，1，2或m。

根据第二实施例的实施方式，限幅电平Lim(i，j)具体可以通过以下公式确定：

对于亮度滤波，

对于色度滤波，

其中索引Idx(i，j)选自0到m的非负值范围，m大于或等于0。根据示例，Idx(i，j)＝0，1，2或m。

在此实施方式中，限幅电平Lim(i，j)是正k位限幅值，k＜＝BitDepth+1，对于亮度分量，Lim(i，j)＜＝2

根据第二实施例的实施方式，限幅电平Lim(i，j)具体可以通过以下公式确定：

对于亮度滤波，

对于色度滤波，

其中索引Idx(i，j)选自0到m的非负值范围，m大于或等于0。根据一种实施方式，Idx(i，j)＝0，1，2或m。

根据第二实施例的实施方式，表格表示(例如表格或LUT表)的限幅电平Lim(i，j)或限幅值Lim(i，j)可以通过以下公式确定：

对于亮度滤波，

对于色度滤波，

Idx(i，j)＝0，

和/或

对于亮度滤波，

对于色度滤波，

其中索引Idx(i，j)选自1到m的非负值范围，m大于0。根据一种实施方式，Idx(i，j)＝1，2或m。

根据第二实施例的实施方式，限幅电平Lim(i，j)可以通过以下公式确定：

对于亮度滤波，

对于色度滤波，

其中索引Idx(i，j)选自0到3的非负值范围。根据实施方式，Idx(i，j)＝0，1，2，3。

根据第二实施例的实施方式，对于重建帧的滤波像素(例如I(x，y))的亮度分量和色度分量，可以通过相同的公式确定限幅电平Lim(i，j)，或者，对于重建帧的滤波像素(例如I(x，y))的亮度分量和色度分量，可以应用相同的限幅电平Lim(i，j)。

根据第二实施例的实施方式，对于重建帧的滤波像素(例如I(x，y))的亮度分量和色度分量，可以通过以下相同的公式确定限幅电平Lim(i，j)：

对于亮度滤波，

对于色度滤波，

其中索引Idx(i，j)选自0到m的非负值范围，m大于或等于0。根据一种实施方式，Idx(i，j)＝0，1，2或m。

根据第二实施例的实施方式，对于重建帧的滤波像素(例如I(x，y))的亮度分量和色度分量，可以通过以下相同的公式确定限幅电平Lim(i，j)：

对于亮度滤波，

对于色度滤波，

Idx(i，j)＝0，

和/或

对于亮度滤波，

对于色度滤波，

其中索引Idx(i，j)选自1到m的非负值范围，m大于0。根据一种实施方式，Idx(i，j)＝1，2或m。

根据第二实施例的实施方式，限幅电平Lim(i，j)可以从表格表示中获得或通过表格表示确定，并且表格表示可以根据用于亮度分量和色度分量的以下相同的公式获得或生成：

对于亮度滤波，

对于色度滤波，

Idx(i，j)＝0，

和/或

对于亮度滤波，

对于色度滤波，

其中索引Idx(i，j)选自1到m的非负值范围，m大于0。根据一种实施方式，Idx(i，j)＝1，2或m。

根据第二实施例的实施方式，对于重建帧的滤波像素(例如I(x，y))的亮度分量和色度分量，可以通过以下相同的公式确定限幅电平Lim(i，j)，其中BitDepth表示亮度或色度位深度：

Idx(i，j)＝0，

和/或

其中索引Idx(i，j)选自1到m的非负值范围，m大于0。根据一种实施方式，Idx(i，j)＝1，2或m。

根据第二实施例的实施方式，限幅电平Lim(i，j)可以从表格表示中获得或通过表格表示确定，并且表格表示可以根据用于亮度分量和色度分量的以下相同的公式获得或生成，其中BitDepth表示亮度或色度位深度：

Idx(i，j)＝0，

和/或

其中索引Idx(i，j)选自1到m的非负值范围，m大于0。根据一种实施方式，Idx(i，j)＝1，2或m。

根据第二实施例的实施方式，对于重建帧的滤波像素(例如I(x，y))的亮度分量和色度分量，可以通过以下相同的公式确定限幅电平Lim(i，j)，其中BitDepth表示亮度或色度位深度：

Idx(i，j)＝0，

和/或

其中索引Idx(i，j)选自1到m的非负值范围，m大于0。根据一种实施方式，Idx(i，j)＝1，2或m。

根据第二实施例的实施方式，对于重建帧的亮度分量和色度分量，可以通过以下相同的表格表示确定限幅电平(或限幅值)Lim(i，j)：

如果idx＝Idx(i，j)＝0，1，2或3：

如果BitDepthLuma等于8，则限幅电平Lim(idx)＝[255，63，15，3]；

如果BitDepthLuma等于9，则限幅电平Lim(idx)＝[511，107，22，4]；

如果BitDepthLuma等于10，则限幅电平Lim(idx)＝[1023，180，31，5]；

如果BitDepthLuma等于11，则限幅电平Lim(idx)＝[2047，303，44，6]；

如果BitDepthLuma等于12，则限幅电平Lim(idx)＝[4095，511，63，7]；

如果BitDepthLuma等于13，则限幅电平Lim(idx)＝[8191，860，90，9]；

如果BitDepthLuma等于14，则限幅电平Lim(idx)＝[16383，1447，127，10]；

如果BitDepthLuma等于15，则限幅电平Lim(idx)＝[32767，2434，180，12]；和/或

如果BitDepthLuma等于16，则限幅电平Lim(idx)＝[65535，4095，255，15]。

根据第二实施例的实施方式，对于重建帧的亮度分量和色度分量，可以通过以下相同的表格表示确定限幅电平(或限幅值)Lim(i，j)：

如果idx＝Idx(i，j)＝0，1，2或3：

如果BitDepthLuma等于8，则限幅电平Lim(idx)＝[255，64，16，4]；

如果BitDepthLuma等于9，则限幅电平Lim(idx)＝[511，108，23，5]；

如果BitDepthLuma等于10，则限幅电平Lim(idx)＝[1023，181，32，6]；

如果BitDepthLuma等于11，则限幅电平Lim(idx)＝[2047，304，45，7]；

如果BitDepthLuma等于12，则限幅电平Lim(idx)＝[4095，512，64，8]；

如果BitDepthLuma等于13，则限幅电平Lim(idx)＝[8191，861，91，10]；

如果BitDepthLuma等于14，则限幅电平Lirn(idx)＝[16383，1448，128，11]；

如果BitDepthLuma等于15，则限幅电平Lim(idx)＝[32767，2435，181，13]；

和/或

如果BitDepthLuma等于16，则限幅电平Lirn(idx)＝[65535，4096，256，16]。

根据第二实施例的实施方式，对于亮度分量滤波，

如果BitDepthLuma等于10，则最大限幅电平可能是Lim(i，j)＝1023，和/或

如果BitDepthLuma等于8，则最大限幅电平可能是Lim(i，j)＝255。

根据第二实施例的实施方式，对于亮度分量滤波，

如果BitDepthLuma等于16，则最大限幅电平Lim(i，j)＝65535；

如果BitDepthLuma等于15，则最大限幅电平Lim(i，j)＝32767；

如果BitDepthLuma等于14，则最大限幅电平Lim(i，j)＝16383；

如果BitDepthLuma等于13，则最大限幅电平Lim(i，j)＝8191；

如果BitDepthLuma等于12，则最大限幅电平Lim(i，j)＝4095，

如果BitDepthLuma等于11，则最大限幅电平Lim(i，j)＝2047；

如果BitDepthLuma等于10，则最大限幅电平Lim(i，j)＝1023，

如果BitDepthLuma等于9，则最大限幅电平Lim(i，j)＝511，和/或

如果BitDepthLuma等于8，则最大限幅电平Lim(i，j)＝255。

根据第二实施例的实施方式，对于色度分量滤波，

如果BitDepthChroma等于10，则最大限幅电平可能是Lim(i，j)＝1023，和/或，

如果BitDepthChroma等于8，则最大限幅电平可能是Lim(i，j)＝255。

根据第二实施例的实施方式，对于色度分量滤波，

如果BitDepthChroma等于16，则最大限幅电平Lim(i，j)＝65535；

如果BitDepthChroma等于15，则最大限幅电平Lim(i，j)＝32767；

如果BitDepthChroma等于14，则最大限幅电平Lim(i，j)＝16383；

如果BitDepthChroma等于13，则最大限幅电平Lim(i，j)＝8191；

如果BitDepthChroma等于12，则最大限幅电平Lim(i，j)＝4095，

如果BitDepthChroma等于11，则最大限幅电平Lim(i，j)＝2047。

如果BitDepthChroma等于10，则最大限幅电平Lim(i，j)＝1023，

如果BitDepthChroma等于9，则最大限幅电平Lim(i，j)＝511，和/或

如果BitDepthChroma等于8，则最大限幅电平Lim(i，j)＝255。

根据第二实施例的实施方式，对于重建帧的滤波像素(例如I(x，y))的亮度分量和色度分量，可以通过以下相同的公式确定限幅电平Lim(i，j)：

对于亮度滤波，Lim(i，j)＝

[1＜＜(BitDepthLuma-ShiftConst[Idx(i，j)])]-1

对于色度滤波，Lim(i，j)＝

[1＜＜(BitDepthChroma-ShiftConst[Idx(i，j)])]-1

Idx(i，j)＝0，1，2，3

ShiftConst[0]＝0，ShiftConst[1]＝3，ShiftConst[2]＝6，ShiftConst[3]＝8

或

ShiftConst[0]＝0，ShiftConst[1]＝2，ShiftConst[2]＝4，ShiftConst[3]＝8。

根据第二实施例的实施方式，对于重建帧的滤波像素(例如I(x，y))的亮度分量和色度分量，可以通过以下相同的公式确定限幅电平Lim(i，j)：

对于亮度滤波，

对于色度滤波，

其中索引Idx(i，j)选自0到m的非负值范围，m大于或等于0。根据示例，Idx(i，j)＝0，1，2或m。

在此实施方式中，限幅电平Lim(i，j)是正k位限幅值，k＜＝BitDepth+1，对于亮度分量，Lim(i，j)＜＝2

根据第二实施例的实施方式，可以根据以下等式对限幅值Lim(i，j)应用合入过程：

Lim(i，j)＝Round(Lim(i，j))

Round(x)＝Sign(x)*Floor(Abs(x)+0.5)

其中sign(x)为x的符号，abs(x)为x的模，floor(y)为不大于y的最大整数值。

根据第二实施例的实施方式，限幅电平Lim(i，j)可以从表格表示中获得或通过表格表示确定，并且对于亮度分量和色度分量可以使用相同的表格表示。

根据第二实施例的实施方式，限幅电平可以小于或等于2

根据第三实施例，本公开涉及一种在视频编码装置或解码装置中使用的环内滤波装置，其中环内滤波装置用于处理重建帧以生成滤波的重建帧，其中，重建帧包括多个像素，每个像素与像素值相关联，并且其中，环内滤波器装置包括一个或多个处理电路，上述一个或多个处理电路用于：

对重建帧中的像素(即滤波像素，例如每个像素)进行滤波，其中滤波的重建帧的滤波的像素(例如每个像素)根据以下等式获得：

Δ(x，y，i，j)＝I(x+i，y+j)-I(x，y)

Clip(Δ，Lim)＝Clip3(-Lim(i，j)，Lim(i，j)，Δ)

其中表格表示(例如表格或LUT表)的限幅电平(或限幅值)Lim(i，j)或限幅电平(或限幅值)Lim(i，j)为正k位限幅值，(i，j)是像素坐标相对于滤波像素坐标的偏移，其中特别地，k＜＝BitDepth。

根据第三实施例的实施方式，对于滤波像素(例如I(x，y))的亮度分量和色度分量，可以通过以下相同的公式确定限幅电平Lim(i，j)：

对于亮度滤波，

对于色度滤波，

其中，I(x+i，y+j)是重建帧中坐标为(x+i，y+j)的点中的像素值(或像素亮度)对应的亮度分量的正BitDepthLuma位值或色度分量的BitDepthChroma位值，O′(x，y)为重建帧中坐标为(x，y)的滤波的像素，w(i，j)表示相对于滤波的像素具有偏移(i，j)的像素位置对应的n位整数滤波器系数，Lim(i，j)为正k位限幅值，k＜＝BitDepth+1，对于亮度分量，Lim(i，j)＜＝2

根据第四实施例，本公开涉及一种在视频编码装置或解码装置中使用的环内滤波装置，其中环内滤波装置用于处理重建帧以生成滤波的重建帧，其中，重建帧包括多个像素，每个像素与像素值相关联，其中，环内滤波器装置包括一个或多个处理电路，上述一个或多个处理电路用于：

对重建帧中的像素(即滤波像素，例如每个像素)进行滤波，其中滤波的重建帧的滤波的像素(例如每个像素)根据以下等式获得：

Δ(x，y，i，j)＝I(x+i，y+j)-I(x，y)

Clip(Δ，Lim)＝Clip3(-Lim(i，j)，Lim(i，j)，Δ)

其中，I(x+i，y+j)是重建帧中坐标为(x+i，y+j)的点中的像素值(或像素亮度)对应的亮度分量的正BitDepthLuma位值或色度分量的BitDepthChroma位值，0′(x，y)为重建帧中坐标为(x，y)的滤波的像素，w(i，j)表示相对于滤波的像素具有偏移(i，j)的像素位置对应的n位整数滤波器系数，其中，对于重建帧的像素(例如I(x，y))的亮度分量和色度分量，应用相同的限幅电平(或限幅值)Lim(i，j)。

对于当前像素的亮度分量和色度分量，可以应用相同的限幅电平(或限幅值)Lim(i，j)。对于亮度分量和色度分量滤波，可以使用相同的限幅电平表。

根据第四实施例的实施方式，对于亮度分量和色度分量，可以基于重建帧的像素(例如I(x，y))的亮度分量和色度分量的位深度以及clipIdx从同一表格中确定相同的限幅电平(或限幅值)，其中clipIdx可以是信令元素，用于确定可能限幅电平集合中的哪个限幅电平可以用于当前滤波器中的当前抽头。

根据第四实施例的实施方式，亮度分量和色度分量的限幅电平(或限幅值)可以从如下定义的单个LUT表中确定：

clipIdx＝0的列中的值对应于以下公式对于Idx(i,j)＝0的限幅电平Lim(i,j)的结果：

对于亮度滤波，

对于色度滤波，

其中索引Idx(i,j)选自0到m的非负值范围，m大于或等于0。根据一种实施方式，Idx(i,j)＝0,1,2或m。

根据第四实施例的实施方式，亮度分量和色度分量的限幅电平(或限幅值)可以从如下定义的单个LUT表中确定：

根据第四实施例的实施方式，亮度分量和色度分量的限幅电平(或限幅值)可以从如下定义的单个LUT表中确定：

根据第五实施例，本公开涉及一种用于处理解码视频流中的重建帧以生成滤波的重建帧的环内滤波方法，其中，重建帧包括多个像素，每个像素与像素值相关联，其中，环内滤波方法包括：

对重建帧中的像素(即滤波像素，例如每个像素)进行滤波，其中滤波的重建帧的滤波的像素(例如每个像素)基于以下公式：

Δ(x，y，i，j)＝I(x+i，y+j)-I(x，y)

Clip(d，b)＝min(b，max(-b，d))

其中限幅电平(或限幅值)Lim(i，j)是通过表格表示(例如表格或LUT表)获得或确定的。

根据第五实施例的实施方式，I(x+i，y+j)是重建帧中坐标为(x+i，y+j)的点中的像素值(或像素亮度)对应的亮度分量的正BitDepthLuma位值或色度分量的BitDepthChroma位值，0′(x，y)为重建帧中坐标为(x，y)的滤波的像素，w(i，j)表示相对于滤波的像素具有偏移(i，j)的像素位置对应的n位整数滤波器系数，Lim(i，j)为正或非负限幅值(例如，在表中，Lim(i，j)＝b)。

根据第五实施例的实施方式，对于亮度分量，Lim(i，j)＜＝2

根据第五实施例的实施方式，限幅电平Lim(i，j)可以从表格表示(例如表格或LUT表)中获得或通过表格表示确定，对于亮度分量和色度分量，表格表示可以根据的以下相同的公式获得或生成：

对于亮度滤波，

对于色度滤波，

Idx(i，j)＝0

和/或

对于亮度滤波，

对于色度滤波，

其中索引Idx(i，j)选自1到m的非负值范围，m大于0。根据一种实施方式，Idx(i，j)＝1，2或m。

根据第五实施例的实施方式，限幅电平Lim(i，j)可以从表格表示(例如表格或LUT表)中获得或通过表格表示确定，对于亮度分量和色度分量，表格表示可以根据以下公式获得或生成：

Idx(i，j)＝0

和/或

对于亮度滤波，

其中索引Idx(i，j)选自1到m的非负值范围，m大于0，并且其中BitDepth表示BitDepthLuma或BitDepthChroma。根据一种实施方式，Idx(i，j)＝1，2或m。

根据第五实施例的实施方式，限幅电平Lim(i，j)可以从表格表示(例如表格或LUT表)中获得或通过表格表示确定，对于亮度分量和色度分量，可以使用相同的表格表示。

根据第五实施例的实施方式，限幅电平可以小于或等于2

根据第五实施例的实施方式，可以从以下表格表示中获得或通过以下表格表示确定限幅电平Lim(i，j)：

如果idx＝Idx(i，j)＝0，1，2或3：

如果BitDepthLuma等于8，则限幅电平Lim(idx)＝[255，63，15，3]；

如果BitDepthLuma等于9，则限幅电平Lim(idx)＝[511，107，22，4]；

如果BitDepthLuma等于10，则限幅电平Lim(idx)＝[1023，180，31，5]；

如果BitDepthLuma等于11，则限幅电平Lim(idx)＝[2047，303，44，6]；

如果BitDepthLuma等于12，则限幅电平Lim(idx)＝[4095，511，63，7]；

如果BitDepthLuma等于13，则限幅电平Lim(idx)＝[8191，860，90，9]；

如果BitDepthLuma等于14，则限幅电平Lim(idx)＝[16383，1447，127，10]；

如果BitDepthLuma等于15，则限幅电平Lim(idx)＝[32767，2434，180，12]；和/或

如果BitDepthLuma等于16，则限幅电平Lim(idx)＝[65535，4095，255，15]。

根据第五实施例的实施方式，可以从以下表格表示中获得或通过以下表格表示确定限幅电平Lim(i，j)：

如果idx＝Idx(I，j)＝0，1，2或3：

如果BitDepthLuma等于8，则限幅电平Lim(idx)＝[255，64，16，4]；

如果BitDepthLuma等于9，则限幅电平Lim(idx)＝[511，108，23，5]；

如果BitDepthLuma等于10，则限幅电平Lim(idx)＝[1023，181，32，6]；

如果BitDepthLuma等于11，则限幅电平Lim(idx)＝[2047，304，45，7]；

如果BitDepthLuma等于12，则限幅电平Lim(idx)＝[4095，512，64，8]；

如果BitDepthLuma等于13，则限幅电平Lim(idx)＝[8191，861，91，10]；

如果BitDepthLuma等于14，则限幅电平Lim(idx)＝[16383，1448，128，11]；

如果BitDepthLuma等于15，则限幅电平Lim(idx)＝[32767，2435，181，13]；

和/或

如果BitDepthLuma等于16，则限幅电平Lim(idx)＝[65535，4096，256，16]。

根据第五实施例的实施方式，对于亮度分量滤波，

如果BitDepthLuma等于16，则最大限幅电平Lim(i，j)＝65535；

如果BitDepthLuma等于15，则最大限幅电平Lim(i，j)＝32767；

如果BitDepthLuma等于14，则最大限幅电平Lim(i，j)＝16383；

如果BitDepthLuma等于13，则最大限幅电平Lim(i，j)＝8191；

如果BitDepthLuma等于12，则最大限幅电平Lim(i，j)＝4095，

如果BitDepthLuma等于11，则最大限幅电平Lim(i，j)＝2047；

如果BitDepthLuma等于10，则最大限幅电平Lim(i，j)＝1023，

如果BitDepthLuma等于9，则最大限幅电平Lim(i，j)＝511，和/或

如果BitDepthLuma等于8，则最大限幅电平Lim(i，j)＝255。

根据第五实施例的实施方式，对于色度分量滤波，

如果BitDepthChroma等于16，则最大限幅电平Lim(i，j)＝65535；

如果BitDepthChroma等于15，则最大限幅电平Lim(i，j)＝32767；

如果BitDepthChroma等于14，则最大限幅电平Lim(i，j)＝16383；

如果BitDepthChroma等于13，则最大限幅电平Lim(i，j)＝8191；

如果BitDepthChroma等于12，则最大限幅电平Lim(i，j)＝4095，

如果BitDepthChroma等于11，则最大限幅电平Lim(i，j)＝2047。

如果BitDepthChroma等于10，则最大限幅电平Lim(i，j)＝1023，

如果BitDepthChroma等于9，则最大限幅电平Lim(i，j)＝511，和/或

如果BitDepthChroma等于8，则最大限幅电平Lim(i，j)＝255。

根据第六实施例，本公开涉及一种在视频编码装置或解码装置中使用的环内滤波装置，其中环内滤波装置用于处理重建帧以生成滤波的重建帧，其中，重建帧包括多个像素，每个像素与像素值相关联，其中，环内滤波器装置包括一个或多个处理电路，上述一个或多个处理电路用于：

对重建帧中的像素(即滤波像素，例如每个像素)进行滤波，其中滤波的重建帧的滤波的像素(例如每个像素)基于以下公式：

Δ(x，y，i，j)＝I(x+i，y+j)-I(x，y)

Clip(d，b)＝min(b，max(-b，d))

其中限幅电平(或限幅值)Lim(i，j)是从表格表示(例如表格或LUT表)中获得或通过表格表示确定的。

根据第六实施例的实施方式，I(x+i，y+j)是重建帧中坐标为(x+i，y+j)的点中的像素值(或像素亮度)对应的亮度分量的正BitDepthLuma位值或色度分量的BitDepthChroma位值，O′(x，y)为重建帧中坐标为(x，y)的滤波的像素，w(i，j)表示相对于滤波的像素具有偏移(i，j)的像素位置对应的n位整数滤波器系数，Lim(i，j)为正或非负限幅值(例如，在表中，Lim(i，j)＝b)。

根据第六实施例的实施方式，对于亮度分量，Lim(i，j)＜＝2

根据第六实施例的实施方式，限幅电平Lim(i，j)可以从表格表示(例如表格或LUT表)中获得或通过表格表示确定，对于亮度分量和色度分量，表格表示可以根据的以下相同的公式获得或生成：

对于亮度滤波，

对于色度滤波，

Idx(i，j)＝0

和/或

对于亮度滤波，

对于色度滤波，

其中索引Idx(i，j)选自1到m的非负值范围，m大于0。根据一种实施方式，Idx(i，j)＝1，2或m。

根据第六实施例的实施方式，限幅电平Lim(i，j)可以从表格表示(例如表格或LUT表)中获得或通过表格表示确定，对于亮度分量和色度分量，表格表示可以根据以下公式获得或生成：

Idx(i，j)＝0

和/或

对于亮度滤波。

其中索引Idx(i，j)选自1到m的非负值范围，m大于0，并且其中BitDepth表示BitDepthLuma或BitDepthChroma。根据一种实施方式，Idx(i，j)＝1，2或m。

根据第六实施例的实施方式，限幅电平Lim(i，j)可以从表格表示(例如表格或LUT表)中获得或通过表格表示确定，对于亮度分量和色度分量，可以使用相同的表格表示。

根据第六实施例的实施方式，限幅电平可以小于或等于2

根据第六实施例的实施方式，可以从以下表格表示中获得或通过以下表格表示确定限幅电平Lim(i，j)：

如果idx＝Idx(i，j)＝0，1，2或3：

如果BitDepthLuma等于8，则限幅电平Lim(idx)＝[255，63，15，3]；

如果BitDepthLuma等于9，则限幅电平Lim(idx)＝[511，107，22，4]；

如果BitDepthLuma等于10，则限幅电平Lim(idx)＝[1023，180，31，5]；

如果BitDepthLuma等于11，则限幅电平Lim(idx)＝[2047，303，44，6]；

如果BitDepthLuma等于12，则限幅电平Lim(idx)＝[4095，511，63，7]；

如果BitDepthLuma等于13，则限幅电平Lim(idx)＝[8191，860，90，9]；

如果BitDepthLuma等于14，则限幅电平Lirn(idx)＝[16383，1447，127，10]；

如果BitDepthLuma等于15，则限幅电平Lim(idx)＝[32767，2434，180，12]；和/或

如果BitDepthLuma等于16，则限幅电平Lim(idx)＝[65535，4095，255，15]。

根据第六实施例的实施方式，可以从以下表格表示中获得或通过以下表格表示确定限幅电平Lim(i，j)：

如果idx＝Idx(I，j)＝0，1，2或3：

如果BitDepthLuma等于8，则限幅电平Lim(idx)＝[255,64,16,4]；

如果BitDepthLuma等于9，则限幅电平Lim(idx)＝[511,108,23,5]；

如果BitDepthLuma等于10，则限幅电平Lim(idx)＝[1023,181,32,6]；

如果BitDepthLuma等于11，则限幅电平Lim(idx)＝[2047,304,45,7]；

如果BitDepthLuma等于12，则限幅电平Lim(idx)＝[4095,512,64,8]；

如果BitDepthLuma等于13，则限幅电平Lim(idx)＝[8191,861,91,10]；

如果BitDepthLuma等于14，则限幅电平Lim(idx)＝[16383,1448,128,11]；

如果BitDepthLuma等于15，则限幅电平Lim(idx)＝[32767,2435,181,13]；

和/或

如果BitDepthLuma等于16，则限幅电平Lim(idx)＝[65535,4096,256,16]。

根据第六实施例的实施方式，对于亮度分量滤波，

如果BitDepthLuma等于16，则最大限幅电平Lim(i,j)＝65535；

如果BitDepthLuma等于15，则最大限幅电平Lim(i,j)＝32767；

如果BitDepthLuma等于14，则最大限幅电平Lim(i,j)＝16383；

如果BitDepthLuma等于13，则最大限幅电平Lim(i,j)＝8191；

如果BitDepthLuma等于12，则最大限幅电平Lim(i,j)＝4095，

如果BitDepthLuma等于11，则最大限幅电平Lim(i,j)＝2047；

如果BitDepthLuma等于10，则最大限幅电平Lim(i,j)＝1023，

如果BitDepthLuma等于9，则最大限幅电平Lim(i,j)＝511，和/或

如果BitDepthLuma等于8，则最大限幅电平Lim(i,j)＝255。

根据第六实施例的实施方式，对于色度分量滤波，

如果BitDepthChroma等于16，则最大限幅电平Lim(i,j)＝65535；

如果BitDepthChroma等于15，则最大限幅电平Lim(i,j)＝32767；

如果BitDepthChroma等于14，则最大限幅电平Lim(i,j)＝16383；

如果BitDepthChroma等于13，则最大限幅电平Lim(i,j)＝8191；

如果BitDepthChroma等于12，则最大限幅电平Lim(i,j)＝4095，

如果BitDepthChroma等于11，则最大限幅电平Lim(i,j)＝2047。

如果BitDepthChroma等于10，则最大限幅电平Lim(i,j)＝1023，

如果BitDepthChroma等于9，则最大限幅电平Lim(i,j)＝511，和/或

如果BitDepthChroma等于8，则最大限幅电平Lim(i,j)＝255。

根据第七实施例，本公开涉及一种计算机程序产品，包括程序代码，上述程序代码在计算机或处理器上执行时用于执行根据第二实施例和第五实施例的任何一种方法。

根据第八实施例，本公开涉及一种解码器，包括一个或多个处理器以及耦合到处理器并存储由处理器执行的程序的非暂时性计算机可读存储介质，其中，上述程序由处理器执行时配置解码器执行根据第二实施例和第五实施例的任何一种方法。

根据第九实施例，本公开涉及一种编码器，包括一个或多个处理器以及耦合到处理器并存储由处理器执行的程序的非暂时性计算机可读存储介质，其中，上述程序由处理器执行时配置编码器执行根据第二实施例和第五实施例的任何一种方法。

根据第十实施例，本公开涉及一种非暂时性计算机可读介质，承载程序代码，上述程序代码由计算机设备执行时使计算机设备执行根据第二实施例和第五实施例的任何一种方法。

以下是对上述实施例所示的编码方法和解码方法的应用以及使用上述方法的系统的说明。

图10是示出用于实现内容分发服务的内容供应系统3100的框图。该内容供应系统3100包括捕获设备3102、终端设备3106，并且可选地包括显示器3126。捕获设备3102通过通信链路3104与终端设备3106通信。通信链路可以包括上述通信信道13。通信链路3104包括但不限于WIFI、以太网、电缆、无线(3G/4G/5G)、USB、或其任意组合等。

捕获设备3102生成数据，并且可以通过如上述实施例所示的编码方法对数据进行编码。或者，捕获设备3102可以将数据分发到流媒体服务器(图中未示出)，服务器对数据进行编码并将编码的数据发送到终端设备3106。捕获设备3102包括但不限于相机、智能手机、或平板电脑、计算机、或膝上型电脑、视频会议系统、PDA、车载设备、或其中的任何组合等。例如，捕获设备3102可以包括如上所述的源设备12。当数据包括视频时，捕获设备3102中包括的视频编码器20可以实际执行视频编码处理。当数据包括音频(即语音)时，捕获设备3102中包括的音频编码器可以实际执行音频编码处理。对于一些实际场景，捕获设备3102通过将编码的视频和音频数据复用在一起来分发编码的视频和音频数据。对于其他实际场景，例如在视频会议系统中，不对编码的音频数据和编码的视频数据进行复用。捕获设备3102将编码的音频数据和编码的视频数据分别分发至终端设备3106。

在内容供应系统3100中，终端装置310接收并再现编码数据。终端设备3106可以是具有数据接收和恢复能力的设备，例如智能手机或平板电脑3108、计算机或膝上型电脑3110、网络录像机(network video recorder，NVR)/数字录像机(digital videorecorder，DVR)3112、电视3114、机顶盒(set top box，STB)3116、视频会议系统3118、视频监控系统3120、个人数字助理(personal digital assistant，PDA)3122、车载设备3124、或其中的任何组合、或能够对上述编码数据进行解码的类似的设备。例如，终端设备3106可以包括如上所述的目的地设备14。当编码的数据包括视频时，终端设备中包括的视频解码器30优先进行视频解码。当编码的数据包括音频时，终端设备中包括的音频解码器优先进行音频解码处理。

对于具有显示器的终端设备，例如智能手机或平板电脑3108、计算机或笔记本电脑3110、网络录像机(NVR)/数字录像机(DVR)3112、TV 3114、个人数字助理(PDA)3122、或车载设备3124，终端设备可以将解码的数据馈送到其显示器。对于未配备有显示器的终端设备，例如STB 3116、视频会议系统3118、或视频监控系统3120，在其中连接外部显示器3126以接收和显示解码的数据。

此系统中的每个设备在进行编码或解码时，可以使用上述实施例所示的图像编码设备或图像解码设备。

图11是示出终端设备3106的示例的结构的图。终端设备3106从捕获设备3102接收流后，协议处理单元3202分析流的传输协议。协议包括但不限于实时流协议(real timestreaming protocol，RTSP)、超文本传输协议(hyper text transfer protocol，HTTP)、HTTP实时流协议(HTTP live streaming protocol，HLS)、MPEG-DASH、实时传输协议(real-time transport protocol，RTP)、实时消息协议(real time messaging protocol，RTMP)，或其任何类型的组合等。

协议处理单元3202对流进行处理后，生成流文件。该文件被输出到解复用单元3204。解复用单元3204可以将复用数据分离为编码的音频数据和编码的视频数据。如上所述，对于一些实际场景，例如在视频会议系统中，不对编码的音频数据和编码的视频数据进行复用。在这种情况下，编码的数据被发送到视频解码器3206和音频解码器3208而不通过解复用单元3204。

通过解复用处理，生成视频基本流(elementary stream，ES)、音频ES、以及可选的字幕。视频解码器3206(包括上述实施例中说明的视频解码器30)通过上述实施例所示的解码方法对视频ES进行解码以生成视频帧，并将该数据馈送到同步单元3212。音频解码器3208对音频ES进行解码以生成音频帧，并将该数据馈送到同步单元3212。或者，视频帧在馈送到同步单元3212之前可以存储在缓冲区(图11中未示出)中。类似地，音频帧在馈送到同步单元3212之前可以存储在缓冲区(图11中未示出)中。

同步单元3212对视频帧和音频帧进行同步，并将视频/音频提供给视频/音频显示器3214。例如，同步单元3212同步视频和音频信息的呈现。信息可以使用关于译码音频和视频数据的呈现的时间戳和关于数据流本身的分发的时间戳译码在语法中。

如果流中包括字幕，则字幕解码器3210对字幕进行解码，并将其与视频帧和音频帧同步，并将视频/音频/字幕提供给视频/音频/字幕显示器3216。

本发明不限于上述系统，上述实施例中的图像编码装置或图像解码装置都可以并入其他系统，例如汽车系统。

数学运算符

本申请中使用的数学运算符与C编程语言中使用的数学运算符类似。然而，对整数除法和算术移位运算的结果进行了更准确的定义，并且定义了其他运算，如幂运算和实值除法。编号和计数规范通常从零开始，即，“第一个”相当于第0个，“第二个”相当于第1个等等。

算术运算符

以下算术运算符定义如下：

逻辑运算符

以下逻辑运算符定义如下：

x&&y x和y的布尔逻辑“与”

x||y x和y的布尔逻辑“或”

！ 布尔逻辑“非”

x？y:z 如果x为TRUE或不等于0，则计算值为y，否则，计算值为z。

关系运算符

以下关系运算符定义如下：

> 大于

>＝ 大于或等于

< 小于

<＝ 小于或等于

＝＝ 等于

！＝ 不等于

当一个关系运算符应用于一个已被赋值“na”(不适用，not applicable)的语法元素或变量时，值“na”被视为该语法元素或变量的不同值。值“na”被视为不等于任何其他值。

逐位运算符

以下逐位运算符定义如下：

& 逐位“与”。当对整数参数运算时，对整数值的二的补码表示进行运算。当对二进制参数运算时，如果该二进制参数包含的位比另一个参数少，则通过添加更多等于0的有效位来扩展较短的参数。

| 逐位“或”。当对整数参数运算时，对整数值的二的补码表示进行运算。当对二进制参数运算时，如果该二进制参数包含的位比另一个参数少，则通过添加更多等于0的有效位来扩展较短的参数。

^ 逐位“异或”。当对整数参数运算时，对整数值的二的补码表示进行运算。当对二进制参数运算时，如果该二进制参数包含的位比另一个参数少，则通过添加更多等于0的有效位来扩展较短的参数。

x>>y x的二的补码整数表示算术右移y个二进制位。只有y为非负整数值时才定义该函数。由于右移而移进最高有效位(most significant bit，MSB)的位的值等于移位运算之前的x的MSB。

x<

赋值运算符

以下算术运算符定义如下：

＝ 赋值运算符

++ 增，即，x++等于x＝x+1；当在数组索引中使用时，等于增运算之前变量的值。

-- 减，即，x--等于x＝x-1；当在数组索引中使用时，等于减运算之前变量的值。

+＝ 增加指定量，即，x+＝3等于x＝x+3，x+＝(-3)等于x＝x+(-3)。

-＝ 减少指定量，即，x-＝3等于x＝x-3，x-＝(-3)等于x＝x-(-3)。

范围符号

以下符号用来说明值的范围：

x＝y..z x取从y到z(包括端值)的整数值，其中x、y和z是整数，z大于y。

数学函数

定义了以下数学函数：

Asin(x) 三角反正弦函数，对参数x运算，x在–1.0至1.0(包括端值)范围之间，输出值在–π÷2至π÷2(包括端值)范围之间，单位为弧度。

Atan(x) 三角反正切函数，对参数x运算，输出值在–π÷2至π÷2(包括端值)范围之间，单位为弧度。

Ceil(x) 大于或等于x的最小整数。

Clip1

Clip1

Cos(x) 三角余弦函数，对参数x运算，单位为弧度。

Floor(x) 小于或等于x的最大整数。

Ln(x) x的自然对数(以e为底的对数，其中e是自然对数底数常数2.718 281828……)。

Log2(x) x以2为底的对数。

Log10(x) x以10为底的对数。

Round(x)＝Sign(x)*Floor(Abs(x)+0.5)

Sin(x) 三角正弦函数，对参数x运算，单位为弧度。

Swap(x,y)＝(y,x)

Tan(x) 三角正切函数，对参数x运算，单位为弧度。

运算顺序优先级

当没有使用括号来显式指示表达式中的优先顺序时，以下适用规则：

-较高优先级的运算在较低优先级的任何运算之前计算。

-相同优先级的运算从左到右依次计算。

下表是从最高到最低的运算优先级，表中位置越高，优先级越高。

对于C编程语言中也使用的那些运算符，本说明书中使用的优先级顺序与在C编程语言中使用的优先级顺序相同。

表：从最高(表格顶部)到最低(表格底部)的运算优先级

逻辑运算的文本描述

在文本中，将以下列形式用数学方式描述逻辑运算的语句：

可以采用如下方式描述：

...as follows/...the following applies:

–If condition 0,statement 0

–Otherwise,if condition 1,statement 1

–...

–Otherwise(informative remark on remaining condition),statement n

文本中的每个“If...Otherwise,if...Otherwise,...”语句都以“...asfollows”或“...the following applies”引入，紧接“If...”。“If...Otherwise,if...Otherwise,...”的最后一个条件可以总是“Otherwise,...”。间插的“If...Otherwise,if...Otherwise,...”语句可以通过使“...as follows”或“...thefollowing applies”与结尾“Otherwise,...”匹配来标识。

在文本中，将以下列形式用数学方式描述逻辑运算的语句：

可以采用如下方式描述：

...as follows/...the following applies:

–If all of the following conditions are true,statement 0:

–condition 0a

–condition 0b

–Otherwise,if one or more of the following conditions are true,statement 1:

–condition 1a

–condition 1b

–...

–Otherwise,statement n

在文本中，将以下列形式用数学方式描述逻辑运算的语句：

if(condition 0)

statement 0

if(condition 1)

statement 1

可以采用如下方式描述：

When condition 0,statement 0

When condition 1,statement 1

虽然本申请实施例主要根据视频编解码进行了描述，但需要说明的是，编解码系统10、编码器20、以及解码器30(相应地，系统10)的实施例以及本文描述的其他实施例也可以用于静止图像处理或编解码，即，对视频编解码中独立于任何先前或连续图像的单个图像进行处理或编解码。通常，如果图像处理编解码限于单个图像17，则仅帧间预测单元244(编码器)和344(解码器)不可用。视频编码器20和视频解码器30的所有其他功能(也称为工具或技术)同样可以用于静止图像处理，例如残差计算204/304、变换206、量化208、反量化210/310、(反)变换212/312、划分262、帧内预测254/354、和/或环路滤波220/320、以及熵编码270和熵解码304。

例如编码器20和解码器30的实施例，以及本文描述的例如参照编码器20和解码器30的功能可以以硬件、软件、固件、或其任何组合来实现。如果以软件来实现，则各种功能可以作为一个或多个指令或代码存储在计算机可读介质中或通过通信介质传输，且由基于硬件的处理单元执行。计算机可读介质可以包括与有形介质(如数据存储介质)对应的计算机可读存储介质，或包括任何便于将计算机程序从一处传送到另一处的介质(例如根据通信协议)的通信介质。以此方式，计算机可读介质通常可以对应(1)非暂时性的有形计算机可读存储介质，或(2)如信号或载波等通信介质。数据存储介质可以是可由一个或多个计算机或一个或多个处理器访问以检索用于实现本申请中描述的技术的指令、代码和/或数据结构的任何可用介质。计算机程序产品可以包括计算机可读介质。

作为示例而非限制，这类计算机可读存储介质可以包括RAM、ROM、EEPROM、CD-ROM或其他光盘存储器、磁盘存储器或其他磁性存储设备、闪存、或可以用于存储指令或数据结构形式的所需程序代码并且可以由计算机访问的任何其他介质。此外，任何连接都可以适当地称为计算机可读介质。例如，如果使用同轴电缆、光缆、双绞线、数字用户线(digitalsubscriber line，DSL)或如红外线、无线电和微波等无线技术从网站、服务器或其他远程资源传输指令，则在介质定义中包括同轴电缆、光缆、双绞线、DSL或如红外线、无线电和微波等无线技术。然而，应理解，计算机可读存储介质和数据存储介质并不包括连接、载波、信号或其他瞬时性介质，而是针对非暂时性有形存储介质。本文所使用的磁盘和光盘包括压缩光盘(compact disc，CD)、激光光盘、光学光盘、数字多功能光盘(digitalversatiledisc，DVD)、软盘和蓝光光盘，其中磁盘通常以磁性方式再现数据，而光盘利用激光以光学方式再现数据。以上各项的组合也应包括在计算机可读介质的范围内。

可以通过如一个或多个数字信号处理器(DSP)、通用微处理器、专用集成电路(ASIC)、现场可编程逻辑阵列(FPGA)、或其他等效集成或离散逻辑电路等一个或多个处理器来执行指令。因此，如本文所使用的术语“处理器”可以指前述结构或适合于实现本文描述的技术的任何其他结构中的任一者。另外，在一些方面中，本文描述的各种功能可以提供在用于编码和解码的专用硬件和/或软件模块内，或者并入到组合编解码器中。而且，上述技术可以完全在一个或多个电路或逻辑元件中实现。

本申请的技术可以在多种设备或装置中实现，这些设备或装置包括无线手机、集成电路(integrated circuit，IC)或一组IC(例如芯片组)。本申请中描述各种组件、模块或单元是为了强调用于执行所公开技术的装置的功能方面，但未必需要由不同硬件单元实现。实际上，如上所述，各种单元可以组合在编解码器硬件单元中，或者由互操作硬件单元(包括如上所述的一个或多个处理器)的集合结合合适的软件和/或固件来提供。