掌桥专利:专业的专利平台
掌桥专利
首页

用信号通知HLS的图像编码/解码方法和设备及存储比特流的计算机可读记录介质

文献发布时间:2023-06-19 18:27:32


用信号通知HLS的图像编码/解码方法和设备及存储比特流的计算机可读记录介质

技术领域

本公开涉及图像编码/解码方法和设备,并且更具体地涉及用于用信号通知高级语法(HLS)的图像编码/解码方法和设备以及存储由本公开的图像编码方法/设备生成的比特流的计算机可读记录介质。

背景技术

近来,在各种领域中,对诸如高清(HD)图像和超高清(UHD)图像的高分辨率和高质量图像的需求正在增加。随着图像数据的分辨率和质量的提高,与现有图像数据相比,传输的信息量或比特量相对增加。传输信息量或比特量的增加导致传输成本和存储成本的增加。

因此,需要高效的图像压缩技术来有效地传输、存储和再现关于高分辨率和高质量图像的信息。

发明内容

技术问题

本公开的目的是提供一种具有提高的编码/解码效率的图像编码/解码方法和设备。

本公开的另一目的是提供一种用于通过有效地用信号通知HLS来提高编码/解码效率的图像编码/解码方法和设备。

本公开的另一个目的是提供一种发送由根据本公开的图像编码方法或设备生成的比特流的方法。

本公开的另一个目的是提供一种存储由根据本公开的图像编码方法或设备生成的比特流的记录介质。

本公开的另一个目的是提供一种记录介质,其存储由根据本公开的图像解码设备接收、解码并用于重构图像的比特流。

本公开所解决的技术问题不限于上述技术问题,本领域技术人员通过以下描述将清楚此处未描述的其它技术问题。

技术方案

根据本公开的一方面的由图像解码设备执行的图像解码方法可以包括以下步骤:获得指示是否约束亮度映射与色度缩放(LMCS)的第一信息;获得指示针对当前视频序列是否允许LMCS的第二信息;以及基于第二信息来重构当前视频序列内的当前画面。第二信息的值可以基于第一信息的值来确定。

在本公开的图像解码方法中,基于第一信息具有指示LMCS被约束的值,第二信息可以具有指示针对所述当前视频序列不允许LMCS的值。

在本公开的图像解码方法中,第一信息可以从用于用信号通知一般约束信息的语法结构获得。

在本公开的图像解码方法中,第二信息可以从序列参数集(SPS)获得。

根据本公开的另一方面的图像解码设备可以包括存储器和至少一个处理器。至少一个处理器可以被配置为执行以下步骤:获得指示是否约束亮度映射与色度缩放(LMCS)的第一信息;获得指示针对当前视频序列是否允许LMCS的第二信息;以及基于第二信息来重构当前视频序列内的当前画面。第二信息的值可以基于第一信息的值来确定。

根据本公开内容的另一方面的由图像编码设备执行的图像编码方法可以包括以下步骤:对指示是否约束亮度映射与色度缩放(LMCS)的第一信息进行编码;对指示针对当前视频序列是否允许LMCS的第二信息进行编码;以及基于第二信息来对当前视频序列内的当前画面进行编码。第二信息的值可以基于第一信息的值来确定。

在本公开的图像编码方法中,基于第一信息具有指示LMCS被约束的值,第二信息可以具有指示针对所述当前视频序列不允许LMCS的值。

在本公开的图像编码方法中,第一信息可以被编码在用于用信号通知一般约束信息的语法结构中。

在本公开的图像编码方法中,第二信息可以被编码在序列参数集(SPS)中。

根据本公开的另一方面的传输方法可以发送由本公开的图像编码设备或图像编码方法生成的比特流。

根据本公开的另一方面的计算机可读记录介质可以存储由本公开的图像编码设备或图像编码方法生成的比特流。

以上关于本公开的简要概括的特征仅仅是本公开的以下详细描述的示例性方面,并且不限制本公开的范围。

有益效果

根据本公开,可以提供一种具有提高的编码/解码效率的图像编码/解码方法和设备。

此外,根据本公开,可以提供一种用于通过有效地用信号通知高级语法(HLS)来提高编码/解码效率的图像编码/解码方法和设备。

此外,根据本公开,能够提供一种发送由根据本公开的图像编码方法或设备生成的比特流的方法。

此外,根据本公开,能够提供一种存储由根据本公开的图像编码方法或设备生成的比特流的记录介质。

此外,根据本公开,能够提供一种记录介质,其存储由根据本公开的图像解码设备接收、解码并用于重构图像的比特流。

本领域的技术人员将理解,通过本公开可以实现的效果不限于上文已经具体描述的内容,并且将从详细描述中更清楚地理解本公开的其它优点。

附图说明

图1是示意性示出可应用本公开的实施方式的视频编码系统的视图。

图2是示意性示出可应用本公开的实施方式的图像编码设备的视图。

图3是示意性示出可应用本公开的实施方式的图像解码设备的视图。

图4是示出可应用本公开的实施方式的示意性画面解码过程的示例的视图。

图5是示出可应用本公开的实施方式的示意性画面编码过程的示例的视图。

图6是示出用于编码视频/图像的层结构的示例的视图。

图7是示出用于用信号通知作为一般约束信息的指示是否约束LMCS的信息语法结构的示例的视图。

图8是例示根据参照图7描述的实施方式的图像编码设备的操作的视图。

图9是例示根据参照图7描述的实施方式的图像解码设备的操作的视图。

图10是例示关于LMCS用信号通知的附加信息的示例的视图。

图11是例示可应用本公开的实施方式的内容流传输系统的视图。

具体实施方式

在下文中,将参照附图对本公开的实施方式进行详细描述,以易于本领域技术人员实现。然而,本公开可以以各种不同的形式实现,并且不限于本文描述的实施方式。

在描述本公开时,如果确定相关已知功能或构造的详细描述使本公开的范围不必要地含糊不清,则将省略其详细描述。在附图中,省略了与本公开的描述无关的部分,并且相似的附图标记被赋予相似的部分。

在本公开中,当一个组件“连接”、“联接”或“链接”到另一个组件时,它不仅可以包括直接连接关系,还可以包括中间组件存在的间接连接关系。另外,当一个组件“包括”或“具有”其它组件时,除非另有说明,否则是指还可以包括其它组件,而不是排除其它组件。

在本公开中,术语第一、第二等仅用于将一个组件与其它组件区分开的目的,并且不限制组件的顺序或重要性,除非另有说明。相应地,在本公开的范围内,一个实施方式中的第一组件在另一个实施方式中可以被称为第二组件,类似地,一个实施方式中的第二组件在另一个实施方式中可以被称为第一组件。

在本公开中,相互区分的组件旨在清楚地描述每个特征,并不意味着组件必须分开。即,多个组件可以集成在一个硬件或软件单元中实现,或者一个组件可以在多个硬件或软件单元中分布和实现。因此,即使没有特别说明,这些组件集成或分布式的实施方式也包括在本公开的范围内。

在本公开中,各个实施方式中所描述的组件并不一定是必不可少的组件,一些组件可以是可选的组件。因此,由实施方式中描述的组件的子集组成的实施方式也包括在本公开的范围内。此外,除了在各种实施方式中描述的组件之外还包括其它组件的实施方式包括在本公开的范围内。

本公开涉及图像的编码和解码,除非在本公开中重新定义,否则本公开中使用的术语可以具有本公开所属技术领域中常用的一般含义。

在本公开中,“画面”一般是指表示特定时间段内的一个图像的单元,而切片(slice)/拼块(tile)是构成画面的一部分的编码单元,一个画面可以由一个或更多个切片/拼块组成。此外,切片/拼块可以包括一个或更多个编码树单元(CTU)。

在本公开中,“像素”或“像元(pel)”可以意指构成一个画面(或图像)的最小单元。此外,“样本”可以用作对应于像素的术语。一个样本一般可以表示像素或像素的值,也可以仅表示亮度分量的像素/像素值或仅表示色度分量的像素/像素值。

在本公开中,“单元”可以表示图像处理的基本单元。该单元可以包括画面的特定区域和与该区域相关的信息中的至少一个。在某些情况下,该单元可以与诸如“样本阵列”、“块”或“区域”的术语互换使用。在一般情况下,M×N块可以包括M列N行的样本(或样本阵列)或变换系数的集合(或阵列)。

在本公开中,“当前块”可以意指“当前编码块”、“当前编码单元”、“编码目标块”、“解码目标块”或“处理目标块”中的一个。当执行预测时,“当前块”可以意指“当前预测块”或“预测目标块”。当执行变换(逆变换)/量化(解量化)时,“当前块”可以意指“当前变换块”或“变换目标块”。当执行滤波时,“当前块”可以意指“滤波目标块”。

另外,在本公开中,除非明确说明为色度块,“当前块”可以意指包括亮度分量块和色度分量块二者的块或“当前块的亮度块”。“当前块的亮度块”可以通过包括诸如“亮度块”或“当前亮度块”的亮度分量块的明确描述来表示。另外,“当前块的色度块”可以通过包括诸如“色度块”或“当前色度块”的色度分量块的明确描述来表示。

在本公开中,“A或B”可以意指“仅A”、“仅B”或“A和B二者”。换句话说,在本公开中,“A或B”可解释为“A和/或B”。例如,在本公开中,“A、B或C”可表示“仅A”、“仅B”、“仅C”或“A、B和C的任意组合”。

本公开中使用的斜线(/)或逗号可表示“和/或”。例如,“A/B”可表示“A和/或B”。因此,“A/B”可表示“仅A”、“仅B”或“A和B两者”。例如,“A、B、C”可以意指“A、B或C”。

在本公开中,“A和B中的至少一个”可以意指“仅A”、“仅B”或“A和B二者”。另外,在本公开中,“A或B中的至少一个”或“A和/或B中的至少一个”可被解释为与“A和B中的至少一个”相同。

另外,在本公开中,“A、B和C中的至少一个”可以意指“仅A”、“仅B”、“仅C”或“A、B和C的任何组合”。另外,在本公开中,“A、B或C中的至少一个”或“A、B和/或C中的至少一个”可被解释为与“A、B和C中的至少一个”相同。

另外,本公开中使用的括号可以意指“例如”。具体地,当描述“预测(帧内预测)”时,可以提出“帧内预测”作为“预测”的示例。换句话说,本公开的“预测”不限于“帧内预测”,并且可以提出“帧内预测”作为“预测”的示例。另外,即使当描述了“预测(即,帧内预测)”时,也可以提出“帧内预测”作为“预测”的示例。

在本公开中,在一个附图中单独描述的技术特征可以单独或同时实现。

图1是示出根据本公开的视频编码系统的视图。

根据实施方式的视频编码系统可以包括编码设备10和解码设备20。编码设备10可以将编码的视频和/或图像信息或数据以文件或流的形式经由数字存储介质或网络递送到解码设备20。

根据实施方式的编码设备10可以包括视频源生成器11、编码单元12和发送器13。根据实施方式的解码设备20可以包括接收器21、解码单元22和渲染器23。编码单元12可以称为视频/图像编码单元,解码单元22可以称为视频/图像解码单元。发送器13可以被包括在编码单元12中。接收器21可以被包括在解码单元22中。渲染器23可以包括显示器并且显示器可以被配置为单独的装置或外部组件。

视频源生成器11可以通过捕获、合成或生成视频/图像的过程来获取视频/图像。视频源生成器11可以包括视频/图像捕获装置和/或视频/图像生成装置。视频/图像捕获装置可以包括例如一个或更多个相机、包括先前捕获的视频/图像的视频/图像档案等。视频/图像生成装置可以包括例如计算机、平板计算机和智能电话,并且可以(以电子方式)生成视频/图像。例如,可以通过计算机等生成虚拟视频/图像。在这种情况下,视频/图像捕获过程可以被生成相关数据的过程代替。

编码单元12可以对输入视频/图像进行编码。为了压缩和编码效率,编码单元12可以执行一系列过程,例如预测、变换和量化。编码单元12可以以比特流的形式输出编码数据(编码视频/图像信息)。

发送器13可以通过数字存储介质或网络以文件或流的形式将以比特流的形式输出的编码视频/图像信息或数据传输到解码设备20的接收器21。数字存储介质可以包括各种存储介质,例如USB、SD、CD、DVD、蓝光、HDD、SSD等。发送器13可以包括用于通过预定文件格式生成媒体文件的元件并且可以包括用于通过广播/通信网络传输的元件。接收器21可以从存储介质或网络中提取/接收比特流并将比特流传输到解码单元22。

解码单元22可以通过执行与编码单元12的操作相对应的一系列过程,例如解量化、逆变换和预测来解码视频/图像。

渲染器23可以渲染解码的视频/图像。渲染的视频/图像可以通过显示器显示。

图2是示意性示出可应用本公开的实施方式的图像编码设备的视图。

如图2所示,图像编码设备100可以包括图像分割器110、减法器115、变换器120、量化器130、解量化器140、逆变换器150、加法器155、滤波器160、存储器170、帧间预测器180、帧内预测器185和熵编码器190。帧间预测器180和帧内预测器185可以统称为“预测器”。变换器120、量化器130、解量化器140和逆变换器150可以被包括在残差处理器中。残差处理器还可以包括减法器115。

在一些实施方式中,配置图像编码设备100的多个组件中的全部或至少一些可以由一个硬件组件(例如,编码器或处理器)来配置。此外,存储器170可以包括解码画面缓冲器(DPB)并且可以由数字存储介质配置。

图像分割器110可将输入到图像编码设备100的输入图像(或画面或帧)分割成一个或更多个处理单元。例如,处理单元可以称为编码单元(CU)。可以通过根据四叉树二叉树三叉树(QT/BT/TT)结构递归地分割编码树单元(CTU)或最大编码单元(LCU)来获取编码单元。例如,可以基于四叉树结构、二叉树结构和/或三叉树结构将一个编码单元分割为更深深度的多个编码单元。对于编码单元的分割,可以首先应用四叉树结构,然后可以应用二叉树结构和/或三叉树结构。可以基于不再分割的最终编码单元来执行根据本公开的编码过程。可以将最大编码单元用作最终编码单元,也可以将通过分割最大编码单元获取的更深深度的编码单元用作最终编码单元。这里,编码过程可以包括稍后将描述的预测、变换和重构的过程。作为另一个示例,编码过程的处理单元可以是预测单元(PU)或变换单元(TU)。预测单元和变换单元可以从最终编码单元划分或分割。预测单元可以是样本预测单元,变换单元可以是用于推导变换系数的单元和/或用于从变换系数推导残差信号的单元。

预测器(帧间预测器180或帧内预测器185)可以对要处理的块(当前块)执行预测,并且生成包括当前块的预测样本的预测块。预测器可以在当前块或CU的基础上确定是应用帧内预测还是帧间预测。预测器可以生成与当前块的预测有关的各种信息,并且将生成的信息传输到熵编码器190。关于预测的信息可以在熵编码器190中被编码并且以比特流的形式输出。

帧内预测器185可以通过参考当前画面中的样本来预测当前块。根据帧内预测模式和/或帧内预测技术,参考样本可以位于当前块的邻居中或者可以被分开放置。帧内预测模式可以包括多个非定向模式和多个定向模式。非定向模式可以包括例如DC模式和平面模式。根据预测方向的详细程度,定向模式可以包括例如33个定向预测模式或65个定向预测模式。然而,这仅仅是示例,可以根据设置使用更多或更少的定向预测模式。帧内预测器185可以通过使用应用于邻近块的预测模式来确定应用于当前块的预测模式。

帧间预测器180可以基于由参考画面上的运动向量指定的参考块(参考样本阵列)来推导当前块的预测块。在这种情况下,为了减少在帧间预测模式中传输的运动信息量,可以基于邻近块和当前块之间的运动信息的相关性以块、子块或样本为单元来预测运动信息。运动信息可以包括运动向量和参考画面索引。运动信息还可以包括帧间预测方向(L0预测、L1预测、双预测等)信息。在帧间预测的情况下,邻近块可以包括当前画面中存在的空间邻近块和参考画面中存在的时间邻近块。包括参考块的参考画面和包括时间邻近块的参考画面可以相同或不同。时间邻近块可以被称为并置参考块、并置CU(colCU)等。包括时间邻近块的参考画面可以被称为并置画面(colPic)。例如,帧间预测器180可基于邻近块配置运动信息候选列表并生成指示使用哪个候选来推导当前块的运动向量和/或参考画面索引的信息。可以基于各种预测模式来执行帧间预测。例如,在跳过模式和合并模式的情况下,帧间预测器180可以使用邻近块的运动信息作为当前块的运动信息。在跳过模式的情况下,与合并模式不同,可以不传输残差信号。在运动向量预测(MVP)模式的情况下,邻近块的运动向量可以用作运动向量预测子,并且当前块的运动向量可以通过编码运动向量差和运动向量预测子的指示符来用信号通知当前块的运动向量。运动向量差可以意指当前块的运动向量与运动向量预测子之间的差。

预测器可以基于以下描述的各种预测方法和预测技术来生成预测信号。例如,预测器不仅可以应用帧内预测或帧间预测,还可以同时应用帧内预测和帧间预测,以预测当前块。同时应用帧内预测和帧间预测两者来预测当前块的预测方法可以称为组合帧间和帧内预测(CIIP)。此外,预测器可以执行帧内块复制(IBC)以预测当前块。帧内块复制可以用于游戏等的内容图像/视频编码,例如,屏幕内容编码(SCC)。IBC是一种在与当前块相隔预定距离的位置处使用当前画面中先前重构的参考块来预测当前画面的方法。当应用IBC时,参考块在当前画面中的位置可以被编码为对应于预定距离的向量(块向量)。IBC基本上在当前画面中执行预测,但是可以类似于帧间预测执行,因为在当前画面内推导参考块。即,IBC可以使用本公开中描述的至少一种帧间预测技术。

预测器生成的预测信号可用于生成重构信号或生成残差信号。减法器115可以通过从输入图像信号(原始块或原始样本阵列)中减去从预测器输出的预测信号(预测块或预测样本阵列)来生成残差信号(残差块或残差样本阵列)。生成的残差信号可以被传输到变换器120。

变换器120可以通过将变换技术应用于残差信号来生成变换系数。例如,变换技术可以包括离散余弦变换(DCT)、离散正弦变换(DST)、karhunen-loève变换(KLT)、基于图的变换(GBT)或条件非线性变换(CNT)中的至少一种。这里,GBT是指当像素之间的关系信息由图形表示时从图形获得的变换。CNT是指基于使用所有先前重构的像素生成的预测信号获取的变换。此外,变换处理可以应用于具有相同大小的正方形像素块或者可以应用于具有可变大小而不是正方形的块。

量化器130可以对变换系数进行量化并且将它们传输到熵编码器190。熵编码器190可以对量化的信号(关于量化的变换系数的信息)进行编码并且输出比特流。关于量化变换系数的信息可以被称为残差信息。量化器130可基于系数扫描顺序将块类型的量化变换系数重新排列为一维向量形式,并基于一维向量形式的量化变换系数生成关于量化变换系数的信息。

熵编码器190可以执行各种编码方法,例如指数哥伦布、上下文自适应可变长度编码(CAVLC)、上下文自适应二进制算术编码(CABAC)等。熵编码器190可以一起或单独地编码量化变换系数以外的视频/图像重构所需的信息(例如,语法元素的值等)。编码的信息(例如,编码的视频/图像信息)可以比特流的形式以网络抽象层(NAL)为单元进行传输或存储。视频/图像信息还可以包括关于各种参数集的信息,例如自适应参数集(APS)、画面参数集(PPS)、序列参数集(SPS)或视频参数集(VPS)。此外,视频/图像信息还可以包括通用约束信息。本公开中描述的用信号通知的信息、传输的信息和/或语法元素可以通过上述编码过程被编码并且被包括在比特流中。

比特流可以通过网络传输或者可以存储在数字存储介质中。网络可以包括广播网络和/或通信网络,数字存储介质可以包括USB、SD、CD、DVD、蓝光、HDD、SSD等各种存储介质。可以包括传输从熵编码器190输出的信号的发送器(未示出)和/或存储该信号的存储单元(未示出)作为图像编码设备100的内部/外部元件。另选地,可以提供发送器作为熵编码器190的组件。

从量化器130输出的量化变换系数可用于生成残差信号。例如,可以通过解量化器140和逆变换器150对量化变换系数应用解量化和逆变换来重构残差信号(残差块或残差样本)。

加法器155将重构残差信号与从帧间预测器180或帧内预测器185输出的预测信号相加,以生成重构信号(重构画面、重构块、重构样本阵列)。如果要处理的块没有残差,例如应用跳过模式的情况,则可以将预测块用作重构块。加法器155可以称为重构器或重构块生成器。生成的重构信号可以用于当前画面中要处理的下一个块的帧内预测,并且可以用于通过如下所述的滤波对下一个画面进行帧间预测。

此外,在画面编码和/或重构处理中,可以应用亮度映射与色度缩放(LMCS)。

滤波器160可以通过对重构信号应用滤波来提高主观/客观图像质量。例如,滤波器160可以通过对重构画面应用各种滤波方法来生成修改的重构画面,并将修改的重构画面存储在存储器170中,具体地,存储器170的DPB中。各种滤波方法可以包括例如去块滤波、样本自适应偏移、自适应环路滤波、双边滤波等。滤波器160可以生成与滤波有关的各种信息并将所生成的信息传输到熵编码器190,如稍后在每种滤波方法的描述中所描述的。与滤波相关的信息可以由熵编码器190编码并以比特流的形式输出。

传输到存储器170的修改的重构画面可以用作帧间预测器180中的参考画面。当通过图像编码设备100应用帧间预测时,可以避免图像编码设备100和图像解码设备之间的预测失配并且可以提高编码效率。

存储器170的DPB可以存储修改的重构画面以用作帧间预测器180中的参考画面。存储器170可以存储从其中推导(或编码)当前画面中的运动信息的块的运动信息和/或画面中已经重构的块的运动信息。存储的运动信息可以被传输到帧间预测器180并用作空间邻近块的运动信息或时间邻近块的运动信息。存储器170可以存储当前画面中重构块的重构样本并且可以将重构样本传送到帧内预测器185。

图3是示意性示出可应用本公开的实施方式的图像解码设备的视图。

如图3所示,图像解码设备200可以包括熵解码器210、解量化器220、逆变换器230、加法器235、滤波器240、存储器250、帧间预测器260和帧内预测器265。帧间预测器260和帧内预测器265可以统称为“预测器”。解量化器220和逆变换器230可以被包括在残差处理器中。

根据实施方式,配置图像解码设备200的多个组件中的全部或至少一些可以由硬件组件(例如,解码器或处理器)来配置。此外,存储器250可以包括解码画面缓冲器(DPB)或者可以由数字存储介质配置。

已经接收到包括视频/图像信息的比特流的图像解码设备200可以通过执行与由图2的图像编码设备100执行的处理相对应的处理来重构图像。例如,图像解码设备200可以使用在图像编码设备中应用的处理单元来执行解码。因此,解码的处理单元例如可以是编码单元。编码单元可以通过分割编码树单元或最大编码单元来获取。通过图像解码设备200解码和输出的重构图像信号可以通过再现设备(未示出)再现。

图像解码设备200可以接收以比特流的形式从图2的图像编码设备输出的信号。接收到的信号可以通过熵解码器210进行解码。例如,熵解码器210可以解析比特流以推导图像重构(或画面重构)所需的信息(例如,视频/图像信息)。视频/图像信息还可以包括关于各种参数集的信息,例如自适应参数集(APS)、画面参数集(PPS)、序列参数集(SPS)或视频参数集(VPS)。此外,视频/图像信息还可以包括通用约束信息。图像解码设备还可以基于关于参数集的信息和/或通用约束信息对画面进行解码。本公开中描述的用信号通知/接收的信息和/或语法元素可以通过解码过程被解码并从比特流中获得。例如,熵解码器210基于诸如指数哥伦布编码、CAVLC或CABAC的编码方法对比特流中的信息进行解码,并输出图像重构所需的语法元素的值和残差的变换系数的量化值。更具体地,CABAC熵解码方法可以接收与比特流中每个语法元素对应的bin,使用解码目标语法元素信息、邻近块和解码目标块的解码信息或前一阶段解码的符号/bin的信息来确定上下文模型,根据确定的上下文模型通过预测bin的出现概率来对bin执行算术解码,并且生成与每个语法元素的值对应的符号。在这种情况下,CABAC熵解码方法可以在确定上下文模型后,通过将解码的符号/bin的信息用于下一个符号/bin的上下文模型来更新上下文模型。由熵解码器210解码的信息中与预测相关的信息可以被提供给预测器(帧间预测器260和帧内预测器265),并且在熵解码器210中对其执行熵解码的残差值,即,量化变换系数和相关的参数信息可以被输入到解量化器220。另外,可以将熵解码器210解码的信息当中关于滤波的信息提供给滤波器240。此外,用于接收从图像编码设备输出的信号的接收器(未示出)可以进一步被配置为图像解码设备200的内部/外部元件,或者接收器可以是熵解码器210的组件。

此外,根据本公开的图像解码设备可以被称为视频/图像/画面解码设备。图像解码设备可以分为信息解码器(视频/图像/画面信息解码器)和样本解码器(视频/图像/画面样本解码器)。信息解码器可以包括熵解码器210。样本解码器可以包括解量化器220、逆变换器230、加法器235、滤波器240、存储器250、帧间预测器260或帧内预测器265中的至少一个。

解量化器220可以对量化变换系数进行解量化并输出变换系数。解量化器220可以以二维块的形式重新排列量化变换系数。在这种情况下,可以基于在图像编码设备中执行的系数扫描顺序来执行重新排列。解量化器220可以通过使用量化参数(例如,量化步长信息)对量化变换系数执行解量化并获得变换系数。

逆变换器230可以对变换系数进行逆变换以获得残差信号(残差块、残差样本阵列)。

预测器可以对当前块执行预测并生成包括当前块的预测样本的预测块。预测器可以基于从熵解码器210输出的关于预测的信息来确定是将帧内预测还是帧间预测应用于当前块,并且可以确定特定帧内/帧间预测模式(预测技术)。

与在图像编码设备100的预测器中描述的相同的是,预测器可以基于稍后描述的各种预测方法(技术)来生成预测信号。

帧内预测器265可以通过参考当前画面中的样本来预测当前块。帧内预测器185的描述同样适用于帧内预测器265。

帧间预测器260可以基于参考画面上由运动向量指定的参考块(参考样本阵列)来推导当前块的预测块。在这种情况下,为了减少在帧间预测模式中传输的运动信息量,可以基于邻近块和当前块之间的运动信息的相关性以块、子块或样本为单元来预测运动信息。运动信息可以包括运动向量和参考画面索引。运动信息还可以包括帧间预测方向(L0预测、L1预测、双预测等)信息。在帧间预测的情况下,邻近块可以包括当前画面中存在的空间邻近块和参考画面中存在的时间邻近块。例如,帧间预测器260可以基于邻近块配置运动信息候选列表,并且基于接收到的候选选择信息推导当前块的运动向量和/或参考画面索引。可以基于各种预测模式来执行帧间预测,并且关于预测的信息可以包括指示当前块的帧间预测模式的信息。

加法器235可以通过将获得的残差信号与从预测器(包括帧间预测器260和/或帧内预测器265)输出的预测信号(预测块、预测样本阵列)相加生成重构信号(重构画面、重构块、重构样本阵列)。如果要处理的块没有残差(例如,应用跳过模式的情况),则预测块可以用作重构块。加法器155的描述同样适用于加法器235。加法器235可以称为重构器或重构块生成器。所生成的重构信号可以用于当前画面中要处理的下一块的帧内预测,并且可以用于通过如下所述的滤波对下一画面的帧间预测。

此外,在画面解码处理中,可以应用亮度映射与色度缩放(LMCS)。

滤波器240可以通过对重构信号应用滤波来提高主观/客观图像质量。例如,滤波器240可以通过对重构画面应用各种滤波方法来生成修改的重构画面,并将修改的重构画面存储在存储器250中,具体地,存储器250的DPB中。各种滤波方法可以包括例如去块滤波、样本自适应偏移、自适应环路滤波、双边滤波等。

存储在存储器250的DPB中的(修改的)重构画面可以用作帧间预测器260中的参考画面。存储器250可以存储从其中推导(或解码)当前画面中的运动信息的块的运动信息和/或画面中已经重构的块的运动信息。存储的运动信息可以被传输到帧间预测器260,以用作空间邻近块的运动信息或时间邻近块的运动信息。存储器250可以存储当前画面中重构块的重构样本并将重构样本传送到帧内预测器265。

在本公开中,在图像编码设备100的滤波器160、帧间预测器180和帧内预测器185中描述的实施方式可以同等地或对应地应用于图像解码设备200的滤波器240、帧间预测器260和帧内预测器265。

在视频/图像编码中,配置图像/视频的画面可以根据解码顺序来编码/解码。与解码画面的输出顺序对应的画面顺序可以与解码顺序不同地设定,并且基于此,在帧间预测期间不仅可以执行前向预测,而且可以执行后向预测。

图4是示出本公开的实施方式适用于的示意性画面解码过程的示例的流程图。

图4所示的各个过程可以由图3的图像解码设备执行。例如,步骤S410可以由熵解码器210执行,步骤S420可以由包括预测器265和260的预测器执行,步骤S430可以由残差处理器220和230的执行,步骤S440可以由加法器235执行,步骤S450可以由滤波器240执行。步骤S410可以包括本公开中描述的信息解码过程,步骤S420可以包括本公开中描述的帧间/帧内预测过程,步骤S430可以包括本公开中描述的残差处理过程,步骤S440可以包括本公开中描述的块/画面重构过程,步骤S450可以包括本公开中描述的环路内滤波过程。

参照图4,画面解码过程可以示意性地包括用于从比特流获得视频/图像信息(通过解码)的过程(S410)、画面重构过程(S420至S440)和针对重构画面的环路内滤波过程(S450)。可以基于通过本公开中描述的帧间/帧内预测(S420)和残差处理(S430)(量化变换系数的解量化和逆变换)获得的预测样本和残差样本来执行画面重构过程。可以通过针对通过画面重构过程生成的重构画面的环路内滤波过程来生成修改的重构画面。在这种情况下,修改的重构画面可以作为解码画面输出,被存储在存储器250的解码画面缓冲器(DPB)中,并且在稍后对画面进行解码时在帧间预测过程中用作参考画面。可以省略环路内滤波过程(S450)。在这种情况下,重构画面可以作为解码画面输出,被存储在存储器250的DPB中,并且在稍后对画面进行解码时在帧间预测过程中用作参考画面。如上所述,环路内滤波过程(S450)可以包括去块滤波过程、样本自适应偏移(SAO)过程、自适应环路滤波器(ALF)过程和/或双边滤波器过程,其中一些或全部可以省略。另外,去块滤波过程、样本自适应偏移(SAO)过程、自适应环路滤波器(ALF)过程和/或双边滤波器过程中的一个或一些可以依次应用,或者它们全部可以依次应用。例如,在对重构画面应用去块滤波过程之后,可以执行SAO过程。另选地,在对重构画面应用去块滤波过程之后,可以执行ALF过程。这甚至可以在编码设备中类似地执行。

图5是示出本公开的实施方式适用于的示意性画面编码过程的示例的流程图。

图5所示的各个过程可以由图2的图像编码设备执行。例如,步骤S510可以在预测器185和180中执行,步骤S520可以由残差处理器115、120和130执行,步骤S530可以由熵编码器190执行。步骤S510可以包括本公开中描述的帧间/帧内预测过程,步骤S520可以包括本公开中描述的残差处理过程,步骤S530可以包括本公开中描述的信息编码过程。

参照图5,画面编码过程可以示意性地不仅包括对用于画面重构的信息(例如,预测信息、残差信息、分割信息等)进行编码并以比特流的形式输出的过程,而且包括为当前画面生成重构画面的过程以及对重构画面应用环路内滤波的过程(可选),如参照图2所述。编码设备可以通过解量化器140和逆变换器150从量化变换系数推导(修改的)残差样本,并且基于作为步骤S510的输出的预测样本和(修改的)残差样本来生成重构画面。这样生成的重构画面可以等于解码设备中生成的重构画面。可以通过对重构画面的环路内滤波过程来生成修改的重构画面。在这种情况下,修改的重构画面可以被存储在存储器170或解码画面缓冲器中,并且类似于解码设备,在稍后对画面进行编码时可以在帧间预测过程中用作参考画面。如上所述,在一些情况下,一些或所有环路内滤波过程可以被省略。当执行环路内滤波过程时,(环路内)滤波相关信息(参数)可以在熵编码器190中编码并且以比特流的形式输出,并且解码设备可以基于滤波相关信息使用与编码设备相同的方法执行环路内滤波过程。

通过这种环路内滤波过程,在视频/图像编码期间出现的噪声(例如,块伪影和振铃伪影)可以减少,并且主观/客观视觉质量可以改进。另外,通过在编码设备和解码设备二者中执行环路内滤波过程,编码设备和解码设备可以推导相同的预测结果,画面编码可靠性可以增加,并且要为画面编码发送的数据量可以减少。

如上所述,画面重构过程可以不仅在图像解码设备中执行,而且在图像编码设备中执行。可以基于帧内预测/帧间预测以块为单位生成重构块,并且可以生成包括重构块的重构画面。当当前画面/切片/拼块组是I画面/切片/拼块组时,包括在当前画面/切片/拼块组中的块可以仅基于帧内预测来重构。另一方面,当当前画面/切片/拼块组是P或B画面/切片/拼块组时,包括在当前画面/切片/拼块组中的块可以基于帧内预测或帧间预测来重构。在这种情况下,可以对当前画面/切片/拼块组中的一些块应用帧间预测,并且可以对剩余块应用帧内预测。画面的颜色分量可以包括亮度分量和色度分量,并且除非本公开中明确限制,否则本公开的方法和实施方式适用于亮度分量和色度分量二者。

根据本公开的编码视频/图像可以根据例如下面将描述的编码层和结构来处理。

图6是示出针对编码图像的层结构的视图。

编码图像被分类为用于图像解码处理和处理自己的视频编码层(VCL)、用于发送和存储编码信息的下层系统以及存在于VCL和下层系统之间并负责网络适配功能的网络抽象层(NAL)。

在VCL中,可以生成包括压缩图像数据(切片数据)的VCL数据,或者可以生成图像的解码处理另外所需的补充增强信息(SEI)消息或者包括诸如画面参数集(PPS)、序列参数集(SPS)或视频参数集(VPS)的信息的参数集。

在NAL中,头信息(NAL单元报头)可以被添加到VCL中生成的原始字节序列有效载荷(RBSP)以生成NAL单元。在这种情况下,RBSP是指VCL中生成的切片数据、参数集、SEI消息。NAL单元报头可以包括根据对应NAL单元中所包括的RBSP数据指定的NAL单元类型信息。

如图6所示,NAL单元可以根据VCL中生成的RBSP被分类为VCL NAL单元和非VCLNAL单元。VCL NAL单元可以意指包括关于图像的信息(切片数据)的NAL单元,非VCL NAL单元可以意指包括对图像进行解码所需的信息(参数集或SEI消息)的NAL单元。

VCL NAL单元和非VCL NAL单元可以根据下层系统的数据标准附有报头信息并通过网络发送。例如,NAL单元可以被修改为预定标准(例如,H.266/VVC文件格式、RTP(实时传输协议)或TS(传输流))的数据格式,并通过各种网络发送。

如上所述,在NAL单元中,可以根据对应NAL单元中所包括的RBSP数据结构来指定NAL单元类型,并且关于NAL单元类型的信息可以被存储在NAL单元报头中并用信号通知。例如,这可以根据NAL单元是否包括关于图像的信息(切片数据)大致分类为VCL NAL单元类型和非VCL NAL单元类型。VCL NAL单元类型可以根据包括在VCL NAL单元中的画面的性质和类型来分类,并且非VCL NAL单元类型可以根据参数集的类型来分类。

下面将列出根据包括在非VCL NAL单元类型中的参数集/信息的类型指定的NAL单元类型的示例。

-DCI(解码能力信息)NAL单元类型(NUT):包括DCI的NAL单元类型

-VPS(视频参数集)NUT:包括VPS的NAL单元类型

-SPS(序列参数集)NUT:包括SPS的NAL单元类型

-PPS(画面参数集)NUT:包括PPS的NAL单元类型

-APS(适配参数集)NUT:包括APS的NAL单元类型

-PH(画面报头)NUT:包括PH的NAL单元类型

上述NAL单元类型可以具有针对NAL单元类型的语法信息,并且该语法信息可以被存储在NAL单元报头中并用信号通知。例如,该语法信息可以是nal_unit_type,并且可以使用nal_unit_type值来指定NAL单元类型。

此外,如上所述一个画面可以包括多个切片,并且一个切片可以包括切片报头和切片数据。在这种情况下,可以向一个画面中的多个切片(切片报头和切片数据集)进一步添加一个画面报头。画面报头(画面报头语法)可以包括共同适用于画面的信息/参数。切片报头(切片报头语法)可以包括共同适用于切片的信息/参数。APS(APS语法)或PPS(PPS语法)可以包括共同适用于一个或更多个切片或画面的信息/参数。SPS(SPS语法)可以包括共同适用于一个或更多个序列的信息/参数。VPS(VPS语法)可以是共同适用于多个层的信息/参数。DCI(DCI语法)可以包括与解码能力有关的信息/参数。

在本公开中,高级语法(HLS)可以包括APS语法、PPS语法、SPS语法、VPS语法、DCI语法、画面报头语法或切片报头语法中的至少一个。另外,在本公开中,低级语法(LLS)可以包括例如切片数据语法、CTU语法、编码单元语法、变换单元语法等。

此外,在本公开中,在编码设备中编码并以比特流的形式用信号通知给解码设备的视频/图像信息可以不仅包括画面内分割相关信息、帧内/帧间预测信息、残差信息、环路内滤波信息,而且包括关于切片报头的信息、关于画面报头的信息、关于APS的信息、关于PPS的信息、关于SPS的信息、关于VPS的信息和/或关于DCI的信息。另外,视频/图像信息还可以包括一般约束信息和/或关于NAL单元报头的信息。

如上所述,根据本公开的视频/图像信息可以包括高级语法(HLS)。可以基于视频/图像信息来执行图像编码方法和/或图像解码方法。

本公开包括用于改进高级语法的信令的各种配置。

配置1:当未启用参考画面重采样(RPR)时,可以约束CLVS(编码层视频序列)内的所有画面的画面大小应相同。在本公开中,RPR可以例如意指参考画面和当前画面的大小不同,并且因此参考画面被缩放。另外,CLVS可以被理解为视频/图像信息或包括属于同一层的编码画面序列的比特流。更具体地,当未启用RPR时,可以约束在参考同一SPS的所有PPS中用信号通知的画面大小(即,pic_width_in_luma_samples和pic_height_in_luma_samples)应相同。在本公开中,pic_width_in_luma_samples和pic_height_in_luma_samples可以分别意指亮度样本单元中的画面宽度和亮度样本单元中的画面高度。

配置2:当具有等于层A(layerA)的nuh_layer_id的画面参考具有等于层B(layerB)的nuh_layer_id的参数集并且层A与层B不同时,可以约束层B应是层A的直接参考层或间接参考层。在本公开中,nuh_layer_id可以意指NAL单元所属的层的标识符,或应用用于发送参数集的NAL单元的层的标识符。

配置3:当不允许RPR,PPS的nuh_layer_id与由PPS参考的SPS的nuh_layer_id相同,并且sps_video_parameter_set_id等于0时,可以约束在CLVS中的所有PPS中用信号通知的pic_width_in_luma_samples和pic_height_in_luma_samples应分别与pic_width_max_in_luma_samples和pic_height_max_in_luma_samples相同。在本公开中,pic_width_max_in_luma_samples和pic_height_max_in_luma_samples可以分别意指亮度样本单元中的最大画面宽度和亮度样本单元中的最大画面高度。另外,在本公开中,sps_video_parameter_set_id可以是针对由SPS参考的视频参数集(VPS)的标识符。如上文所描述,VPS包括公共地适用于多个层的信息/参数。另外,sps_video_parameter_set_id等于0可以意指SPS不参考VPS。因此,sps_video_parameter_set_id等于0可以意指参考SPS的序列由单个层而非多个层组成。

配置4:另选地,当不允许RPR时,PPS的nuh_layer_id和由PPS参考的SPS的nuh_layer_id相同,并且层不被任何其它层参考时,可以约束在CLVS中的所有PPS中用信号通知的pic_width_in_luma_samples和pic_height_in_luma_samples分别与pic_width_max_in_luma_samples和pic_height_max_in_luma_samples相同。

配置5:另选地,当不允许RPR时,可以约束应参考SPS的至少一个PPS,其中pic_width_in_luma_samples和pic_height_in_luma_samples分别等于pic_width_max_in_luma_samples和pic_height_max_in_luma_samples。

配置6:作为一般约束信息,可以用信号通知LMCS的约束标志。例如,no_lmcs_constraint_flag可以通过general_constaint_info()语法结构来用信号通知。no_lmcs_constraint_flag可以约束LMCS的应用。例如,no_lmcs_constraint_flag可以指定sps_lmcs_enabled_flag是否具有值0。在本公开中,LMCS可以是统称亮度映射处理与色度缩放处理的术语。例如,可在环路内滤波之前执行亮度映射处理和/或色度缩放处理。例如,可以相对于当前亮度块的预测块执行亮度映射处理以生成具有改变的动态范围的预测块。在这种情况下,可基于具有改变的动态范围的预测块重构当前亮度块。另外,例如,色度缩放处理可以是基于亮度分量信号与色度分量信号之间的关系缩放色度分量残差信号的处理。在这种情况下,当前色度块可以基于经缩放的色度分量残差信号来重构。

本公开的实施方式可以包括上述配置中的至少一个。上述配置可以单独或组合应用。

在下文,将描述包括上述配置中的至少一个的本公开的实施方式。

根据本公开的实施方式,可以修改对序列参数集(SPS)中的语法元素sps_seq_parameter_set_id的约束。sps_seq_parameter_set_id可以提供针对SPS的标识符以用于其它语法元素参考。SPS NAL单元可以与nuh_layer_id值无关地共享sps_seq_parameter_set_id的相同值空间。

根据本实施方式,当特定SPS NAL单元的nuh_layer_id的值为spsLayerId并且特定VCL NAL单元的nuh_layer_id的值为vclLayerId时,除非满足以下条件(条件1和条件2)中的一个条件,否则可以约束特定VCL NAL单元不应参考特定SPS NAL单元。

-条件1:spsLayerId等于vclLayerId

-条件2:DependencyFlag[vclLayerId][spsLayerId]等于1

在本公开中,DependencyFlag[i][j]可以指示具有索引j的层是否为具有索引i的层的(直接或间接)参考层。例如,等于第一值(例如,0)的DependencyFlag[i][j]可以指示具有索引j的层不是具有索引i的层的参考层。另外,等于第二值(例如,1)的DependencyFlag[i][j]]可以指示具有索引j的层为具有索引i的层的参考层。

根据本公开的另一实施方式,可以修改对画面参数集(PPS)中的语法元素pps_pic_parameter_set_id的约束。pps_pic_parameter_set_id可以提供针对PPS的标识符以供其它语法元素参考。PPS NAL单元可以与nuh_layer_id值无关地共享pps_pic_parameter_set_id的相同值空间。

根据本实施方式,当特定PPS NAL单元的nuh_layer_id的值为ppsLayerId并且特定VCL NAL单元的nuh_layer_id的值为vclLayerId时,除非满足以下条件(条件3和条件4)中的一个条件,否则可以约束特定VCL NAL单元不应参考特定PPS NAL单元。

-条件3:ppsLayerId等于vclLayerId

-条件4:DependencyFlag[vclLayerId][ppsLayerId]等于1

根据本公开的另一实施方式,可以修改对自适应参数集(APS)中的语法元素adaptation_parameter_set_id的约束。adaptation_parameter_set_id可以提供针对APS的标识符以供其它语法元素参考。

根据本实施方式,当特定APS NAL单元的nuh_layer_id的值为apsLayerId并且特定VCL NAL单元的nuh_layer_id的值为vclLayerId时,除非满足以下条件(条件5及条件6)中的一个条件,否则特定VCL NAL单元不应参考特定APSNAL单元。

-条件5:apsLayerId等于vclLayerId

-条件6:DependencyFlag[vclLayerId][apsLayerId]等于1

根据本公开的另一实施方式,可以修改对PPS中的语法元素pic_width_in_luma_samples和语法元素pic_height_in_luma_samples的约束。pic_width_in_luma_samples可以指示参考PPS的解码画面的亮度样本单元宽度。pic_width_in_luma_samples可以不大于pic_width_max_in_luma_samples。另外,pic_height_in_luma_samples可以指示参考PPS的解码画面的亮度样本单元高度。pic_height_in_luma_samples可以不大于pic_height_max_in_luma_samples。

根据本实施方式,当res_change_in_clvs_allowed_flag等于0时,可以约束pic_width_in_luma_samples的值和pic_height_in_luma_samples的值针对由CLVS中的编码画面参考的所有PPS是相同的(第一约束)。在本公开中,res_change_in_clvs_allowed_flag可以是指示是否允许RPR的信息。例如,等于第一值(例如,0)的res_change_in_clvs_allowed_flag可以指示不允许RPR。另外,等于第二值(例如,1)的res_change_in_clvs_allowed_flag可以指示允许RPR。

另外,根据本实施方式,当res_change_in_clvs_allowed_flag等于0并且sps_video_parameter_set_id等于0时,可以约束pic_width_in_luma_samples的值等于pic_width_max_in_luma_samples的值,并且pic_height_in_luma_samples的值等于pic_height_max_in_luma_samples的值(第二约束)。

根据本实施方式,第一约束和第二约束可以是独立的或组合的。

根据本公开的另一实施方式,指示是否约束LMCS的信息可以作为一般约束信息用信号通知。

图7是示出用于用信号通知作为一般约束信息的指示是否约束LMCS的信息的语法结构的示例的视图。

如图7所示,例如,可以发送no_lmcs_constraint_flag作为指示是否约束LMCS的信息。在这种情况下,指示是否约束LMCS的信息可以被包括在用于用信号通知一般约束信息的general_constraint_info()语法结构中并且在该语法结构中用信号通知。

根据本实施方式,等于第一值(例如,1)的no_lmcs_constraint_flag可以将sps_lmcs_enabled_flag约束为具有0值。另外,等于第二值(例如,0)的no_lmcs_constraint_flag可以意指不施加约束。在上文中,sps_lmcs_enabled_flag是在较高级(例如,SPS)处用信号通知的信息,并且可以是指示LMCS是否被启用的信息的示例。例如,等于第一值(例如,1)的sps_lmcs_enabled_flag可以指示针对当前CLVS启用LMCS,并且等于第二值(例如,0)的sps_lmcs_enabled_flag可以指示针对当前CLVS未启用LMCS。当LMCS被启用时,可以附加地用信号通知与LMCS相关的信息。当LMCS未被启用时,可以省略用信号通知与LMCS相关的信息的步骤。

如上文所述,一般约束信息可以包括在general_constraint_info()语法结构中并在该语法结构中用信号通知。general_constraint_info()语法结构可以存在于配置文件层级别(PTL:profile tier level)结构中,并且可以提供关于特定配置文件、层和级别的附加约束或限制的信息。

图8是例示参照图7描述的实施方式的图像编码设备的操作的图。

图像编码设备可以在确定是否约束LMCS之后对no_lmcs_constraint_flag进行编码(S810)。当LMCS被约束时,图像编码设备可以将no_lmcs_constraint_flag编码为等于第一值(例如,1)。另选地,当LMCS不被约束时,图像编码设备可以将no_lmcs_constraint_flag编码等于第二值(例如,0)。图像编码设备可以在general_constraint_info()语法结构中将no_lmcs_constraint_flag编码为一般约束信息。例如,图像编码设备可以被配置为即使在当前配置文件、层和级别允许LMCS时也通过no_lmcs_constraint_flag的信令来约束LMCS。因此,可以配置更多各种编码环境。

图像编码设备可以确定no_lmcs_constraint_flag的值(S820),并且当该值是第二值(例如,0)(S820-否)时确定针对当前CVLS是否启用LMCS(S830)。当针对当前CVLS启用LMCS(S830-是)时,图像编码设备可以将sps_lmcs_enabled_flag编码为等于第一值(例如,1)(S840)。当no_lmcs_constraint_flag的值等于第一值(例如,1)(S820-是)时或当针对当前CLVS未启用LMCS(S830-否)时,图像编码设备可以将sps_lmcs_enabled_flag编码为等于第二值(例如,0)(S850)。例如,图像编码设备可以将sps_lmcs_enabled_flag编码在SPS中。

当sps_lmcs_enabled_flag具有第一值(例如,1)时,图像编码设备可以对与LMCS相关的附加信息进行编码(未示出)。当sps_lmcs_enabled_flag具有第二值(例如,0)时,图像编码设备可以省略与LMCS相关的附加信息的信令(未示出)。图像编码设备可以通过基于sps_lmcs_enabled_flag和/或与LMCS相关的附加信息执行或不执行LMCS来执行对包括在当前序列中的当前画面的编码/解码。

图9是例示参照图7描述的实施方式的图像解码设备的操作的图。

图像解码设备可以从比特流获得sps_lmcs_enabled_flag(S910)。例如,图像解码设备可以从SPS获得sps_lmcs_enabled_flag并对其进行解码。在这种情况下,sps_lmcs_enabled_flag可以通过参照图8所描述的方法被编码。

图像解码设备可以确定sps_lmcs_enabled_flag是否等于第一值(例如,1)(S920)。当sps_lmcs_enabled_flag等于第一值(例如,1)(S920-是)时,图像解码设备可以从比特流获得与LMCS相关的附加信息(S940)。在这种情况下,图像解码设备可以通过基于关于LMCS获得的信息执行LMCS来重构当前画面(未示出)。当sps_lmcs_enabled_flag等于第二值(例如,0)时(S920-否),图像解码设备可以省略对与LMCS相关的附加信息的解析(S930)。在这种情况下,图像解码设备可以在不执行LMCS的情况下重构当前画面(未示出)。

由图像解码设备接收的sps_lmcs_enabled_flag通过参照图8描述的方法来编码。也就是说,图像解码设备接收由图像编码设备基于no_lmcs_constraint_flag编码的sps_lmcs_enabled_flag。因此,图像解码设备可以在不确定no_lmcs_constraint_flag是否等于第一值(例如,1)的情况下获得根据本公开的利用准确值编码的sps_lmcs_enabled_flag。

然而,图像解码设备的操作不限于以上示例,并且图像解码设备可以基于no_lmcs_constraint_flag来推断sps_lmcs_enabled_flag的值。例如,当no_lmcs_constraint_flag的值等于第一值(例如,1)时,图像解码设备可以将sps_lmcs_enabled_flag推断为第二值(例如,0)。

另外,尽管图9中未示出,但是图像解码设备可以从比特流获得no_lmcs_constraint_flag。图像解码设备可以基于如上文所描述的所获得no_lmcs_constraint_flag来推断sps_lmcs_enabled_flag,并且可以通过包括LMCS相关模块的激活/禁用来有效地执行设备的初始化。例如,即使在当前配位文件、层和级别允许LMCS时,图像解码设备也可以基于no_lmcs_constraint_flag来初始化设备以约束LMCS。因此,可以配置更多各种解码环境。

图10是例示关于LMCS用信号通知的附加信息的示例的视图。

如图10中所示,当sps_lmcs_enabled_flag等于第一值(例如,1)时,诸如ph_lmcs_enabled_flag、ph_lmcs_aps_id、ph_chroma_residual_scale_flag等的信息可以在画面报头语法结构中用信号通知为与LMCS有关的附加信息。

ph_lmcs_enabled_flag可以是指示针对当前画面是否启用LMCS的信息。例如,等于第一值(例如,1)的ph_lmcs_enabled_flag可以指示针对当前画面启用LMCS。另外,等于第二值(例如,0)的ph_lmcs_enabled_flag可以指示针对当前画面未启用LMCS。

当ph_lmcs_enabled_flag等于第一值(例如,1)时,可以用信号通知ph_lmcs_aps_id。ph_lmcs_aps_id可以指示与由当前画面参考的LMCS相关的APS的标识符。

当ph_lmcs_enabled_flag等于第一值(例如,1)并且色度分量存在于画面中(ChromaArrayType!=0)时可以用信号通知ph_chroma_residual_scale_flag。ph_chroma_residual_scale_flag可以是指示针对当前画面是否启用色度缩放处理的信息。例如,等于第一值(例如,1)的ph_chroma_residual_scale_flag可以指示针对当前画面启用色度缩放处理。另外,等于第二值(例如,0)的ph_chroma_residual_scale_flag可以指示针对当前画面未启用色度缩放处理。

在等于第一值(例如,1)的sps_lmcs_enabled_flag之后的与LMCS相关的附加信息不限于参照图10描述的示例。例如,除了参照图10描述的信息之外,其它信息可以作为与LMCS有关的附加信息被用信号通知。另外,其中用信号通知与LMCS相关的附加信息的语法结构也不限于画面报头语法结构,并且例如可以通过诸如PPS或切片报头之类的高级语法结构来用信号通知。

根据参照图7至图10描述的实施方式,当no_lmcs_constraint_flag等于第一值(例如,1)时,尽管允许LMCS用于配置文件,但是图像解码设备可以知道LMCS工具不用于当前比特流或CVS。因此,已接收到等于第一值(例如,1)的no_lmcs_constraint_flag的图像解码设备可以调整设备的初始化/配置。例如,图像解码设备可以被初始化为不激活针对LMCS的模块。

根据参照图7至图10描述的实施方式,图像编码设备可以通过发送no_lmcs_constraint_flag来用信号通知针对当前比特流是否约束LMCS,并且图像解码设备可以通过解析no_lmcs_constraint_flag来确定针对当前比特流是否约束LMCS。也就是说,通过用信号通知作为一般约束信息的指示是否约束LMCS的信息,图像编码设备和/或图像解码设备可以更快速地执行设备的初始化并配置各种编码/解码环境。

如上所述,一般约束信息可以包括在PTL语法结构中并在PTL语法结构中发送,并且通常,PTL语法结构可以存在于DCI或SPS中。当no_lmcs_constraint_flag存在于DCI内的PTL中时,no_lmcs_constraint_flag适用为整个比特流的约束。相比之下,当no_lmcs_constraint_flag存在于SPS内的PTL中时,no_lmcs_constraint_flag适用为与SPS相关联的CVS中的画面的约束。也就是说,通过调整发送一般约束信息的位置(DCI或SPS),可以自适应地设置用于LMCS的约束基于no_lmcs_constraint_flag的值所应用的范围。

根据参照图7至图10描述的实施方式,通过发送作为一般约束信息的no_lmcs_constraint_flag,可以调整用信号通知一般约束信息的位置,因此可以自适应地选择约束所应用的范围。因此,可以执行更准确和有效的信令。

虽然为了描述的清楚起见,上述本公开的示例性方法被表示为一系列操作,但并不旨在限制执行步骤的顺序,并且必要时这些步骤可以同时或以不同的顺序来执行。为了实现根据本发明的方法,所描述的步骤可以进一步包括其它步骤,可以包括除了一些步骤之外的其余步骤,或者可以包括除了一些步骤之外的其它附加步骤。

在本公开中,执行预定操作(步骤)的图像编码装置或图像解码装置可以执行确认相应操作(步骤)的执行条件或情况的操作(步骤)。例如,如果描述了在满足预定条件时执行预定操作,则图像编码装置或图像解码装置可以在确定是否满足预定条件之后执行预定操作。

本公开的各种实施方式不是所有可能组合的列表并且旨在描述本公开的代表性方面,并且在各种实施方式中描述的事项可以独立地或以两个或更多个的组合应用。

本公开的各种实施方式可以以硬件、固件、软件或其组合来实现。在通过硬件实现本公开的情况下,本公开可以通过专用集成电路(ASIC)、数字信号处理器(DSP)、数字信号处理器件(DSPD)、可编程逻辑器件(PLD)、现场可编程门阵列(FPGA)、通用处理器、控制器、微控制器、微处理器等来实现。

此外,应用本公开的实施方式的图像解码设备和图像编码设备可以被包括在多媒体广播传送和接收装置、移动通信终端、家庭影院视频装置、数字影院视频装置、监控摄像头、视频聊天装置、诸如视频通信的实时通信装置、移动流传输装置、存储介质、摄像机、视频点播(VoD)服务提供装置、OTT视频(over the top video)装置、互联网流传输服务提供装置、三维(3D)视频装置、视频电话视频装置、医疗视频装置等中,并且可用于处理视频信号或数据信号。例如,OTT视频装置可以包括游戏机、蓝光播放器、互联网接入电视、家庭影院系统、智能电话、平板PC、数字录像机(DVR)等。

图11是示出可应用本公开的实施方式的内容流系统的视图。

如图11中所示,应用本公开的实施方式的内容流系统可以主要包括编码服务器、流服务器、网络服务器、媒体存储装置、用户装置和多媒体输入装置。

编码服务器将从诸如智能电话、相机、摄像机等多媒体输入装置输入的内容压缩成数字数据以生成比特流并将该比特流发送到流服务器。作为另一示例,当智能电话、相机、摄像机等多媒体输入装置直接生成比特流时,可以省略编码服务器。

比特流可以由应用本公开的实施方式的图像编码方法或图像编码设备产生,并且流服务器可以在发送或接收比特流的过程中暂时存储比特流。

流服务器基于用户通过网络服务器的请求将多媒体数据发送到用户装置,并且网络服务器用作向用户告知服务的媒介。当用户向网络服务器请求所需的服务时,网络服务器可以将其递送到流服务器,并且流服务器可以向用户发送多媒体数据。在这种情况下,内容流系统可以包括单独的控制服务器。在这种情况下,控制服务器用于控制内容流系统中的装置之间的命令/响应。

流服务器可以从媒体存储装置和/或编码服务器接收内容。例如,当从编码服务器接收内容时,可以实时接收内容。在这种情况下,为了提供平滑的流服务,流服务器可以在预定时间内存储比特流。

用户装置的示例可以包括移动电话、智能电话、膝上型计算机、数字广播终端、个人数字助理(PDA)、便携式多媒体播放器(PMP)、导航设备、板式PC、平板PC、超级本、可穿戴装置(例如,智能手表、智能眼镜、头戴式显示器)、数字电视、台式计算机、数字标牌等。

内容流系统中的各个服务器可以作为分布式服务器运行,在这种情况下,从各个服务器接收的数据可以被分布。

本公开的范围包括用于使根据各种实施方式的方法的操作能够在设备或计算机上执行的软件或机器可执行命令(例如,操作系统、应用、固件、程序等)、具有存储在其上并且可在设备或计算机上执行的此类软件或命令的非暂时性计算机可读介质。

工业适用性

本公开的实施方式可以被用于对图像进行编码或解码。

相关技术
  • 护理记录录入方法、装置、设备及计算机可读存储介质
  • 信号处理方法、网络设备、终端及计算机可读存储介质
  • 一种信号处理方法、装置、设备及计算机可读存储介质
  • 用户设备、基站、信号传输方法及计算机可读存储介质
  • 数据流解码方法和系统、电子装置及计算机可读存储介质
  • 用信号通知PTL相关信息的图像编码/解码方法和设备及存储比特流的计算机可读记录介质
  • 用信号通知关于DPB参数的数量的信息的图像编码/解码方法和设备及存储比特流的计算机可读记录介质
技术分类

06120115572207