掌桥专利:专业的专利平台
掌桥专利
首页

图像处理方法、处理设备及存储介质

文献发布时间:2023-06-19 19:30:30


图像处理方法、处理设备及存储介质

技术领域

本申请涉及图像处理技术领域,具体涉及一种图像处理方法、处理设备及存储介质。

背景技术

在视频编码技术的发展过程中,各种视频编码标准所做出的改进都在致力于从不同方面提升视频的编码效果,其中,帧内预测是当前研究的热点问题。

在构思及实现本申请过程中,发明人发现至少存在如下问题:在关于帧内预测的研究中,仍然没有明确如何选择合适的帧内预测模式,这就导致了视频编码的整体效率较低。

前面的叙述在于提供一般的背景信息,并不一定构成现有技术。

发明内容

针对上述技术问题,本申请提供一种图像处理方法、处理设备及存储介质,能够在视频编解码过程中选择合适的帧内预测模式进行色度或者亮度的帧内预测,从而有效地提高视频编码的整体效率。

本申请提供一种图像处理方法,可应用于处理设备(如智能终端或服务器等),包括步骤:

S1:根据至少一个参考区域确定或得出待预测采样的预测结果。

可选地,所述参考区域的获取或确定方式,包括以下至少一项:

从所述待预测采样的同位采样的左侧相邻区域或上方相邻区域中获取或确定;

从所述待预测采样的同位采样的左侧相邻区域和上方相邻区域拼接形成的区域中获取或确定;

根据预设的标志获取或确定;

根据模板区域获取或确定;

若所述待预测采样的同位采样和/或者相邻采样采用的帧内预测模式为角度帧内预测模式,则根据所述角度帧内预测模式对应的帧内角度获取或确定。

可选地,所述标志从编码比特流中解析得到。

可选地,所述根据预设的标志获取或确定所述参考区域,包括:

根据所述标志的取值,获取或确定所述取值映射的所述参考区域。

可选地,所述根据帧内角度获取或确定所述参考区域,包括:

根据所述帧内角度所处的角度范围,获取或确定所述参考区域。

可选地,所述取值包括第一取值和/或第二取值。

可选地,所述根据模板区域获取或确定,包括:

若所述取值为第三取值,则根据模板区域确定所述参考区域。

可选地,所述根据模板区域确定所述参考区域,包括:

从所述模板区域中获取或确定第一权重参数和第二权重参数;

获取或确定所述第一权重参数对应的第一采样预测结果和所述第二权重参数对应的第二采样预测结果;

若所述第一采样预测结果优于所述第二采样预测结果,则根据所述第一权重参数获取或确定所述参考区域,和/或,若所述第二采样预测结果优于所述第一采样预测结果,则根据所述第二权重参数获取或确定所述参考区域。

可选地,所述根据所述第一权重参数获取或确定所述参考区域,包括:

根据所述第一权重参数在所述模板区域中对应的区域与所述模板区域之间的位置关系,获取或确定所述参考区域。

可选地,所述步骤S1,包括步骤:

S11:根据至少一个参考区域确定至少一个权重参数;

S12:根据所述权重参数确定或得出待预测采样的预测结果。

可选地,步骤S11包括:基于所述参考区域中的至少一个参考采样,确定至少一个所述权重参数。

可选地,步骤S12包括:根据所述权重参数、至少一个第一采样、所述第一采样的至少一个相邻采样、所述第一采样的至少一个非相邻采样和所述第一采样的至少一个梯度分量中的至少一项,确定或得出所述待预测采样的预测结果。

本申请还提供一种处理设备,包括:存储器、处理器,所述存储器上存储有图像处理程序,所述图像处理程序被所述处理器执行时实现如上任一所述图像处理方法的步骤。

本申请还提供一种存储介质,所述存储介质存储有计算机程序,所述计算机程序被处理器执行时实现如上任一所述图像处理方法的步骤。

如上所述,本申请的图像处理方法,包括:根据至少一个参考区域确定或得出待预测采样的预测结果。即,本申请技术方案通过获取或确定至少一个参考区域,以根据该参考区域确定至少一个权重参数来确定或得出待预测采样的预测结果,如此,本申请技术方案可以实现在采用帧内预测模式进行视频编解码过程中,选择合适的帧内预测模式进行色度或者亮度的帧内预测,有效地提高了视频编码的整体效率。

附图说明

此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本申请的实施例,并与说明书一起用于解释本申请的原理。为了更清楚地说明本申请实施例的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,对于本领域普通技术人员而言,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。

图1为实现本申请各个实施例的一种移动终端的硬件结构示意图;

图2为本申请实施例提供的一种通信网络系统架构图;

图3是交叉分量线性模型预测模式CCLM所涉及的一应用场景示意图;

图4是基于卷积交叉分量模型预测模式CCCM所涉及的一应用场景示意图;

图5是基于卷积交叉分量模型预测模式CCCM所涉及的另一应用场景示意图;

图6A是本申请实施例提供的图像处理方法涉及的图像编码场景示意图;

图6B是本申请实施例提供的图像处理方法涉及的图像解码场景示意图;

图7a、图7b和图7c均是本申请第二实施例所示出图像处理方法涉及的亮度参考区域的类型示意图;

图7d、图7e和图7f均是本申请第二实施例所示出图像处理方法涉及的色度参考区域的类型示意图;

图8是本申请第二实施例所示出图像处理方法涉及的YUV图像示意图;

图9a、图9b、图9c和图9d均是本申请第二实施例所示出图像处理方法涉及的包含亮度采样的模板区域示意图;

图10a、图10b、图10c和图10d均是本申请第二实施例所示出图像处理方法涉及的包含色度采样的模板区域示意图;

图11是本申请第二实施例所示出图像处理方法涉及的帧内预测方向示意图;

图12a、图12b、图12c均是本申请第三实施例所示出图像处理方法涉及的模板区域的亮度参考区域示意图;

图13a、图13b、图13c均是本申请第三实施例所示出图像处理方法涉及的模板区域的色度参考区域示意图;

图14是本申请第四实施例所示出图像处理方法涉及的应用流程示意图。

本申请目的的实现、功能特点及优点将结合实施例,参照附图做进一步说明。通过上述附图,已示出本申请明确的实施例,后文中将有更详细的描述。这些附图和文字描述并不是为了通过任何方式限制本申请构思的范围,而是通过参考特定实施例为本领域技术人员说明本申请的概念。

具体实施方式

这里将详细地对示例性实施例进行说明,其示例表示在附图中。下面的描述涉及附图时,除非另有表示,不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本申请相一致的所有实施方式。相反,它们仅是与如所附权利要求书中所详述的、本申请的一些方面相一致的装置和方法的例子。

需要说明的是,在本文中,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者装置不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者装置所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括该要素的过程、方法、物品或者装置中还存在另外的相同要素,可选地,本申请不同实施例中具有同样命名的部件、特征、要素可能具有相同含义,也可能具有不同含义,其具体含义需以其在该具体实施例中的解释或者进一步结合该具体实施例中上下文进行确定。

应当理解,尽管在本文可能采用术语第一、第二、第三等来描述各种信息,但这些信息不应限于这些术语。这些术语仅用来将同一类型的信息彼此区分开。例如,在不脱离本文范围的情况下,第一信息也可以被称为第二信息,类似地,第二信息也可以被称为第一信息。取决于语境,如在此所使用的词语"如果"可以被解释成为"在……时"或"当……时"或"响应于确定"。再者,如同在本文中所使用的,单数形式“一”、“一个”和“该”旨在也包括复数形式,除非上下文中有相反的指示。应当进一步理解,术语“包含”、“包括”表明存在所述的特征、步骤、操作、元件、组件、项目、种类、和/或组,但不排除一个或多个其他特征、步骤、操作、元件、组件、项目、种类、和/或组的存在、出现或添加。本申请使用的术语“或”、“和/或”、“包括以下至少一个”等可被解释为包括性的,或意味着任一个或任何组合。例如,“包括以下至少一个:A、B、C”意味着“以下任一个:A;B;C;A和B;A和C;B和C;A和B和C”,再如,“A、B或C”或者“A、B和/或C”意味着“以下任一个:A;B;C;A和B;A和C;B和C;A和B和C”。仅当元件、功能、步骤或操作的组合在某些方式下内在地互相排斥时,才会出现该定义的例外。

应该理解的是,虽然本申请实施例中的流程图中的各个步骤按照箭头的指示依次显示,但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明,这些步骤的执行并没有严格的顺序限制,其可以以其他的顺序执行。而且,图中的至少一部分步骤可以包括多个子步骤或者多个阶段,这些子步骤或者阶段并不必然是在同一时刻执行完成,而是可以在不同的时刻执行,其执行顺序也不必然是依次进行,而是可以与其他步骤或者其他步骤的子步骤或者阶段的至少一部分轮流或者交替地执行。

取决于语境,如在此所使用的词语“如果”、“若”可以被解释成为“在……时”或“当……时”或“响应于确定”或“响应于检测”。类似地,取决于语境,短语“如果确定”或“如果检测(陈述的条件或事件)”可以被解释成为“当确定时”或“响应于确定”或“当检测(陈述的条件或事件)时”或“响应于检测(陈述的条件或事件)”。

需要说明的是,在本文中,采用了诸如S11和S12等步骤代号,其目的是为了更清楚简要地表述相应内容,不构成顺序上的实质性限制,本领域技术人员在具体实施时,可能会先执行S12后执行S11等,但这些均应在本申请的保护范围之内。

应当理解,此处所描述的具体实施例仅仅用以解释本申请,并不用于限定本申请。

在后续的描述中,使用用于表示元件的诸如“模块”、“部件”或者“单元”的后缀仅为了有利于本申请的说明,其本身没有特定的意义。因此,“模块”、“部件”或者“单元”可以混合地使用。

处理设备可以以各种形式来实施。例如,本申请中描述的处理设备可以是服务器,也可以是包括诸如手机、平板电脑、笔记本电脑、掌上电脑、个人数字助理(PersonalDigital Assistant,PDA)、便捷式媒体播放器(Portable Media Player,PMP)、导航装置、可穿戴设备、智能手环、计步器等智能终端,以及诸如数字TV、台式计算机等固定终端。

后续描述中将以移动终端为例对本申请提供的处理设备进行说明,本领域技术人员将理解的是,除了特别用于移动目的的元件之外,根据本申请的实施方式的构造也能够应用于固定类型的终端。

请参阅图1,其为实现本申请各个实施例的一种移动终端的硬件结构示意图,该移动终端100可以包括: RF(Radio Frequency,射频)单元101、WiFi模块102、音频输出单元103、A/V(音频/视频)输入单元104、传感器105、显示单元106、用户输入单元107、接口单元108、存储器109、处理器110、以及电源111等部件。本领域技术人员可以理解,图1中示出的移动终端结构并不构成对移动终端的限定,移动终端可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件布置。

下面结合图1对移动终端的各个部件进行具体的介绍:

射频单元101可用于收发信息或通话过程中,信号的接收和发送,具体的,将基站的下行信息接收后,给处理器110处理;另外,将上行的数据发送给基站。通常,射频单元101包括但不限于天线、至少一个放大器、收发信机、耦合器、低噪声放大器、双工器等。可选地,射频单元101还可以通过无线通信与网络和其他设备通信。上述无线通信可以使用任一通信标准或协议,包括但不限于GSM (Global System of Mobile communication,全球移动通讯系统)、GPRS(General Packet Radio Service,通用分组无线服务)、CDMA2000(CodeDivision Multiple Access 2000,码分多址2000)、WCDMA(Wideband Code DivisionMultiple Access, 宽带码分多址)、TD-SCDMA(Time Division-Synchronous CodeDivision Multiple Access,时分同步码分多址)、FDD-LTE(Frequency DivisionDuplexing- Long Term Evolution,频分双工长期演进)、TDD-LTE (Time DivisionDuplexing- Long Term Evolution,分时双工长期演进)和5G等。

WiFi属于短距离无线传输技术,移动终端通过WiFi模块102可以帮助用户收发电子邮件、浏览网页和访问流式媒体等,它为用户提供了无线的宽带互联网访问。虽然图1示出了WiFi模块102,但是可以理解的是,其并不属于移动终端的必须构成,完全可以根据需要在不改变发明的本质的范围内而省略。

音频输出单元103可以在移动终端100处于呼叫信号接收模式、通话模式、记录模式、语音识别模式、广播接收模式等等模式下时,将射频单元101或WiFi模块102接收的或者在存储器109中存储的音频数据转换成音频信号并且输出为声音。而且,音频输出单元103还可以提供与移动终端100执行的特定功能相关的音频输出(例如,呼叫信号接收声音、消息接收声音等等)。音频输出单元103可以包括扬声器、蜂鸣器等等。

A/V输入单元104用于接收音频或视频信号。A/V输入单元104可以包括图形处理器(Graphics Processing Unit,GPU)1041和麦克风1042,图形处理器1041对在视频捕获模式或图像捕获模式中由图像捕获装置(如摄像头)获得的静态图片或视频的图像数据进行处理。处理后的图像帧可以显示在显示单元106上。经图形处理器1041处理后的图像帧可以存储在存储器109(或其它存储介质)中或者经由射频单元101或WiFi模块102进行发送。麦克风1042可以在电话通话模式、记录模式、语音识别模式等等运行模式中经由麦克风1042接收声音(音频数据),并且能够将这样的声音处理为音频数据。处理后的音频(语音)数据可以在电话通话模式的情况下转换为可经由射频单元101发送到移动通信基站的格式输出。麦克风1042可以实施各种类型的噪声消除(或抑制)算法以消除(或抑制)在接收和发送音频信号的过程中产生的噪声或者干扰。

移动终端100还包括至少一种传感器105,比如光传感器、运动传感器以及其他传感器。可选地,光传感器包括环境光传感器及接近传感器,可选地,环境光传感器可根据环境光线的明暗来调节显示面板1061的亮度,接近传感器可在移动终端100移动到耳边时,关闭显示面板1061和/或背光。作为运动传感器的一种,加速计传感器可检测各个方向上(一般为三轴)加速度的大小,静止时可检测出重力的大小及方向,可用于识别手机姿态的应用(比如横竖屏切换、相关游戏、磁力计姿态校准)、振动识别相关功能(比如计步器、敲击)等;至于手机还可配置的指纹传感器、压力传感器、虹膜传感器、分子传感器、陀螺仪、气压计、湿度计、温度计、红外线传感器等其他传感器,在此不再赘述。

显示单元106用于显示由用户输入的信息或提供给用户的信息。显示单元106可包括显示面板1061,可以采用液晶显示器(Liquid Crystal Display,LCD)、有机发光二极管(Organic Light-Emitting Diode, OLED)等形式来配置显示面板1061。

用户输入单元107可用于接收输入的数字或字符信息,以及产生与移动终端的用户设置以及功能控制有关的键信号输入。可选地,用户输入单元107可包括触控面板1071以及其他输入设备1072。触控面板1071,也称为触摸屏,可收集用户在其上或附近的触摸操作(比如用户使用手指、触笔等任何适合的物体或附件在触控面板1071上或在触控面板1071附近的操作),并根据预先设定的程式驱动相应的连接装置。触控面板1071可包括触摸检测装置和触摸控制器两个部分。可选地,触摸检测装置检测用户的触摸方位,并检测触摸操作带来的信号,将信号传送给触摸控制器;触摸控制器从触摸检测装置上接收触摸信息,并将它转换成触点坐标,再送给处理器110,并能接收处理器110发来的命令并加以执行。可选地,可以采用电阻式、电容式、红外线以及表面声波等多种类型实现触控面板1071。除了触控面板1071,用户输入单元107还可以包括其他输入设备1072。可选地,其他输入设备1072可以包括但不限于物理键盘、功能键(比如音量控制按键、开关按键等)、轨迹球、鼠标、操作杆等中的一种或多种,具体此处不做限定。

可选地,触控面板1071可覆盖显示面板1061,当触控面板1071检测到在其上或附近的触摸操作后,传送给处理器110以确定触摸事件的类型,随后处理器110根据触摸事件的类型在显示面板1061上提供相应的视觉输出。虽然在图1中,触控面板1071与显示面板1061是作为两个独立的部件来实现移动终端的输入和输出功能,但是在某些实施例中,可以将触控面板1071与显示面板1061集成而实现移动终端的输入和输出功能,具体此处不做限定。

接口单元108用作至少一个外部装置与移动终端100连接可以通过的接口。例如,外部装置可以包括有线或无线头戴式耳机端口、外部电源(或电池充电器)端口、有线或无线数据端口、存储卡端口、用于连接具有识别模块的装置的端口、音频输入/输出(I/O)端口、视频I/O端口、耳机端口等等。接口单元108可以用于接收来自外部装置的输入(例如,数据信息、电力等等)并且将接收到的输入传输到移动终端100内的一个或多个元件或者可以用于在移动终端100和外部装置之间传输数据。

存储器109可用于存储软件程序以及各种数据。存储器109可主要包括存储程序区和存储数据区,可选地,存储程序区可存储操作系统、至少一个功能所需的应用程序(比如声音播放功能、图像播放功能等)等;存储数据区可存储根据手机的使用所创建的数据(比如音频数据、电话本等)等。可选地,存储器109可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件、闪存器件、或其他易失性固态存储器件。

处理器110是移动终端的控制中心,利用各种接口和线路连接整个移动终端的各个部分,通过运行或执行存储在存储器109内的软件程序和/或模块,以及调用存储在存储器109内的数据,执行移动终端的各种功能和处理数据,从而对移动终端进行整体监控。处理器110可包括一个或多个处理单元;优选的,处理器110可集成应用处理器和调制解调处理器,可选地,应用处理器主要处理操作系统、用户界面和应用程序等,调制解调处理器主要处理无线通信。可以理解的是,上述调制解调处理器也可以不集成到处理器110中。

移动终端100还可以包括给各个部件供电的电源111(比如电池),优选的,电源111可以通过电源管理系统与处理器110逻辑相连,从而通过电源管理系统实现管理充电、放电、以及功耗管理等功能。

尽管图1未示出,移动终端100还可以包括蓝牙模块等,在此不再赘述。

为了便于理解本申请实施例,下面以移动终端为例对本申请的处理设备所基于的通信网络系统进行描述。

请参阅图2,图2为本申请实施例提供的一种通信网络系统架构图,该通信网络系统为通用移动通信技术的LTE系统,该LTE系统包括依次通讯连接的UE(User Equipment,用户设备)201, E-UTRAN(Evolved UMTS Terrestrial Radio Access Network,演进式UMTS陆地无线接入网)202,EPC(Evolved Packet Core,演进式分组核心网)203和运营商的IP业务204。

可选地,UE201可以是上述终端100,此处不再赘述。

E-UTRAN202包括eNodeB2021和其它eNodeB2022等。可选地,eNodeB2021可以通过回程(backhaul)(例如X2接口)与其它eNodeB2022连接,eNodeB2021连接到EPC203,eNodeB2021可以提供UE201到EPC203的接入。

EPC203可以包括MME(Mobility Management Entity,移动性管理实体)2031, HSS(Home Subscriber Server,归属用户服务器)2032,其它MME2033, SGW(Serving GateWay,服务网关)2034, PGW(PDN Gate Way,分组数据网络网关)2035和PCRF(Policy andCharging Rules Function,政策和资费功能实体)2036等。可选地,MME2031是处理UE201和EPC203之间信令的控制节点,提供承载和连接管理。HSS2032用于提供一些寄存器来管理诸如归属位置寄存器(图中未示)之类的功能,并且保存有一些有关服务特征、数据速率等用户专用的信息。所有用户数据都可以通过SGW2034进行发送,PGW2035可以提供UE 201的IP地址分配以及其它功能,PCRF2036是业务数据流和IP承载资源的策略与计费控制策略决策点,它为策略与计费执行功能单元(图中未示)选择及提供可用的策略和计费控制决策。

IP业务204可以包括因特网、内联网、IMS(IP Multimedia Subsystem,IP多媒体子系统)或其它IP业务等。

虽然上述以LTE系统为例进行了介绍,但本领域技术人员应当知晓,本申请不仅仅适用于LTE系统,也可以适用于其他无线通信系统,例如GSM、CDMA2000、WCDMA、TD-SCDMA、5G以及未来新的网络系统(如6G)等,此处不做限定。

基于上述以移动终端为例的处理设备的硬件结构以及通信网络系统,提出本申请图像处理方法的整体构思。

在视频编码技术的发展过程中,各种视频编码标准所做出的改进都在致力于从不同方面提升视频的编码效果,其中,帧内预测是当前研究的热点问题。

然而在构思及实现本申请过程中,本申请发明人发现至少存在如下问题:在关于帧内预测的研究中,仍然没有明确如何进行合适的帧内预测模式的选择,这就导致了视频编码的整体效率较低。

针对上述问题,本申请提出一种图像处理方法,根据至少一个参考区域确定或得出待预测采样的预测结果。即,本申请技术方案通过获取或确定至少一个参考区域,以根据该参考区域确定至少一个权重参数来确定或得出待预测采样的预测结果,如此,本申请技术方案可以实现在采用帧内预测模式进行视频编解码过程中,选择合适的帧内预测模式进行色度或者亮度的帧内预测,有效地提高了视频编码的整体效率。

基于上述本申请提供的图像处理方法的整体构思,进一步提出本申请图像处理方法的各个实施例。

为便于理解,下面先对本申请实施例可能涉及到的专业术语进行解释。

(一)、帧内预测

在对图像进行编码或者解码的过程中,对图像块进行预测都是一个必不可少的步骤,编码器通过对图像块进行预测得到预测块,构造能量较小的残差块,减少传输比特。而编码器或者解码器对图像块的预测都可以通过一些预设的预测模式实现,该预测模式即包括帧间预测的模式和帧内预测的模式。可选地,帧内预测中,编码器或者解码器通常可以采用交叉分量线性模型预测模式CCLM、多模型CCLM预测模式MMLM和基于卷积交叉分量模型预测模式CCCM来进行帧内色度预测。

(二)、交叉分量线性模型预测模式CCLM

交叉分量线性模型预测模式CCLM的核心思想是:减少交叉分量冗余,进行跨分量预测。CCLM主要是利用同一编码块的重建亮度像素构造色度像素的预测值。CCLM采用的线性模型为:

predC(i,j)=α*recL(i,j)+β

其中,predC(i,j)表示当前图像块的色度预测像素,recL(i,j)表示当前CU的下采样重建亮度像素。α和β称为线性模型参数。在一实施方式中,α和β可由相邻的4个色度像素和对应的下采样的亮度像素生成导出,例如,α和β具体可以如图3所示的应用场景中当前图像块左侧相邻像素和上方相邻像素进行推导得出。当然,本发明并非限于此,也可以采用其他方法推导线性模型参数的值。在一实施例中,recL(i,j)也可以为当前CU不经过下采样的重建亮度像素。

(三)、多模型CCLM预测模式MMLM

多模型CCLM预测模式MMLM使用作为亮度重建相邻样本的平均值的阈值将重建相邻样本分类为两类,然后使用最小均方(LMS)方法导出每个类的线性模型CCLM,从而使用多个线性模型CCLM进行预测。如,先通过当前块相邻的样本对求亮度均值,然后根据该亮度均值作为一个阈值再对相邻的样本对进行分组,最后,在将相邻的样本分好组之后,分别通过各自组的样本对拟合各自的线性模型CCLM,从而在对当前块进行色度预测的时候,也将当前块的每一个点进行分组以使用不同的线性模型CCLM进行预测,如此能够保证对当前块中纹理细节丰富的点的预测更准确。

(四)、基于卷积交叉分量模型预测模式CCCM

基于卷积交叉分量模型预测模式CCCM使用滤波器从已经重建的亮度采样中预测当前图像块的色度。在一实施例中,CCCM使用的滤波器由5抽头(或者7抽头)加号形状空间分量、非线性项和偏置项组成。可选地,滤波器的5抽头加号形状空间分量的输入包括中心(C)亮度采样,以及中心(C)亮度采样的上方采样(也称为北方采样,N)、下方采样(也称为南方采样,S)、左侧采样(也称为西方采样,W)和右侧采样(也称为东方采样,E)。

CCCM所采用进行色度预测像素的计算公式如:

predChromaVal = c0*C + c1*N + c2*S + c3*E + c4*W + c5*P + c6*B

其中,C表示当前色度采样对应位置处的亮度采样,N、S、E、W分别为当前亮度采样的相邻采样,具体如图4所示。

非线性项 P = ( C*C + midVal )>>bitDepth,偏置项 B = midVal。偏置项 B 表示输入和输出之间的标量偏移(类似于 CCLM 中的偏移项),并设置为中间色度值(对于10比特视频,B=512)。

在另一实施例中,CCCM使用的滤波器由中心(C)亮度采样、梯度分量、非线性项和偏置项组成。可选地,梯度分量包括垂直梯度分量和水平梯度分量。例如,垂直梯度分量为Gy,水平梯度分量为Gx。如图5所示,Gy和Gx各自的计算公式如下:

Gy=(2N+NW+NE)–(2S+SW+SE)

Gx=(2W+NW+SW)–(2E+NE+SE)

在又一实施例中,CCCM使用的滤波器由中心(C)亮度采样、中心亮度采样位置信息、非线性项和偏置项组成。可选地,中心亮度采样位置信息包括垂直位置和水平位置。例如,中心亮度采样垂直位置为Y,中心亮度采样水平位置为X,它们是相对于当前需要预测色度的采样(也称为图像块)的左上坐标计算的。

可选地,请参见图6A和图6B,图6A是本申请提供的处理方法涉及的图像编码场景示意图,图6B则是图像解码流程示意图。编码端的编码器通常将输入的视频图像按帧分割为至少一个图像块进行处理,每个图像块可以与通过预测模式预测得到的预测块相减得到残差块,再对残差块和预测模式的相关参数进行一系列处理得到编码的比特流。之后,在解码端,解码器接收到比特流后即可通过解析该比特流得到预测模式参数。进而,解码器的反变换单元与反量化单元将变换系数进行反变换和反量化处理,得到残差块。可选地,解码器的解码单元会解析并解码已编码的比特流,得到预测参数以及相关辅助信息。接下来,解码器的预测处理单元利用预测参数进行预测处理,从而确定对应于残差块的预测块。如此,解码器即可通过将得到的残差块和对应的预测块相加得到重建块。可选地,解码器的环路滤波单元将重建块进行环路滤波处理以减少失真,改善视频质量。从而,经过环路滤波处理的重建块被进一步组合成解码图像存储于解码图像缓冲器中或作为解码的视频信号而被输出。

可选地,本申请实施例提供的图像处理方法可以应用于上述视频图像编码过程中对图像块进行色度预测和/或亮度预测的场景(例如,视频图像编码过程中帧内预测的场景),当然,本申请实施例提供的图像处理方法也可用于视频解码过程中对待解码的图像块进行色度预测和/或亮度预测的场景(例如,视频图像解码过程中帧内预测的场景)。

第一实施例

在本实施例中,本申请提供的图像处理方法的执行主体可以是上述的处理设备,或者是由上述多个处理设备构成的集群,该处理设备可以是智能终端(如前述的移动终端100)也可以是服务器。此处,以处理设备作为本申请提供的图像处理方法第一实施例中的执行主体,来对本申请提供的图像处理方法进行说明。

在本实施例中,本申请提供的处理方法包括以下步骤:

S1:根据至少一个参考区域确定或得出待预测采样的预测结果。

可选地,在本实施例中,待预测采样可以是输入视频图像(即视频帧)中,正在进行编码或者解码从而需要进行色度预测或者需要进行亮度预测的图像块。可选地,该图像块也可以称作为图像采样,可简称为当前块、当前采样或者待处理块。在H.265/高效率视频编码(High Efficiency Video Coding,HEVC)标准下,待预测采样可以是输入视频图像中的一个编码树单元(Coding Tree Units,CTU),或者是编码单元(Code Unit,CU),本申请实施例对称呼该待预测采样的种类不做具体限制。

可选地,处理设备作为编码器在从视频源处接收到视频图像之后,即针对该视频图像进行分割得到至少一个图像块,之后,处理设备即利用视频图像之间的时间和/或者空间相关性来针对每一个图像块进行预测处理。而处理设备在采用帧内预测模式(尤其是跨分量帧内预测模式)针对该当前的图像块进行色度预测时,即可确定该图像块的待预测采样。在一实施例中,根据该图像块所处的当前图像帧内的至少一个参考区域来进行色度预测,以确定或者得出针对该待预测采样的色度预测结果。可选地,处理设备在采用帧内预测模式针对该当前的图像块进行亮度预测时,即可确定该图像块的待预测采样。在一实施例中,根据该图像块所处的当前图像帧内的至少一个参考区域来进行亮度预测,以确定或者得出针对该待预测亮度采样的亮度预测结果。

可选地,在本实施例中,处理设备作为编码器可以使用例如率失真优化的方式来确定当前图像块最终采用的帧内预测模式。例如,处理设备可通过计算每一种预测模式对应的率失真代价,以从多种预测模式分别对应的率失真代价中确定最小率失真代价,最小率失真代价对应的预测模式即为当前的图像块最终采用的预测模式。即,假定关于当前要进行色度预测的图像块的预测处理,可以使用的预测模式为色度帧内预测模式0-N(其中包括跨分量帧内预测模式),而处理设备在计算到进行色度预测的最小率失真代价对应的预测模式为其中的模式i时,处理设备即将该模式i确定为最终使用的对当前的图像块进行色度预测的模式。其中,i=0,...,N。

可选地,处理设备在依据上述过程,以逐采样方式确定或者得出待预测采样(待预测色度采样或者待预测亮度采样)的预测结果之后,作为编码器的处理设备即可进一步将当前图像块中的像素的采样值,减去预测到的图像块中对应像素的预测值(待预测色度采样的色度预测结果或者待预测亮度采样的亮度预测结果),以得到像素的残差值以及图像块对应的残差块。之后,残差块会经过变换和量化处理,再由熵编码器进行编码最后形成已编码的比特流。另外,已编码的比特流中还可以包括处理设备通过上述过程确定的预测模式对应的预测参数(经过熵编码后被打包至已编码的比特流中)以及相关辅助信息(sideinformation)。可选地,若处理设备采用的是跨分量帧内预测模式,则上述的预测参数即至少包括关于采用跨分量帧内预测模型进行预测操作的指示信息。

可选地,已变换已量化的残差块会和利用预测模式得到的对应的预测块进行相加得到重建块。得到重建块之后,处理设备还会对重建块进行环路滤波处理以减少失真。

可选地,处理设备作为解码器时即可接收到上述作为编码器的处理设备传递的已编码的比特流,而处理设备在作为解码器接收到已经通过编码器编码的比特流之后,解码器的解码单元会解析并解码该比特流得到预测参数。可选地,解码器的反变换单元与反量化单元将变换系数进行反变换和反量化处理以得到残差块。接下来,解码器的预测处理单元即可将该残差块作为当前需要进行解码处理的待处理块并利用预测参数进行预测处理,从而确定对应于该残差块的预测块。

可选地,解码器在采用与编码器所使用相同的帧内预测模式时,可利用解析比特流得到的预测参数来获取或者确定当前对待预测采样进行色度预测或者进行亮度预测需要采用的预测模式(例如当预测参数指示对应的预测模式为跨分量帧内预测模式时,解码器即将跨分量帧内预测模式作为对解码得到的残差块进行色度预测或者进行亮度预测的预测模式),从而,解码器即直接使用该预测模式来从该图像块所处的当前图像内确定一个或者多个亮度采样或者色度采样,并使用该一个或者多个采样进行色度预测或者亮度预测,以确定或者得出针对该待预测采样的色度或者亮度预测结果。

可选地,作为解码器的处理设备在通过逐采样方式,确定或者得出待预测采样(待预测色度采样或者待预测亮度采样)的预测结果之后,处理设备即可进一步将解析得到的残差块和预测到的图像块中对应像素的预测值(待预测色度采样的色度预测结果或者待预测亮度采样的亮度预测结果)相加,以得到重建块。最后,处理设备还通过环路滤波单元将重建块进行环路滤波处理,以减少失真改善视频质量。而经过环路滤波处理的重建块被进一步组合成解码图像存储于解码图像缓冲器中或作为解码的视频信号而被输出。

可选地,在本实施例中,处理设备作为编码器或者解码器对当前的图像块(例如,色度块)进行预测使用的预测模式可以为如下公式(1)所示的卷积跨分量帧内预测模型CCCM:

predChromaVal=c0*C+ c1*N + c2*S + c3*E + c4*W + c5*P + c6*B公式(1)

可选地,以色度预测为例,predChromaVal为待预测采样(此时为待预测色度采样)的色度预测值,c0~c6为权重系数,C 为待预测色度采样的同位亮度采样的亮度值,N为同位亮度采样上方/北方相邻的亮度采样的亮度值,S为同位亮度采样下方/南方相邻的亮度采样的亮度值,E为同位亮度采样右侧/东方相邻的亮度采样的亮度值,W为同位亮度采样左侧/西方相邻的亮度采样的亮度值,P为非线性项。B为偏置项,其代表输入和输出之间的标量偏移(对于10比特深度的视频,B设置为色度中值,即512),P = ( C*C + midVal )>>bitDepth(midVal 为色度采样的色度中值,bitDepth为视频内容的比特深度)。N,S,E,W与C的位置关系如图4所示。

可选地,处理设备为了利用上述公式(1)所示的CCCM模型进行色度帧内预测处理,就需要确定公式(1)中的权重系数c0~c6和C,N,S,E,W,P,B的亮度值,然后才能再基于公式(1)得到待预测色度采样predChromaVal的色度预测结果。可选地,处理设备确定公式(1)中权重系数的方式即可为:从当前需要进行色度预测的图像块所处图像帧内,获取或者确定至少一参考区域,并根据该至少一参考区域中的亮度/色度采样的采样值来确定权重系数。在一实施例中,进行色度预测时获取或者确定的是至少一亮度参考区域。在另一实施例中,进行色度预测时获取或者确定的是至少一色度参考区域。

可选地,处理设备作为编码器或者解码器对当前的图像块(例如,亮度块)进行预测使用的预测模式可以为如下公式(2)所示的卷积跨分量帧内预测模型CCCM:

predLumaVal=c0’*C’+ c1’*N’ + c2’*S’ + c3’*E’ + c4’*W’ + c5’*P’ + c6’*B’公式(2)

其中,predLumaVall为待预测采样(此时为待预测亮度采样)的亮度预测值,c0’~c6’为权重系数,C’为待预测亮度采样的同位色度采样的色度值,N’为同位色度采样上方/北方相邻的色度采样的色度值,S’为同位色度采样下方/南方相邻的色度采样的色度值,E’为同位色度采样右侧/东方相邻的色度采样的色度值,W’为同位色度采样左侧/西方相邻的色度采样的色度值,P’为非线性项。B’为偏置项,其代表输入和输出之间的标量偏移(对于10比特深度的视频,B设置为亮度中值),P’ = ( C’*C’ + midVal’ )>>bitDepth(midVal’为色度采样的色度中值,bitDepth为视频内容的比特深度)。N’,S’,E’,W’与C’的位置关系与如图4所示的N,S,E,W与C的位置关系相似。

可选地,处理设备为了利用上述公式(2)所示的CCCM模型进行亮度帧内预测处理,就需要确定公式(2)中的权重系数c0’~c6’和C’,N’,S’,E’,W’,P’,B’的色度值,然后才能再基于公式(2)得到待预测亮度采样predLumaVal的亮度预测结果。可选地,处理设备确定公式(2)中权重系数的方式即可为:从当前需要进行亮度预测的图像块所处图像内,获取或者确定至少一参考区域,并根据该至少一参考区域中的亮度/色度采样的采样值来确定权重系数。在一实施例中,进行亮度预测时获取或者确定的是至少一亮度参考区域。在另一实施例中,进行亮度预测时获取或者确定的是至少一色度参考区域。

在本实施例中,本申请技术方案通过获取或确定至少一个参考区域,以根据该参考区域确定至少一个权重参数来确定或得出待预测采样的预测结果,如此,本申请技术方案可以实现在采用帧内预测模式进行视频编解码过程中,选择合适的帧内预测模式进行色度或者亮度的帧内预测,有效地提高了视频编码的整体效率。

第二实施例

在本实施例中,本申请提供的图像处理方法的执行主体仍可以是上述的处理设备。在本实施例中,上述的参考区域的获取或确定方式,可以包括以下方式中的至少一项:

方式一:从所述待预测采样或所述待预测采样的同位采样的左侧相邻区域或上方相邻区域中获取或确定;

可选地,若进行色度预测确定待预测色度采样,则待预测色度采样的同位采样为同位亮度采样。可选地,同位亮度采样为:与该待预测色度采样所在该图像帧内的位置相同的亮度采样。可选地,同位亮度采样已经完成亮度预测从而已知亮度值。

可选地,若进行亮度预测确定待预测亮度采样,则待预测亮度采样的同位采样为同位色度采样。可选地,同位色度采样为:与该待预测亮度采样所在该图像帧内的位置相同的色度采样。可选地,同位色度采样已经完成色度预测从而已知色度值。

可选地,处理设备在针对当前的图像块进行色度预测的过程中,即确定将该图像块作为待预测色度采样。当前的图像块包括亮度块和色度块。在一实施例中,在该图像块所处的当前图像帧内,从该待预测采样的同位亮度采样所在的亮度块的左侧相邻区域或者上方相邻区域中,获取或者确定至少一个参考区域。可选地,左侧相邻区域和上方相邻区域中的一个区域可以称为第一参考区域a1;左侧相邻区域和上方相邻区域中的另一个区域可以称为第二参考区域b1。可选地,第一参考区域a1和第二参考区域b1为亮度参考区域。

可选地,处理设备在针对当前的图像块进行色度预测的过程中,即确定将该图像块的待预测色度采样。当前的图像块包括亮度块和色度块。在一实施例中,在该图像块所处的当前图像帧内,从该待预测色度采样所在色度块的左侧相邻区域或者上方相邻区域中,获取或者确定至少一个参考区域。可选地,左侧相邻区域和上方相邻区域中的一个区域可以称为第一参考区域a2;左侧相邻区域、上方相邻区域和左侧相邻区域中的另一个区域可以称为第二参考区域b2。可选地,第一参考区域a2和第二参考区域b2为色度参考区域。

可选地,处理设备在针对当前的图像块进行亮度预测的过程中,即确定将该图像块作为待预测亮度采样。当前的图像块包括亮度块和色度块。在一实施例中,在该图像块所处的当前图像帧内,从该待预测亮度采样的同位色度采样所在的色度块的左侧相邻区域或者上方相邻区域中,获取或者确定至少一个参考区域。可选地,左侧相邻区域和上方相邻区域中的一个区域可以称为第一参考区域a3;左侧相邻区域和上方相邻区域中的另一个区域可以称为第二参考区域b3。可选地,第一参考区域a3和第二参考区域b3为色度参考区域。

可选地,处理设备在针对当前的图像块进行亮度预测的过程中,即确定将该图像块作为待预测亮度采样。当前的图像块包括亮度块和色度块。在一实施例中,在该图像块所处的当前图像帧内,从该待预测亮度采样的亮度块的左侧相邻区域或者上方相邻区域中,获取或者确定至少一个参考区域。可选地,左侧相邻区域和上方相邻区域中的一个区域可以称为第一参考区域a4;左侧相邻区域和上方相邻区域中的另一个区域可以称为第二参考区域b4。可选地,第一参考区域a4和第二参考区域b4为亮度参考区域。

方式二:从所述待预测采样或所述待预测采样的同位采样的左侧相邻区域和上方相邻区域拼接形成的区域中获取或确定;

可选地,处理设备在针对当前的图像块进行色度预测的过程中,即确定将该图像块作为待预测色度采样。当前的图像块包括亮度块和色度块。在一实施例中,还可以在该图像块所处的当前图像帧内,从该待预测色度采样的同位亮度采样所在的亮度块的左侧相邻区域和上方相邻区域组合(例如拼接)形成的区域中,获取或者确定至少一个参考区域。该至少一参考区域为第三参考区域c1。可选地,第三参考区域c1为亮度参考区域。

可选地,处理设备在针对当前的图像块进行色度预测的过程中,即确定将该图像块作为待预测色度采样。当前的图像块包括亮度块和色度块。在一实施例中,还可以在该图像块所处的当前图像帧内,从该待预测色度采样的所在的色度块的左侧相邻区域和上方相邻区域组合(例如拼接)形成的区域中,获取或者确定至少一个参考区域。该至少一参考区域为第三参考区域c2。可选地,第三参考区域c2为色度参考区域。

可选地,处理设备在针对当前的图像块进行亮度预测的过程中,即确定将该图像块作为待预测亮度采样。当前的图像块包括亮度块和色度块。在一实施例中,还可以在该图像块所处的当前图像帧内,从该待预测亮度采样的同位色度采样所在的色度块的左侧相邻区域或者上方相邻区域组合(例如拼接)形成的区域中,获取或者确定至少一个参考区域c3。可选地,第三参考区域c3为色度参考区域。

可选地,处理设备在针对当前的图像块进行亮度预测的过程中,即确定将该图像块作为待预测亮度采样。当前的图像块包括亮度块和色度块。在一实施例中,还可以在该图像块所处的当前图像帧内,从该待预测亮度采样的所在的亮度块的左侧相邻区域和上方相邻区域组合(例如拼接)形成的区域中,获取或者确定至少一个参考区域。该至少一参考区域为第三参考区域c4。可选地,第三参考区域c3为亮度参考区域。

可选地,方式一和方式二可以相互组合,例如,可以通过第一参考区域、第二参考区域、及第三参考区域中的至少一个获取或确定上述的参考区域,例如:

可选地,通过第一参考区域或第二参考区域或第三参考区域获取或确定参考区域;

可选地,通过第一参考区域和/或第二参考区域获取或确定参考区域;

可选地,通过第二参考区域和/或第三参考区域获取或确定参考区域;

可选地,通过第一参考区域和/或第三参考区域获取或确定参考区域;

可选地,通过第一参考区域和/或第二参考区域和/或第三参考区域获取或确定参考区域。

通过在多个参考区域中确定最终采用的参考区域,可以使得参考区域的选取更加灵活。在一实施例中,第一参考区域可以为区域x,第二参考区域可以为区域y,第三参考区域可以为区域z。通过从第一参考区域、第二参考区域、及第三参考区域中的至少一个获取或确定最终采用的参考区域,可以使得最终采用的参考区域可以是第一参考区域、第二参考区域、和第三参考区域的区域组合,从而使得最终采用的参考区域的位置或大小或形状的灵活度更高,和/或,可以进一步根据编解码的算力采用不同的区域组合,以适应不同的应用场景。

可选地,如图7a至图7c所示,参考区域为亮度参考区域,且待预测色度采样的同位亮度采样所在的同位亮度块为第一亮度块或者待预测亮度采样所在的亮度块为第一亮度块时,图7a所示的第一参考区域,即包括第一亮度块左侧相邻的区域而不包括第一亮度块上方相邻的区域,图7b所示的第二参考区域,即包括第一亮度块上方相邻的区域而不包括第一亮度块左侧相邻的区域,而图7c所示的上述第三参考区域,即包括第一亮度块左侧相邻的区域和第一亮度块上方相邻的区域组合形成的区域中的至少一部分的区域。

可选地,在本实施例中,上述第一亮度块上方相邻的区域的宽,可以大于该第一亮度块的宽度,和/或,该第一亮度块左侧相邻的区域的高,可以大于第一亮度块的高度。

可选地,如图7d至图7f,在上述参考区域为色度参考区域,且待预测色度采样所在的色度块为第一色度块或者待预测亮度采样的同位色度采样所在的同位色度块为第一色度块时,图7d所示的第一参考区域,即包括第一色度块左侧相邻的区域而不包括第一色度块上方相邻的区域,图7e所示的第二参考区域,即包括第一色度块上方相邻的区域而不包括第一色度块左侧相邻的区域,而图7f所示的上述第三参考区域,即包括第一色度块左侧相邻的区域和第一色度块上方相邻的区域组合形成的区域中的至少一部分的区域。

可选地,在本实施例中,上述第一色度块上方相邻的区域的宽,可以大于该第一色度块的宽度,和/或,该第一色度块左侧相邻的区域的高,可以大于第一色度块的高度。

可选地,在本实施例中,上述的亮度参考区域和色度参考区域,它们在位置上相互对应而互为同位区域。例如,上述第一参考区域、第二参考区域、第三参考区域对应的可以为第一亮度参考区域、第二亮度参考区域和第三亮度参考区域,可选地,该第一参考区域、第二参考区域、第三参考区域对应的也可以为第一色度参考区域、第二色度参考区域和第三色度参考区域。如此,第一亮度参考区域和第一色度参考区域互为同位区域,第二亮度参考区域和第二色度参考区域互为同位区域,第三亮度参考区域和第三色度参考区域互为同位区域。

YUV是编译true-color颜色空间的种类,Y'UV,YUV,YCbCr,YPbPr等专有名词都可以称为YUV,彼此有重叠。Y表示明亮度,也就是灰阶值,U和V表示的则是色度。

可选地,请参照图8,图8左侧所示为处理设备需要进行编解码处理的彩色图像的Y图像,而图8右侧所示为该Y图像对应的U/V图像。可选地,参考区域a和参考区域b位于Y图像中,参考区域a’和参考区域b’则位于U/V图像中,由于参考区域a和参考区域a’的位置相同,参考区域b和参考区域b’的位置相同,因此,参考区域a和参考区域a’互为同位区域,参考区域b和参考区域b’互为同位区域。

方式三:根据预设的标志获取或确定;

可选地,在本实施例中,预设的标志为传输至解码端的比特流中并用于指示对待预测采样进行预测所需使用的参考区域的标志。

可选地,标志可以从编码比特流中解析得到。

可选地,上述的根据预设的标志获取或确定所述参考区域,可以包括:

根据所述标志的取值,获取或确定所述取值映射的所述参考区域。

可选地,处理设备作为编码端在确定好上述的参考区域之后,可以将指示该参考区域的标志编入传输到解码端的比特流当中,如此,作为解码端的处理设备在接收到来自编码端传递的比特流之后,即可从该比特流当中解析出标志,进而根据该标志获取或者确定出至少一个参考区域。

可选地,作为编码器的处理设备可以通过编码不同比特位数的标志来指示上述不同的参考区域。例如,处理设备可以通过编码具有第一比特数的标志,用以指示作为解码器的处理器在上述的第一参考区域内获取或者确定至少一个参考区域,而通过编码具有第二比特数的标志,用以指示作为解码器的处理器在上述的第二参考区域内获取或者确定至少一个参考区域,可选地,第一比特位数少于第二比特位数,可选地,第二比特位数少于第一比特位数。

可选地,作为编码器的处理设备还可以通过编码不同值的标志来指示上述不同的参考区域。例如,处理设备可以通过编码具有第一值的标志,用以指示作为解码器的处理器在上述的第一参考区域内获取或者确定至少一个参考区域,而通过编码具有第二值的标志,用以指示作为解码器的处理器在上述的第二参考区域内获取或者确定至少一个参考区域,可选地,第一值与第二值不相同。

可选地,作为编码器的处理设备在编码上述的标志,以分别指示第一参考区域、第二参考区域和第三参考区域时,还可以利用较少的比特数指示使用概率高的参考区域,而利用较多的比特数指示使用概率较低的参考区域。例如,对于大多数场景来说,处理设备使用上述第三参考区域获取或者确定参考区域来对待预测采样进行预测的概率,要高于使用上述第一参考区域或者第二参考区域获取或者确定参考区域对待预测采样进行预测的概率,如此,处理设备即可以在用较少的比特位数编码指示第三参考区域的标志,而使用较多的比特位数来编码用于指示第一参考区域或者第二参考区域的标志。

在本实施例中,处理设备通过上述过程来编码指示参考区域的标志,能够令传输到解码器的比特流总体上使用的比特数较少,从而有效地提高了针对该标志的压缩率。

可选地,作为编码器的处理设备在针对待预测采样进行色度预测的过程中,确定出用于获取或者确定参考区域的亮度参考区域是如图7a至图7c中任一个图所示的类型之后,处理设备即可以发送一个亮度参考区域标志(标志luma_ref_region_flag)来指示该图7a所示的第一参考区域的类型、指示图7b所示的第二参考区域的类型,或者指示图7c所示的第三参考区域的类型中的一个。而在解码端,作为解码器的处理设备即可通过解析标志luma_ref_region_flag得到该标志对应的取值,从而基于该取值确定用于获取或者确定参考区域的亮度参考区域的类型。可选地,标志luma_ref_region_flag的取值、亮度参考区域的类型与该标志luma_ref_region_flag二值化的映射关系如下表1所示:

表1

/>

如图7a~图7c所示,图7a所示的参考区域为第一亮度参考区域,图7b所述的参考区域为第二亮度参考区域,图7c所示的参考区域为第三亮度参考区域。可选地,若采用如图7c所示的第三亮度参考区域,则编码器将标志luma_ref_region_flag的值取0,并将标志luma_ref_region_flag二值化为0之后封装至比特流中。和/或,若采用如图7a所示的第一亮度参考区域,则编码器将标志luma_ref_region_flag的值取1,并将标志luma_ref_region_flag二值化为10之后封装至比特流中。和/或,若采用如图7b所示的第二亮度参考区域,则编码器将标志luma_ref_region_flag的值取2,并将标志luma_ref_region_flag二值化为11之后封装至比特流中。

对于解码器来说,若从比特流中解析得到标志luma_ref_region_flag的二值化值为0,则标志luma_ref_region_flag的值为0,其指示参考区域为图7c所示的第三亮度参考区域;和/或,若从比特流中解析得到标志luma_ref_region_flag的二值化值为10,则标志luma_ref_region_flag的值为1,其指示参考区域为图7a所示的第一亮度参考区域;和/或,若从比特流中解析得到标志luma_ref_region_flag的二值化值为11,则标志luma_ref_region_flag的值为2,其指示参考区域为图7b所示的第二亮度参考区域。

可选地,标志luma_ref_region_flag的取值、亮度参考区域的类型与该标志luma_ref_region_flag二值化不是固定的,它们的映射关系也可以如下表2所示:

表2

可选地,在上表1和上表2中第三参考区域类型对应的标志luma_ref_region_flag的二值化比特数均小于第一参考区域类型和第二参考区域类型对应的标志luma_ref_region_flag的二值化比特数。其原因在于,在算力充足的情况下,由于利于第三参考区域类型进行的预测处理比利于第一参考区域类型和第二参考区域类型进行的预测处理的准确度更好,第三参考区域类型的使用概率大于其他两种参考区域类型的使用概率。将使用概率高的第三参考区域类型对应的标志luma_ref_region_flag的二值化比特数设置为小于其他参考区域类型对应的标志luma_ref_region_flag的二值化比特数可以在算力充足的情况下,降低编码比特数。

可选地,作为编码器的处理设备在针对待预测采样进行色度预测的过程中,确定出用于获取或者确定参考区域的色度参考区域是如图7d至图7f中任一个图所示的类型之后,处理设备即可以发送一个色度参考区域标志(标志Chroma_ref_region_flag)来指示该图7d所示的第一参考区域的类型、指示图7e所示的第二参考区域的类型,或者指示图7f所示的第三参考区域的类型中的一个。而在解码端,作为解码器的处理设备即可通过解析该标志Chroma_ref_region_flag得到该标志对应的取值,从而基于该取值确定用于获取或者确定参考区域的色度参考区域的类型。可选地,标志Chroma_ref_region_flag的取值、色度参考区域的类型与该标志Chroma_ref_region_flag二值化的映射关系如下表3所示:

表3

如图7d~图7f所示,图7d所示的参考区域为第一色度参考区域,图7e所述的参考区域为第二色度参考区域,图7f所示的参考区域为第三色度参考区域。可选地,若采用如图7f所示的第三色度参考区域,则编码器将标志Chroma_ref_region_flag的值取0,并将标志Chroma_ref_region_flag二值化为0之后封装至比特流中。和/或,若采用如图7d所示的第一色度参考区域,则编码器将标志Chroma_ref_region_flag的值取1,并将标志Chroma_ref_region_flag二值化为10之后封装至比特流中。和/或,若采用如图7e所示的第二色度参考区域,则编码器将标志Chroma_ref_region_flag的值取2,并将标志Chroma_ref_region_flag二值化为11之后封装至比特流中。

对于解码器来说,若从比特流中解析得到标志Chroma_ref_region_flag的二值化值为0,则标志Chroma_ref_region_flag的值为0,其指示参考区域为图7f所示的第三色度参考区域;和/或,若从比特流中解析得到标志Chroma_ref_region_flag的二值化值为10,则标志Chroma_ref_region_flag的值为1,其指示参考区域为图7d所示的第一色度参考区域;和/或,若从比特流中解析得到标志Chroma_ref_region_flag的二值化值为11,则标志Chroma_ref_region_flag的值为2,其指示参考区域为图7e所示的第二色度参考区域。

可选地,标志Chroma_ref_region_flag的取值、色度参考区域的类型与该标志Chroma_ref_region_flag二值化不是固定的,它们的映射关系也可以如下表4所示:

表4

可选地,在上表3和上表4中第三参考区域类型对应的标志Chroma_ref_region_flag的二值化比特数均小于第一参考区域类型和第二参考区域类型对应的标志Chroma_ref_region_flag的二值化比特数。其原因在于,在算力充足的情况下,由于利于第三参考区域类型进行的预测处理比利于第一参考区域类型和第二参考区域类型进行的预测处理的准确度更好,第三参考区域类型的使用概率大于其他两种参考区域类型的使用概率。将使用概率高的第三参考区域类型对应的标志Chroma_ref_region_flag的二值化比特数设置为小于其他参考区域类型对应的标志Chroma_ref_region_flag的二值化比特数可以在算力充足的情况下,降低编码比特数。

同理,作为编码器的处理设备在针对待预测采样进行亮度预测的过程中,可以利用和上述亮度参考区域类型相似的亮度参考区域类型、和上述标志Luma_ref_region_flag相似的标志,以及和上表1或上表2相似的映射关系来实现;也可以利用和上述色度参考区域类型相似的色度参考区域类型、和上述标志Chroma_ref_region_flag相似的标志,以及和上述表3或表4相似的映射关系来实现。

可选地,可以标志ref_region_select_flag指示采用亮度参考区域类型还是色度参考区域类型。例如,若标志ref_region_select_flag的值为1,则采用亮度参考区域类型,和/或,若标志ref_region_select_flag的值为0,则采用色度参考区域类型。

方式四:根据模板区域获取或确定;

可选地,作为解码器的处理设备还可以根据从模板区域当中来获取或者确定出至少一个参考区域。

可选地,在本实施例中,上述的标志除了包括第一取值和/或第二取值之外,还可以包括第三取值。在一实施例中,第一取值和第二取值为0,1,2中的一个,第三取值为第一取值和第二取值之外的取值。

在一实施例中,第一取值和第二取值为第一取值范围中的一个数值,第三取值为第一取值范围之外的取值。

可选地,上述根据模板区域获取或确定参考区域的方式四,可以包括:

若所述取值为第三取值,则根据模板区域确定所述参考区域。

可选地,编码端的处理设备除了可以通过编码上述具有第一值或者第二值的标志,来指示解码端的处理设备基于该标志的值,从上述的第一参考区域、第二参考区域或者第三参考区域中,获取或者确定至少一个参考区域用于对待预测采样进行预测,还可以通过编码具有第三值的标志,来指示解码端的处理设备直接使用模板区域获取或者确定至少一个参考区域。即,作为解码器的处理设备在从比特流中解析得出编码器编入的标志具有第三值时,直接在本端自主推导出模板区域,从而进一步从该模板区域中获取或者确定出至少一个参考区域用于对待预测采样进行预测操作。

可选地,作为解码器的处理设备在针对待预测采样进行色度预测的过程中,在从接收到的比特流中解析得到具有第三值的标志之后,即在待预测采样的周围确定一模板区域,然后对该模板区域中的色度采样利用三种参考区域类型(即上述第一参考区域、第二参考区域和第三参考区域各自的类型)分别推导CCCM模型的权重系数,并根据获得的权重系数进行预测得到不同参考区域类型下对应的权重系数。并根据不同的权重系数计算模板区域中的色度采样的预测值。最后通过分析各个参考区域类型下的预测值的预测误差,确定出最佳的参考区域类型。并将该最佳的参考区域类型设置为待预测采样的参考区域类型。

可选地,处理设备在待预测采样的周围确定的模板区域可以为:该待预测采样左侧和/或者上方相邻的区域。

可选地,作为编码器的处理设备在针对待预测采样进行色度预测的过程中,利用亮度参考区域推导标志luma_ref_region_deriv_flag,来指示解码端根据模板区域来确定亮度参考区域的类型,进而确定亮度参考区域。例如,当亮度参考区域推导标志luma_ref_region_deriv_flag的值为1时,表示能够利用根据模板区域来推导亮度参考区域的类型,和/或,当亮度参考区域推导标志luma_ref_region_deriv_flag的值为0时,则表示禁止利用根据模板区域来推导亮度参考区域的类型。

可选地,如图9a至图9d,在处理设备针对待预测色度采样进行色度预测的一可行实施例中,模板区域可以为第一亮度块(待预测色度采样所在色度块的同位亮度块)上方相邻一行或数行亮度采样,和左侧相邻一行或数行亮度采样组成的区域。该模板区域为亮度模板区域。

可选地,模板区域可以为L形,并且模板区域的右边界与上述的第一亮度块的右边界对齐,而模板区域的下边界与该第一亮度块的下边界对齐。模板区域上方的行数和左侧的列数的数目可以相同,也可以不相同。

可选地,如图10a至图10d,在处理设备针对待预测色度采样进行色度预测的一可行实施例中,模板区域可以为第一色度块(待预测色度采样所在的色度块)上方相邻一行或数行亮度采样,和左侧相邻一行或数行亮度采样组成的区域。该模板区域为色度模板区域。

可选地,模板区域可以为L形,并且模板区域的右边界与上述的第一色度块的右边界对齐,而模板区域的下边界与该第一色度块的下边界对齐。模板区域上方的行数和左侧的列数的数目可以相同,也可以不相同。

可选地,L形模板区域的一部分位于第一亮度块或第一色度块的上方并且L形模板区域的另一部分位于第一亮度块或第一色度块的左侧,因此,L形模板区域的像素特征和第一亮度块/第一色度块的像素特征形似,从而可以使得L形模板区域合适的参考区域类似对于第一亮度块/第一色度块是最合适的。

可选地,模板区域可以是块状区域。例如,模板区域可以是位于第一亮度块或第一色度块对角线上的块状区域。可选地,在对角线为连接第一亮度块/第一色度块左上角和右下角的对角线。

同理,在处理设备针对待预测亮度采样进行亮度预测的一可行实施例中,模板区域可以为第一亮度块(待预测亮度采样所在亮度块)上方相邻一行或数行亮度采样,和左侧相邻一行或数行亮度采样组成的区域。该模板区域为亮度模板区域。在处理设备针对待预测亮度采样进行亮度预测的一可行实施例中,模板区域可以为第一色度块(待预测亮度采样所在亮度块的同位色度块)上方相邻一行或数行色度采样,和左侧相邻一行或数行色度采样组成的区域。该模板区域为色度模板区域。

方式五:若所述待预测采样的同位采样和/或者所述待预测采样的相邻采样采用的帧内预测模式为角度帧内预测模式,则根据所述角度帧内预测模式对应的帧内角度获取或确定。

可选地,处理设备还可以根据当前需要进行预测的待预测采样的同位采样和/或者待预测采样的相邻采样在进行同样预测操作时所采用的帧内预测模式,获取或者确定出至少一个参考区域,来用于针对该待预测采样进行预测操作。即,处理设备在获取或者确定到:该待预测采样的同位采样和/或者相邻采样采用的帧内预测模式为角度帧内预测模式时,处理设备即可直接根据该角度帧内预测模式对应的帧内角度,获取或确定至少一个参考区域用以对该待预测采样进行预测。

可选地,根据帧内角度获取或确定所述参考区域,可以包括:

根据所述帧内角度所处的角度范围,获取或确定所述参考区域。

可选地,如图11中的实线箭头所示,上述同位采样和/或者相邻采样使用的角度帧内预测模式对应的帧内角度包括:帧内角度2(INTRA_ANGULAR2)~帧内角度66(INTRA_ANGULAR66)。可选地,对于宽角度模式(wide-angle modes,宽角度模式仅应用于非正方形的块中)来说,角度帧内预测模式还包括帧内角度-14(INTRA_ANGULAR-14)~帧内角度-1(INTRA_ANGULAR-1)和帧内角度67(INTRA_ANGULAR67)~帧内角度80(INTRA_ANGULAR80)。

可选地,若一采样或一图像块采用第一角度范围的角度帧内预测模式,则所述待预测采用的参考区域类型为参考区域类型X;若该采样或该图像块采用第二角度范围的角度帧内预测模式,则所述待预测采用的参考区域类型为第二参考区域类型Y。可选地,参考区域类型X和参考区域类型Y不同。

可选地,处理设备在针对待预测采样进行色度预测的过程中,若处理设备确定到针对该待预测采样的同位亮度采样或者该待预测采样的相邻亮度采样所在的亮度块是采用角度帧内预测模式进行的色度预测,而且该角度帧内预测模式对应的帧内角度大于2且小于或者等于18,则处理设备即可直接从该同位亮度采样或者相邻亮度采样的左侧相邻区域中,获取或者确定至少一个参考区域。

可选地,若处理设备确定到该待预测采样的同位亮度采样或者该待预测采样的相邻亮度采样所在的亮度块是采用角度帧内预测模式进行的色度预测,而且该角度帧内预测模式对应的帧内角度大于或者等于50且小于66,则处理设备即可直接从该同位亮度采样或者相邻亮度采样的上方相邻区域中,获取或者确定至少一个参考区域。

可选地,若处理设备确定到该待预测采样的同位亮度采样或者相邻亮度采样所在的亮度块,是采用角度帧内预测模式进行的色度预测,而且该角度帧内预测模式对应的帧内角度大于21且小于49,则处理设备即可直接从该同位亮度采样或者相邻亮度采样的左侧相邻区域和上方相邻区域拼接形成的区域中,获取或者确定至少一个参考区域。

可选地,如下表5所示,作为编码器或者解码器的处理设备,在针对待预测采样进行色度预测的过程中,若该待预测采样对应的同位亮度采样所在的亮度块,是采用角度帧内预测模式进行的色度预测,并且该角度帧内预测模式的帧内角度50(INTRA_ANGULAR50)~帧内角度66(INTRA_ANGULAR66),则处理设备即可确定该待预测采样的亮度参考区域的类型为上述第二参考区域的类型。若该角度帧内预测模式的帧内角度为2(INTRA_ANGULAR2)~帧内角度18(INTRA_ANGULAR18),则该待预测采样的亮度参考区域的类型为上述第一参考区域的类型。若该角度帧内预测模式的帧内角度为21(INTRA_ANGULAR21)~帧内角度49(INTRA_ANGULAR49),则该待预测采样的亮度参考区域的类型为上述第三参考区域的类型。

表5

可选地,如下表6所示,对于宽角度模式(wide-angle modes)来说,若待预测采样对应的同位亮度采样所在的亮度块采用角度帧内预测模式,并且该角度帧内预测模式的帧内角度为INTRA_ANGULAR67~INTRA_ANGULAR80,则待预测色度块的亮度参考区域的类型为上述的第二参考区域的类型。若该角度帧内预测模式的帧内角度为INTRA_ANGULAR-14~INTRA_ANGULAR-1,则待预测色度块的亮度参考区域的类型为上述的第一参考区域的类型。若该角度帧内预测模式的帧内角度为INTRA_ANGULAR-14~INTRA_ANGULAR-1,则待预测色度块的亮度参考区域的类型为上述的第一参考区域的类型。

表6

可选地,若上述同位亮度采样所在的亮度块采用的角度帧内预测模式的帧内角度为INTRA_ANGULAR50~INTRA_ANGULAR66,则可以确认该亮度块中的亮度采样的预测值,是依据该亮度块上方的边界像素推导得到的,在此种情况下,处理设备即可确定该待预测采样的色度值与其上方区域的关联性很高。若上述同位亮度采样所在的亮度块采用的角度帧内预测模式的帧内角度为INTRA_ANGULAR2~INTRA_ANGULAR18,则可以确认该亮度块中的亮度采样的预测值,是依据该亮度块左侧的边界像素推导得到的,在此种情况下,处理设备即可确定待预测采样的色度值与其左侧区域的关联性很高。若上述同位亮度采样所在的亮度块采用的角度帧内预测模式的帧内角度为INTRA_ANGULAR21~INTRA_ANGULAR49,则可以确认该亮度块中的亮度采样的预测值,是依据该亮度块左侧的边界像素和上方的边界像素推导得到的,在此种情况下,处理设备即可确定待预测采样的色度值与其左侧区域和上方区域组合拼接的区域的关联性很高。

可选地,上述的上方区域包括上方的亮度相邻区域及其同位色度相邻区域。上述的左侧区域包括左侧的亮度相邻区域及其同位色度相邻区域。

可选地,作为编码器或者解码器的处理设备进行亮度预测时,采用方式五来获取或者确定参考区域的操作手段,与上述处理设备进行色度预测时,使用方式五获取或者确定参考区域的操作手段是基于相同的道理,此处不再进行过多赘述。

在本实施例中,处理设备在通过上述各种方式确定用于对待预测采样进行色度/亮度预测的参考区域时,如果该待预测采样的特征仅和左侧相邻区域的特征相似,而和上方相邻区域的特征不相似,则处理设备即可利用上述的第一参考区域获得较佳的权重系数进行色度/亮度预测;而如果该待预测采样的特征仅和上方相邻区域的特征相似,而和左侧相邻区域的特征不相似,则处理设备即可利用上述的第二参考区域获得较佳的权重系数进行色度/亮度预测;而又如果待预测采样的特征和上方相邻区域的特征和左侧相邻区域的特征均相似,则处理设备即可利用上述的第三参考区域获得较佳的权重系数进行色度/亮度预测。

第三实施例

在本实施例中,本申请提供的图像处理方法的执行主体仍可以是上述的处理设备。在本实施例中,上述根据模板区域获取或确定参考区域的方式四,还可以包括:

从所述模板区域中获取或确定第一权重参数和第二权重参数;

获取或确定所述第一权重参数对应的第一采样预测结果和所述第二权重参数对应的第二采样预测结果;

若所述第一采样预测结果优于所述第二采样预测结果,则根据所述第一权重参数获取或确定所述参考区域为第四参考区域,和/或,若所述第二采样预测结果优于所述第一采样预测结果,则根据所述第二权重参数获取或确定所述参考区域为第五参考区域。可选地,第四参考区域为包括该模板区域的上方相邻的区域而不包括该模板区域的左侧相邻的区域、包括该模板区域的左侧相邻的区域而不包括该模板区域的上方相邻的区域、和从该模板区域的左侧相邻区域和上方相邻区域组合(例如拼接)形成的区域中的一个,第五参考区域为包括该模板区域的上方相邻的区域而不包括该模板区域的左侧相邻的区域、包括该模板区域的左侧相邻的区域而不包括该模板区域的上方相邻的区域、和从该模板区域的左侧相邻区域和上方相邻区域组合(例如拼接)形成的区域中的另一个。该模板区域可以是亮度模板区域,也可以是色度模板区域。

可选地,作为编码器或者编码器的处理设备,各自均可以在本端使用上述的模板区域来获取或者确定出至少一个参考区域。即,处理设备首先从模板区域中获取或者确定出至少两种权重参数——第一权重参数和第二权重参数;然后,处理设备即依次获取或者确定该第一权重参数对应的第一采样预测结果和该第二权重参数对应的第二采样预测结果,并将该第一采样预测结果和该第二采样预测结果进行比对,若处理设备比对到该第一采样预测结果优于该第二采样预测结果,则可根据该第一权重参数来获取或者确定至少一个参考区域;和/或,若比对到该第二采样预测结果优于该第一采样预测结果,则根据该第二权重参数获取或者确定至少一个参考区域。

可选地,上述的根据所述第一权重参数获取或确定所述参考区域,可以包括:

根据所述第一权重参数在所述模板区域中对应的区域与所述模板区域之间的位置关系,获取或确定所述参考区域。

可选地,处理设备在确定第一权重参数对应的第一采样预测结果,优于第二权重参数对应的第二采样预测结果,从而根据该第一权重参数获取或确定参考区域时,处理设备可首先获取或者确定该第一权重参数在该模板区域中对应的第四参考区域,然后再根据该第四参考区域和该模板区域之间的位置关系,获取或者确定出至少一个参考区域。在一实施例中,若第一权重参数是通过第四参考区域推导得到,并且该第四参考区域为包括该模板区域的左侧相邻的区域而不包括该模板区域的上方相邻的区域,则该至少一个参考区域为包括如图7a和图7e所示的第一亮度块/第一色度块左侧相邻的区域而不包括第一亮度块/第一色度块上方相邻的区域。在一实施例中,若第一权重参数是通过第四参考区域推导得到,并且该第四参考区域为包括该模板区域的上方相邻的区域而不包括该模板区域的左侧相邻的区域,则该至少一个参考区域为包括如图7b和图7d所示的第一亮度块/第一色度块上方相邻的区域而不包括第一亮度块/第一色度块左侧相邻的区域。在一实施例中,若第一权重系数是通过第四参考区域推导得到,并且该第四参考区域为包括该模板区域的左侧相邻区域和上方相邻区域组合(例如,拼接)形成的区域,则该至少一个参考区域为包括如图7c和图7f所示的第一亮度块/第一色度块左侧相邻区域和上方相邻区域组合(例如,拼接)形成的区域。

可选地,处理设备根据上述第二权重参数获取或确定参考区域的操作手段,与根据第一权重参数获取或确定参考区域的过程相同,在此不再赘述。

可选地,在本实施例中,编码端和/或者解码端的处理设备在针对待预测采样进行色度预测的过程中,可以利用第四亮度参考区域确定关于上述模板区域的第一权重参数,以及利用第五参考区域确定关于该模板区域的第二权重参数,从而根据该第一权重参数和该第二权重参数确定至少一亮度参考区域,可选地,根据该第四亮度参考区域和模板区域之间的位置关系,获取或者确定至少一亮度参考区域。可选地,上述第四亮度参考区域和第五亮度参考区域的类型互不相同。

可选地,如图12a至图12c所示,作为编码器和/或者解码器的处理设备,在针对待预测采样进行色度预测的过程中,假定模板区域为亮度模板区域,模板区域的亮度参考区域位于模板区域的左侧和/或上方并与模板区域相邻,处理设备可通过对模板区域分别应用三种类型的亮度参考区域,以分别确定出对应三种类型的权重系数。

在一实施例中,三种类型的亮度参考区域为如图12a所示仅在模板区域左侧的左侧参考区域、如图12b所示的仅在模板区域上方的上方参考区域,和/或,如图12c所示的由模板区域左侧和上方区域组合拼接成的区域。

在另一实施方式中,三种类型的亮度参考区域为第一参考区域、第二参考区域和第三参考区域。第一参考区域包括在模板区域左侧相邻的区域而不包括在模板区域上方相邻的区域,第二参考区域包括在模板区域上方相邻的区域而不包括在模板区域左侧相邻的区域,第三参考区域包括在模板区域左侧相邻的区域和在模板区域上方相邻的区域组合形成的区域中的至少一部分的区域。

在处理设备确定出三种类型对应的权重系数之后,处理设备再计算三种类型对应的权重系数下的模板区域中的亮度采样的同位色度采样的预测值,并将预测值与同位色度采样的重建值进行比较,从而将预测值和重建值误差最小的权重系数对应的亮度参考区域类型,作为第一亮度块的亮度参考区域的类型。

可选地,假定处理设备从图12a所示的亮度参考区域确定出权重系数ca10~ca16,并从图12b所示的亮度参考区域确定出权重系数ca20~ca26,和从图12c所示的亮度参考区域确定出权重系数ca30~ca36,接下来,处理设备即先计算采用权重系数ca10~ca16的情况下,模板区域中亮度采样的同位色度采样的预测值PredCx1,并计算采用权重系数ca20~ca26的情况下,模板区域中亮度采样的同位色度采样的预测值PredCx2,和计算采用权重系数ca30~ca36的情况下,模板区域中的亮度采样的同位色度采样的预测值PredCx3。从而,处理设备在以此得到模板区域中的多个亮度采样各自对应的多个同位色度采样的预测值之后,再比较这些预测值和这些同位色度采样的重建值之间的误差,从而将误差最小的预测值对应的亮度参考区域类型作为第一亮度块的亮度参考区域类型。例如,处理设备对于多个同位色度采样Xn,分别比较预测值PredCnx1~预测值PredCnx3与同位色度采样的重建值recCnx之间的误差。N=1,2,..., num。num为同位色度采样的个数。例如比较多个同位色度采样Xn的预测值PredCnxi(i=1,2,3)和重建值recCnx的绝对误差和(SAD),选择绝对误差和最小的预测值对应的亮度参考区域类型作为第一亮度块的亮度参考区域类型。

可选地,如图13a至图13c所示,作为编码器和/或者解码器的处理设备,在针对待预测采样进行色度预测的过程中,假定模板区域为色度模板区域,模板区域的色度参考区域位于模板区域的左侧和/或上方并与模板区域相邻,处理设备可通过对模板区域分别应用三种类型的色度参考区域(即如图13a所示仅在模板区域左侧的左侧参考区域、如图13b所示的仅在模板区域上方的上方参考区域,和/或,如图13c所示的由模板区域左侧和上方区域组合拼接成的区域),以分别确定出对应三种类型的权重系数。

在处理设备确定出三种类型对应的权重系数之后,处理设备再计算三种类型对应的权重系数下的模板区域中的色度采样的预测值,并将预测值与色度采样的重建值进行比较,从而将预测值和重建值误差最小的权重系数对应的色度参考区域类型,作为第一色度块的色度参考区域的类型。

同理,作为编码器和/或者解码器的处理设备,在针对待预测采样进行亮度预测的过程中,与上述色度预测过程相似,本领域技术人员在了解本发明内容和实质之后可以理解如何实现。

可选地,假定处理设备从图13a所示的色度参考区域确定出权重系数ca10~ca16,并从图13b所示的色度参考区域确定出权重系数ca20~ca26,和从图13c所示的色度参考区域确定出权重系数ca30~ca36,接下来,处理设备即先计算采用权重系数ca10~ca16的情况下,模板区域中色度采样的预测值PredCx1,并计算采用权重系数ca20~ca26的情况下,模板区域中色度采样的预测值PredCx2,和计算采用权重系数ca30~ca36的情况下,模板区域中的色度采样的预测值PredCx3。从而,处理设备在以此得到模板区域中的多个色度采样的预测值之后,再比较这些预测值和这些同位亮度采样的重建值之间的误差,从而将误差最小的预测值对应的色度参考区域类型作为第一色度块的色度参考区域类型。例如,处理设备对于多个色度采样Xn,分别比较色度采样Xn的预测值PredCnx1~预测值PredCnx3与色度采样Xn的重建值recCnx之间的误差。N=1,2,..., num。num为同位亮度采样的个数。例如比较多个色度采样Xn的预测值PredCnxi(i=1,2,3)和重建值recCnx的绝对误差和(SAD),选择绝对误差和最小的预测值对应的色度参考区域类型作为第一色度块的色度参考区域类型。

可选地,在本实施例中,上述根据预设的标志获取或确定参考区域的方式三,还可以包括:

获取或者确定所述标志对应的帧内预测模式;

根据所述帧内预测模式确定或得出待预测采样的预测结果。

可选地,作为编码器的处理设备在针对待预测色度采样进行色度预测的过程中,可以利用亮度参考区域推导标志luma_ref_region_deriv_flag1,来指示解码端的处理设备根据待预测色度采样对应的同位亮度采样所在的亮度块,或者该亮度块的相邻亮度块,来确定亮度参考区域的类型,进而确定该需要进行色度预测的待预测色度采样的亮度参考区域。

可选地,编码端的处理设备可以采用不同的标志,指示解码端的处理设备如何进行参考区域类型的推导。

可选地,当使用的亮度参考区域推导标志luma_ref_region_deriv_flag1的值为1时,即指示解码端的处理设备确定待预测色度采样对应同位亮度采样所在的亮度块,并利用该亮度块的帧内预测模式的类型推导要进行色度预测的待预测色度采样的亮度参考区域的类型。在一实施例中,若该亮度块的帧内预测模式的类型为角度帧内预测模式x1,则要进行色度预测的待预测色度采样的亮度参考区域的类型为参考区域类型X1。参考区域类型X1为图7a~图7c中的一个。可选地,角度帧内预测模式x1和参考区域类型X1与表5对应。例如,若角度帧内预测模式x1为INTRA_ANGULAR2~INTRA_ANGULAR18,则参考区域类型X1为第一参考区域。和/或,若角度帧内预测模式x1为INTRA_ANGULAR50~INTRA_ANGULAR66,则参考区域类型X1为第二参考区域。和/或,若角度帧内预测模式x1为INTRA_ANGULAR21~INTRA_ANGULAR49,则参考区域类型X1为第三参考区域。

可选地,当使用的亮度参考区域推导标志luma_ref_region_deriv_flag1的值为2时,即指示解码端的处理设备确定待预测采样对应同位亮度采样所在的亮度块的相邻亮度块,并利用该相邻亮度块的帧内预测模式的类型,来推导要进行色度预测的待预测采样的亮度参考区域的类型。在一实施例中,若该相邻亮度块的帧内预测模式的类型为角度帧内预测模式x2,则要进行色度预测的待预测色度采样的亮度参考区域的类型为参考区域类型X2。参考区域类型X2对应于该相邻亮度块左侧相邻的区域而不包括该相邻亮度块上方相邻的区域、该相邻亮度块上方相邻的区域而不包括该相邻亮度块左侧相邻的区域、该相邻亮度块左侧相邻的区域和该相邻亮度块上方相邻的区域组合形成的区域中的至少一部分的区域中的一个。可选地,角度帧内预测模式x2和参考区域类型X2与表5对应。例如,若角度帧内预测模式x2为INTRA_ANGULAR2~INTRA_ANGULAR18,则参考区域类型X2为第一参考区域。和/或,若角度帧内预测模式x2为INTRA_ANGULAR50~INTRA_ANGULAR66,则参考区域类型X2为第二参考区域。和/或,若角度帧内预测模式x2为INTRA_ANGULAR21~INTRA_ANGULAR49,则参考区域类型X2为第三参考区域。可选地,第一参考区域、第二参考区域和第三参考区域为该相邻亮度块左侧相邻的区域而不包括该相邻亮度块上方相邻的区域、该相邻亮度块上方相邻的区域而不包括该相邻亮度块左侧相邻的区域、该相邻亮度块左侧相邻的区域和该相邻亮度块上方相邻的区域组合形成的区域中的至少一部分的区域中的一个。可选地,第一参考区域、第二参考区域和第三参考区域互不相同。

可选地,当使用的亮度参考区域推导标志luma_ref_region_deriv_flag1的值为0时,即指示解码端的处理设备禁止利用上述同位亮度采样所在的亮度块或者该亮度块的相邻亮度块推导亮度参考区域的类型。

可选地,作为编码器的处理设备在针对待预测色度采样进行色度预测的过程中,可以利用色度参考区域推导标志Chroma_ref_region_deriv_flag1,来指示解码端的处理设备根据待预测色度采样所在的色度块,或者该色度块的相邻色度块,来确定色度参考区域的类型,进而确定该需要进行色度预测的待预测色度采样的色度参考区域。

可选地,编码端的处理设备可以采用不同的标志,指示解码端的处理设备如何进行参考区域类型的推导。

可选地,当使用的色度参考区域推导标志Chroma_ref_region_deriv_flag1的值为1时,即指示解码端的处理设备确定待预测色度采样所在的色度块,并利用该色度块的同位亮度块的帧内预测模式的类型推导要进行色度预测的待预测色度采样的色度参考区域的类型。在一实施例中,若该同位亮度块的帧内预测模式的类型为角度帧内预测模式x1’,则要进行色度预测的待预测色度采样的色度参考区域的类型为参考区域类型X1’。参考区域类型X1’为图7a~图7c中的一个。可选地,角度帧内预测模式x1’和参考区域类型X1’与表5对应。例如,若角度帧内预测模式x1’为INTRA_ANGULAR2~INTRA_ANGULAR18,则参考区域类型X1’为第一参考区域。和/或,若角度帧内预测模式x1’为INTRA_ANGULAR50~INTRA_ANGULAR66,则参考区域类型X1’为第二参考区域。和/或,若角度帧内预测模式x1’为INTRA_ANGULAR21~INTRA_ANGULAR49,则参考区域类型X1’为第三参考区域。

可选地,当使用的色度参考区域推导标志Chroma_ref_region_deriv_flag1的值为2时,即指示解码端的处理设备确定待预测色度采样所在的色度块的相邻色度块的同位相邻亮度块,并利用该同位相邻亮度块的帧内预测模式的类型,来推导要进行色度预测的待预测色度采样的色度参考区域的类型。相邻色度块和同位相邻亮度块互为同位块。在一实施例中,若该同位相邻亮度块的帧内预测模式的类型为角度帧内预测模式x2’,则要进行色度预测的待预测色度采样的亮度参考区域的类型为参考区域类型X2’。参考区域类型X2’对应于该同位相邻亮度块左侧相邻的区域而不包括该同位相邻亮度块上方相邻的区域、该同位相邻亮度块上方相邻的区域而不包括该同位相邻亮度块左侧相邻的区域、该同位相邻亮度块左侧相邻的区域和该同位相邻亮度块上方相邻的区域组合形成的区域中的至少一部分的区域中的一个。可选地,角度帧内预测模式x2和参考区域类型X2与表5对应。例如,若角度帧内预测模式x2’为INTRA_ANGULAR2~INTRA_ANGULAR18,则参考区域类型X2’为第一参考区域。和/或,若角度帧内预测模式x2’为INTRA_ANGULAR50~INTRA_ANGULAR66,则参考区域类型X2’为第二参考区域。和/或,若角度帧内预测模式x2’为INTRA_ANGULAR21~INTRA_ANGULAR49,则参考区域类型X2’为第三参考区域。可选地,第一参考区域、第二参考区域和第三参考区域为该同位相邻亮度块左侧相邻的区域而不包括该同位相邻亮度块上方相邻的区域、该同位相邻亮度块上方相邻的区域而不包括该同位相邻亮度块左侧相邻的区域、该同位相邻亮度块左侧相邻的区域和该同位相邻亮度块上方相邻的区域组合形成的区域中的至少一部分的区域中的一个。可选地,第一参考区域、第二参考区域和第三参考区域互不相同。

可选地,当使用的色度参考区域推导标志Chroma_ref_region_deriv_flag1的值为0时,即指示解码端的处理设备禁止利用待预测色度采样的所在的色度块,或者该色度块的相邻色度块推导色度参考区域的类型。

可选地,基于相同的道理,作为编码器的处理设备在针对待预测亮度采样进行亮度预测的过程中,可以利用亮度参考区域推导标志luma_ref_region_deriv_flag1’,来指示解码端的处理设备根据待预测亮度采样所在的亮度块,或者该亮度块的相邻亮度块,来确定亮度参考区域的类型,进而确定该需要进行亮度预测的待预测亮度采样的亮度参考区域。

可选地,基于相同的道理,作为编码器的处理设备在针对待预测亮度采样进行亮度预测的过程中,可以利用色度参考区域推导标志Chroma_ref_region_deriv_flag1’,来指示解码端的处理设备根据待预测亮度采样对应的同位色度采样所在的色度块,或者该色度块的相邻亮度块,来确定色度参考区域的类型,进而确定该需要进行亮度预测的待预测亮度采样的色度参考区域。

在本实施例中,在编码端的处理设备可以通过判断待预测采样所在区域上方相邻亮度/色度区域,和/或,该待预测采样所在区域左侧相邻亮度/色度区域,与待预测采样所在区域对应的(或称同位的)亮度/色度区域之间的相似程度,首先确定推导CCCM模型的权重系数的参考区域,从而获得更优的编码性能。而在编码端的处理设备确定出参考区域之后,即可以通过传输于一标志指示解码端的处理设备,令解码端的处理设备自主的推导CCCM模型的权重系数的参考区域为下述三种类型中的哪一种类型:上方相邻亮度/色度区域、左侧相邻亮度/色度区域,和上方相邻亮度/色度区域与左侧相邻亮度/色度区域组合(例如拼接)而成的区域。

第四实施例

在本实施例中,本申请提供的图像处理方法的执行主体仍可以是上述的处理设备。在本实施例中,上述的步骤S1,可以包括以下步骤:

S11:根据至少一个参考区域确定至少一个权重参数;

S12:根据所述权重参数确定或得出待预测采样的预测结果。

可选地,处理设备在从上述第一参考区域、第二参考区域或者第三参考区域中任一类型的参考区域中,获取或者确定出至少一个参考区域之后,处理设备即可进一步利用该参考区域来针对待预测采样进行色度预测或者进行亮度预测。即,处理设备首先基于得到的至少一个参考区域来确定出至少一个帧内预测模型中的权重参数,如此,处理设备即可使用该权重参数和对应的帧内预测模型进行计算,从而确定或者得出当前针对待预测采样进行色度预测的色度预测结果,或者确定或者得出当前针对待预测采样进行亮度预测的亮度预测结果。

可选地,处理设备在针对待预测采样进行色度预测的过程中,对于具有至少一个参考区域类型的至少一个参考区域的每一个参考区域,分别确定一组采样。对于至少一个参考区域来说,具有至少一组采样,并且每一组采样包括至少一个采样点。然后,确定每组采样的损失函数取极小值时每组采样分别对应的权重的取值。最后,通过比较各组采样的对应的权重的取值下的预测值的失真程度,从具有至少一个参考区域类型的至少一个参考区域中确定出最合适的参考区域。

现以公式(1)来进行说明。例如,对于第一亮度参考区域、第二亮度参考区域、和第三亮度参考区域中的每一亮度参考区域,分别确定7个色度参考采样,这7个色度参考采样分别具有预测值predCa1~predCa7和重建值recCa1~recCa7(该7个色度参考采样的重建值为已知值)。在一实施例中,第一亮度参考区域可以为图12a所示的亮度参考区域。第二亮度参考区域可以为图12b所示的亮度参考区域。第三亮度参考区域可以为图12c所示的亮度参考区域。预测值predCa1~predCa7为关于公式(1)的表达式。

例如,在图12a所示的亮度参考区域中确定与上述7个色度参考采样对应的7个亮度参考采样作为公式(1)中的亮度采样Ca1~Ca7,然后确定选择的7个亮度采样周围的亮度采样Na1~Na7,Sa1~Sa7,Ea1~Ea7,Wa1~Wa7,以及对于的非线性项Pa1~Pa7和偏置项Ba1~Ba7的值。

然后,处理设备即进一步利用predCa1~predCa7构造向量predC,predC=[predCa1,predCa2, predCa3, predCa4, predCa5, predCa6, predCa7]

通过上述方法可以进一步确定图12b所示的亮度参考区域对应权重系数(也可称为权重参数w2)和图12c所示的亮度参考区域对应权重系数(也可称为权重参数w3)。接下来,通过比较各组采样的对应的权重系数(权重参数w1~权重参数w3)的取值下的预测值的失真程度,而从具有多个参考区域类型的多个参考区域中确定出最合适的参考区域。例如,通过比较各组采样的对应的权重参数w1~权重参数w3取值下,利用公式(1),分别计算图12a~12c所示的亮度参考区域中的多个亮度采样对应的多个同位色度采样的预测值。然后,比较这些同位色度采样的预测值与重建值之间的绝对误差和(SAD)/哈达玛(hadamard)变换后的绝对误差和(SATD),来确定图12a~12c所示的亮度参考区域对应的这些同位色度采样的预测值的失真程度。最后,在图12a~12c所示的亮度参考区域中确定出绝对误差和(SAD)/hadamard变换后的绝对误差和(SATD)最小的值对应的亮度参考区域。

举例来说,若图12a所示的模板区域的亮度参考区域对应的绝对误差和为图12a~12c所示的亮度参考区域对应的绝对误差和中的最小值,由于图12a所示的亮度参考区域包括模板区域的左侧参考区域而不包括模板区域的上方参考区域,则将待预测采样所在图像块或该图像块的同位图像块(例如,第一亮度块)的左侧亮度参考区域作为确定的参考区域,并且不将该图像块或该图像块的同位图像块的上方亮度参考区域作为确定的参考区域。也就是说,待预测采样对应的参考区域包括图像块或该图像块的同位图像块的左侧亮度参考区域而不包括图像块或该图像块的同位图像块的上方亮度参考区域。

若图12b所示的模板区域的亮度参考区域对应的绝对误差和为图12a~12c所示的亮度参考区域对应的绝对误差和中的最小值,由于图12b所示的亮度参考区域包括模板区域的上方参考区域而不包括模板区域的左侧参考区域,则将待预测采样所在图像块或该图像块的同位图像块(例如,第一亮度块)的上方亮度参考区域作为确定的参考区域,并且不将该图像块或该图像块的同位图像块的左侧亮度参考区域作为确定的参考区域。也就是说,待预测采样对应的参考区域包括图像块或该图像块的同位图像块的上方亮度参考区域而不包括图像块或该图像块的同位图像块的左侧亮度参考区域。

若图12c所示的模板区域的亮度参考区域对应的绝对误差和为图12a~12c所示的亮度参考区域对应的绝对误差和中的最小值,由于图12c所示的亮度参考区域包括模板区域的左侧参考区域并且包括模板区域的上方参考区域,则将待预测采样所在图像块或该图像块的同位图像块(例如,第一亮度块)的左侧亮度参考区域和上方区域组合的区域作为确定的参考区域。也就是说,待预测采样对应的参考区域包括图像块或该图像块的同位图像块的左侧亮度参考区域和上方亮度参考区域。

最后,通过确定的参考区域推导待预测采样进行预测时使用的权重系数并根据推导的权重系数进行帧间预测。

可选地,本发明的上述实施方式也可以和图13a~图13b进行结合。例如,通过上述方法类似的方法可以确定图13a~13c所示的色度参考区域中的色度采样的预测值的失真程度。之后,在图13a~13c所示的色度参考区域中确定出绝对误差和(SAD)/hadamard变换后的绝对误差和(SATD)最小的值对应的色度参考区域。

举例来说,若图13a所示的模板区域的色度参考区域对应的绝对误差和为图13a~13c所示的色度参考区域对应的绝对误差和中的最小值,由于图13a所示的色度参考区域包括模板区域的左侧参考区域而不包括模板区域的上方参考区域,则将待预测采样所在图像块或该图像块的同位图像块(例如,第一色度块)的左侧色度参考区域作为确定的参考区域,并且不将该图像块或该图像块的同位图像块的上方色度参考区域作为确定的参考区域。也就是说,待预测采样对应的参考区域包括图像块或该图像块的同位图像块的左侧色度参考区域而不包括图像块或该图像块的同位图像块的上方色度参考区域。

若图13b所示的模板区域的色度参考区域对应的绝对误差和为图13a~13c所示的色度参考区域对应的绝对误差和中的最小值,由于图13b所示的色度参考区域包括模板区域的上方参考区域而不包括模板区域的左侧参考区域,则将待预测采样所在图像块或该图像块的同位图像块(例如,第一色度块)的上方色度参考区域作为确定的参考区域,并且不将该图像块或该图像块的同位图像块的左侧色度参考区域作为确定的参考区域。也就是说,待预测采样对应的参考区域包括图像块或该图像块的同位图像块的上方色度参考区域而不包括图像块或该图像块的同位图像块的左侧色度参考区域。

若图13c所示的模板区域的色度参考区域对应的绝对误差和为图13a~13c所示的色度参考区域对应的绝对误差和中的最小值,由于图12c所示的色度参考区域包括模板区域的左侧参考区域并且包括模板区域的上方参考区域,则将待预测采样所在图像块或该图像块的同位图像块(例如,第一色度块)的左侧色度参考区域和上方色度区域组合的区域作为确定的参考区域。也就是说,待预测采样对应的参考区域包括图像块或该图像块的同位图像块的左侧色度参考区域和上方色度参考区域。

可选地,在本实施例中,处理设备从上述色度参考区域中选取7个色度参考采样点预测值以及重建值的原因是:通过7个色度参考采样点的预测值和重建值可以构建7个方程,从而求取出7个待求取的权重系数。即,色度参考区域中色度参考采样的选取个数与待求取的权重系数的个数相同。

可选地,若一采样或一图像块采用第一角度范围的角度帧内预测模式,则所述待预测采用的参考区域类型为参考区域类型X’。在此实施例中,可以根据参考区域类型X’确定出待预测采样的权重系数,并依据确定出的权重系数,确定或得出待预测采用的预测结果。

可选地,上述的步骤S11:根据至少一个参考区域确定至少一个权重参数,可以包括:

基于所述参考区域中的至少一个参考采样,确定至少一个所述权重参数;

可选地,在本实施例中,参考采样的位置符合预设位置条件,和/或,参考采样的取值符合预设取值条件。

可选地,预设位置条件可以为:参考采样在参考区域中的位置与待预测采样距离较远或最远(一种实现方式中,在参考区域全部采样各自与待预测采样之间的直线距离中,参考采样与待预测采样之间的直线距离大于或等于第一预设阈值或者最大,可选地,该第一预设阈值基于实际应用的设计需要可以设置为:大于或等于待预测采样所在图像块的宽度、高度或者对角距离的任意距离值,可选地,图像块的宽度、高度或者对角距离各自可以为64、32或者16等VVC、HEVC或者其它编码标准中使用的编码单元对应的宽度、高度或者对角距离),可选地,参考采样在参考区域中的位置与待预测采样距离较近或最近(一种实现方式中,在参考区域全部采样各自与待预测采样之间的直线距离中,参考采样与待预测采样之间的直线距离小于或等于第二预设阈值或者最小,可选地,该第二预设阈值基于实际应用的设计需要则可以设置为:小于或等于N*N个采样的宽度之和、高度之和或者对角距离之和的任意距离值,N为参考区域左侧边缘在水平方向上与待预测采样相距的采样的个数,或者为参考区域上方边缘在垂直方向上与待预测采样相距的采样的个数,可选地,N可以小于或者等于4,可选地,N还可以小于或者等于图像块宽度或者高度的1/2或者1/3)。

可选地,第一预设阈值和第二预设阈值可以相同,也可以不同。

可选地,参考采样在参考区域中可以水平位置上等距离分布和/或者垂直位置上等距离分布。

可选地,预设取值条件可以为:参考采样在参考区域中的色度值或者亮度值为最大色度值或者最大亮度值,可选地,参考采样在参考区域中的色度值或者亮度值为最小色度值或者最小亮度值,可选地,参考采样在参考区域中的色度值或者亮度值,介于最大色度值和最小色度值之间的N等分色度值附近。

可选地,处理设备在从上述色度参考区域中确定权重参数时,可以从该色度参考区域中确定最大色度值、最小色度值,以及接近该最大色度值和最小色度值的平均色度值的色度采样,以基于该色度采样确定帧内预测模型中的权重参数。

可选地,上述最大色度值和最小色度值的平均色度值可以为一个2等分色度值。可选地,基于相同的道理,该平均色度值还可以是:两个介于该最大色度值和最小色度值之间的3等分色度值,其分别是:(最大色度值-最小色度值)*1/3,和,(最大色度值-最小色度值)*2/3。其余N等分色度值以此类推。

可选地,处理设备在从亮度参考区域中确定权重参数时,即可以从该亮度参考区域中确定最大亮度值、最亮色度值,以及接近该最大亮度值和最小亮度值的平均亮度值的亮度采样,以基于该亮度采样确定帧内预测模型中的权重参数。

可选地,上述最大亮度值和最小亮度值的平均亮度值可以为一个2等分亮度值。可选地,基于相同的道理,该平均亮度值还可以是:两个介于该最大亮度值和最小亮度值之间的3等分亮度值,其分别是:(最大亮度值-最小亮度值)*1/3,和,(最大亮度值-最小亮度值)*2/3。其余N等分亮度值以此类推。

可选地,在本实施例中,上述的步骤S12:根据所述权重参数确定或得出待预测采样的预测结果,可以包括:

根据所述权重参数、至少一个第一采样、所述第一采样的至少一个相邻采样、所述第一采样的至少一个非相邻采样和所述第一采样的至少一个梯度分量中的至少一项,确定或得出所述待预测采样的预测结果。

可选地,处理设备在从上述的参考区域中确定出权重参数之后,即可进一步将该权重参数、该权重参数对应的第一采样、该第一采样的至少一个相邻采样、该第一采样的至少一个非相邻采样,和,该第一采样的至少一个梯度分量中一项或者多项,代入到对应的帧内预测模式进行计算,以确定或得出该待预测采样的色度预测结果或者亮度预测结果。

可选地,处理设备可以利用至少一种帧内预测模式来确定待预测采样的色度预测结果或者亮度预测结果。可选地,至少一种帧内预测模式可以为至少一种CCCM模式和/或至少一种非CCCM模式。

可选地,如图14所示,解码端的处理设备通过解析第一标志,即可确定是否使用CCCM模式。例如,若第一标志为0,则不使用CCCM模式;和/或,若第一标志为1,则使用CCCM模式。而处理设备在确定不使用CCCM模式时即使用非CCCM模式。在此情况下,处理设备即进一步解析第二标志,以确定具体使用哪一种非CCCM模式(例如,第一非CCCM模式)。接下来,处理设备即可使用该第一非CCCM模式,确定得出待预测采样的色度预测结果或者亮度预测结果。在另一种情况下,若处理设备确定使用CCCM模式,则同样的也进一步解析第三标志,以确定具体使用哪一种CCCM模式(例如,第一CCCM模式)。接下来,处理设备即可使用该第一CCCM模式,将通过上述的权重参数代入,以确定得出待预测采样的色度预测结果或者亮度预测结果。

可选地,处理设备还可以利用除开上述公式(1)所示预测模型之外的其他预测模型,来确定或得出待预测采样的预测值。例如,处理设备可以根据下述公式(3)和/或公式(4)所示的预测模型来确定待预测采样的预测值。

predChromaVal=c0*C + c1*Gy + c2*Gx + c3*Y + c4*X + c5*P + c6*B公式(3)

其中,Gy =(2N + NW + NE)–(2S + SW + SE),Gx =(2W + NW + SW)–(2E + NE +SE)。Y为待预测采样对应的亮度/色度采样C的垂直位置,X为待预测采样对应的亮度/色度采样C的水平位置。P为非线性项,其表示为待预测采样对应的亮度/色度采样C的平方,并被缩放至位深度范围。即,P = ( C*C + midVal )>>bitDepth;bitDepth为采样对应的位深度,“>>”为右移位符号。例如,对于10比特视频内容,P通过“P = ( C*C + 512 )>>10”计算得到。B为偏置项,其表示在输入和输出之间的标量偏移,在视频编码标准中,对于10比特视频内容,其被设置为色度值512。

predChromaVal=c0*C + c1*L1 + c2*L2+ c3*A1 + c4*A2 + c5*P + c6*B公式(4)

其中,L1为与待预测采样对应的亮度采样左相邻的亮度采样,L2为与当前待预测采样的左侧相邻的亮度块的边缘上,与待预测采样对应的亮度采样水平方向上的亮度采样,A1为与待预测采样对应的亮度采样上相邻的亮度采样,L2为与当前待预测采样的上方相邻的亮度块的边缘上,与待预测采样对应的亮度采样垂直方向上的亮度采样。

可选地,L1为与待预测采样对应的色度采样左相邻的色度采样,L2为与当前待预测采样的左侧相邻的色度块的边缘上,与待预测采样对应的色度采样水平方向上的色度采样,A1为与待预测采样对应的色度采样上相邻的色度采样,L2为与当前待预测采样的上方相邻的色度块的边缘上,与待预测采样对应的色度采样垂直方向上的色度采样。

在本实施例中,处理设备通过选择不同的梯度算法对应的模式来预测计算待预测采样的色度/亮度,从而能够进一步提高图像编解码过程中对图像块进行色度预测的准确度。可选地,处理设备还可以通过将CCCM中的计算预测色度/亮度值的公式中的梯度分量的计算过程进行改进,以利用待预测采样的同位亮度/色度采样左侧、上方、和/或左上方亮度/色度采样来计算梯度分量。如此,处理设备即可在该同位亮度/色度采样右侧、下方和/或右下方亮度/色度采样不可用时,仍能进行梯度分量的计算以进行色度预测。可选地,处理设备还可以逐采样计算待预测采样的预测值。例如,处理设备可不必等当前亮度块中所有的采样都计算完成(至少是亮度都计算完成)后,才可以在依次计算对当前亮度块对应的色度块的采样值,而是可以紧跟在计算完当前亮度块的一个亮度采样值之后,马上进行该亮度采样值对应的色度采样值的计算。

本申请实施例还提供一种处理设备,包括存储器、处理器,存储器上存储有图像处理程序,图像处理程序被处理器执行时实现上述任一实施例中的图像处理方法的步骤。

本申请还提供一种存储介质,存储介质上存储有图像处理程序,图像处理程序被处理器执行时实现上述任一实施例中的图像处理方法的步骤。

在本申请提供的智能终端和存储介质的实施例中,可以包含任一上述图像处理方法实施例的全部技术特征,说明书拓展和解释内容与上述方法的各实施例基本相同,在此不再做赘述。

本申请实施例还提供一种计算机程序产品,计算机程序产品包括计算机程序代码,当计算机程序代码在计算机上运行时,使得计算机执行如上各种可能的实施方式中的方法。

本申请实施例还提供一种芯片,包括存储器和处理器,存储器用于存储计算机程序,处理器用于从存储器中调用并运行计算机程序,使得安装有芯片的设备执行如上各种可能的实施方式中的方法。

可以理解,上述场景仅是作为示例,并不构成对于本申请实施例提供的技术方案的应用场景的限定,本申请的技术方案还可应用于其他场景。例如,本领域普通技术人员可知,随着系统架构的演变和新业务场景的出现,本申请实施例提供的技术方案对于类似的技术问题,同样适用。

上述本申请实施例序号仅仅为了描述,不代表实施例的优劣。

本申请实施例方法中的步骤可以根据实际需要进行顺序调整、合并和删减。

本申请实施例设备中的单元可以根据实际需要进行合并、划分和删减。

在本申请中,对于相同或相似的术语概念、技术方案和/或应用场景描述,一般只在第一次出现时进行详细描述,后面再重复出现时,为了简洁,一般未再重复阐述,在理解本申请技术方案等内容时,对于在后未详细描述的相同或相似的术语概念、技术方案和/或应用场景描述等,可以参考其之前的相关详细描述。

在本申请中,对各个实施例的描述都各有侧重,某个实施例中没有详述或记载的部分,可以参见其它实施例的相关描述。

本申请技术方案的各技术特征可以进行任意的组合,为使描述简洁,未对上述实施例中的各个技术特征所有可能的组合都进行描述,然而,只要这些技术特征的组合不存在矛盾,都应当认为是本申请记载的范围。

通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件,但很多情况下前者是更佳的实施方式。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在如上的一个存储介质(如ROM/RAM、磁碟、光盘)中,包括若干指令用以使得一台终端设备(可以是手机,计算机,服务器,被控终端,或者网络设备等)执行本申请每个实施例的方法。

在上述实施例中,可以全部或部分地通过软件、硬件、固件或者其任意组合来实现。当使用软件实现时,可以全部或部分地以计算机程序产品的形式实现。计算机程序产品包括一个或多个计算机指令。在计算机上加载和执行计算机程序指令时,全部或部分地产生按照本申请实施例的流程或功能。计算机可以是通用计算机、专用计算机、计算机网络,或者其他可编程装置。计算机指令可以存储在存储介质中,或者从一个存储介质向另一个存储介质传输,例如,计算机指令可以从一个网站站点、计算机、服务器或数据中心通过有线(例如同轴电缆、光纤、数字用户线)或无线(例如红外、无线、微波等)方式向另一个网站站点、计算机、服务器或数据中心进行传输。存储介质可以是计算机能够存取的任何可用介质或者是包含一个或多个可用介质集成的服务器、数据中心等数据存储设备。可用介质可以是磁性介质,(例如,软盘、存储盘、磁带)、光介质(例如,DVD),或者半导体介质(例如固态存储盘Solid State Disk (SSD))等。

以上仅为本申请的优选实施例,并非因此限制本申请的专利范围,凡是利用本申请说明书及附图内容所作的等效结构或等效流程变换,或直接或间接运用在其他相关的技术领域,均同理包括在本申请的专利保护范围内。

相关技术
  • 基于图像识别的图像处理方法、装置、设备及存储介质
  • 图像处理方法、手术导航设备、电子设备、存储介质
  • 全景图像数据处理方法、处理设备及存储介质
  • 用于摄像画图机的图像处理方法、系统、设备和存储介质
  • 夜景图像处理方法、装置、电子设备及存储介质
  • 图像处理设备、图像拾取设备、图像处理方法、图像处理程序以及存储介质
  • 图像处理设备、图像拾取设备、图像处理方法、图像处理程序以及存储介质
技术分类

06120115930995