掌桥专利:专业的专利平台
掌桥专利
首页

用于点云压缩的编码方法及电子装置

文献发布时间:2023-06-19 19:28:50


用于点云压缩的编码方法及电子装置

技术领域

本公开涉及一种用于点云压缩的编码方法及电子装置。

背景技术

在现有技术中,常使用点云(Point Cloud)来处理三维空间中的内容。由于点云具有渲染对象或场景的能力,因此点云可以用于许多场景,例如虚拟现实、实时远程临场(Real-time telepresence)或一些其他应用程序。点云是三维空间中的多个点,且每一个点具有位置信息、色彩信息或其他的信息。点云本身的数据量十分巨大,因此非常需要有效的数据压缩来拓展其应用范围。在已知的点云压缩(Point Cloud Compression,PCC)技术中,编码器会将点云的数据投影成多个拼贴(patch),并将其整合为二维图像而有利于应用现有的视频压缩技术。之后,编码器可以根据整合有多个拼贴的二维图像来产生压缩数据。译码器可以根据压缩数据获得拼贴,并根据所获得的拼贴重建(或还原)点云。

然而,为了将不规则形状的拼贴整合为二维图像,整合有多个拼贴的二维图像将填充有许多与点云数据本身无关的像素样本。如此一来,用于点云压缩的编码器将需要浪费大量位来编码二维图像中无意义的像素样本,因而对压缩效能带来不利影响。

发明内容

本公开提供一种用于点云压缩的编码方法与电子装置,其可有效提升点云数据的压缩效能。

本公开提供一种用于点云压缩的编码方法,包括下列步骤。获取点云的二维图像与占用图(occupancy map)。根据占用图决定二维图像中各像素样本的点云数据占用状态。根据二维图像中多个像素样本的点云数据占用状态,决定二维图像的编码块(codingblock)中各像素样本的权重参数。根据编码块中各像素样本的权重参数计算分别对应于多个编码操作选项的多个比特率失真成本(RD cost)。根据多个比特率失真成本其中的最小比特率失真成本,决定使用多个编码操作选项其中之一来对编码块进行编码操作。

本公开提供一种电子装置,包括一存储装置与处理器。存储装置记录有多个指令。处理器耦接所述存储装置,存取所述指令以执行下列步骤。获取点云的二维图像与占用图。根据占用图决定二维图像中各像素样本的点云数据占用状态。根据二维图像中多个像素样本的点云数据占用状态,决定二维图像的编码块中各像素样本的权重参数。根据编码块中各像素样本的权重参数计算分别对应于多个编码操作选项的多个比特率失真成本。根据多个比特率失真成本其中的最小比特率失真成本,决定使用多个编码操作选项其中之一来对编码块进行一编码操作。

基于上述,本公开实施例用于点云压缩的编码方法可依据点云的占用图决定二维图像中多个像素样本的点云数据占用状态,并根据这些像素样本的点云数据占用状态来决定编码块中各个像素样本所对应的权重参数。之后,依据编码块中各个像素样本所对应的权重参数来计算分别对应于多个编码操作选项的多个比特率失真成本,并决定应用对应于最小比特率失真成本的编码操作选项来对编码块进行编码操作。因此,可有效节省压缩后比特流的比特数,提高点云压缩效能。

附图说明

图1是依据本发明一实施例绘示的点云压缩机制示意图;

图2是依据本发明一实施例绘示用于点云压缩的电子装置的示意图;

图3是依据本发明一实施例绘示的用于点云压缩的编码方法的流程图;

图4是依据本发明一实施例绘示的用于点云压缩的编码方法的示意图;

图5是依据本发明一实施例绘示的占用遮罩的示意图;

图6是依据本发明一实施例绘示的编码二维图像的流程图;

图7是依据本发明一实施例绘示的帧内预测的流程图;

图8是依据本发明一实施例绘示的帧间预测的流程图;

图9是依据本发明一实施例绘示的设定量化参数的示意图;

图10是依据本发明一实施例绘示的设定量化参数的流程图;

图11是依据本发明一实施例绘示的环路滤波中进行样本填充处理的示意图;

图12是依据本发明一实施例绘示的环路滤波处理的流程图。

附图标记说明

11,16:点云;

12:定界框;

13a,15a,OM41,OM2:占用图;

13b,15b:几何图;

13c,15c:属性图;

14:比特流;

P1~P6:点云拼贴;

100:电子装置;

110:处理器;

120:存储装置;

Img41,Img11:二维图像;

42,P12:占用像素样本;

43,P11:未占用像素样本;

CB1~CB3,CB91,CB92:编码块;

46,47:像素样本;

R1,OR11:占用区域;

R2,OR12:未占用区域;

MR1~MR3:遮罩区域;

OMM1:占用遮罩;

Rd1,Rd2:残差块;

QP1,QP2:量化参数;

910,920:变换块;

F1:特定滤波区域;

S302~S310,S602~S614,S702~S710,S802~S810,S1002~S1010,S1202~S1206:步骤。

具体实施方式

现将详细地参考本发明的示范性实施例,示范性实施例的实例说明于附图中。只要有可能,相同组件符号在附图和描述中用来表示相同或相似部分。

请参照图1,其是依据本发明一实施例绘示的点云机制示意图。在图1中,点云(point cloud)11为一种特定空间中的数据点集合,并可用于呈现三维对象。点云11可包括多个点,其中这些点不一定具有特定的顺序,且点与点之间也不一定存在特定的关系。此外,点云11中的各个点具有对应的几何信息(例如点在三维空间中的坐标)及属性信息(例如颜色、反射率、透明度等)。

现行的点云压缩技术是将对应于在三维对象的点云11投影到定界框(boundingbox,BB)12的多个投影平面上,从而在这这些投影平面上形成多个点云拼贴(patch)P1~P6。在本实施例中,定界框12是以长方体为范例进行说明,但不限制于此。图1中,定界框12例如包括6个投影平面,而点云11中的每个点可因应于其法向量被投影至对应的投影平面上,从而在这6个投影平面上形成多个点云拼贴P1~P6。之后,通过整合这些点云拼贴P1~P6,可产生点云11的占用图(occupancy map)13a与多张二维图像。上述二维图像可包括几何图(geometry map)13b及属性图(attribute map)13c。

在图1中,占用图13a例如是仅包括1与0的位图。占用图13a可包括至少一占用区域(例如,由1组成的区域)以及至少一未占用区域(例如,由0成的区域)。其中,占用图13a上的占用区域用以表示点云拼贴于前述二维图像上具有点云数据的区域。相反地,占用图13a上的未占用区域用以表示点云拼贴于前述二维图像上不具有点云数据的区域。换句话说,占用图13a的每个占用区域用以指示出几何图13b及属性图13c上对应的占用区域,而几何图13b及属性图13c的这些占用区域用于记录对应的点云拼贴的几何信息及属性信息。此外,当整合这些点云拼贴来产生二维图像时,可应用扩充(dilation)算法或填充(padding)算法来建立点云拼贴以外区域的内容,以维持画面内容的连续性。

之后,编码器可利用视频编码标准将占用图13a、几何图13b及属性图13c编码为比特流14。对应的,译码器可基于比特流14而得到经还原的占用图15a、几何图15b及属性图15c。之后,译码器可再基于占用图15a、几何图15b及属性图15c而在三维空间中重建各点云拼贴,而重建后的各点云拼贴可形成重建点云16。上述视频编码标准例如是H.264、HEVC或H.266等等,本公开对此不限制。

需特别说明的是,在一些实施例中,当利用视频编码标准来压缩点云11的二维图像时,可根据比特率失真优化(Rate-Distortion Optimization,RDO)机制来决定编码块的分割模式、编码模式或其他编码操作选项。考虑到点云11的二维图像具有无意义像素样本(即与点云数据无关的像素样本),通过参考占用图13a,本公开将基于二维图像上各个像素样本的点云数据占用状态来计算比特率失真成本(Rate-Distortion Cost,RD cost)。基此,本公开可忽略这些无意义像素样本的失真情况,以达成使用较少比特数编码点云的二维图像的结果,从而提高点云压缩效能。

图2是依据本发明一实施例绘示用于点云压缩的电子装置的示意图。请参照图2,电子装置100可包含处理器110以及存储装置120。

处理器110例如是中央处理单元(central processing unit,CPU),或是其他可编程之一般用途或特殊用途的微控制单元(micro control unit,MCU)、微处理器(microprocessor)、数字信号处理器(digital signal processor,DSP)、可编程控制器、特殊应用集成电路(application specific integrated circuit,ASIC)、图形处理器(graphics processing unit,GPU)、图像信号处理器(image signal processor,ISP)、图像处理单元(image processing unit,IPU)、算数逻辑单元(arithmetic logic unit,ALU)、复杂可编程逻辑装置(complex programmable logic device,CPLD)、现场可编程逻辑门阵列(field programmable gate array,FPGA)或其他类似组件或上述组件的组合。处理器110可耦接至存储装置120,并且存取和执行存储在存储装置120中的多个指令、程序代码、软件模块或各种应用程序,以实现本公开提出的用于点云压缩的编码方法,其细节详述如下。亦即,电子装置100可视为一编码器装置。

存储装置120例如是任何类型的固定式或可移动式的随机存取内存(randomaccess memory,RAM)、只读存储器(read-only memory,ROM)、闪存(flash memory)、硬盘(hard disk drive,HDD)、固态硬盘(solid state drive,SSD)或类似组件或上述组件的组合,而用于存储可由处理器110执行的多个指令、程序代码、软件模块或各种应用程序。

图3是依据本发明一实施例绘示的用于点云压缩的编码方法的流程图。请参照图3,本实施例的方法可由图2的电子装置100执行,以下即搭配图2所示的组件说明图3各步骤的细节。

在本实施例中,处理器130可先基于图1所示的机制将点云中的各个点投影至对应的投影平面,以形成多个点云拼贴,并进一步产生点云的占用图与二维图像。之后,处理器130可利用占用图对二维图像执行图3所示的方法,以将包括点云拼贴的二维图像进行编码,其细节详述如下。

首先,在步骤S302中,处理器110获取点云的二维图像与占用图。二维图像可包括点云的几何图或属性图。

在步骤S304中,处理器110根据占用图决定二维图像中各像素样本的点云数据占用状态。具体而言,若某一像素样本的点云数据占用状态为占用状态,代表此像素样本为包括点云拼贴数据的占用像素样本。若某一像素样本的点云数据占用状态为未占用状态,代表此像素样本为不包括点云拼贴数据的未占用像素样本。换句话说,通过参考占用图,处理器110可将二维图像中各像素样本分类为占用像素样本(Occupied sample)或未占用像素样本(Unoccupied sample)。

在步骤S306中,处理器110根据二维图像中多个像素样本的点云数据占用状态,决定二维图像的编码块中各像素样本的权重参数。编码块中各像素样本的权重参数将用来计算不同编码操作选项所对应的比特率失真成本。

在一些实施例中,若二维图像中第一像素样本的点云数据占用状态为占用状态,编码块中第一像素样本的权重参数为第一值。另一方面,若二维图像中第一像素样本的点云数据占用状态为未占用状态,编码块中第一像素样本的权重参数为第二值。第一值相异于第二值。在一些实施例中,第一值为1,而第二值为0。具体而言,若编码块中的第一像素是与点云数据相关的占用像素样本,处理器110可将此第一像素的权重参数配置为1。若编码块中的第一像素是与点云数据无关的未占用像素样本,处理器110可将此第一像素的权重参数配置为0。

在步骤S308中,处理器110根据编码块中各像素样本的权重参数计算分别对应于多个编码操作选项的多个比特率失真成本。换句话说,当要对一个编码块进行编码时,处理器110可获取此编码块中各像素样本的权重参数,并根据各像素样本的权重参数计算对应于多个编码操作选项的多个比特率失真成本,以获取分别对应于多个编码操作选项的多个比特率失真成本。

在一些实施例中,多个比特率失真成本表可分别表征为下列公式(1)。

其中,J为对应至某一编码操作选项的比特率失真成本;i为像素样本索引;N为编码块的像素样本数量;M

最后,在步骤S310中,处理器110根据多个比特率失真成本其中的最小比特率失真成本,决定使用多个编码操作选项其中之一来对编码块进行一编码操作。具体而言,在处理器110计算出对应至不同编码操作选项的多个比特率失真成本之后,处理器110可获取最小比特率失真成本。接着,处理器110可决定使用最小比特率失真成本所对应的一优选编码操作选项来对编码块进行编码操作。也就是说,在本公开实施例中,在任何应用比特率失真优化(Rate-Distortion Optimization,RDO)机制来选择编码操作选项的应用情境之中,处理器110都可参照各像素样本的权重参数来计算比特率失真成本。

在一些实施例中,上述多个编码操作选项可包括多个帧内预测(Intraprediction)模式,例如是HEVC标准所制定的35种帧内预测模式。此35种帧内预测模式可包括DC预测模式,Planar预测模式,以及33种角度预测模式。此外,上述多个编码操作选项也可包括帧内预测模式下的分割模式,例如2N*2N与N*N。

在一些实施例中,上述多个编码操作选项可包括帧间预测(Intra prediction)模式中的多个移动向量。上述移动向量可以是对应至整数精度搜寻的移动向量或对应至分数精度搜寻的移动向量。此外,上述多个编码操作选项可包括帧间预测模式下的分割模式,例如2N*2N、N*N、2N*N、N*2N、2N*nU、2N*nD、nL*2N以及nR*2N。

图4是依据本发明一实施例绘示的用于点云压缩的编码方法的示意图。请参照图4,处理器110可根据占用图OM41将二维图像Img41的各像素样本分类为占用像素样本42与未占用像素样本43。图4中,编码块CB1中各像素样本的点云数据占用状态都是占用状态(亦即编码块CB1中所有像素样本都属于占用像素样本42)。因此,编码块CB1可被区分为全占用区块,且处理器110可将编码块CB1中所有像素样本的权重参数Mi都设定为1。于是,当处理器110要对编码块CB1进行压缩编码的时候,处理器110可将CB1中各像素样本的权重参数Mi=1代入公式(1)来计算对应至各个编码选项操作的比特率失真成本。

此外,编码块CB2中各像素样本的点云数据占用状态都是未占用状态(亦即编码块CB2中所有像素样本都属于未占用像素样本43)。因此,编码块CB1可被区分为未占用区块,且处理器110可将编码块CB2中所有像素样本的权重参数Mi都设定为0。于是,当处理器110要对编码块CB2进行压缩编码的时候,处理器110可将编码块CB2中各像素样本的权重参数Mi=0代入公式(1)来计算对应至不同编码选项操作的比特率失真成本。也就是说,当要计算编码块CB2的比特率失真成本时,处理器110将不考虑这些未占用像素本的失真。

须特别注意的是,编码块CB3中部分像素样本46的点云数据占用状态是占用状态而另一部分像素样本47的点云数据占用状态是未占用状态(亦即编码块CB3中部分像素样本46属于占用像素样本42且另一部分像素样本47属于未占用像素样本43)。因此,编码块CB3可被区分为局部占用区块。在一些实施例中,若编码块CB3中第一像素样本的点云数据占用状态为占用状态,处理器110决定编码块CB3中第一像素样本的权重参数为第一值(例如1)。若编码块CB3中第一像素样本的点云数据占用状态为未占用状态,处理器110决定编码块CB3中第一像素样本的权重参数为第二值(例如0)。于是,当处理器110要对编码块CB3进行压缩编码的时候,处理器110可将CB2中部分像素样本46的权重参数Mi=1以及另一部分像素样本47的权重参数Mi=0代入公式(1),来计算对应至不同编码选项操作的比特率失真成本。

在一些实施例中,处理器110可根据二维图像中多个像素样本的点云数据占用状态,将编码块区分为全占用区块(例如图4的CB1)、局部占用区块(例如图4的CB3)或未占用区块(例如图4的CB2)。若编码块为全占用区块,处理器110可决定编码块中各像素样本的权重参数为第一值。若编码块为未占用区块,处理器110可决定编码块中各像素样本的权重参数为第二值。第一值相异于第二值。须注意的是,若编码块为局部占用区块,处理器110可根据编码块中各像素样本的点云数据占用状态或样本特性,决定二维图像的编码块中各像素样本的权重参数。

举例而言,于图4的范例中,针对局部占用区块,处理器110依据局部占用区块中各像素样本是占用像素样本或未占用像素样本来分别决定各像素样本的权重参数是1或0。或者,在一些实施例中,针对局部占用区块,处理器110可根据编码块中各像素样本的样本特性来决定各像素样本的权重参数。样本特性包括样本位置、样本颜色、邻近区域的占用像素样本数量、样本梯度、样本深度或其组合。

在一些实施例中,处理器110可参照占用图来建立用以指示二维图像中各像素样本的点云数据占用状态的占用遮罩。并且,占用遮罩可记录对应于二维图像中各像素样本的重要性标志。占用遮罩可包括多个遮罩区域。在一些实施例中,占用遮罩中的第一遮罩区域中各像素样本的重要性标志为第一标志值,占用遮罩中的第二遮罩区域中各像素样本的重要性标志为第二标志值,占用遮罩中的第三遮罩区域中各像素样本的重要性标志为第三标志值。如此一来,处理器110可通过参照占用遮罩来获取编码块中各像素样本的重要性标志,并根据此重要性标志决定各像素样本的权重参数。

图5是依据本发明一实施例绘示的占用遮罩的示意图。请参照图5,处理器110可根据占用图OM2来产生占用遮罩OMM1。占用遮罩OMM1可包括第一遮罩区域MR1、第二遮罩区域MR2以及第三遮罩区域MR3(这些遮罩区域分别以不同底纹绘示)。占用图OM2包括占用区域R1以及未占用区域R2(占用区域与未占用区域分别以不同底纹绘示)。对应的,第一遮罩区域MR1对应于占用区域R1,且第一遮罩区域MR1中的重要性标志可设定为第一标志值(例如为2)。也就是说,第一遮罩区域MR1为对应至包括点云拼贴数据的区域。

此外,占用遮罩OMM1的第二遮罩区域MR2以及第三遮罩区域MR3对应于未占用区域R2。第二遮罩区域MR2连接于第一遮罩区域MR1与第三遮罩区域MR3之间。第二遮罩区域MR2位于第一遮罩区域MR1的边缘上,第二遮罩区域MR2为编码预测操作中产生预测块可能会参考的区域。第二遮罩区域MR2的区域范围可视实际应用来配置,本公开对此不限制。第二遮罩区域MR2中的重要性标志可设定为第二标志值(例如为1)。第三遮罩区域MR3中的重要性标志可设定为第三标志值(例如为0)。

于是,通过参考占用遮罩OMM1,处理器110可获取二维图像上各像素样本的权重参数。在一些实施例中,当某一像素样本的重要性标志为2(Flag=2)时,处理器110可将此像素样本的权重参数设定为1。当某一像素样本的重要性标志为1或0(Flag=1或0)时,处理器110可将此像素样本的权重参数设定为0。

在一些实施例中,各个像素样本的重要性标志不仅可用来决定权重参数,还可用来决定编码过程的量化参数或残差信息保留量。换句话说,本公开不仅可考虑像素样本的点云数据占用状态来挑选编码操作选项,本公开还可考虑像素样本的点云数据占用状态来决定用以量化变换系数的量化参数或残差信息保留量。以下将列举实施例来说明。

图6是依据本发明一实施例绘示的编码二维图像的流程图。处理器110可将点云的二维图像分割为多个编码块。请参照图6,在步骤S602,处理器110可进行编码块的帧内预测或帧间预测而产生预测块。

在一些实施例中,所述编码操作选项可包括多种预测模式。在执行编码块的帧内预测或帧间预测(步骤S602)时,处理器110可利用多种预测模式进行预编码处理,以根据公式(1)获取每一种预测模式所对应的比特率失真成本。上述多种预测模式可包括多种帧间预测模式和/或多种帧内预测模式。于是,处理器110可从所得到的多个比特率失真代成本中选取最小比特率失真成本,并将该最小比特率失真成本对应的预测模式确定为当前编码块的优选预测模式。之后,处理器110可根据基于多个比特率失真代成本而决定的优选预测模式来对编码块进行帧内预测或帧间预测。

图7是依据本发明一实施例绘示的帧内预测的流程图。请参照图7,在步骤S702,处理器110获取点云的二维图像中的原始编码块。在步骤S704,处理器110可根据点云的占用图决定二维图像中各像素样本的点云数据占用状态。在步骤S706,处理器110可根据编码块中各像素样本的点云数据占用状态获取编码块中各像素样本的权重参数。在步骤S708,处理器110可利用多种帧内预测模式与帧内预测的多种分割模式来进行预编码处理,并根据编码块中各像素样本的权重参数计算这些帧内预测模式与这些分割模式分别对应的比特率失真成本。详细来说,处理器110可利用多种帧内预测模式与帧内预测的多种分割模式来产生对应的预测块,并根据这些预测块与编码块的真实值的差异与各像素样本的权重参数来计算对应的比特率失真成本。在步骤S710,处理器110可根据这些比特率失真成本决定优选的帧内预测模式与优选的分割模式。

举例而言,处理器110可利用公式(2)来决定优选的角度预测模式。

其中,J为对应至多种角度预测模式的比特率失真成本;i为像素样本索引;N为编码块的像素样本数量;M

在一些实施例中,于执行帧内预测的过程中,当邻近编码块的某一参考像素样本所对应的重要性标志为1或0时,处理器110可将该参考像素样本设定为不可用(unavailable)。当某一参考像素样本被设定为不可用,处理器110去搜寻其他可用的参考像素样本进行帧内预测,或执行参考像素的替换程序(Substitution process)。

图8是依据本发明一实施例绘示的帧间预测的流程图。请参照图8,在步骤S802,处理器110获取点云的二维图像中的原始编码块。在步骤S804,处理器110可根据点云的占用图决定二维图像中各像素样本的点云数据占用状态。在步骤S806,处理器110可根据编码块中各像素样本的点云数据占用状态获取编码块中各像素样本的权重参数。在步骤S808,处理器110可利用帧间预测的多种分割模式来进行预编码处理,并根据编码块中各像素样本的权重参数计算这些分割模式分别对应的比特率失真成本。详细来说,处理器110可利用帧间预测的多种分割模式来产生对应的预测块,并根据这些预测块与编码块的真实值的差异与各像素样本的权重参数来计算对应的比特率失真成本。在步骤S810,处理器110可根据这些比特率失真成本决定帧间预测的优选分割模式。帧间预测的多种分割模式可包括2N*2N、N*N、2N*N、N*2N、2N*nU、2N*nD、nL*2N以及nR*2N。

此外,在一些实施例中,处理器110也可根据应用权重参数的比特率失真成本来决定帧间预测的移动向量。具体而言,当处理器110搜寻参考画面中的匹配参考区块以决定移动向量的时候,处理器110可计算多个候选区块与当前编码块之间的差异,以计算对应至多个移动向量的比特率失真成本。或者,在一些实施例中,处理器110也可根据应用权重参数的比特率失真成本来决定帧间预测的参考画面。

举例而言,处理器110可利用公式(3)来决定整数精度下的优选移动向量。

其中,J为对应至多个移动向量MV

此外,处理器110可利用公式(4)来决定分数精度下的优选移动向量。

其中,J为对应至多个移动向量MV

回到图6,在步骤S604,处理器110可将预测块与二维图像的真实数据块进行相减以获取残差块。步骤S606,处理器110可对残差块进行DCT变换与量化,以产生经量化变换系数。更进一步而言,在一些实施例中,处理器110可使用量化参数(QuantizationParameter,QP)决定量化步阶(Quantization Step Size,QStep)的大小。量化参数与量化步阶具有正相关关系。量化步阶越小,图像质量越好,但压缩率越不好。量化步阶越大,图像质量越差,但压缩率越好。处理器110可根据量化参数对应的量化步阶来对变换系数进行量化。此外,在一些实施例中,处理器110可使用量化参数决定量化矩阵,并利用量化矩阵来量化变换系数。

前述实施例已经说明,本公开可根据占用图来设定像素样本的重要性标志与权重参数,以根据像素样本的权重参数来计算不同编码操作选项的比特率失真成本。在一些实施例中,本公开还可根据像素样本的重要性标志来决定残差块的处理方式。

在一些实施例中,处理器110可根据编码块中多个像素样本各自的重要性标志决定量化参数。量化参数用以量化变换单元的变换系数。处理器110可根据编码块中各像素样本的重要性标志决定变换单元的系数保留数目。

在一些实施例中,若编码块中所有的像素样本的重要性标志为第一标志值(例如2)或第二标志值(例如1),处理器110可使用第一量化参数对编码块的残差值进行量化,并保留M个变换系数。若编码块中所有的像素样本的重要性标志为第三标志值(例如0),处理器110可使用第二量化参数对编码块的残差值进行量化,并保留N个变换系数。其中,第二量化参数大于第一量化参数,M与N为正整数,且M大于N。

举例而言,图9是依据本发明一实施例绘示的设定量化参数的示意图。请参照图9,残差块Rd1对应至编码块CB91,通过参照占用遮罩,处理器110可确认编码块CB91中所有的像素样本的重要性标志为2,亦即编码块CB91中所有的像素样本都是占用像素样本。也就是说,残差块Rd1是对应于占用遮罩中的第一遮照区域,亦即对应于占用图中的占用区域。于是,在对残差块Rd1进行DCT变换之后,处理器110可根据编码块CB91中各像素样本的重要性标志来使用第一量化参数QP1对变换系数进行量化,进而获取量化后的变换块910。变换块910可包括多个经量化的变换系数。之后,处理器110可从变换块910保留M个变换系数来进行熵编码。在图9中,被保留的变换系数以点格底纹标示,M等于21。

另一方面,残差块Rd2对应至编码块CB92,通过参照占用遮罩,处理器110可确认编码块CB92中所有的像素样本的重要性标志为0,亦即编码块CB91中所有的像素样本都是未占用像素样本。也就是说,残差块Rd1是对应于占用遮罩中的第三遮照区域,亦即对应于占用图中的未占用区域。于是,在对残差块Rd2进行DCT变换之后,处理器110可根据编码块CB92中各像素样本的重要性标志来使用第二量化参数QP2对变换系数进行量化,进而获取量化后的变换块920。变换块920可包括多个经量化的变换系数。之后,处理器110可从变换块920保留N个变换系数来进行熵编码。在图9中,N等于1。也就是说,对于点云的二维图像中不重要的像素样本,处理器110可以较大的量化参数并保留较少的残差信息来进行编码,从而节省编码比特数。

此外,在一些实施例中,若编码块同时包括对应至第一标志值“2”、第二标志值“1”与第三标志值“0”的多个像素样本,处理器110可根据样本特性来决定量化参数。样本特性包括样本位置、样本颜色、邻近区域的占用像素样本数量、样本梯度、样本深度或其组合。或者,在一些实施例中,若编码块为局部占用区块,处理器110可根据这些像素样本的重要性旗目标统计结果来决定量化参数。

图10是依据本发明一实施例绘示的设定量化参数的流程图。请参照图10,在步骤S1002,处理器110将编码块分割为多个变换单元。在步骤S1004,通过参照根据占用图而产生的占用遮罩,处理器110获取各变换单元中各像素样本的重要性标志。在步骤S1006,处理器110根据各变换单元中各像素样本的重要性标志决定各变换单元的量化参数与变换系数保留数目。在步骤S1008,处理器110针对各变换单元执行DCT变换,并根据各变换单元的量化参数来量化变换系数。在步骤S1010,处理器110根据各变换单元的变换系数保留数目保留经量化变换系数,并据以产生比特流。

回到图6,步骤S608,处理器110可对这些经量化变换系数进行熵编码,以产生比特流。此外,在步骤S610,处理器110可对经量化变换系数进行逆量化与逆变换,以产生重建残差块。在步骤S612,处理器110将重建残差块与预测块相加而产生重建块。在步骤S614,处理器110可对重建块进行环路滤波,环路滤波可包括去块滤波、自适应偏移(SAO)滤波、自我调整环路滤波模块(ALF)与其他类型的噪声抑制滤波。在步骤S616,处理器110可将经过环路滤波的重建块存储至经译码图像缓冲器,以作为下一帧二维图像执行帧间预测所须的参考画面。

在一些实施例中,于执行环路滤波处理的期间,处理器110可根据二维图像中多个像素样本的点云数据占用状态,对二维图像的重建图像中的多个未占用像素样本进行样本填充(Padding)处理。处理器110可对经过样本填充处理的重建图像进行环路滤波处理。藉此,可避免利用过度失真的像素样本来进行环路滤波处理。详细而言,当处理器110要对重建图像进行环路滤波时,根据二维图像中多个像素样本的点云数据占用状态与滤波遮罩的尺寸,处理器110可获取出跨越占用区域与未占用区域的特定滤波区域。此特定滤波区域包括多个未占用像素样本。于此,处理器110将利用重建图像中的占用像素样本来取代特定滤波区域中的未占用像素样本。

举例而言,图11是依据本发明一实施例绘示的环路滤波中进行样本填充处理的示意图。请参照图11,当处理器110要对重建图像Img11进行环路滤波时,处理器110可获取出跨越占用区域OR11与未占用区域OR12的特定滤波区域F1。此特定滤波区域F1包括多个未占用像素样本P11。于此,处理器110将利用重建图像Img11中的占用像素样本P12来取代特定滤波区域F1中的未占用像素样本P11。之后,处理器110可对对经过样本填充处理的重建图像进行环路滤波处理。

图12是依据本发明一实施例绘示的环路滤波处理的流程图。请参照图12,步骤S1202,处理器110可根据点云的占用图获取二维图像中多个像素样本的点云数据占用状态。从另一观点来看,处理器110可根据点云的占用图获取占用遮罩。之后,步骤S1204,处理器110可根据二维图像中多个像素样本的点云数据占用状态来进行样本填充处理以获取优化重建图像。之后,步骤S1206,处理器110可对优化重建图像进行环路滤波处理。

综上所述,本公开实施例的用于点云压缩的编码方法可根据点云的占用图来获取二维图像上多个像素样本的点云数据占用状态,而二维图像上多个像素样本的权重参数可根据其点云数据占用状态来设定。之后,当计算用以挑选编码操作选项的比特率失真成本时,可将像素样本的权重参数带入计算。基此,本公开可忽略未占用像素的失真情况来进行编码,从而节省编码位计数。此外,像素样本的重要性标志可根据点云数据占用状态来决定,且编码操作过程中所使用的量化参数与残差信息保留量也可根据像素样本的重要性标志来决定。藉此,本公开可更进一步节省更多编码位计数,因而提高点云编码效率。

最后应说明的是:以上各实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述各实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分或者全部技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的范围。

相关技术
  • 用于制冷剂压缩机的电子控制装置
  • 一种视频编码方法、解码方法、装置及电子设备
  • 电子电路装置及包括该电子电路装置的逆变器一体型电动压缩机
  • 用于光电子器件的功率谱的数据压缩的编码方法和解码方法
  • 用于光电子器件的功率谱的数据压缩的编码方法和解码方法
技术分类

06120115921044