掌桥专利:专业的专利平台
掌桥专利
首页

图像处理电路、方法、装置、芯片、电子设备及主控芯片

文献发布时间:2024-04-18 19:58:53


图像处理电路、方法、装置、芯片、电子设备及主控芯片

技术领域

本申请属于图像处理技术领域,具体涉及一种图像处理电路、方法、装置、芯片及、电子设备及主控芯片。

背景技术

目前,随着相机技术的发展,用户在日常生活中使用电子设备进行拍照的需求越来越大。由于拍摄过程中功耗较高,导致拍摄过程中无法叠加复杂的效果算法处理。因此,用户在获得拍摄图像后,需要使用后期图像编辑工具来对已拍摄图像进行后期处理,操作复杂且需要耗费大量时间。

发明内容

本申请实施例的目的是提供一种图像处理方法、装置及电子设备,能够利用图像处理芯片对拍照获得的第一图像进行处理,实现将图像处理芯片应用到拍照场景,在节省主控芯片功耗和性能的同时,能够优化拍照预览效果,避免后期复杂且耗费时间的图像处理。

第一方面,本申请实施例提供了一种图像处理电路,包括主控芯片和图像处理芯片,所述主控芯片与所述图像处理芯片连接;

所述主控芯片,用于对第一分辨率的第一图像进行分辨率调整处理,输出第二分辨率的第二图像,并将所述第二图像发送至所述图像处理芯片;其中,所述第二分辨率为所述图像处理芯片支持的分辨率,所述第一分辨率和所述第二分辨率不同;

所述图像处理芯片,用于对所述第二图像进行图像处理,输出第三图像;其中,所述第三图像的分辨率为第一分辨率或第二分辨率或第三分辨率或第四分辨率或显示单元支持的分辨率,所述第三分辨率小于所述第一分辨率,所述第四分辨率大于所述第一分辨率且小于所述第二分辨率。

第二方面,本申请实施例提供了一种图像处理装置,包括如第一方面所述的图像处理电路。

第三方面,本申请实施例提供了一种图像处理方法,该方法包括:

主控芯片对第一分辨率的第一图像进行分辨率调整处理,输出第二分辨率的第二图像,且将所述第二图像发送至图像处理芯片;其中,所述第二分辨率为所述图像处理芯片支持的分辨率,所述第一分辨率和所述第二分辨率不同;

所述图像处理芯片对所述第二图像进行图像处理,输出第三图像,其中,所述第三图像的分辨率为第一分辨率或第二分辨率或第三分辨率或第四分辨率或显示单元支持的分辨率,所述第三分辨率小于所述第一分辨率,所述第四分辨率大于所述第一分辨率且小于所述第二分辨率。

第四方面,本申请实施例提供了一种图像处理芯片,所述处理器芯片包括处理器和通信接口,所述通信接口和所述处理器耦合,所述通信接口用于传输图像数据,所述处理器用于运行程序或指令,实现如第三方面所述的图像处理方法中的图像处理芯片执行的步骤。

第五方面,本申请实施例提供了一种主控芯片,所述处理器芯片包括处理器和通信接口,所述通信接口和所述处理器耦合,所述通信接口用于传输图像数据,所述处理器用于运行程序或指令,实现如第三方面所述的图像处理方法中的图像处理芯片执行的步骤。

第六方面,本申请实施例提供了一种电子设备,该电子设备包括图像处理电路和存储器,所述存储器存储可在在图像处理电路中的主控芯片上运行的程序或指令,所述程序或指令被所述主控芯片执行时实现如第三方面所述的方法的步骤。

第七方面,本申请实施例提供了一种可读存储介质,所述可读存储介质上存储程序或指令,所述程序或指令被处理器执行时实现如第三方面所述的方法的步骤。

第八方面,本申请实施例提供一种计算机程序产品,该程序产品被存储在存储介质中,该程序产品被至少一个处理器执行以实现如第三方面所述的方法。

在本申请实施例中,通过对第一分辨率的第一图像进行分辨率调整处理,输出第二分辨率的第二图像,第二分辨率为所述图像处理芯片支持的分辨率,并将第二图像发送至图像处理芯片,通过图像处理芯片对第二图像进行图像处理,输出第三图像;其中,第三图像的分辨率为第一分辨率或第二分辨率。如此,能够利用外挂图像处理芯片对拍照获得的第一图像进行处理,实现将外挂图像处理芯片应用到拍照场景,在节省主控芯片功耗和性能的同时,能够优化拍照预览效果,避免后期复杂且耗费时间的图像处理。

附图说明

图1是本申请的一些实施例提供的图像处理电路的结构示意图;

图2是本申请的一些实施例提供的图像处理电路的结构示意图;

图3是本申请的一些实施例提供的图像处理数据流的示意图;

图4是本申请的一些实施例提供的图像处理数据流的示意图;

图5是本申请的一些实施例提供的图像处理数据流的示意图;

图6是本申请的一些实施例提供的图像处理数据流的示意图;

图7是本申请的一些实施例提供的图像处理数据流的示意图;

图8是本申请的一些实施例提供的图像处理数据流的示意图;

图9是本申请的一些实施例提供的图像处理数据流的示意图;

图10是本申请的一些实施例提供的图像处理数据流的示意图;

图11是本申请的一些实施例提供的图像处理数据流的示意图;

图12是本申请的一些实施例提供的图像处理数据流的示意图;

图13是本申请的一些实施例提供的图像处理数据流的示意图;

图14是本申请的一些实施例提供的图像处理数据流的示意图;

图15是本申请的一些实施例提供的图像处理数据流的示意图;

图16是本申请的一些实施例提供的图像处理数据流的示意图;

图17是本申请的一些实施例提供的图像处理数据流的示意图;

图18是本申请的一些实施例提供的图像处理方法的流程图;

图19是本申请的一些实施例提供的电子设备的结构框图;

图20是本申请实施例的电子设备的硬件结构示意图。

具体实施方式

下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚地描述,显然,所描述的实施例是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员获得的所有其他实施例,都属于本申请保护的范围。

本申请的说明书和权利要求书中的术语“第一”、“第二”等是用于区别类似的对象,而不用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便本申请的实施例能够以除了在这里图示或描述的那些以外的顺序实施,且“第一”、“第二”等所区分的对象通常为一类,并不限定对象的个数,例如第一对象可以是一个,也可以是多个。此外,说明书以及权利要求中“和/或”表示所连接对象的至少其中之一,字符“/”,一般表示前后关联对象是一种“或”的关系。

为了便于理解,先对本申请实施例中涉及的相关术语进行介绍。

主控芯片可以作为电子设备中的中央控制单元,用于实现各种控制逻辑,例如,所述主控芯片可以是应用芯片(Application Processor,AP)或系统级芯片(System onChip,SOC),例如高通888芯片,联发科DX-1芯片等。其中,所述主控芯片可以用于对图像数据进行常规的图像处理,例如,所述主控芯片可以对图像数据进行去噪、亮度调节、色彩调节等图像处理。

图像处理芯片可以是各种类型的图像处理芯片,且所述图像处理芯片作为主控芯片的外挂芯片,用于对图像进行增强处理。图像处理芯片可以用于对图像数据进行一些特殊的图像处理,例如,图像处理芯片可以用于对图像数据进行插帧、背景虚化、人像美颜等图像处理。

图像信号处理器(Image Signal Processing,ISP),位于主控芯片内部。

移动产业处理器接口(Mobile Industry Processor Interface,MIPI)是MIPI联盟发起的为移动应用处理器制定的开放标准和一个规范。方便上下游产品的开发,各自产品也便于融入市场。涉及的接口包括摄像头、显示屏、射频/基带、麦克风/喇叭等等。

RAW图,图像传感器采集的原始图像,摄影界也叫“生图”。

显示处理单元(Document Processing Unit,DPU),是显示效果增强的硬件,位于主控芯片内部。

需要指出的是,外挂图像处理芯片在设计时,如果要做到很好的通用性非常的困难。比如要支持输入所有分辨率,势必会提升外挂图像处理芯片的成本及额外的开发周期,带来更多风险。为了规避这些问题,外挂图像处理芯片往往针对特定的使用场景进行高度化的定制,这样势必造成兼容性较差,使用的场景受限。例如,将人像分割、AI depth、虚化、美颜全部硬化到外挂图像处理芯片中之后,可以将外挂图像处理芯片智能应用到人像录像模式,但由于外挂图像芯片普遍只能支持输入1920*1080和3840*2160分辨率,但是拍照场景输入图像的分辨率有多种,外挂图像处理芯片无法支持所有分辨率,因此无法将外挂图像处理芯片应用到人像拍照场景,导致外挂图像处理芯片的使用场景大大折扣。其中,AIdepth指的是基于NPU加速的单摄depth算法;人像分割指的是将输入的包含人像的图片中属于人像的像素点分割出来。

下面结合附图,通过具体的实施例及其应用场景对本申请实施例提供的图像处理方法进行详细地说明。

参见图1和图2,本申请提供一种图像处理电路,包括:主控芯片和图像处理芯片,主控芯片与图像处理芯片连接;

主控芯片,用于对第一分辨率的第一图像进行分辨率调整处理,输出第二分辨率的第二图像,并将第二图像发送至图像处理芯片;其中,第二分辨率为图像处理芯片支持的分辨率,第一分辨率和第二分辨率不同;

图像处理芯片,用于对第二图像进行图像处理,输出第三图像;其中,第三图像的分辨率为第一分辨率或第二分辨率或第三分辨率或第四分辨率或显示单元支持的分辨率,所述第三分辨率小于所述第一分辨率,所述第四分辨率大于所述第一分辨率且小于所述第二分辨率。

需要指出的是,图像处理芯片为外挂于主控芯片之外的芯片,主要是用于录像场景。可选地,图像处理芯片主要支持输入1920*1080和3840*2160两种分辨率的图像。也即,第二分辨率主要为1920*1080或3840*2160。

可选地,第一图像为通过图像信号处理器(Image Signal Processing,ISP)对原始图像进行处理后得到的第一分辨率的YUV图像,原始图像是图像传感器(Sensor)输出的,第一分辨率的宽高比是用户设置的。

其中,第一分辨率可以包括但不限于:1440*1080(4:3)、1080*1080(1:1)、2400*1080、1920*800、1280*960等。

具体实现时,图像传感器输出原始图像后,经过ISP进行处理,生成第一分辨率的YUV图像;进一步地,主控芯片将第一分辨率的YUV图像处理为第二分辨率的RGBA8888格式图像,并将第二分辨率的RGBA8888格式图像发送至图像处理芯片进行图像处理,之后将处理得到的第三图像经过surfaceFlinger组件发送给显示单元进行预览显示,如此一帧一帧的处理,实现预览图像的实时更新。其中,预览图像显示在拍摄预览界面上,在用户打开相机应用程序,运行相机应用程序后,显示单元显示拍摄预览界面。需要说明的是,上述surfaceFlinger组件是Android系统中的显示引擎,负责管理屏幕、窗口、图形等显示操作。

其中,图像处理芯片对第二分辨率的待处理图像进行的处理可以包括但不限于:高动态范围、降噪、插帧、超分、锐化、裁剪、色彩校正、美颜、虚化、人像分割等。

需要说明的是,本申请实施例中的图像处理电路可应用于拍摄预览场景,用于对图像传感器采集的图像帧进行实时图像处理。

上述实施例,由于图像处理芯片支持输入第二分辨率的图像,通过图像拉伸处理或图像内缩处理,将第一分辨率的第一图像调整为第二分辨率的第二图像,能够使外挂的图像处理芯片正常接收待处理的第二图像,进行后续的图像处理。如此,能够利用外挂图像处理芯片对拍照获得的第一图像进行图像处理,实现将外挂图像处理芯片应用到拍照场景,在节省主控芯片功耗和性能的同时,能够优化拍照预览效果,避免后期复杂且耗费时间的图像处理。

需要指出的是,若不将第一图像调整为外挂芯片所支持的分辨率,则第一图像无法被外挂图像处理芯片正常接收。

在一些实施例中,主控芯片包括:第一相机串行CSI接口、第一显示串行DSI发送接口、图像信号处理器ISP和显示处理单元DPU;第一CSI接口与ISP的输入端连接,ISP的输出端与DPU的输入端连接,DPU的输出端与第一DSI发送接口连接;

图像处理芯片包括:第一DSI接收接口和第二DSI发送接口,第一DSI发送接口与第一DSI接收接口连通形成第一传输通道;

主控芯片用于通过第一CSI接口,接收第一分辨率的第一图像;以及,通过ISP和DPU对所述第一图像进行分辨率调整处理,输出第二分辨率的第二图像,并通过第一传输通道,将第二图像传输至所述图像处理芯片;

图像处理芯片用于对第二图像进行图像处理,输出第三图像,并通过第二DSI发送接口,发送所述第三图像。

例如,图像传感器采集的待预览图像的分辨率为4096*3072,分辨率为4096*3072的待预览图像经主控芯片的第一CSI接口输入至ISP,由ISP根据用户设置行为,将待预览图像处理为第一分辨率的第一图像;进一步地,主控芯片再将第一分辨率的第一图像调整为第二分辨率的第二图像。需要指出的是,由于用户设置行为多样,第一分辨率有多种可能情况。如可以包括:1440*1080(4:3)、1080*1080(1:1)、2400*1080、1920*800、1280*960等。

示例性地,如图1中,主控芯片中的CSI0为第一相机串行CSI接口,DSI TX1为第一显示串行DSI发送接口,主控芯片中的CSI0与ISP的输入端连接,ISP的输出端与DPU的输入端连接,DPU的输出端与DSI TX1连接;图像处理芯片中的DSI RX1为第一DSI接收接口,DSITX0为第二DSI发送接口,DSI RX1与DSI TX1连通形成第一传输通道。第一分辨率的第一图像通过CSI0输入至主控芯片,经ISP和DPU对第一图像进行分辨率调整后,得到第二分辨率的第二图像,并通过第一传输通道将第二图像发送至图像处理芯片;经图像处理芯片获得的第三图像。示例性地,如图2中,主控芯片中的CSI0为第一相机串行CSI接口,DSI TX1为第一显示串行DSI发送接口,主控芯片中的CSI0与ISP的输入端连接,ISP的输出端与DPU的输入端连接,DPU的输出端与DSI TX1连接;图像处理芯片中的DSI RX1为第一DSI接收接口,DSI TX2为第二DSI发送接口,DSI TX1与DSI RX1连通形成第一传输通道。第一分辨率的第一图像通过CSI0输入至主控芯片,经ISP和DPU对第一图像进行分辨率调整后,得到第二分辨率的第二图像,并通过第一传输通道将第二图像发送至图像处理芯片,经图像处理芯片获得的第三图像。

需要指出的是,若第三图像为显示单元支持的分辨率,则可通过DSI TX0将第三图像发送至显示单元进行预览显示;若第三图像不是显示单元支持的分辨率,则将第三图像回传至主控芯片,通过主控芯片中的DPU进行分辨率调整处理,得到第四图像,第四图像为显示单元支持的分辨率,进一步将第四图像发送至显示单元进行预览显示。

在一些实施例中,在第一分辨率大于所述第二分辨率的情况下,分辨率调整处理包括:图像缩小处理和空白像素填充处理;或者,分辨率调整处理包括:图像内缩处理;

在所述第一分辨率小于所述第二分辨率的情况下,所述分辨率调整处理包括:图像放大处理和空白像素填充处理,或者,分辨率调整处理包括:空白像素填充处理,或者,分辨率调整处理包括:图像拉伸处理。

需要说明的是,图像缩小处理和图像放大处理指的是按照图像的宽和高所呈比例对图像进行缩小或放大处理,经过图像缩小处理或图像放大处理得到的图像,其宽和高所呈比例不变;图像拉伸处理和图像内缩处理会改变原始图像的宽和高所呈比例;空白像素填充指的是填充无效像素数据,例如0-255中的任意数值,0指白色像素,255指黑色像素。

上述实施例中,通过对第一图像进行分辨率调整处理,将第一分辨率的第一图像调整为图像处理芯片支持的第二分辨率的第二图像,如此,能够利用外挂的图像处理芯片对第二图像进行处理,在节省主控芯片功耗和性能的同时,能够优化拍照预览效果,避免后期复杂且耗费时间的图像处理。

在一些实施例中,在第一分辨率大于第二分辨率的情况下,第一分辨率为第一宽度*第一高度,第二分辨率为第二宽度*第二高度;第一宽度大于所述第二宽度,或者,第一高度大于所述第二高度,或者第一宽度大于第二宽度且第一高度大于第二高度;

主控芯片具体用于:

通过ISP对第一图像进行图像缩小处理,输出第一中间图像;

通过DPU对第一中间图像进行空白像素填充处理,输出所述第二图像;

其中,第一中间图像为第三分辨率,第三分辨率为第三宽度*第三高度,第三宽度等于第二宽度且第三高度小于第二高度,或者,第三宽度小于第二宽度且第三高度等于所述第二高度。

下面通过具体示例对第一分辨率大于第二分辨率的情况进行说明。

在本申请的一些实施例中,第一分辨率的高度和第二分辨率的高度相等,第一分辨率的宽度大于第二分辨率的宽度,示例性地,在第一分辨率为2400*1080,第二分辨率为1920*1080的情况下,参见图3,若图像传感器输出的待处理图像为4096*3072的RAW图像,ISP首先会根据用户设置行为将4096*3072的RAW图像处理为2400*1080的YUV图像,这里的2400*1080的YUV图像为第一分辨率的第一图像;之后,主控芯片再利用ISP对2400*1080的YUV图像进行图像缩小处理,输出一幅1920*864的YUV图像作为第一中间图像,并将第一中间图像输入至DPU,借助DPU可以指定画布任意区域的功能,设置DPU输出的图像分辨率大小为1920*1080,且输入的1920*864的YUV图像绘制在以左上角为原点的1920*864的区域。这样,在DPU输出的1920*1200的RGB888图像中包括:1920*120的元数据、实际待处理的图像部分为1920*864、1920*216的空白像素填充区域;进一步地,将1920*1200的RGB888图像输入至图像处理芯片进行图像处理,输出1920*864的YUV图像;将1920*864的YUV图像发送至主控芯片中的DPU,由DPU将1920*864的YUV图像调整至显示分辨率2400*1080,并将2400*1080的YUV图像发送至显示单元进行预览显示。

在本申请的一些实施例中,第一分辨率的高度大于第二分辨率的高度,第一分辨率的宽度小于第二分辨率的宽度。示例性地,在第一分辨率为1080*1280,第二分辨率为1920*1080的情况下,参见图4,若图像传感器输出的待处理图像为4096*3072的RAW图像,ISP首先会根据用户设置行为将4096*3072的RAW图像处理为1080*1280的YUV图像,这里的1080*1280的YUV图像为第一分辨率的第一图像;之后,主控芯片再利用ISP对1080*1280的YUV图像进行图像缩小处理,,输出一幅911*1080的YUV图像作为第一中间图像,并将第一中间图像输入至DPU,借助DPU可以指定画布任意区域的功能,设置DPU输出的图像分辨率大小为1920*1080,且输入的911*1080的YUV图像绘制在以左上角为原点的911*1080的区域。这样,在DPU输出的1920*1200的RGB888图像中包括:1920*120的元数据、实际待处理的图像部分为911*1080,1009*1080为空白像素填充区域;进一步地,将1920*1200的RGB888图像输入至图像处理芯片进行图像处理,输出911*1080的YUV图像;将911*1080的YUV图像发送至主控芯片中的DPU,由DPU将911*1080的YUV图像调整至显示分辨率1024*1280,并将2400*1080的YUV图像发送至显示单元进行预览显示。

在本申请的一些实施例中,第一分辨率的高度大于第二分辨率的高度,第一分辨率的宽度大于第二分辨率的宽度,例性地,在第一分辨率为4096*3072,第二分辨率为1920*1080的情况下,参见图5,若图像传感器输出的待处理图像为4096*3072的RAW图像,ISP首先根据用户设置行为将4096*3072的RAW图像处理为4096*3072的YUV图像,这里的4096*3072的YUV图像为第一分辨率的第一图像;之后,主控芯片再利用ISP对4096*3072的YUV图像进行图像缩小处理,输出一幅1440*1080的YUV图像作为第一中间图像,并将第一中间图像输入至DPU,借助DPU可以指定画布任意区域的功能,设置DPU输出的图像分辨率大小为1920*1080,且输入的1440*1080的YUV图像绘制在以左上角为原点的1440*1080的区域。这样,在DPU输出的1920*1200的RGB888图像中,包括:1920*120的元数据、实际待处理的图像部分为1440*1080、480*1080为空白像素填充区域;进一步地,将1920*1200的RGB888图像输入至图像处理芯片进行图像处理,输出1440*1080的YUV图像;将1440*1080的YUV图像发送至主控芯片中的DPU,由DPU将1440*1080的YUV图像调整至显示分辨率2400*1080,并将2400*1080的YUV图像发送至显示单元进行预览显示。

在一些实施例中,在第一分辨率小于第二分辨率的情况下,所述第一分辨率为第四宽度*第四高度,所述第二分辨率为第五宽度*第五高度;

所述主控芯片具体用于:

在所述第一分辨率与所述第二分辨率为第一分辨率大小关系的情况下,通过所述DPU,对所述第一图像进行空白像素填充处理,输出第二图像;其中,所述第一分辨率大小关系包括:所述第四宽度等于所述第五宽度,且所述第四高度小于所述第五高度;或者,所述第四高度等于所述第五高度,且所述第四宽度小于所述第五宽度;或者,所述第四高度小于所述第五高度,且所述第四宽度小于所述第五宽度。

在本申请的一些实施例中,第一分辨率的高度小于第二分辨率的高度,第一分辨率的宽度等于第二分辨率的宽度。示例性地,在第一分辨率为1920*800,第二分辨率为1920*1080的情况下,参见图6,若图像传感器输出的待处理图像为4096*3072的RAW图像,ISP首先会根据用户设置行为将4096*3072的RAW图像处理为1920*800的YUV图像,这里的1920*800的YUV图像为第一分辨率的第一图像;将1920*800的YUV图像输入至DPU,借助DPU可以指定画布任意区域的功能,设置DPU输出的图像分辨率大小为1920*1080,且输入至DPU的1920*800的YUV图像绘制在以左上角为原点的1920*800的区域,这样在DPU输出1920*1200的RGB888图像中,每列填充280个空白像素,实际待处理图像中的图像部分为1920*800,元数据部分为1920*120、空白像素填充区域为1920*280;进一步地,将1920*1200的RGB888图像输入至图像处理芯片进行图像处理后,输出1920*800的YUV图像;进一步地,由图像处理芯片将1920*800的YUV图像处理至显示分辨率2400*1080,并由图像处理芯片将2400*1080的YUV图像发送至显示单元进行预览显示。可选地,也可以将1920*800的YUV图像发送至主控芯片中的DPU,由DPU将1920*800的YUV图像调整至显示分辨率2400*1080,并将2400*1080的YUV图像发送至显示单元进行预览显示。

在本申请的一些实施例中,第一分辨率的高度等于第二分辨率的高度,第一分辨率的宽度小于第二分辨率的宽度。示例性地,在第一分辨率为1440*1080,第二分辨率为1920*1080的情况下,参见图7,若图像传感器输出的待处理图像为4096*3072的RAW图像,ISP首先会根据用户设置行为将4096*3072的RAW图像处理为1440*1080的YUV图像,这里的1440*1080的YUV图像为第一分辨率的第一图像;将1440*1080的YUV图像输入至DPU,借助DPU可以指定画布任意区域的功能,设置DPU输出的图像分辨率大小为1920*1080,且输入至DPU的1440*1080的YUV图像绘制在以左上角为原点的1440*1080的区域,这样在DPU输出1920*1200的RGB888图像中,每行填充480个空白像素,实际待处理图像中的图像部分为1440*1080,元数据部分为1920*120、空白像素填充区域为480*1080;进一步地,将1920*1200的RGB888图像输入至图像处理芯片进行图像处理后,输出1440*1080的YUV图像;进一步地,由图像处理芯片将1440*1080的YUV图像处理至显示分辨率2400*1080,并由图像处理芯片将2400*1080的YUV图像发送至显示单元进行预览显示。可选地,也可以将1440*1080的YUV图像发送至主控芯片中的DPU,由DPU将1440*1080的YUV图像调整至显示分辨率2400*1080,并将2400*1080的YUV图像发送至显示单元进行预览显示。

在本申请的一些实施例中,第一分辨率的高度小于第二分辨率的高度,第一分辨率的宽度小于第二分辨率的宽度。示例性地,在第一分辨率为1024*768,第二分辨率为1920*1080的情况下,参见图8,若图像传感器输出的待处理图像为4096*3072的RAW图像,ISP首先会根据用户设置行为将4096*3072的RAW图像处理为1024*768的YUV图像,这里的1024*768的YUV图像为第一分辨率的第一图像;将1024*768的YUV图像输入至DPU,借助DPU可以指定画布任意区域的功能,设置DPU输出的图像分辨率大小为1024*768,且输入至DPU的1024*768的YUV图像绘制在以左上角为原点的1024*768的区域,这样在DPU输出1920*1200的RGB888图像中,每行填充896个空白像素,每列填充312个空白像素。得到的实际待处理图像为1024*768;进一步地,将1920*1200的RGB888图像输入至图像处理芯片进行图像处理后,输出1024*768的YUV图像;进一步地,由图像处理芯片将1024*768的YUV图像处理至显示分辨率2400*1080,并由图像处理芯片将2400*1080的YUV图像发送至显示单元进行预览显示。可选地,也可以将1024*768的YUV图像发送至主控芯片中的DPU,由DPU将1024*768的YUV图像调整至显示分辨率2400*1080,并将2400*1080的YUV图像发送至显示单元进行预览显示。

在一些实施例中,在第一分辨率小于第二分辨率的情况下,所述第一分辨率为第四宽度*第四高度,所述第二分辨率为第五宽度*第五高度;

所述主控芯片具体用于:

在所述第一分辨率与所述第二分辨率为第二分辨率大小关系的情况下,通过所述ISP,对所述第一图像进行图像放大处理,输出第二中间图像;通过所述DPU对所述第二中间图像进行空白像素填充处理,输出第二图像;其中,所述第二分辨率大小关系包括:所述第四高度小于所述第五高度,且所述第四宽度小于所述第五宽度;所述第二中间图像为第四分辨率,所述第四分辨率为第六宽度*第六高度,所述第六宽度等于所述第五宽度且所述第六高度小于所述第五高度,或者,所述第六宽度小于所述第五宽度且所述第六高度等于所述第五高度。

下面针对具体示例对第一分辨率小于第二分辨率的情况进行说明。

在本申请的一些实施例中,第一分辨率的高度小于第二分辨率的高度,第一分辨率的宽度小于第二分辨率的宽度。示例性地,在第一分辨率为1024*768,第二分辨率为1920*1080的情况下,参见图9,若图像传感器输出的待处理图像为4096*3072的RAW图像,ISP首先会根据用户设置行为将4096*3072的RAW图像处理为1024*768的YUV图像,这里的1024*768的YUV图像为第一分辨率的第一图像;之后,主控芯片再利用ISP对1024*768的YUV图像进行图像放大处理,输出一幅1440*1080的YUV图像作为第二中间图像,并将1440*1080的YUV图像输入至DPU,借助DPU可以指定画布任意区域的功能,设置DPU输出的图像分辨率大小为1920*1080,且输入至DPU的1440*1080的YUV图像绘制在以左上角为原点的1440*1080的区域,这样在DPU输出1920*1200的RGB888图像中,每行右边填充480个空白像素,得到待处理图像中的图像部分为1920*1080;进一步地,将1920*1200的RGB888图像输入至图像处理芯片进行图像处理后,输出1440*1080的YUV图像;将1440*1080的YUV图像发送至主控芯片中的DPU,由DPU将1440*1080的YUV图像调整至显示分辨率1024*1280,并将2400*1080的YUV图像发送至显示单元进行预览显示。

在一些实施例中,所述第一分辨率为第七宽度*第七高度,所述第二分辨率为第八宽度*第八高度;

所述主控芯片,具体用于以下至少一项:

在所述第七宽度大于所述第八宽度的情况下,通过DPU,对所述第一图像的第七宽度的进行图像内缩处理,输出第八宽度的第二图像;

在所述第七高度大于所述第八高度的情况下,通过DPU,对所述第一图像的第七宽度的进行图像内缩处理,输出第八宽度的第二图像;

在所述第七宽度小于所述第八宽度的情况下,通过DPU,对所述第一图像的第七宽度进行图像拉伸处理,输出第八宽度的第二图像;

在所述第七高度小于所述第八高度的情况下,通过DPU,对所述第一图像的第七宽度的进行图像拉伸处理,输出第八宽度的第二图像。

在本申请的一些实施例中,第一分辨率的高度等于第二分辨率的高度,第一分辨率的宽度大于第二分辨率的宽度。示例性地,在第一分辨率为2400*1080,第二分辨率为1920*1080的情况下,参见图10,若图像传感器输出的待处理图像为4096*3072的RAW图像,ISP首先会根据用户设置行为将4096*3072的RAW图像处理为2400*1080的YUV图像,这里的2400*1080的YUV图像为第一分辨率的第一图像;之后将2400*1080的YUV图像输入至DPU进行宽度方向上的图像内缩处理,得到1920*1080的YUV图像,此时图像的宽度方向处于压缩状态;进一步地,通过DPU输出1920*1200的RGB888图像,其中的图像部分为1920*1080,元数据部分为19208120;进一步地,将1920*1200的RGB888图像输入至图像处理芯片进行图像处理,输出1920*1080的YUV图像;将1920*1080的YUV图像输入至DPU进行分辨率调整,输出2400*1080的YUV图像;最后,将2400*1080的YUV图像发送至显示单元进行预览显示。

在本申请的一些实施例中,第一分辨率的高度大于第二分辨率的高度,第一分辨率的宽度大于第二分辨率的宽度。示例性地,在第一分辨率为4096*3072,第二分辨率为1920*1080的情况下,参见图11,若图像传感器输出的待处理图像为4096*3072的RAW图像,ISP首先根据用户设置行为将4096*3072的RAW图像处理为4096*3072的YUV图像,这里的4096*3072的YUV图像为第一分辨率的第一图像;之后将4096*3072的YUV图像输入至DPU进行宽度方向上的图像内缩处理,得到1920*1080的YUV图像。此时图像的宽度和高度方向处于压缩状态;进一步地,通过DPU输出1920*1200的RGB888图像,其中的,图像部分为1920*1080,元数据部分为19208120;进一步地,将1920*1200的RGB888图像输入至图像处理芯片进行图像处理,输出1920*1080的YUV图像;将1920*1080的YUV图像发送至DPU,由DPU将1440*1080的YUV图像调整至显示分辨率2400*1080,并将2400*1080的YUV图像发送至显示单元进行预览显示。

在本申请的一些实施例中,第一分辨率的高度小于第二分辨率的高度,第一分辨率的宽度大于第二分辨率的宽度。示例性地,在第一分辨率为2400*960,第二分辨率为1920*1080的情况下,参见图12,若图像传感器输出的待处理图像为4096*3072的RAW图像,ISP首先根据用户设置行为将4096*3072的RAW图像处理为2400*960的YUV图像,这里的2400*960的YUV图像为第一分辨率的第一图像;之后将2400*960的YUV图像输入至DPU进行宽度方向上的内缩处理和高度方向上的拉伸处理,得到1920*1080的YUV图像,此时图像的宽度方向处于压缩状态,高度方向处于拉伸状态;进一步地,通过DPU输出1920*1200的RGB888图像,其中的图像部分为1920*1080,元数据部分为1920*120;进一步地,将1920*1200的RGB888图像输入至图像处理芯片进行图像处理,输出1920*1080的YUV图像;将1920*1080的YUV图像发送至DPU,由DPU将1920*1080的YUV图像调整至显示分辨率2400*1080,并将2400*1080的YUV图像发送至显示单元进行预览显示。

在本申请的一些实施例中,第一分辨率的高度小于第二分辨率的高度,第一分辨率的宽度等于第二分辨率的宽度。示例性地,在第一分辨率为1920*800,第二分辨率为1920*1080的情况下,参见图13,若图像传感器输出的待处理图像为4096*3072的RAW图像,ISP首先会根据用户设置行为将4096*3072的RAW图像处理为1920*800的YUV图像,这里的1920*800的YUV图像为第一分辨率的第一图像;将1920*800的YUV图像输入至DPU进行高度方向上的图像拉伸处理,得到1920*1080的YUV图像,此时图像的高度方向处于拉伸状态;进一步地,通过DPU输出1920*1200的RGB888图像,其中的图像部分为1920*1080,元数据部分为1920*120;进一步地,将1920*1200的RGB888图像输入至图像处理芯片进行图像处理,输出1920*1080的YUV图像;将1920*1080的YUV图像发送至DPU,由DPU将1920*1080的YUV图像调整至显示分辨率2400*1080,并将2400*1080的YUV图像发送至显示单元进行预览显示。

在本申请的一些实施例中,第一分辨率的高度大于第二分辨率的高度,第一分辨率的宽度等于第二分辨率的宽度。示例性地,在第一分辨率为1920*1280,第二分辨率为1920*1080的情况下,参见图14,若图像传感器输出的待处理图像为4096*3072的RAW图像,ISP首先会根据用户设置行为将4096*3072的RAW图像处理为1920*1280的YUV图像,这里的1920*1280的YUV图像为第一分辨率的第一图像;之后将1920*1280的YUV图像输入至DPU进行高度方向上的图像内缩处理,得到1920*1080的YUV图像,此时图像的高度方向处于压缩状态;进一步地,通过DPU输出1920*1200的RGB888图像,其中的图像部分为1920*1080,元数据部分为1920*120;进一步地,将1920*1200的RGB888图像输入至图像处理芯片进行图像处理,输出1920*1080的YUV图像;将1920*1080的YUV图像发送至DPU,由DPU将1920*1080的YUV图像调整至显示分辨率2400*1080,并将2400*1080的YUV图像发送至显示单元进行预览显示。

在本申请的一些实施例中,第一分辨率的高度等于第二分辨率的高度,第一分辨率的宽度小于第二分辨率的宽度。示例性地,在第一分辨率为1440*1080,第二分辨率为1920*1080的情况下,参见图15,若图像传感器输出的待处理图像为1440*1080的RAW图像,经过ISP处理后,输出一幅1440*1080的YUV图像,并输入至DPU中进行图像拉伸处理为1920*1080的YUV图像,此时图像处于拉伸状态;进一步地,通过DPU输出1920*1200的RGB888图像,其中图像部分为1920*1080,元数据部分为1920*120;进一步地,将1920*1200的RGB888图像输入至图像处理芯片进行处理,输出1920*1080的YUV图像;将1920*1080的YUV图像发送至DPU,由DPU将1920*1080的YUV图像调整至显示分辨率2400*1080,并将2400*1080的YUV图像发送至显示单元进行预览显示。

在本申请的一些实施例中,第一分辨率的高度小于第二分辨率的高度,第一分辨率的宽度小于第二分辨率的宽度。示例性地,在第一分辨率为1024*768,第二分辨率为1920*1080的情况下,参见图16,若图像传感器输出的待处理图像为1024*768的RAW图像,经过ISP进行处理后,输出一幅1024*768的YUV图像,并输入至DPU对图像的宽度和高度方向进行图像拉伸处理,得到1920*1080的YUV图像;进一步地,通过DPU输出1920*1200的RGB888图像,其中的图像部分为1920*1080,元数据部分为1920*120;进一步地,将1920*1200的RGB888图像输入至图像处理芯片进行图像处理,输出1920*1080的YUV图像;将1920*1080的YUV图像输入至DPU对图像的宽度和高度方向进行图像内缩处理,输出1024*768的YUV图像;最后,将1024*768的YUV图像发送至显示单元进行预览显示。

在本申请的一些实施例中,第一分辨率的高度大于第二分辨率的高度,第一分辨率的宽度小于第二分辨率的宽度。示例性地,在第一分辨率为1080*1280,第二分辨率为1920*1080的情况下,参见图17,若图像传感器输出的待处理图像为4096*3072的RAW图像,ISP首先会根据用户设置行为将4096*3072的RAW图像处理为1080*1280的YUV图像,这里的1080*1280的YUV图像为第一分辨率的第一图像;之后将1080*1280的YUV图像输入至DPU对图像在宽度方向上进行图像拉伸处理,在高度方向上进行图像内缩处理,得到1920*1080的YUV图像;进一步地,通过DPU输出1920*1200的RGB888图像,其中的图像部分为1920*1080,元数据部分为1920*120;进一步地,将1920*1200的RGB888图像输入至图像处理芯片进行图像处理,输出1920*1080的YUV图像;将1920*1080的YUV图像发送至DPU,由DPU将1920*1080的YUV图像调整至显示分辨率2400*1080,并将2400*1080的YUV图像发送至显示单元进行预览显示。

上述实施例中,通过图像拉伸处理或图像内缩处理,将第一分辨率的第一图像调整为第二分辨率的第二图像,能够使外挂的图像处理芯片正常接收待处理的第二图像,进行后续的图像处理。由于本申请实施例中的图像处理电路能够处理分辨率比图像处理芯片支持的分辨率大的第一图像以及比图像处理芯片支持的分辨率小的第一图像,因此本申请提供的图像处理电路适用于各种分辨率的图像处理,如此,能够实现将外挂图像处理芯片应用到拍照场景,在节省主控芯片功耗和性能的同时,能够优化拍照预览效果,避免后期复杂且耗费时间的图像处理。

在一些实施例中,在所述分辨率调整处理包括图像内缩处理或图像放大处理的情况下,所述主控芯片还用于:通过所述第一传输通道,向所述图像处理芯片发送缩放控制信息,所述缩放控制信息包括缩放倍率;

所述图像处理芯片,具体用于根据所述缩放控制信息中的缩放倍率,对所述第二图像进行图像处理。

具体实现时,将缩放倍率作为图像元数据的一部分,以行像素的形式发送至图像处理芯片,以使图像处理芯片根据缩放倍率,对第二图像进行图像处理。

上述实施例中,由于图像拉伸处理或图像内缩处理,会改变人像的形态,因此,图像处理芯片在对第二图像进行图像处理时,需考虑缩放倍率,以保证人像处理效果。

在一些实施例中,所述主控芯片还包括第二CSI接口和第三DSI发送接口,所述第二DSI发送接口与所述第二DSI接收接口连通形成第二传输通道;

在所述第三图像的分辨率为第一分辨率或第二分辨率或第三分辨率或第四分辨率的情况下,所述主控芯片具体用于:

接收所述图像处理芯片通过所述第二传输通道发送的所述第三图像;

对所述第三图像进行分辨率调整处理,输出第四图像,所述第四图像的分辨率为显示单元支持的分辨率;

向显示单元发送所述第四图像。

示例性地,如图2中,主控芯片中的CSI0为第一相机串行CSI接口,DSI TX1为第一显示串行DSI发送接口,CSI 1为第二CSI接口,DSI TX0为第三DSI发送接口,主控芯片中的CSI0与ISP的输入端连接,ISP的输出端与DPU的输入端连接,DPU的输出端分别与DSI TX1和DSI TX0连接,CSI 1与DPU的输入端连接;图像处理芯片中的DSI RX1为第一DSI接收接口,DSI TX2为第二DSI发送接口,DSI TX1与DSI RX1连通形成第一传输通道。第一分辨率的第一图像通过CSI 0输入至主控芯片,经ISP和DPU对第一图像进行分辨率调整后,得到第二分辨率的第二图像,并通过第一传输通道将第二图像发送至图像处理芯片;经图像处理芯片获得的第二分辨率的第三图像,可通过DSI TX2和CSI 1连通形成的第二传输通道发送至主控芯片,由主控芯片中的DPU对第三图像进行分辨率调整处理,得到显示单元支持的分辨率的第四图像,并通过接口DSI TX0将第四图像发送至显示单元。

上述实施例中,通过外挂的图像处理芯片对第二分辨率的第二图像进行图像处理,得到第三图像,并将第三图像回传至主控芯片,由主控芯片对第三图像的分辨率进行调整处理,第四图像。如此,通过主控芯片与图像处理芯片相结合的处理方式,能够实现利用外挂图像处理芯片对拍照获得的各种分辨率的第一图像进行图像处理,实现将外挂图像处理芯片应用到拍照场景,在节省主控芯片功耗和性能的同时,能够优化拍照预览效果,避免后期复杂且耗费时间的图像处理。

在一些实施例中,所述主控芯片还包括第四DSI发送接口,所述第四DSI发送接口与显示单元连接;所述主控芯片,还用于在所述分辨率调整处理包括空白像素填充处理的情况下,通过所述第一传输通道,向所述图像处理芯片发送填充位置信息;

所述图像处理芯片,具体用于根据所述填充位置信息,对所述第二图像中的所述空白像素填充区域之外的图像进行图像处理,并裁剪所述第二图像中所述空白像素填充区域的图像,输出第一分辨率或所述第三分辨率或所述第四分辨率的第三图像;以及通过第四DSI发送接口,向所述显示单元发送第三图像。

具体实现时,将填充位置信息作为图像元数据的一部分,以行像素的方式通过第一传输通道发送至图像处理芯片,元数据包括图像传感器的参数信息。图像处理芯片根据填充位置信息,确定实际待处理的图像区域和待裁剪掉的空白像素填充区域,在对实际待处理的图像区域进行图像处理后,将空白像素填充区域裁剪掉,输出实际待处理的图像区域。

需要指出的是,空白像素的填充位置包括但不限于:在实际待处理图像的至少一侧进行填充,例如,围绕实际待处理图像的四周填充、围绕实际待处理图像的左侧填充,围绕实际待处理图像的右侧填充,围绕实际待处理图像的上侧填充,围绕实际待处理图像的下侧填充、围绕实际待处理图像的左右两侧填充,围绕实际待处理图像的上下两侧填充等。

其中,所述填充位置信息包括以下至少一项:

所述第一图像的图像区域的第一顶点的第一坐标,所述第一分辨率的宽度和高度;所述第一顶点为所述第一图像的图像区域的左上角顶点;

所述空白像素填充区域的第二顶点坐标,所述空白像素填充区域的宽度和高度;所述第二顶点为所述空白像素填充区域的左上角顶点。

上述实施例中,主控芯片通过向图像处理芯片传输填充位置信息,能够使图像处理芯片基于填充位置信息,区分实际待处理图像和空白像素填充区域,以使图像处理芯片有针对性的进行图像处理,提高图像处理的效率。

参见图1和图2,本申请提供一种图像处理装置,包括如上所述的图像处理电路。

在一些实施例中,所述图像处理装置还包括图像传感器和显示单元,所述主控芯片与所述图像传感器连接;所述显示单元与所述主控芯片连接;

所述图像传感器,用于获取第一分辨率的第一图像,并将所述第一图像发送至所述主控芯片;

所述显示单元,用于显示所述图像处理芯片发送的所述第一分辨率的第三图像;或者,显示所述主控芯片发送的所述第一分辨率的第四图像;其中,所述第四图像是所述主控芯片对所述图像处理芯片发送的第二分辨率或第三分辨率或第四分辨率第三图像进行以下图像处理中的至少一项得到的:图像内缩处理、图像拉伸处理、图像放大处理、图像缩小处理;其中,所述第三分辨率小于所述第一分辨率,所述第四分辨率大于所述第一分辨率且小于所述第二分辨率。

上述实施例,由于图像处理芯片支持输入第二分辨率的图像,通过图像拉伸处理或图像内缩处理,将第一分辨率的第一图像调整为第二分辨率的第二图像,能够使外挂的图像处理芯片正常接收待处理的第二图像,进行后续的图像处理。如此,能够利用外挂图像处理芯片对拍照获得的第一图像进行图像处理,实现将外挂图像处理芯片应用到拍照场景,在节省主控芯片功耗和性能的同时,能够拥有更好的拍照预览效果,避免后期处理带来的操作复杂且耗费时间较大的问题。

参见图18,本申请提供一种图像处理方法,应用于如上所述的图像处理装置,方法包括以下步骤:

步骤101:主控芯片对第一分辨率的第一图像进行分辨率调整处理,输出第二分辨率的第二图像,且将所述第二图像发送至图像处理芯片;其中,所述第二分辨率为所述图像处理芯片支持的分辨率,所述第一分辨率和所述第二分辨率不同。

步骤102:所述图像处理芯片对所述第二图像进行图像处理,输出第三图像,其中,所述第三图像的分辨率为第一分辨率或第二分辨率或第三分辨率或第四分辨率或显示单元支持的分辨率,所述第三分辨率小于所述第一分辨率,所述第四分辨率大于所述第一分辨率且小于所述第二分辨率。

具体地,所述图像处理电路中的主控芯片和图像处理芯片对图像处理的过程与上述实施例相同,为避免重复,在此不再予以赘述。

上述实施例,由于图像处理芯片支持输入第二分辨率的图像,通过图像拉伸处理或图像内缩处理,将第一分辨率的第一图像调整为第二分辨率的第二图像,能够使外挂的图像处理芯片正常接收待处理的第二图像,进行后续的图像处理。如此,能够利用外挂图像处理芯片对拍照获得的第一图像进行图像处理,实现将外挂图像处理芯片应用到拍照场景,在节省主控芯片功耗和性能的同时,能够拥有更好的拍照预览效果,避免后期处理带来的操作复杂且耗费时间较大的问题。

在一些实施例中,在所述第一分辨率大于所述第二分辨率的情况下,所述分辨率调整处理包括:图像缩小处理和空白像素填充处理;或者,所述分辨率调整处理包括:图像内缩处理;

在所述第一分辨率小于所述第二分辨率的情况下,所述分辨率调整处理包括:图像放大处理和空白像素填充处理,或者,所述分辨率调整处理包括:空白像素填充处理,或者,所述分辨率调整处理包括:图像拉伸处理。

具体地,该实实施例对分辨率调整处理的说明与图像处理电路中相同,为避免重复,在此不再予以赘述。

在一些实施例中,在所述第一分辨率大于所述第二分辨率的情况下,所述第一分辨率为第一宽度*第一高度,所述第二分辨率为第二宽度*第二高度;所述第一宽度大于所述第二宽度,或者,所述第一高度大于所述第二高度,或者所述第一宽度大于所述第二宽度且所述第一高度大于所述第二高度;

所述主控芯片对第一分辨率的第一图像进行分辨率调整处理,输出第二分辨率的第二图像,包括:

主控芯片对所述第一图像进行图像缩小处理,输出第一中间图像;

主控芯片对所述第一中间图像进行空白像素填充处理,输出第二图像;

其中,所述第一中间图像为第三分辨率,所述第三分辨率为第三宽度*第三高度,所述第三宽度等于所述第二宽度且所述第三高度小于所述第二高度,或者,所述第三宽度小于所述第二宽度且所述第三高度等于所述第二高度。

具体地,所述图像处理电路中的主控芯片对图像处理的过程与上述实施例相同,为避免重复,在此不再予以赘述。

在一些实施例中,在所述第一分辨率小于所述第二分辨率的情况下,所述第一分辨率为第四宽度*第四高度,所述第二分辨率为第五宽度*第五高度;

所述主控芯片对第一分辨率的第一图像进行分辨率调整处理,输出第二分辨率的第二图像,包括:

在所述第一分辨率与所述第二分辨率为第一分辨率大小关系的情况下,主控芯片对所述第一图像进行空白像素填充处理,输出所述第二图像;其中,所述第一分辨率大小关系包括:所述第四宽度等于所述第五宽度,且所述第四高度小于所述第五高度;或者,所述第四高度等于所述第五高度,且所述第四宽度小于所述第五宽度;或者,所述第四高度小于所述第五高度,且所述第四宽度小于所述第五宽度;

在所述第一分辨率与所述第二分辨率为第二分辨率大小关系的情况下,主控芯片对所述第一图像进行图像放大处理,输出第二中间图像;再对所述第二中间图像进行空白像素填充处理,输出所述第二图像;其中,所述第二分辨率大小关系包括:所述第四高度小于所述第五高度,且所述第四宽度小于所述第五宽度;所述第二中间图像为第四分辨率,所述第四分辨率为第六宽度*第六高度,所述第六宽度等于所述第五宽度且所述第六高度小于所述第五高度,或者,所述第六宽度小于所述第五宽度且所述第六高度等于所述第五高度。

具体地,所述图像处理电路中的主控芯片对图像处理的过程与上述实施例相同,为避免重复,在此不再予以赘述。

在一些实施例中,所述第一分辨率为第七宽度*第七高度,所述第二分辨率为第八宽度*第八高度;

所述主控芯片对第一分辨率的第一图像进行分辨率调整处理,输出第二分辨率的第二图像,包括以下至少一项:

在所述第七宽度大于所述第八宽度的情况下,主控芯片对所述第一图像的第七宽度的进行图像内缩处理,输出第八宽度的第二图像;

在所述第七高度大于所述第八高度的情况下,主控芯片对所述第一图像的第七宽度的进行图像内缩处理,输出第八宽度的第二图像;

在所述第七宽度小于所述第八宽度的情况下,主控芯片对所述第一图像的第七宽度进行图像拉伸处理,输出第八宽度的第二图像;

在所述第七高度小于所述第八高度的情况下,主控芯片对所述第一图像的第七宽度的进行图像拉伸处理,输出第八宽度的第二图像。

具体地,所述图像处理电路中的主控芯片对图像处理的过程与上述实施例相同,为避免重复,在此不再予以赘述。

上述实施例中,通过图像拉伸处理或图像内缩处理,将第一分辨率的第一图像调整为第二分辨率的第二图像,能够使外挂的图像处理芯片正常接收待处理的第二图像,进行后续的图像处理。如此,能够实现将外挂图像处理芯片应用到拍照场景,在节省主控芯片功耗和性能的同时,能够拥有更好的拍照预览效果,避免后期处理带来的操作复杂且耗费时间较大的问题。

在一些实施例中,在所述第三图像的分辨率为第一分辨率或第二分辨率或第三分辨率或第四分辨率的情况下,上述方法还包括:

主控芯片接收所述图像处理芯片发送的第二分辨率的第三图像;

对所述第三图像进行分辨率调整处理,输出第四图像,所述第四图像的分辨率为显示单元支持的分辨率;

向显示单元发送所述第四图像。

具体地,所述图像处理电路中的主控芯片对图像处理的过程与上述实施例相同,为避免重复,在此不再予以赘述。

上述实施例中,通过外挂的图像处理芯片对第二分辨率的第二图像进行图像处理,得到第三图像,并将第三图像回传至主控芯片,由主控芯片对第三图像的分辨率进行还原处理,得到第一分辨率的第四图像。如此,通过主控芯片与图像处理芯片相结合的处理方式,能够实现利用外挂图像处理芯片对拍照获得的第一图像进行图像处理,实现将外挂图像处理芯片应用到拍照场景,在节省主控芯片功耗和性能的同时,能够拥有更好的拍照预览效果,避免后期处理带来的操作复杂且耗费时间较大的问题。

在一些实施例中,上述方法还包括:

在所述分辨率调整处理包括空白像素填充处理的情况下,主控芯片向所述图像处理芯片发送填充位置信息;

图像处理芯片根据所述填充位置信息,对所述第二图像中的所述空白像素填充区域之外的图像进行图像处理,并裁剪所述第二图像中的所述空白像素填充区域的图像,输出第一分辨率或第三分辨率或第四分辨率的第三图像;

图像处理芯片向显示单元发送所述第三图像。

在一些实施例中,所述填充位置信息包括以下至少一项:

所述第一图像的图像区域的第一顶点的第一坐标,所述第一分辨率的宽度和高度;所述第一顶点为所述第一图像的图像区域的左上角顶点;

所述空白像素填充区域的第二顶点坐标,所述空白像素填充区域的宽度和高度;所述第二顶点为所述空白像素填充区域的左上角顶点。

上述实施例中,主控芯片通过向图像处理芯片传输填充位置信息,能够使图像处理芯片基于填充位置信息,区分实际待处理图像和空白像素填充区域,以使图像处理芯片有针对性的进行图像处理,提高图像处理的效率。

在一些实施例中,在所述分辨率调整处理包括图像内缩处理或图像放大处理的情况下,所述方法还包括:

主控芯片通过所述第一传输通道,向所述图像处理芯片发送缩放控制消息信息,所述缩放控制消息信息包括缩放倍率;

图像处理芯片根据所述缩放控制信息中的缩放倍率,对所述第二图像进行图像处理。

上述实施例中,由于图像拉伸处理或图像内缩处理,会改变人像的形态,因此,图像处理芯片在对第二图像进行图像处理时,需考虑缩放倍率,以保证人像处理效果。

可选地,如图19所示,本申请实施例还提供一种电子设备1900,包括如上所述的图像处理电路、图像传感器1903,显示单元1905和存储器1902,图像处理电路包括主控芯片1901和图像处理芯片1904,主控芯片1901包括处理器19011;存储器1902上存储有可在所述处理器19011上运行的程序或指令,该程序或指令被处理器19011执行时实现上述图像处理方法实施例的各个步骤,且能达到相同的技术效果,为避免重复,这里不再赘述。

需要说明的是,本申请实施例中的电子设备包括上述所述的移动电子设备和非移动电子设备。

图20为实现本申请实施例的一种电子设备的硬件结构示意图。

该电子设备2000包括但不限于:射频单元2001、网络模块2002、音频输出单元2003、输入单元2004、图像传感器2005、显示单元2006、用户输入单元2007、接口单元2008、存储器2009、以及主控芯片2010和图像处理芯片2011等部件。

本领域技术人员可以理解,电子设备2000还可以包括给各个部件供电的电源(比如电池),电源可以通过电源管理系统与主控芯片2010逻辑相连,从而通过电源管理系统实现管理充电、放电、以及功耗管理等功能。图10中示出的电子设备结构并不构成对电子设备的限定,电子设备可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件布置,在此不再赘述。

其中,主控芯片2010,用于对第一分辨率的第一图像进行分辨率调整处理,输出第二分辨率的第二图像,且将所述第二图像发送至图像处理芯片;其中,所述第二分辨率为所述图像处理芯片支持的分辨率,所述第一分辨率和所述第二分辨率不同;

图像处理芯片2011,用于对所述第二图像进行图像处理,输出第三图像,其中,所述第三图像的分辨率为第一分辨率或第二分辨率或第三分辨率或第四分辨率或显示单元支持的分辨率,所述第三分辨率小于所述第一分辨率,所述第四分辨率大于所述第一分辨率且小于所述第二分辨率。

可选地,在所述第一分辨率大于所述第二分辨率的情况下,所述分辨率调整处理包括:图像缩小处理和空白像素填充处理;或者,所述分辨率调整处理包括:图像内缩处理;

在所述第一分辨率小于所述第二分辨率的情况下,所述分辨率调整处理包括:图像放大处理和空白像素填充处理,或者,所述分辨率调整处理包括:空白像素填充处理,或者,所述分辨率调整处理包括:图像拉伸处理。

可选地,在所述第一分辨率大于所述第二分辨率的情况下,所述第一分辨率为第一宽度*第一高度,所述第二分辨率为第二宽度*第二高度;所述第一宽度大于所述第二宽度,或者,所述第一高度大于所述第二高度,或者所述第一宽度大于所述第二宽度且所述第一高度大于所述第二高度;

主控芯片2010,具体用于:

对所述第一图像进行图像缩小处理,输出第一中间图像;

对所述第一中间图像进行空白像素填充处理,输出第二图像;

其中,所述第一中间图像为第三分辨率,所述第三分辨率为第三宽度*第三高度,所述第三宽度等于所述第二宽度且所述第三高度小于所述第二高度,或者,所述第三宽度小于所述第二宽度且所述第三高度等于所述第二高度。

可选地,在所述第一分辨率小于所述第二分辨率的情况下,所述第一分辨率为第四宽度*第四高度,所述第二分辨率为第五宽度*第五高度;

主控芯片2010,具体用于:

在所述第一分辨率与所述第二分辨率为第一分辨率大小关系的情况下,对所述第一图像进行空白像素填充处理,输出所述第二图像;其中,所述第一分辨率大小关系包括:所述第四宽度等于所述第五宽度,且所述第四高度小于所述第五高度;或者,所述第四高度等于所述第五高度,且所述第四宽度小于所述第五宽度;或者,所述第四高度小于所述第五高度,且所述第四宽度小于所述第五宽度;

在所述第一分辨率与所述第二分辨率为第二分辨率大小关系的情况下,对所述第一图像进行图像放大处理,输出第二中间图像;再对所述第二中间图像进行空白像素填充处理,输出所述第二图像;其中,所述第二分辨率大小关系包括:所述第四高度小于所述第五高度,且所述第四宽度小于所述第五宽度;所述第二中间图像为第四分辨率,所述第四分辨率为第六宽度*第六高度,所述第六宽度等于所述第五宽度且所述第六高度小于所述第五高度,或者,所述第六宽度小于所述第五宽度且所述第六高度等于所述第五高度。

可选地,所述第一分辨率为第七宽度*第七高度,所述第二分辨率为第八宽度*第八高度;

主控芯片2010,具体用于以下至少一项:

在所述第七宽度大于所述第八宽度的情况下,主控芯片对所述第一图像的第七宽度的进行图像内缩处理,输出第八宽度的第二图像;

在所述第七高度大于所述第八高度的情况下,主控芯片对所述第一图像的第七宽度的进行图像内缩处理,输出第八宽度的第二图像;

在所述第七宽度小于所述第八宽度的情况下,主控芯片对所述第一图像的第七宽度进行图像拉伸处理,输出第八宽度的第二图像;

在所述第七高度小于所述第八高度的情况下,主控芯片对所述第一图像的第七宽度的进行图像拉伸处理,输出第八宽度的第二图像。

可选地,所述第三图像的分辨率为第一分辨率或第二分辨率或第三分辨率或第四分辨率的情况下,主控芯片2010,还用于:

接收所述图像处理芯片2011发送的第二分辨率的第三图像;

对所述第三图像进行分辨率调整处理,输出第四图像,所述第四图像的分辨率为显示单元支持的分辨率;

向显示单元发送所述第四图像。

可选地,主控芯片2010,还用于在所述分辨率调整处理包括空白像素填充处理的情况下,主控芯片向所述图像处理芯片发送填充位置信息;

图像处理芯片2011,具体用于根据所述填充位置信息,对所述第二图像中的所述空白像素填充区域之外的图像进行图像处理,并裁剪所述第二图像中的所述空白像素填充区域的图像,输出第一分辨率或第三分辨率或第四分辨率的第三图像;

图像处理芯片2011,还用于向显示单元发送所述第三图像。

可选地,所述填充位置信息包括以下至少一项:

所述第一图像的图像区域的第一顶点的第一坐标,所述第一分辨率的宽度和高度;所述第一顶点为所述第一图像的图像区域的左上角顶点;

所述空白像素填充区域的第二顶点坐标,所述空白像素填充区域的宽度和高度;所述第二顶点为所述空白像素填充区域的左上角顶点。

可选地,在所述分辨率调整处理包括图像内缩处理或图像放大处理的情况下,主控芯片2010,还用于通过所述第一传输通道,向所述图像处理芯片发送缩放控制消息信息,所述缩放控制消息信息包括缩放倍率;

图像处理芯片2011,还用于根据所述缩放控制信息中的缩放倍率,对所述第二图像进行图像处理。

本申请的上述电子设备,能够利用外挂图像处理芯片对拍照获得的图像进行处理,实现外挂图像处理芯片应用到拍照场景。

应理解的是,本申请实施例中,输入单元2004可以包括图形处理器(GraphicsProcessing Unit,GPU)2041和麦克风2042,图形处理器2041对在视频捕获模式或图像捕获模式中由图像捕获装置(如摄像头)获得的静态图片或视频的图像数据进行处理。显示单元2006可包括显示面板2061,可以采用液晶显示器、有机发光二极管等形式来配置显示面板2061。用户输入单元2007包括触控面板2071以及其他输入设备2072中的至少一种。触控面板2071,也称为触摸屏。触控面板2071可包括触摸检测装置和触摸控制器两个部分。其他输入设备2072可以包括但不限于物理键盘、功能键(比如音量控制按键、开关按键等)、轨迹球、鼠标、操作杆,在此不再赘述。

存储器2009可用于存储软件程序以及各种数据。存储器2009可主要包括存储程序或指令的第一存储区和存储数据的第二存储区,其中,第一存储区可存储操作系统、至少一个功能所需的应用程序或指令(比如声音播放功能、图像播放功能等)等。此外,存储器2009可以包括易失性存储器或非易失性存储器,或者,存储器2009可以包括易失性和非易失性存储器两者。其中,非易失性存储器可以是只读存储器(Read-Only Memory,ROM)、可编程只读存储器(Programmable ROM,PROM)、可擦除可编程只读存储器(Erasable PROM,EPROM)、电可擦除可编程只读存储器(Electrically EPROM,EEPROM)或闪存。易失性存储器可以是随机存取存储器(Random Access Memory,RAM),静态随机存取存储器(Static RAM,SRAM)、动态随机存取存储器(Dynamic RAM,DRAM)、同步动态随机存取存储器(Synchronous DRAM,SDRAM)、双倍数据速率同步动态随机存取存储器(Double Data Rate SDRAM,DDRSDRAM)、增强型同步动态随机存取存储器(Enhanced SDRAM,ESDRAM)、同步连接动态随机存取存储器(Synch link DRAM,SLDRAM)和直接内存总线随机存取存储器(Direct Rambus RAM,DRRAM)。本申请实施例中的存储器2009包括但不限于这些和任意其它适合类型的存储器。

主控芯片2010可包括一个或多个处理单元;可选地,主控芯片2010集成应用处理器和调制解调处理器,其中,应用处理器主要处理涉及操作系统、用户界面和应用程序等的操作,调制解调处理器主要处理无线通信信号,如基带处理器。可以理解的是,上述调制解调处理器也可以不集成到主控芯片2010中。

本申请实施例还提供一种可读存储介质,所述可读存储介质上存储有程序或指令,该程序或指令被处理器执行时实现上述图像处理方法实施例的各个过程,且能达到相同的技术效果,为避免重复,这里不再赘述。

其中,所述处理器为上述实施例中所述的电子设备中的处理器。所述可读存储介质,包括计算机可读存储介质,如计算机只读存储器ROM、随机存取存储器RAM、磁碟或者光盘等。

本申请实施例另提供了一种图像处理芯片,所述图像处理芯片包括处理器和通信接口,所述通信接口和所述处理器耦合,所述处理器用于运行程序或指令,实现上述图像处理方法实施例的各个过程,且能达到相同的技术效果,为避免重复,这里不再赘述。

本申请实施例另提供了一种主控芯片,所述主控芯片包括处理器和通信接口,所述通信接口和所述处理器耦合,所述处理器用于运行程序或指令,实现上述图像处理方法实施例的各个过程,且能达到相同的技术效果,为避免重复,这里不再赘述。

应理解,本申请实施例提到的芯片还可以称为系统级芯片、系统芯片、芯片系统或片上系统芯片等。

本申请实施例提供一种计算机程序产品,该程序产品被存储在存储介质中,该程序产品被至少一个处理器执行以实现如上述图像处理方法实施例的各个过程,且能达到相同的技术效果,为避免重复,这里不再赘述。

需要说明的是,在本文中,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者装置不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者装置所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括该要素的过程、方法、物品或者装置中还存在另外的相同要素。此外,需要指出的是,本申请实施方式中的方法和装置的范围不限按示出或讨论的顺序来执行功能,还可包括根据所涉及的功能按基本同时的方式或按相反的顺序来执行功能,例如,可以按不同于所描述的次序来执行所描述的方法,并且还可以添加、省去、或组合各种步骤。另外,参照某些示例所描述的特征可在其他示例中被组合。

通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件,但很多情况下前者是更佳的实施方式。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分可以以计算机软件产品的形式体现出来,该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中,包括若干指令用以使得一台终端(可以是手机,计算机,服务器,或者网络设备等)执行本申请各个实施例所述的方法。

上面结合附图对本申请的实施例进行了描述,但是本申请并不局限于上述的具体实施方式,上述的具体实施方式仅仅是示意性的,而不是限制性的,本领域的普通技术人员在本申请的启示下,在不脱离本申请宗旨和权利要求所保护的范围情况下,还可做出很多形式,均属于本申请的保护之内。

相关技术
  • 电子设备显示屏驱动芯片驱动方法、装置及电子设备
  • 微流控芯片、含有该芯片的装置及其用途,利用该芯片或装置制备液滴的方法
  • 一种IIC存储芯片共用电路、电子装置及其备用电路切换方法
  • 启动电路、核心电路、耗材芯片、耗材、带隙基准电路的启动方法、核心电路的工作方法
  • 一种集成电路IC芯片引脚修复设备及芯片引脚修复方法
  • 图像处理电路、装置、方法、电子设备、图像处理芯片及主控芯片
  • 图像传输方法、装置、图像处理芯片、主控芯片及设备
技术分类

06120116513671