掌桥专利:专业的专利平台
掌桥专利
首页

图像处理方法、图像处理电路、电子设备和可读存储介质

文献发布时间:2023-06-19 18:27:32


图像处理方法、图像处理电路、电子设备和可读存储介质

技术领域

本公开涉及数据处理技术领域,具体涉及一种图像处理方法、图像处理电路、电子设备和可读存储介质。

背景技术

随着图像处理技术的发展,人们对电子设备所显示的图像的要求越来越高。为确保电子设备能够输出满足用户需要的高质量图像,现有技术中通常在电子设备内设置各种用于对图像进行处理的芯片。然而,现有的图像处理方法在对图像进行处理的过程中通常需要耗费相对较长的时间,因此,现有的图像处理方法存在处理耗时相对较长的问题。

发明内容

本申请提供了一种图图像处理方法、图像处理电路、电子设备和可读存储介质,可以降低图像处理过程的时延。

第一方面,本申请实施例提供了一种图像处理方法,包括:

基于主控芯片接收图像传感器所采集的第一图像数据;

基于所述主控芯片中的相机抽象模块(camera HAL)通过第一数据传输通路将所述第一图像数据传输至图像增强芯片,其中,所述第一数据传输通路由所述相机抽象模块(camera HAL)、直接渲染管理器(DRM)、显示硬件(Display HW)和所述图像增强芯片依次连接形成;

基于所述图像增强芯片对所述第一图像数据进行图像增强处理,得到第二图像数据。

第二方面,本申请实施例提供了一种图像处理电路,包括:主控芯片和图像增强芯片,所述主控芯片包括相机抽象模块(camera HAL)、直接渲染管理器(DRM)、显示硬件(Display HW),所述相机抽象模块(camera HAL)通过第一数据传输通路与所述图像增强芯片连接,所述第一数据传输通路由所述相机抽象模块(camera HAL)、直接渲染管理器(DRM)、显示硬件(Display HW)和所述图像增强芯片依次连接形成;

所述主控芯片用于接收图像传感器所采集的第一图像数据;

所述相机抽象模块(camera HAL)用于通过所述第一数据传输通路将所述第一图像数据传输至图像增强芯片;

所述图像增强芯片用于对所述第一图像数据进行图像增强处理,得到第二图像数据。

第三方面,本申请实施例提供了一种电子设备,包括处理器和存储器,所述存储器存储可在所述处理器上运行的程序或指令,所述程序或指令被所述处理器执行时实现如第二方面所述的图像处理方法的步骤。

第四方面,本申请实施例提供了一种可读存储介质,其特征在于,所述可读存储介质上存储程序或指令,所述程序或指令被处理器执行时实现如第二方面所述的图像处理方法的步骤。

第五方面,本申请实施例提供了一种芯片,所述芯片包括处理器和通信接口,所述通信接口和所述处理器耦合,所述处理器用于运行程序或指令,实现如第二方面所述的图像处理方法的步骤。

第六方面,本申请实施例提供一种计算机程序产品,该程序产品被存储在存储介质中,该程序产品被至少一个处理器执行以实现如第二方面所述的图像处理方法的步骤。

本公开实施例中,通过基于第一数据传输通路将第一图像数据从相机抽象模块(camera HAL)传递至图像增强芯片,相对于相关技术中的图像数据传输方式而言,由于可以缩短图像数据传输的路径,因此,可以节省图像数据传输过程中的耗时,进而可以降低图像处理过程的时延。

附图说明

图1是本申请实施例提供的图像处理方法的流程示意图;

图2是本申请实施例提供的图像处理电路的结构示意图;

图3是本申请实施例中第一数据传输通路与第二数据传输通路的连接示意图;

图4是本申请实施例中直接渲染管理器初始化的流程示意图;

图5是本申请实施例中第一数据传输通路中数据的传输示意图;

图6是本申请实施例中第一数据传输通路释放过程的流程示意图;

图7是本申请实施例中直接渲染管理器进行图像渲染的示意图;

图8是本申请实施例提供的另一种电子设备的结构示意图;

图9是本申请实施例提供的电子设备的硬件结构示意图。

具体实施方式

下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。

本申请的说明书和权利要求书中的术语“第一”、“第二”等是用于区别类似的对象,而不用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便本申请的实施例能够以除了在这里图示或描述的那些以外的顺序实施,且“第一”、“第二”等所区分的对象通常为一类,并不限定对象的个数,例如第一对象可以是一个,也可以是多个。此外,说明书以及权利要求中“和/或”表示所连接对象的至少其中之一,字符“/”,一般表示前后关联对象是一种“或”的关系。

下面结合附图,通过具体的实施例及其应用场景对本申请实施例提供的图像处理方法、图像处理电路、电子设备和可读存储介质进行详细地说明。

请参见图1,图1为本公开实施例提供的一种图像处理方法的流程示意图,所述图像处理方法包括以下步骤:

步骤S101、基于主控芯片接收图像传感器所采集的第一图像数据;

步骤S102、基于所述主控芯片中的相机抽象模块(Camera Hardware AbstractionLayer,camera HAL)通过第一数据传输通路将所述第一图像数据传输至图像增强芯片,其中,所述第一数据传输通路由所述相机抽象模块(camera HAL)、直接渲染管理器(DirectRendering Manager Wrapper,DRM)、显示硬件(Display Hardware,Display HW)和所述图像增强芯片依次连接形成;

步骤S103、基于所述图像增强芯片对所述第一图像数据进行图像增强处理,得到第二图像数据。

其中,上述图像处理方法可以应用于各种具有拍摄功能的电子设备,也可以应用于各种监控系统,例如,可以应用于门禁监控系统。

上述主控芯片可以采用系统级芯片(System on Chip,SOC),上述图像传感器可以是电子设备中相机的摄像机传感器(Camera Sensor)。上述主控芯片可以包括图像处理模块,其中,所述图像处理模块可以是集成于所述主控芯片中的图像处理器(Image SignalProcessor,ISP)。上述图像增强芯片可以是独立于所述主控芯片之外的外挂图像增强芯片。

在某些拍摄环境较差的场景下,例如,亮度较暗的场景,或者,场景中对比度较高的场景,由于拍摄环境较差,因此,拍摄第一图像数据的过程中可能存在大量影响拍摄的干扰因素,这样,图像传感器拍摄得到的第一图像数据的质量通常较差,仅通过主控芯片的图像处理模块对第一图像数据进行处理,所得到的图像数据的图像质量可能仍较差。此时,可以进一步基于所述图像增强芯片进一步对第一图像数据进行处理以提高相机输出的图像质量。

基于此,本公开实施例中,在主控芯片接收图像传感器所采集的第一图像数据之后,可以先将所述第一图像数据通过第一数据传输通路传输至图像增强芯片,图像增强芯片可以对第一图像数据进行亮度增强、色彩增强、对比度增强、降噪等处理,以提高所述电子设备的相机输出的图像的质量。可以理解的是,在图像增强芯片对第一图像数据进行处理得到第二图像数据之后,所述图像增强芯片可以将第二图像数据回传至主控芯片,主控芯片可以通过图像处理模块进一步对第二图像数据进行处理,得到目标图像数据,并对目标图像数据进行送显或录像处理。

请参见图2,为本公开一个实施例提供的一种图像处理电路,可以基于该图像处理电路实现上述图像处理方法。其中,所述图像处理电路包括主控芯片和图像增强芯片,所述主控芯片包括图像处理模块(图中未示出)、相机驱动模块(Camera Driver)、相机抽象模块(camera HAL)、相机服务模块(Camera Service)、相机框架(Camera Framework)、应用模块(Application,APP)、显示框架模块(Surface Flinger)、硬件设计单元(Hardwarecomposer,HWC)、直接渲染管理器(DRM)、显示硬件(Display Hardware,Display HW)。其中,所述图像传感器可以通过所述图像处理模块与所述相机驱动模块(Camera Driver)连接。所述图像增强芯片的输出端可以与所述图像处理模块的输入端连接,以便于将所述图像增强芯片处理后的图像回传至主控芯片进一步进行处理。

请参见图2,通过使camera HAL与DRM之间连接,这样,相机抽象模块(cameraHAL)、直接渲染管理器(DRM)、显示硬件(Display Hardware,Display HW)和所述图像增强芯片依次连接形成可以依次连接形成第一数据传输通路,这样,在需要将所述第一图像数据传输至图像增强芯片进行图像增强处理时,可以通过该第一数据传输通路对第一图像数据进行传输。

而相关技术中传输第一图像数据的数据传输通路为:相机抽象模块(camera HAL)→相机服务模块(Camera Service)→相机框架(Camera Framework)→应用模块(APP)→显示框架模块(Surface Flinger)→硬件设计单元(HWC)→直接渲染管理器(DRM)→显示硬件(Display HW)→图像增强芯片。

可见,本公开实施例中,通过利用第一数据传输通过对第一图像数据传输,相对于相关技术而言,由于可以取消传输通路中的“相机服务模块(Camera Service)→相机框架(Camera Framework)→APP→显示框架模块(Surface Flinger)→硬件设计单元(HWC)”传输环节,因此,可以有效的缩短图像数据传输的路径。

此外,在基于所述图像增强芯片对所述第一图像数据进行图像增强处理,得到第二图像数据之后,所述图像增强芯片可以通过第二数据传输通路将所述第二图像数据传输至显示屏进行显示,其中,所述第二数据传输通路为:图像增强芯片→图像处理模块(图中未示出)→相机抽象模块(camera HAL)→相机服务模块(Camera Service)→相机框架(Camera Framework)→应用模块(APP)→显示框架模块(Surface Flinger)→硬件设计单元(HWC)→直接渲染管理器(DRM)→显示硬件(Display HW)→显示屏。

该实施方式中,通过基于第一数据传输通路将第一图像数据从相机抽象模块(camera HAL)传递至图像增强芯片,相对于相关技术中的图像数据传输方式而言,由于可以缩短图像数据传输的路径,因此,可以节省图像数据传输过程中的耗时,进而可以降低图像处理过程的时延。

可选地,所述第一数据传输通路还包括直接渲染管理器的封装器(DRMWrapper),其中,所述图像传感器的数据发送软件接口和所述直接渲染管理器(DRM)的数据发送软件接口分别封装于所述直接渲染管理器的封装器(DRMWrapper),所述相机抽象模块(cameraHAL)通过所述直接渲染管理器的封装器(DRMWrapper)与所述直接渲染管理器(DRM)连接。

其中,可以通过解析硬件设计单元(HWC)与直接渲染管理器(DRM)之间的交互代码,然后,在相机抽象模块(camera HAL)特制化集成出能够与所述直接渲染管理器(DRM)进行代码交互的一层软件接口层,其中,所述软件接口层即可作为上述直接渲染管理器的封装器(DRMWrapper)。

该实施方式中,通过将所述图像传感器的数据发送软件接口和所述直接渲染管理器(DRM)的数据发送软件接口分别封装于所述直接渲染管理器的封装器(DRMWrapper),这样,即可实现所述相机抽象模块(camera HAL)与所述直接渲染管理器(DRM)之间的数据传输,以形成所述第一数据传输通路。

可选地,所述基于所述主控芯片中的相机抽象模块(camera HAL)通过第一数据传输通路将所述第一图像数据传输至图像增强芯片,包括:

基于所述直接渲染管理器的封装器(DRMWrapper)将所述第一图像数据的数据格式转换为所述与所述直接渲染管理器(DRM)匹配的格式,得到第一中间数据;

基于所述直接渲染管理器的封装器(DRMWrapper)将所述第一中间数据传递至所述直接渲染管理器(DRM);

基于所述直接渲染管理器(DRM)通过所述显示硬件(Display HW)将所述第一中间数据传输至所述图像增强芯片;

所述基于所述图像增强芯片对所述第一图像数据进行图像增强处理,得到第二图像数据,包括:

基于所述图像增强芯片对所述第一中间数据进行图像增强处理,得到所述第二图像数据。

该实施方式中,通过基于所述直接渲染管理器的封装器(DRMWrapper)将所述第一图像数据的数据格式转换为所述与所述直接渲染管理器(DRM)匹配的格式,如此,有利于直接渲染管理器(DRM)接收到第一中间数据之后,可以进一步对第一中间数据进行处理,并将处理之后的数据传输至图像增强芯片进行图像增强处理。

可选地,所述第一图像数据包括第一图像和所述第一图像的拍摄时间戳,所述基于所述主控芯片中的相机抽象模块(camera HAL)通过第一数据传输通路将所述第一图像数据传输至图像增强芯片,包括:

在所述第一图像数据传输至所述直接渲染管理器(DRM)的情况下,基于所述直接渲染管理器(DRM)对所述第一图像和所述拍摄时间戳进行合成处理,得到所述第二中间数据;

所述基于所述图像增强芯片对所述第一图像数据进行图像增强处理,得到第二图像数据,包括:

基于所述图像增强芯片对所述第二中间数据进行图像增强处理,得到所述第二图像数据。

在本公开一个实施例中,通过使所述第一图像与第一图像的拍摄时间戳进行合成,这样,后续主控芯片在接收到图像增强芯片对第一图像数据进行处理得到的第二图像数据之后,可以通过校验第一图像数据与第二图像数据中的拍摄时间戳是否匹配,以确定图像增强芯片在对第一图像数据进行处理的过程中是否存在丢帧等异常。

例如,在本公开一个实施例中,所述主控芯片可以通过第一数据传输通路持续向图像增强芯片传输多个不同的第一图像数据,图像增强芯片在完成对该多个第一图像数据的图像增强处理之后,可以得到多个第二图像数据。主控芯片在接收到多个第二图像数据之后,可以分别获取多个第一图像数据的拍摄时间戳数据,然后,判断该拍摄时间戳数据中的每个拍摄时间戳是否存在与之对应的第二图像数据,若存在,则说明书图像增强芯片在进行图像增强过程中不存在丢帧的异常。若有至少一个拍摄时间戳不存在与之对应的第二图像数据,则说明图像增强芯片进行图像增强过程中,存在丢帧异常,此时,可以对该丢帧异常进行标记。这样,后续可以在丢帧位置进行插帧,以避免因丢帧导致显示异常的问题。

该实施方式中,通过基于直接渲染管理器(DRM)对第一图像和第一图像的拍摄时间戳进行合成,如此,后续图像增强芯片中输出的图像数据中可以携带图像的拍摄时间戳,有利于后续基于具有图像中的拍摄时间戳对图像处理过程中可能出现的异常进行检测。

可选地,在本公开一个实施例中,所述第一图像数据包括第一图像和所述第一图像的拍摄时间戳,所述基于所述主控芯片中的相机抽象模块(camera HAL)通过第一数据传输通路将所述第一图像数据传输至图像增强芯片,包括:

基于所述直接渲染管理器的封装器(DRMWrapper)将所述第一图像数据的数据格式转换为所述与所述直接渲染管理器(DRM)匹配的格式,得到第一中间数据;

基于所述直接渲染管理器的封装器(DRMWrapper)将所述第一中间数据传递至所述直接渲染管理器(DRM);

基于所述直接渲染管理器(DRM)对所述第一中间数据中的第一图像和所述拍摄时间戳进行合成处理,得到所述第二中间数据;

基于所述直接渲染管理器(DRM)通过所述显示硬件(Display HW)将所述第二中间数据传输至所述图像增强芯片;

所述基于所述图像增强芯片对所述第一图像数据进行图像增强处理,得到第二图像数据,包括:

基于所述图像增强芯片对所述第二中间数据进行图像增强处理,得到所述第二图像数据。

该实施方式的具体实现过程与上述实施例类似,且能够实现相同的有益效果,为避免重复,在此不再予以赘述。

可选地,所述基于所述直接渲染管理器的封装器(DRMWrapper)将所述第一中间数据传递至所述直接渲染管理器(DRM),包括:

基于所述直接渲染管理器的封装器(DRMWrapper)将所述图像传感器的目标缓存单元的标识信息传输至所述直接渲染管理器(DRM),其中,所述第一中间数据存储于所述目标缓存单元;

所述直接渲染管理器(DRM)基于所述标识信息从所述目标缓存单元中获取所述第一中间数据。

可以理解的是,上述图像传感器所采集到的第一图像数据可以通过所述目标缓存单元进行缓存,同时,所述直接渲染管理器的封装器(DRMWrapper)和所述直接渲染管理器(DRM)可以分别对所述目标缓存单元进行数据读写。在所述直接渲染管理器的封装器(DRMWrapper)对第一图像数据进行格式转换得到第一中间数据之后,可以将第一中间数据缓存于所述目标缓存单元。请参见图2,所述相机抽象模块(camera HAL)可以通过所述直接渲染管理器的封装器(DRMWrapper)将所述标识信息传递至所述直接渲染管理器(DRM),直接渲染管理器(DRM)在获取到所述第一中间数据之后,可以通过所述直接渲染管理器的封装器(DRMWrapper)向所述相机抽象模块(camera HAL)发送数据获取完成标识。

其中,所述标识信息可以包括所述目标缓存单元的地址信息,如此,所述直接渲染管理器(DRM)可以基于所述标识信息所指示的存储地址在所述目标缓存单元中进行数据读写。

该实施方式中,直接渲染管理器(DRM)在接收到所述目标缓存单元的标识信息时,可以根据所述标识信息定位所述第一中间数据的存放位置,进而可以从所述目标缓存单元中获取所述第一中间数据,从而实现直接渲染管理器的封装器(DRMWrapper)与直接渲染管理器(DRM)之间的数据传输过程。

可选地,所述方法还包括:

在所述目标缓存单元被所述图像传感器访问的情况下,所述目标缓存单元的获取围栏(acquir_fence)标识符被置起,以拒绝所述直接渲染管理器(DRM)访问所述目标缓存单元;

在所述图像传感器结束对所述目标缓存单元的访问的情况下,所述获取围栏(acquir_fence)标识符被触发,以允许所述直接渲染管理器(DRM)访问所述目标缓存单元;

在所述直接渲染管理器(DRM)访问所述目标缓存单元的情况下,所述目标缓存单元的释放围栏(release_fence)标识符被置起,以拒绝所述图像传感器访问所述目标缓存单元;

在所述直接渲染管理器(DRM)结束对所述目标缓存单元的访问的情况下,所述释放围栏(release_fence)标识符被触发,以允许所述图像传感器访问所述目标缓存单元。

其中,所述目标缓存单元被所述图像传感器访问可以是指:所述图像传感器从所述目标缓存单元读写图像数据的过程。所述直接渲染管理器(DRM)访问所述目标缓存单元可以是指:所述直接渲染管理器(DRM)从所述目标缓存单元读写图像数据的过程。

该实施方式中,通过对目标缓存单元的围栏(acquir_fence)标识符进行置起或触发,或者,对目标缓存单元的释放围栏(release_fence)标识进行置起或触发,从而可以确保在同一时间只能有一个硬件模块对目标缓存单元中的数据进行读写,进而避免在其中一个硬件模块读取目标缓存单元中的数据的过程中,因另一个模块写入新的数据,而导致读取数据的硬件模块当前读取的数据被覆盖的问题。如此,图像传感器可以采用fence机制来通知直接渲染管理器(DRM)对所述目标缓存单元中的缓存数据(buffer)使用完毕,相应地,所述直接渲染管理器(DRM)也可以采用所述fence机制来通知图像传感器对所述目标缓存单元中的缓存数据(buffer)使用完毕。如此,有利于提高对目标缓存单元中缓存数据的管理效果。

可选地,所述方法还包括:

在所述第一图像数据中的亮度参数指示环境亮度低于预设亮度阈值的情况下,所述相机抽象模块(camera HAL)建立所述直接渲染管理器的封装器(DRMWrapper)与所述直接渲染管理器(DRM)之间的连接,所述第一数据传输通路导通;

在所述第一图像数据中的亮度参数指示环境亮度不低于所述预设亮度阈值的情况下,所述相机抽象模块(camera HAL)释放所述直接渲染管理器的封装器(DRMWrapper)与所述直接渲染管理器(DRM)之间的连接,所述第一数据传输通路断开。

具体地,在当前拍摄场景的环境亮度低于预设亮度阈值时,可以将当前拍摄场景确定为暗环境拍摄场景。在此场景下,由于所述图像传感器所采集的第一图像数据的图像质量较差,因此,可以基于所述相机抽象模块(camera HAL)控制所述第一数据传输通路导通,此时,主控芯片在接收到图像传感器所采集的第一图像数据之后,可以先通过第一数据传输通路将第一图像数据传输至图像增强芯片进行图像增强处理,然后,再由主控芯片对图像增强芯片处理后的图像数据进一步进行处理。如此,通过分别利用主控芯片和图像增强芯片对暗环境下拍摄的图像数据进行处理,有利于提高暗环境拍摄的图片的质量。

相应地,在当前拍摄场景的环境亮度不低于预设亮度阈值时,可以将当前拍摄场景确定为正常拍摄场景,此时,由于所述图像传感器所采集的第一图像数据的图像质量通常较好,因此,可以仅由主控芯片对第一图像数据进行处理。由于在该场景下无需采用图像增强芯片进行增强,因此,可以基于所述相机抽象模块(camera HAL)释放所述直接渲染管理器的封装器(DRMWrapper)与所述直接渲染管理器(DRM)之间的连接,以释放所述直接渲染管理器的封装器(DRMWrapper)所占用的直接渲染管理器(DRM)中的资源,同时,还可以减少电子设备的功耗。

请参见图6,为本公开一个实施例中,所述相机抽象模块(camera HAL)释放所述直接渲染管理器的封装器(DRMWrapper)与所述直接渲染管理器(DRM)之间的连接的流程示意图,所述相机抽象模块(camera HAL)通过所述直接渲染管理器的封装器(DRMWrapper)向所述直接渲染管理器(DRM)发送释放连接命令(DisableDRM),直接渲染管理器(DRM)在接收到所述释放连接命令后,释放与所述直接渲染管理器的封装器(DRMWrapper)的连接,同时,释放所述直接渲染管理器的封装器(DRMWrapper)所占用的资源。然后,通过所述直接渲染管理器的封装器(DRMWrapper)向所述相机抽象模块(camera HAL)发送释放完成消息(DisableDone)。

可选地,所述相机抽象模块(camera HAL)建立所述直接渲染管理器的封装器(DRMWrapper)与所述直接渲染管理器(DRM)之间的连接,包括:

基于所述相机抽象模块(camera HAL)获取目标配置信息,其中,所述目标配置信息为所述直接渲染管理器(DRM)的配置信息;

基于所述相机抽象模块(camera HAL)通过所述第一数据传输通路将所述目标配置信息传输至所述直接渲染管理器(DRM);

在所述直接渲染管理器(DRM)基于所述目标配置信息完成初始化的情况下,所述直接渲染管理器的封装器(DRMWrapper)与所述直接渲染管理器(DRM)之间连接建立。

其中,所述目标配置信息可以包括所述直接渲染管理器(DRM)初始化所需的帧率和分辨率等配置信息。其中,由于直接渲染管理器(DRM)支持的分辨率有限,例如,相关技术中的直接渲染管理器(DRM)所能够支持的最大分辨率为:拍照预览分辨率:1080x2400,录像分辨率1080x1920。因此,为了减小直接渲染管理器(DRM)显示调试分辨率工作量,直接渲染管理器(DRM)的分辨率按最大配置,所述目标配置信息包括如下配置信息:拍照预览分辨率:1080x2400,录像分辨率1080x1920。如图7所示为所述直接渲染管理器(DRM)进行图像渲染的示意图,其中,1080x1080的图像渲染在1080x2400的画布左上角。

请参见图4,所述直接渲染管理器(DRM)初始化的流程为:相机抽象模块(cameraHAL)通过直接渲染管理器的封装器(DRMWrapper)将所述目标配置信息传输至所述直接渲染管理器(DRM),直接渲染管理器(DRM)基于所述目标配置信息进行初始化,在初始化完成之后,所述直接渲染管理器(DRM)通过所述直接渲染管理器的封装器(DRMWrapper)向所述相机抽象模块(camera HAL)反馈初始化完成信号。由于所述相机抽象模块(camera HAL)反馈初始化完成之后,所述直接渲染管理器的封装器(DRMWrapper)与所述直接渲染管理器(DRM)之间连接建立。因此,所述相机抽象模块(camera HAL)在接收到所述初始化完成信号时,可以进一步向所述直接渲染管理器(DRM)传输数据。

可选地,所述直接渲染管理器(DRM)包括第一直接渲染管理单元和第二直接渲染管理单元,所述相机抽象模块(camera HAL)与所述第一直接渲染管理单元连接,所述第二直接渲染管理单元用于与硬件设计单元(HWC)连接。

请参见图2和图3,在本公开一个实施例中,在所述图像处理电路对图像进行处理的过程中,一方面需要通过第一数据传输通路将第一图像数据传输至图像增强芯片进行图像增强处理;另一方面,还需要通过第二数据传输通路将将图像增强芯片处理后的第二图像数据传输至显示屏进行显示,其中,所述第二数据传输通路为:图像增强芯片→图像处理模块(图中未示出)→相机抽象模块(camera HAL)→相机服务模块(Camera Service)→相机框架(Camera Framework)→应用模块(APP)→显示框架模块(Surface Flinger)→硬件设计单元(HWC)→直接渲染管理器(DRM)→显示硬件(Display HW)→显示屏。

此外,在本公开实施例中,在所述图像增强处理完成对所述的第一图像数据的处理,得到第二图像数据之后,除了对所述第二图像数据进行送显之外,还可以对所述第二图像数据进行保存,以生成包括所述第二图像数据的录像数据。

其中,上述第一直接渲染管理单元和第二直接渲染管理单元可以是对所述直接渲染管理器(DRM)中的渲染资源进行划分之后,得到的两个相对独立的渲染单元。其中,所述第一直接渲染管理单元可以用于对所述第一数据传输通路传入的图像数据进行处理,所述第二直接渲染管理单元可以用于对所述第二数据传输通路传入的图像数据进行处理。

该实施方式中,由于所述第一数据传输通路与第二数据传输通路均需要占用所述直接渲染管理器(DRM)中的资源,为避免两条通路出现资源冲突,通过将所述直接渲染管理器(DRM)中的资源划分为两个直接渲染管理单元,并通过不同的直接渲染管理单元对不同的通路传入的图像数据进行处理,从而避免出现资源冲突的问题。

请参见图2,为本公开实施例提供的一种图像处理电路的结构示意图,所述图像处理电路,包括:

主控芯片和图像增强芯片,所述主控芯片包括相机抽象模块(camera HAL)、直接渲染管理器(DRM)、显示硬件(Display HW),所述相机抽象模块(camera HAL)通过第一数据传输通路与所述图像增强芯片连接,所述第一数据传输通路由所述相机抽象模块(cameraHAL)、直接渲染管理器(DRM)、显示硬件(Display HW)和所述图像增强芯片依次连接形成;

所述主控芯片用于接收图像传感器所采集的第一图像数据;

所述相机抽象模块(camera HAL)用于通过所述第一数据传输通路将所述第一图像数据传输至图像增强芯片;

所述图像增强芯片用于对所述第一图像数据进行图像增强处理,得到第二图像数据。

可选地,所述第一数据传输通路还包括直接渲染管理器的封装器(DRMWrapper),其中,所述图像传感器的数据发送软件接口和所述直接渲染管理器(DRM)的数据发送软件接口分别封装于所述直接渲染管理器的封装器(DRMWrapper),所述相机抽象模块(cameraHAL)通过所述直接渲染管理器的封装器(DRMWrapper)与所述直接渲染管理器(DRM)连接。

可选地,所述直接渲染管理器的封装器(DRMWrapper)用于将所述第一图像数据的数据格式转换为所述与所述直接渲染管理器(DRM)匹配的格式,得到第一中间数据;

所述直接渲染管理器的封装器(DRMWrapper)用于将所述第一中间数据传递至所述直接渲染管理器(DRM);

所述直接渲染管理器(DRM)用于通过所述显示硬件(Display HW)将所述第一中间数据传输至所述图像增强芯片;

所述图像增强芯片用于对所述第一中间数据进行图像增强处理,得到所述第二图像数据。

可选地,所述第一图像数据包括第一图像和所述第一图像的拍摄时间戳,所述直接渲染管理器(DRM)用于对所述第一图像和所述拍摄时间戳进行合成处理,得到所述第二中间数据;

所述图像增强芯片用于对所述第二中间数据进行图像增强处理,得到所述第二图像数据。

可选地,所述直接渲染管理器的封装器(DRMWrapper)用于将所述图像传感器的目标缓存单元的标识信息传输至所述直接渲染管理器(DRM),其中,所述第一中间数据存储于所述目标缓存单元;

所述直接渲染管理器(DRM)用于基于所述标识信息从所述目标缓存单元中获取所述第一中间数据。

可选地,在所述目标缓存单元被所述图像传感器访问的情况下,所述目标缓存单元的获取围栏(acquir_fence)标识符被置起,以拒绝所述直接渲染管理器(DRM)访问所述目标缓存单元;

在所述图像传感器结束对所述目标缓存单元的访问的情况下,所述获取围栏(acquir_fence)标识符被触发,以允许所述直接渲染管理器(DRM)访问所述目标缓存单元;

在所述直接渲染管理器(DRM)访问所述目标缓存单元的情况下,所述目标缓存单元的释放围栏(release_fence)标识符被置起,以拒绝所述图像传感器访问所述目标缓存单元;

在所述直接渲染管理器(DRM)结束对所述目标缓存单元的访问的情况下,所述释放围栏(release_fence)标识符被触发,以允许所述图像传感器访问所述目标缓存单元。

可选地,所述相机抽象模块(camera HAL)用于建立所述直接渲染管理器的封装器(DRMWrapper)与所述直接渲染管理器(DRM)之间的连接,以导通所述第一数据传输通路;

所述相机抽象模块(camera HAL)还用于释放所述直接渲染管理器的封装器(DRMWrapper)与所述直接渲染管理器(DRM)之间的连接,以断开所述第一数据传输通路。

可选地,所述相机抽象模块(camera HAL)用于获取目标配置信息,其中,所述目标配置信息为所述直接渲染管理器(DRM)的配置信息;

所述相机抽象模块(camera HAL)用于通过所述第一数据传输通路将所述目标配置信息传输至所述直接渲染管理器(DRM);

在所述直接渲染管理器(DRM)基于所述目标配置信息完成初始化的情况下,所述直接渲染管理器的封装器(DRMWrapper)与所述直接渲染管理器(DRM)之间连接建立。

可选地,所述直接渲染管理器(DRM)包括第一直接渲染管理单元和第二直接渲染管理单元,所述相机抽象模块(camera HAL)与所述第一直接渲染管理单元连接,所述第二直接渲染管理单元用于与硬件设计单元(HWC)连接。

可以理解的是,本公开实施例提供的图像处理电路能够实现上述实施例所述的图像处理方法的各个过程,且具有相同的有益效果,为避免重复,在此不再予以赘述。

该实施方式中,通过基于第一数据传输通路将第一图像数据从相机抽象模块(camera HAL)传递至图像增强芯片,相对于相关技术中的图像数据传输方式而言,由于可以缩短图像数据传输的路径,因此,可以节省图像数据传输过程中的耗时,进而可以降低图像处理过程的时延。

可选地,如图8所示,本申请实施例还提供了另一种电子设备800,包括处理器801,存储器802,存储在存储器802上并可在所述处理器801上运行的程序或指令,该程序或指令被处理器801执行时实现上述网络连接方法实施例的各个过程,且能达到相同的技术效果,为避免重复,这里不再赘述。

需要说明的是,本申请实施例中的电子设备包括上述所述的移动电子设备和非移动电子设备。

图9为实现本申请实施例的一种电子设备的硬件结构示意图。

该电子设备900包括但不限于:射频单元901、网络模块902、音频输出单元903、输入单元904、传感器905、显示单元906、用户输入单元907、接口单元908、存储器909、以及处理器910等部件。

其中,所述处理器910用于基于主控芯片接收图像传感器所采集的第一图像数据;

所述处理器910用于基于所述主控芯片中的相机抽象模块(camera HAL)通过第一数据传输通路将所述第一图像数据传输至图像增强芯片,其中,所述第一数据传输通路由所述相机抽象模块(camera HAL)、直接渲染管理器(DRM)、显示硬件(Display HW)和所述图像增强芯片依次连接形成;

所述处理器910用于基于所述图像增强芯片对所述第一图像数据进行图像增强处理,得到第二图像数据。

可选地,所述处理器910用于基于所述直接渲染管理器的封装器(DRMWrapper)将所述第一图像数据的数据格式转换为所述与所述直接渲染管理器(DRM)匹配的格式,得到第一中间数据;

所述处理器910用于基于所述直接渲染管理器的封装器(DRMWrapper)将所述第一中间数据传递至所述直接渲染管理器(DRM);

所述处理器910用于基于所述直接渲染管理器(DRM)通过所述显示硬件(DisplayHW)将所述第一中间数据传输至所述图像增强芯片;

所述处理器910用于基于所述图像增强芯片对所述第一中间数据进行图像增强处理,得到所述第二图像数据。

可选地,所述处理器910用于基于所述直接渲染管理器(DRM)对所述第一图像和所述拍摄时间戳进行合成处理,得到所述第二中间数据;

所述处理器910用于基于所述图像增强芯片对所述第二中间数据进行图像增强处理,得到所述第二图像数据。

可选地,所述处理器910用于基于所述直接渲染管理器的封装器(DRMWrapper)将所述图像传感器的目标缓存单元的标识信息传输至所述直接渲染管理器(DRM),其中,所述第一中间数据存储于所述目标缓存单元;

所述处理器910用于基于所述标识信息从所述目标缓存单元中获取所述第一中间数据。

可选地,所述处理器910用于在所述第一图像数据中的亮度参数指示环境亮度低于预设亮度阈值的情况下,基于所述相机抽象模块(camera HAL)建立所述直接渲染管理器的封装器(DRMWrapper)与所述直接渲染管理器(DRM)之间的连接,所述第一数据传输通路导通;

所述处理器910用于在所述第一图像数据中的亮度参数指示环境亮度不低于所述预设亮度阈值的情况下,基于所述相机抽象模块(camera HAL)释放所述直接渲染管理器的封装器(DRMWrapper)与所述直接渲染管理器(DRM)之间的连接,所述第一数据传输通路断开。

可选地,所述处理器910用于基于所述相机抽象模块(camera HAL)获取目标配置信息,其中,所述目标配置信息为所述直接渲染管理器(DRM)的配置信息;

所述处理器910用于基于所述相机抽象模块(camera HAL)通过所述第一数据传输通路将所述目标配置信息传输至所述直接渲染管理器(DRM);

所述处理器910用于在所述直接渲染管理器(DRM)基于所述目标配置信息完成初始化的情况下,建立所述直接渲染管理器的封装器(DRMWrapper)与所述直接渲染管理器(DRM)之间连接。、

本领域技术人员可以理解,电子设备900还可以包括给各个部件供电的电源(比如电池),电源可以通过电源管理系统与处理器910逻辑相连,从而通过电源管理系统实现管理充电、放电、以及功耗管理等功能。图9中示出的电子设备结构并不构成对电子设备的限定,电子设备可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件布置,在此不再赘述。

应理解的是,本申请实施例中,输入单元904可以包括图形处理器(GraphicsProcessing Unit,GPU)9041和麦克风9042,图形处理器9041对在视频捕获模式或图像捕获模式中由图像捕获装置(如摄像头)获得的静态图片或视频的图像数据进行处理。显示单元906可包括显示面板9061,可以采用液晶显示器、有机发光二极管等形式来配置显示面板9061。用户输入单元907包括触控面板9071以及其他输入设备9072。触控面板9071,也称为触摸屏。触控面板9071可包括触摸检测装置和触摸控制器两个部分。其他输入设备9072可以包括但不限于物理键盘、功能键(比如音量控制按键、开关按键等)、轨迹球、鼠标、操作杆,在此不再赘述。存储器909可用于存储软件程序以及各种数据,包括但不限于应用程序和操作系统。处理器910可集成应用处理器和调制解调处理器,其中,应用处理器主要处理操作系统、用户界面和应用程序等,调制解调处理器主要处理无线通信。可以理解的是,上述调制解调处理器也可以不集成到处理器910中。

本申请实施例还提供一种可读存储介质,所述可读存储介质上存储有程序或指令,该程序或指令被处理器执行时实现上述网络连接方法实施例的各个过程,且能达到相同的技术效果,为避免重复,这里不再赘述。

其中,所述处理器为上述实施例中所述的电子设备中的处理器。所述可读存储介质,包括计算机可读存储介质,如计算机只读存储器(Read-Only Memory,ROM)、随机存取存储器(Random Access Memory,RAM)、磁碟或者光盘等。

本申请实施例另提供了一种芯片,所述芯片包括处理器和通信接口,所述通信接口和所述处理器耦合,所述处理器用于运行程序或指令,实现上述网络连接方法实施例的各个过程,且能达到相同的技术效果,为避免重复,这里不再赘述。

应理解,本申请实施例提到的芯片还可以称为系统级芯片、系统芯片、芯片系统或片上系统芯片等。

需要说明的是,在本文中,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者装置不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者装置所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括该要素的过程、方法、物品或者装置中还存在另外的相同要素。此外,需要指出的是,本申请实施方式中的方法和装置的范围不限按示出或讨论的顺序来执行功能,还可包括根据所涉及的功能按基本同时的方式或按相反的顺序来执行功能,例如,可以按不同于所描述的次序来执行所描述的方法,并且还可以添加、省去、或组合各种步骤。另外,参照某些示例所描述的特征可在其他示例中被组合。

通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件,但很多情况下前者是更佳的实施方式。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中,包括若干指令用以使得一台终端(可以是手机,计算机,服务器,空调器,或者网络设备等)执行本申请各个实施例所述的方法。

上面结合附图对本申请的实施例进行了描述,但是本申请并不局限于上述的具体实施方式,上述的具体实施方式仅仅是示意性的,而不是限制性的,本领域的普通技术人员在本申请的启示下,在不脱离本申请宗旨和权利要求所保护的范围情况下,还可做出很多形式,均属于本申请的保护之内。

具体地,可以基于所述主控芯片的相机硬件抽象模块(Camera HardwareAbstraction Layer,Camera HAL)对所述第一图像数据进行对比度和亮度进行检测,并可以预先在主控芯片中设置判断第一图像数据的拍摄场景是否为预设场景的判断逻辑,例如,可以预先设置对比度和亮度的相关阈值判断条件,在所述Camera HAL检测到所述第一图像数据的对比度和亮度之后,将所述对比度和亮度的检测值与所述阈值判断条件进行对比,在满足阈值判断条件的情况下,确定所述第一图像数据处于所述预设场景;相应地,在不满足所述阈值判断条件的情况下,确定所述第一图像数据处于所述预设场景之外的其他场景。

在所述第一图像数据处于所述预设场景的情况下,即拍摄环境较差的情况下,可以基于所述图像增强芯片对所述第一图像数据进行亮度增强、色彩增强、对比度增强等处理,以提高所述电子设备的相机输出的图像的质量。

相关技术
  • 图像处理方法、装置、计算机可读存储介质和电子设备
  • 图像处理方法、装置、计算机可读存储介质和电子设备
  • 图像处理方法和装置、电子设备、计算机可读存储介质
  • 图像处理方法和装置、电子设备、计算机可读存储介质
  • 图像处理方法、装置、电子设备和计算机可读存储介质
  • 图像处理电路、图像处理方法、电子设备和可读存储介质
  • 图像处理方法、图像处理装置、电子设备及可读存储介质
技术分类

06120115574220