通过使用具有不同光接收持续时间的多个像素获取的数据的合成来生成图像的电子设备和方法
文献发布时间:2023-06-19 11:55:48
技术领域
本公开涉及一种用于通过使用通过具有不同光接收持续时间的多个像素的多个帧的像素值来获取改善的HDR(高动态范围)图像来改善图像的动态范围的技术。
背景技术
使用各种技术来提高使用照相机获得的图像的质量。例如,电子设备可以使用合成多个帧的方法来提高图像的动态范围。
存在一种使用包括具有长光接收持续时间的长像素和具有短光接收持续时间的短像素的图像传感器来改善一帧中的这种动态范围的方法。然而,与通过短像素获取的图像相比,通过长像素获取的图像可能具有更大的噪声。此外,通过短像素获取的图像可能在亮部分具有削波,或者在暗部分具有黑色削波。
以上信息仅作为背景信息提供,并有助于理解本公开。关于上述任何一项是否可以作为本公开的现有技术来应用,还没有做出确定,也没有做出断言。
发明内容
技术问题
本公开的各方面旨在至少解决上述问题和/或缺点,并且至少提供下述优点。因此,本公开的一个方面是提供一种使用多个帧的像素值通过具有不同光接收持续时间的多个像素来获取改进的HDR(高动态范围)图像的设备和方法。
附加的方面将在下面的描述中部分阐述,并且部分将从描述中显而易见,或者可以通过所呈现的实施例的实践来了解。
问题的解决方案
根据本公开的一个方面,提供了一种电子设备。该电子设备包括图像传感器,该图像传感器包括被配置为在第一持续时间接收光的多个第一像素,以及被配置为在比第一持续时间短的第二持续时间接收光的多个第二像素。
根据本公开的另一方面,电子设备包括至少一个处理器,其中该至少一个处理器被配置为从图像传感器顺序地获取第一原始数据和第二原始数据,其中第一原始数据包括通过多个第一像素获取的第一长像素值和通过多个第二像素获取的第一短像素值,并且其中第二原始数据包括通过所述多个第一像素获取的第二长像素值和通过所述多个第二像素获取的第二短像素值,并且基于第一原始数据和第二原始数据获取第三原始数据,其中第三原始数据包括第三长像素值和第三短像素值。
根据本公开的另一方面,每个第三长像素值是第一长像素值和第二长像素值中的与每个第三长像素值对应的第一长像素值和第二长像素值的平均值。
根据本公开的另一方面,每个第三短像素值是通过伽马校正第一短像素值和第二短像素值中的与每个第三短像素值对应的第一短像素值和第二短像素值的总和获得的值。
根据本公开的另一方面,提供了一种使用图像传感器获取高动态范围(HDR)图像的方法,该图像传感器包括在第一持续时间接收光的多个第一像素和在比第一持续时间短的第二持续时间接收光的多个第二像素。该方法包括通过多个第一像素获取第一图像,通过多个第二像素获取第二图像,通过多个第一像素获取第三图像,通过多个第二像素获取第四图像,使用第一图像的像素值和第三图像的像素值获取第五图像,其中第五图像的每个像素值是第一图像的相应像素值和第三图像的相应像素值的平均值;使用第二图像的像素值和第四图像的像素值获取第六图像,其中第六图像的每个像素值是通过伽马校正第二图像的相应像素值和第四图像的相应像素值之和而获得的值并使用第五图像和第六图像获取第七图像。
根据本公开的另一方面,提供了一种电子设备。该电子设备包括图像传感器,该图像传感器包括被配置为在第一持续时间接收光的多个第一像素,以及被配置为在比第一持续时间短的第二持续时间接收光的多个第二像素。
根据本公开的另一方面,电子设备包括至少一个处理器,其中该至少一个处理器被配置为使用图像传感器顺序地获取第一图像和第二图像,其中第一图像包括对应于第一像素的第一像素值和对应于第二像素的第二像素值,并且其中第二图像包括对应于第一像素的第三像素值和对应于第二像素的第四像素值,使用第一图像处理方案组合第一像素值和第三像素值以生成第一合成数据,使用第二图像处理方案组合第二像素值和第四像素值以生成第二合成数据,并且使用第一合成数据和第二合成数据生成第三图像,其中第三图像对应于第一图像和第二图像的组合图像。
从以下结合附图公开了本公开的各种实施例的详细描述中,本公开的其他方面、优点和显著特征对于本领域技术人员来说将变得显而易见。
发明的有利效果
本公开中公开的实施例可以使用多个帧的原始数据来改善图像的动态范围。
此外,可以提供在本公开中直接或间接认识的各种效果。
附图说明
从以下结合附图的描述中,本公开的某些实施例的上述和其他方面、特征和优点将变得更加明显,其中:
图1是根据本公开实施例的网络环境中的电子设备的框图;
图2是根据本公开实施例的电子设备的另一框图;
图3是示出根据本公开实施例的电子设备的图像传感器的像素布置的图;
图4a是示出根据本公开实施例的通过电子设备获取图像的方法的流程图;
图4b是示出根据本公开的另一实施例的用于通过电子设备获取图像的方法的流程图;
图5是示出根据本公开实施例的处理通过图像传感器获取的原始数据的过程的图;
图6a是示出根据本公开实施例的基于由图像传感器的第二像素接收的光强度的输出像素值的曲线图;
图6b是示出根据本公开实施例的基于光强度通过第二像素顺序获取的两个像素值之和的曲线图;和
图6c是示出根据本公开实施例的两个像素值之和的伽马校正值的曲线图。
在所有附图中,相同的附图标记用于表示相同的元件。
具体实施方式
提供以下参考附图的描述是为了帮助全面理解由权利要求及其等同物所定义的本公开的各种实施例。它包括有助于理解的各种具体细节,但是这些仅仅被认为是示例性的。因此,本领域普通技术人员将认识到,在不脱离本公开的范围和精神的情况下,可以对这里描述的各种实施例进行各种修改、等效和/或替代。此外,为了清楚和简明起见,可以省略对众所周知的功能和构造的描述。
在以下描述和权利要求中使用的术语和词语不限于书面意义,而是仅由发明人使用,以使得能够清楚和一致地理解本公开。因此,对于本领域的技术人员来说显而易见的是,以下对本公开的各种实施例的描述仅仅是为了说明的目的而提供的,而不是为了限制由所附权利要求及其等同物限定的本公开。
应当理解,单数形式“一”、“一个”和“该”包括复数指代物,除非上下文另有明确规定。因此,例如,提及“部件表面”包括提及一个或多个这样的表面。
图1是示出根据本公开实施例的网络环境中的电子设备的框图。
参考图1,网络环境100中的电子设备101可以经由第一网络198(例如,短程无线通信网络)与电子设备102通信,或者经由第二网络199(例如,远程无线通信网络)与电子设备104或服务器108通信。根据实施例,电子设备101可以经由服务器108与电子设备104通信。根据实施例,电子设备101可以包括至少一个处理器120、存储器130、输入设备150、声音输出设备155、显示设备160、音频模块170、传感器模块176、接口177、触觉模块179、相机模块180、电源管理模块188、电池189、通信模块190、用户识别模块(SIM)196和/或天线模块197。在一些实施例中,可以从电子设备101中省略至少一个组件(例如,显示设备160或相机模块180),或者可以在电子设备101中添加一个或多个其他组件。在一些实施例中,一些组件可以实现为单个集成电路。例如,传感器模块176(例如,指纹传感器、虹膜传感器或照度传感器)可以被实现为嵌入在显示设备160(例如,显示器)中。
处理器120可以执行例如软件(例如,程序140)来控制与处理器120耦合的电子设备101的至少一个其他组件(例如,硬件或软件组件),并且可以执行各种数据处理或计算。根据一个实施例,作为数据处理或计算的至少一部分,处理器120可以将从另一组件(例如,传感器模块176或通信模块190)接收的命令或数据加载到易失性存储器132中,处理存储在易失性存储器132中的命令或数据,并将结果数据存储在非易失性存储器134中。根据实施例,处理器120可以包括主处理器121(例如,中央处理单元(CPU)或应用处理器(AP))和辅助处理器123(例如,图形处理单元(GPU)、图像信号处理器(ISP)、传感器中枢处理器或通信处理器(CP)),其可独立于主处理器121或与主处理器121结合操作。附加地或替代地,辅助处理器123可以适于比主处理器121消耗更少的功率,或者专用于特定的功能。辅助处理器123可以被实现为独立于主处理器121或者作为主处理器121的一部分。
辅助处理器123可以在主处理器121处于非活动(例如,睡眠)状态时代替主处理器121控制电子设备101的组件中的至少一个组件(例如,显示设备160、传感器模块176或通信模块190)相关的至少一些功能或状态,或者在主处理器121处于活动状态(例如,执行应用)时与主处理器121一起控制这些功能或状态。根据实施例,辅助处理器123(例如,图像信号处理器或通信处理器)可以被实现为功能上与辅助处理器123相关的另一组件(例如,相机模块180或通信模块190)的一部分。
存储器130可以存储由电子设备101的至少一个组件(例如,处理器120或传感器模块176)使用的各种数据。各种数据可以包括例如软件(例如,程序140)和与其相关的命令的输入数据或输出数据。存储器130可以包括易失性存储器132和/或非易失性存储器134。非易失性存储器134可以包括内部存储器136和/或外部存储器138。
程序140可以作为软件存储在存储器130中,并且可以包括例如操作系统(OS)142、中间件144或应用146。
输入设备150可以从电子设备101的外部(例如,用户)接收将由电子设备101的其他组件(例如,处理器120)使用的命令或数据。输入设备150可以包括例如麦克风、鼠标、键盘或数字笔(例如,手写笔)。
声音输出设备155可以向电子设备101的外部输出声音信号。声音输出设备155可以包括例如扬声器或接收器。扬声器可用于一般用途,如播放多媒体或播放录音,接收器可用于来电。根据实施例,接收器可以被实现为与扬声器分离,或者作为扬声器的一部分。
显示设备160可以向电子设备101的外部(例如,用户)可视地提供信息。显示设备160可以包括例如显示器、全息设备或投影仪以及控制电路,以控制显示器、全息设备和投影仪中相应的一个。根据实施例,显示设备160可以包括适于检测触摸的触摸电路,或者适于测量由触摸引起的力的强度的传感器电路(例如,压力传感器)。
音频模块170可以将声音转换成电信号,反之亦然。根据实施例,音频模块170可以经由输入设备150获得声音,或者经由声音输出设备155或与电子设备101直接(例如,有线)或无线耦合的外部电子设备(例如,电子设备102)(例如,耳机的扬声器)输出声音。
传感器模块176可以检测电子设备101的操作状态(例如,功率或温度)或电子设备101外部的环境状态(例如,用户的状态),然后生成对应于检测到的状态的电信号或数据值。根据实施例,传感器模块176可以包括例如手势传感器、陀螺仪传感器、大气压力传感器、磁传感器、加速度传感器、抓握传感器、接近传感器、颜色传感器、红外(IR)传感器、生物传感器、温度传感器、湿度传感器或照度传感器。
接口177可以支持电子设备101直接(例如,有线地)或无线地与外部电子设备(例如,电子设备102)耦合所使用的一个或多个指定协议。根据实施例,接口177可以包括例如高清晰度多媒体(HDMI)接口、通用串行总线(USB)接口、安全数字卡(SD)接口或音频接口。
连接端子178可以包括连接器,通过该连接器,电子设备101可以与外部电子设备(例如,电子设备102)物理连接。根据实施例,连接端子178可以包括例如HDMI连接器、USB连接器、SD卡连接器或音频连接器(例如,耳机连接器)。
触觉模块179可以将电信号转换成机械刺激(例如,振动或运动)或电刺激,其可以由用户通过他的触觉或动觉来识别。根据实施例,触觉模块179可以包括例如马达、压电元件或电刺激器。
相机模块180可以捕捉静止图像或运动图像。根据实施例,相机模块180可以包括一个或多个镜头、图像传感器、图像信号处理器或闪光灯。
电源管理模块188可以管理提供给电子设备101的电源。根据实施例,电源管理模块188可以被实现为例如电源管理集成电路(PMIC)的至少一部分。
电池189可以向电子设备101的至少一个组件供电。根据实施例,电池189可以包括例如不可充电的一次电池、可充电的二次电池或燃料电池。
通信模块190可以支持在电子设备101和外部电子设备(例如,电子设备102、电子设备104或服务器108)之间建立直接(例如,有线)通信信道或无线通信信道,并经由建立的通信信道执行通信。通信模块190可以包括一个或多个独立于处理器120(例如,应用处理器(AP))操作并支持直接(例如,有线)通信或无线通信的通信处理器。根据实施例,通信模块190可以包括无线通信模块192(例如,蜂窝通信模块、短程无线通信模块或全球导航卫星系统(GNSS)通信模块)或有线通信模块194(例如,局域网(LAN)通信模块或电力线通信(PLC)模块)。这些通信模块中相应的一个可以经由第一网络198(例如,诸如蓝牙、无线保真(Wi-Fi)直接或红外数据协会(IrDA)的短程通信网络)或第二网络199(例如,诸如蜂窝网络、互联网或计算机网络(例如,局域网或广域网(WAN)的远程通信网络)与外部电子设备通信。这些各种类型的通信模块可以实现为单个组件(例如,单个芯片),或者可以实现为彼此分离的多个组件(例如,多芯片)。无线通信模块192可以使用存储在用户识别模块196中的用户信息(例如,国际移动用户身份(IMSI))来识别和认证通信网络(例如,第一网络198或第二网络199)中的电子设备101。
天线模块197可以向或从电子设备101的外部(例如,外部电子设备)发送或接收信号或功率。根据实施例,天线模块197可以包括天线,该天线包括由形成在基板(例如,PCB)中或基板上的导电材料或导电图案组成的辐射元件。根据实施例,天线模块197可以包括多个天线。在这种情况下,例如,通信模块190(例如,无线通信模块192)可以从多个天线中选择适合于通信网络(例如,第一网络198或第二网络199)中使用的通信方案的至少一个天线。信号或功率然后可以经由所选择的至少一个天线在通信模块190和外部电子设备之间发送或接收。根据实施例,除了辐射元件之外的另一个组件(例如,射频集成电路(RFIC))可以另外形成为天线模块197的一部分。
至少一些上述组件可以相互耦合,并通过外围设备间通信方案(例如,总线、通用输入输出(GPIO)、串行外围设备接口(SPI)或移动工业处理器接口(MIPI))在它们之间传送信号(例如,命令或数据)。
根据实施例,可以经由与第二网络199耦合的服务器108在电子设备101和外部电子设备104之间发送或接收命令或数据。电子设备102和104中的每一个可以是与电子设备101相同类型或不同类型的设备。根据实施例,要在电子设备101处执行的所有或一些操作可以在外部电子设备102、104或108中的一个或多个处执行。例如,当电子设备101应该自动执行功能或服务时,或者响应于来自用户或另一设备的请求,电子设备101可以代替执行功能或服务或者除了执行功能或服务之外,请求一个或多个外部电子设备执行至少部分功能或服务。接收该请求的一个或多个外部电子设备可以执行所请求的功能或服务的至少一部分,或者与该请求相关的附加功能或附加服务,并且将执行的结果传送给电子设备101。电子设备101可以提供结果,无论是否对结果进行进一步处理,作为对请求的回复的至少一部分。为此,例如,可以使用云计算、分布式计算或客户机-服务器计算技术。
图2是根据本公开实施例的电子设备的另一框图。
参考图2,电子设备可以包括图像传感器210(例如,图1的相机模块180)、存储器220(例如,图1的存储器130)和至少一个处理器230(例如,图1的处理器120)。
图像传感器210可以响应于从外部入射的光产生电信号。可以基于电信号生成数字图像数据。
图像传感器210可以包括像素阵列,其中多个单位像素以网格形状二维排列。像素阵列可以包括几个到几千万个单位像素,并且每个像素可以对应于多个参考颜色之一。例如,多个参考颜色可以包括R、G、B(红、绿、蓝),或者R、G、B和W(红、绿、蓝、白)。对应于每个像素的颜色可以与指定的图案(例如,拜耳图案)一致。图像传感器210可以使用例如电荷耦合器件(CCD)或互补金属氧化物半导体(CMOS)来实现。
根据实施例,图像传感器210可以包括具有不同光接收持续时间的多个像素,如图3所示。
图3是示出根据本公开实施例的电子设备的图像传感器的像素布置的图。图3中每个像素的阴影图案可以表示对应于每个像素的颜色。
参照图3,图像传感器210可以包括多个长曝光像素(LEP)310(在图3中表示为“L”)和多个短曝光像素(SEP)320(在图3中表示为“S”)。长曝光像素310可以被配置为响应于与图像获取相关联的输入,在第一时间段(长曝光像素310的光接收时间段)接收光。短曝光像素320可以被配置为响应于与图像获取相关联的输入,以比第一持续时间短的第二持续时间(短曝光像素320的光接收持续时间)接收光。例如,长曝光像素310可以接收大约1/60秒(第一持续时间)的光,而短曝光像素320可以接收大约1/500秒(第二持续时间)的光。多个长曝光像素310和多个短曝光像素320可以以重复的图案排列,或者可以以不规则的图案排列。第二持续时间可以对应于(等于)通过将预定的适当快门速度除以用于获取第三原始数据的第一原始数据和第二原始数据的数量而获得的值。适当快门速度可以例如基于图像传感器210的特性通过实验来确定。
根据本公开的实施例,图像传感器210可以将包括通过多个长曝光像素和多个短曝光像素获取的像素值的原始数据传送到处理器230。
根据一个实施例,图像传感器210可以包括用于压缩原始数据的压缩器。图像传感器210可以使用压缩器压缩原始数据,并将压缩的原始数据传送到处理器230。
根据一个实施例,图像传感器210可以压缩顺序获取的原始数据的至少一部分,并且可以不压缩其剩余部分。例如,图像传感器210可以压缩第一原始数据并将压缩的第一原始数据发生到处理器230,而图像传感器210可以不压缩紧接第一原始数据获取的第二原始数据,并且可以将其传送到处理器230。根据实施例,图像传感器210可以压缩所有获取的原始数据并将其传送到处理器230。
回头参考图2,存储器220(例如,存储器130)可以存储与电子设备中包括的组件210和230的操作相关联的命令、信息或数据。例如,存储器220可以存储指令,当指令被执行时,使得处理器230执行本公开中描述的各种操作。
处理器230(例如,处理器120)可以执行存储在存储器220中的指令,以执行本公开中描述的各种操作。
根据一个实施例,处理器230可以进一步包括用于解压缩压缩的原始数据的解压缩器。
在下文中,可以假设图2的电子设备执行图4a和图4b的过程。被描述为由电子设备执行的操作可以使用可以由电子设备的处理器230执行(或运行)的指令来实现。指令可以存储在例如计算机记录介质或图2所示电子设备的存储器220中。
根据一个实施例,电子设备的图像传感器210可以包括被配置为在第一持续时间接收光的多个第一像素和被配置为在比第一持续时间短的第二持续时间接收光的多个第二像素。
图4a是示出根据本公开实施例的通过电子设备获取图像的方法的流程图。
参考图4a,在操作401中,处理器230可以从图像传感器210获取包括第一长像素值和第一短像素值的第一原始数据。第一长像素值可以通过多个第一像素(例如,长曝光像素310)获取,而第一短像素值可以通过多个第二像素(例如,短曝光像素320)获取。
在操作403中,处理器230可以从图像传感器210获取包括第二长像素值和第二短像素值的第二原始数据。第二长像素值可以通过多个第一像素获得,而第二短像素值可以通过多个第二像素获得。
根据实施例,处理器230可以在操作401中获取压缩的第一原始数据,并且可以在操作403中从图像传感器210获取未压缩的第二原始数据。处理器230可以解压缩压缩的第一原始数据,并且可以基于解压缩的第一原始数据和第二原始数据执行以下操作405和操作407。
根据实施例,处理器230可以在操作401中通过图像传感器210获取压缩的第一原始数据,并且可以在操作403中获取压缩的第二原始数据。处理器230可以解压缩压缩的第一原始数据和压缩的第二原始数据,然后可以基于解压缩的第一原始数据和解压缩的第二原始数据执行以下操作405和操作407。
在操作405和操作407中,处理器230可以基于第一原始数据和第二原始数据获取包括第三长像素值和第三短像素值的第三原始数据。
在操作405中,处理器230可以计算第一长像素值和第二长像素值的平均值,以获取第三长像素值。
例如,所获取的每个第三长像素值可以是对应的第一长像素值和对应的第二长像素值的平均值。
在操作407中,处理器230可以对第一短像素值和第二短像素值的总和执行伽马校正,以获取第三短像素值。
例如,每个第三短像素值可以是通过伽马校正对应于每个第三短像素值的第一短像素值和对应于每个第三短像素值的第二短像素值的总和而获得的值。
根据实施例,伽马校正可以是双三次伽马校正。双三次伽马校正可以通过例如双三次滤波提取第三短像素值的一些像素值,并且可以对对应于提取的一些像素值的第一短像素值和第二短像素值执行伽马校正,然后可以对其应用双三次插值。因此,在一个实施例中,可以减少伽马校正的计算量。
根据实施例,处理器230可以在伽马校正之前对第一短像素值和对应的第二短像素值的总和执行白平衡校正。处理器230可以对白平衡校正值执行伽马校正,并且可以对伽马校正值执行逆白平衡校正,以获取第三短像素值。例如,处理器230可以使用预定义的第一参数值对第一短像素值和对应的第二短像素值的总和执行白平衡校正,然后,对白平衡校正值执行伽马校正,然后使用预定义的第二参数值对伽马校正值执行逆白平衡校正。第一参数和第二参数可以被定义为防止例如由于伽马校正引起的白平衡失真。
在操作409中,处理器230可以使用包括第三长像素值和第三短像素值的第三原始数据来获取图像。
根据实施例,处理器230可以通过对第三长像素值和第三短像素值执行插值来获取图像(例如,HDR图像)。
根据各种实施例,处理器230可以进一步基于至少一个第四原始数据来获取第三原始数据。例如,处理器230可以获取第一原始数据和第二原始数据,然后可以获取第四原始数据(对应于至少一个第四原始数据),第四原始数据包括从图像传感器通过多个第一像素获取的第四长像素值和通过多个第二像素获取的第四短像素值。处理器230可以基于第一原始数据、第二原始数据和第四原始数据获取包括第五长像素值和第五短像素值的第五原始数据(替代第三原始数据)。每个第五长像素值可以是对应于第一长像素值、第二长像素值和第三长像素值中的每个第五长像素值的第一长像素值、第二长像素值和第三长像素值的平均值。每个第五短像素值可以是通过对第一短像素值、第二短像素值和第三短像素值中的对应于每一个第五短像素值的第一短像素值、第二短像素值和第三短像素值的总和执行伽马校正而获得的值。在这种情况下,第二持续时间可以被调整为对应于通过将预定义的适当快门速度除以第一原始数据、第二原始数据和至少一个原始数据的总数而获得的值。
图4b是示出根据本公开的另一实施例的用于通过电子设备获取图像的方法的流程图。
参考图4b,在操作402中,处理器230可以通过第一像素(例如,长曝光像素310)获取第一图像,并通过第二像素(例如,短曝光像素320)获取第二图像。
根据实施例,处理器230可以通过图像传感器210获取包括第一长像素值和第一短像素值的第一原始数据。第一长像素值可以通过多个第一像素获得,而第一短像素值可以通过多个第二像素获得。处理器230可以通过对第一长像素值执行插值来获取第一图像。处理器230可以通过对第一短像素值执行插值来获取第二图像。
根据实施例,在操作402中,处理器230可以从图像传感器210获取压缩的第一原始数据。处理器230可以解压缩压缩的第一原始数据,并使用解压缩的第一原始数据获取第一图像和第二图像。
在操作404中,处理器230可以通过第一像素获取第三图像,并通过第二像素获取第四图像。
根据实施例,处理器230可以通过图像传感器210获取包括第二长像素值和第二短像素值的第二原始数据。第二长像素值可以通过多个第一像素获得,而第二短像素值可以通过多个第二像素获得。处理器230可以通过对第二长像素值执行插值来获取第三图像。处理器230可以通过对第二短像素值执行插值来获取第四图像。
根据实施例,在操作404,处理器230可以从图像传感器210获取压缩的第二原始数据。处理器230可以解压缩压缩的第二原始数据,然后可以使用解压缩的第二原始数据获取第三图像和第四图像。
在操作406中,处理器230可以通过计算第一图像的像素值和第三图像的像素值的平均值来获取第五图像。例如,第五图像的每个像素值可以是第一图像的对应像素值和第三图像的对应像素值的平均值。
在操作408中,处理器230可以通过伽马校正第二图像的像素值和第四图像的像素值之和来获取第六图像。例如,第六图像的每个像素值可以是通过伽马校正第二图像的对应像素值和第四图像的对应像素值之和获得的值。
根据实施例,伽马校正可以是双三次伽马校正。
根据本公开的实施例,处理器230可以在伽马校正之前对第二图像的对应像素值和第四图像的对应像素值之和执行白平衡校正。处理器230可以对白平衡校正值执行伽马校正,并且可以对伽马校正值执行逆白平衡校正,以获取第六图像的像素值。
在操作410中,处理器230可以使用第五图像和第六图像获取第七图像。
根据实施例,处理器230可以通过对第五图像和第六图像应用HDR校正来获取第七图像。
在下文中,将参照图5再次描述上述操作401至操作407。
图5是示出根据本公开实施例的处理通过图像传感器获取的原始数据的过程的图。
参考图2、4a和5,在操作401中,处理器230可以从图像传感器210获取包括第一长像素值和第一短像素值的第一原始数据510。
在操作403中,处理器230可以从图像传感器210获取包括第二长像素值和第二短像素值的第二原始数据520。
在操作405中,处理器230可以在模块540获取第一长像素值和第二长像素值的平均值。
在操作407中,处理器230可以在模块550对第一短像素值和第二短像素值求和,并且可以在模块560对和值执行伽马校正。
根据实施例,处理器230可以同时执行操作405和操作407,并且可以通过执行操作405和操作407来获取第三原始数据530。
在下文中,将参照图6a至6c描述通过具有短光接收持续时间的第二像素(例如,短曝光像素320)获取的像素值的处理。
在实施例中,由处理器230处理用于最终图像采集的像素值可以被假设为具有0到1023的值。
图6a是示出根据本公开实施例的基于由图像传感器的第二像素接收的光强度的输出像素值的曲线图。
图6b是示出根据本公开实施例的基于光强度通过第二像素顺序获取的两个像素值之和的曲线图。
图6c是示出根据本公开的实施例通过第二像素顺序获取的两个像素值之和的伽马校正值的曲线图。
根据实施例,图像传感器210和处理器230之间的接口可以被配置成发送/接收并行的10位数据(例如,原始数据)。相反,图像传感器210可以被配置为获取大于10位的数据(像素值),例如,大约12位。
参照图6a,第二像素接收的光强度越大,第二像素输出的像素值越大。该接口可以允许将处理器230可以从原始数据中识别的像素值在1024白限幅。
参考图6b,因为通过图像传感器210的第二像素顺序获取的两个像素值中的每一个的最大值是1024,所以两个像素值的总和被在2048白限幅。
因为处理器230可以为图像采集处理的像素值的最大值是1024,所以处理器230可以不按原样使用和值。为了使用总和,处理器230可以对像素值的总和执行伽马校正,使得校正值的最大值为1024。
参考图6c,处理器230可以对如图6b所示的像素值的总和执行伽马校正,以将该总和转换成如图6c所示的值。伽玛校正值的最大值为1024。随着光强的增加,校正值也随之增加。因此,处理器230可以获取具有最小化白限幅的像素值。
根据一个实施例,电子设备(例如,图1的电子设备101)可以包括图像传感器(例如,图2的图像传感器210)以及至少一个处理器(例如,图2的处理器230)。该图像传感器包括在第一持续时间接收光的多个第一像素(例如,图3的长曝光像素310)和在比第一持续时间短的第二持续时间接收光的多个第二像素(例如,图3的短曝光像素320)。其中该至少一个处理器被配置为:从图像传感器顺序地获取第一原始数据和第二原始数据,其中第一原始数据包括通过多个第一像素获取的第一长像素值和通过多个第二像素获取的第一短像素值,其中第二原始数据包括通过多个第一像素获取的第二长像素值和通过多个第二像素获取的第二短像素值;以及基于第一原始数据和第二原始数据获取第三原始数据,其中,第三原始数据包括第三长像素值和第三短像素值,其中,每个第三长像素值是与第一长像素值和第二长像素值中的每个第三长像素值相对应的第一长像素值和第二长像素值的平均值,其中每个第三短像素值是通过伽马校正第一短像素值和第二短像素值中对应于每个第三短像素值的第一短像素值和第二短像素值的总和而获得的值。
第二持续时间对应于通过将预定义的适当快门速度除以用于获取第三原始数据的第一原始数据和第二原始数据的数量而获得的值,其中当至少一个处理器进一步基于至少一个第四原始数据获取第三原始数据时,第二持续时间被调整为对应于通过将适当快门速度除以第一原始数据、第二原始数据和至少一个原始数据的总数而获得的值。
该至少一个处理器可以被配置为使用第三原始数据获取图像。
伽马校正可以是双三次伽马校正。
所述至少一个处理器可以被配置为:对第一短像素值和对应于第一短像素值的第二短像素值的总和执行白平衡校正;对白平衡校正值执行伽马校正;以及对伽马校正值执行逆白平衡校正以获取第三短像素值。
该至少一个处理器可以被配置为:获取使用图像传感器压缩的第一原始数据;解压缩压缩的第一原始数据;以及基于解压缩的第一原始数据和第二原始数据获取第三原始数据。
该至少一个处理器可以被配置为:获取使用图像传感器压缩的第一原始数据和第二原始数据;解压缩压缩的第一原始数据和第二原始数据;以及基于解压缩的第一原始数据和解压缩的第二原始数据获取第三原始数据。
在一个实施例中,一种使用图像传感器(例如,图2中的图像传感器210)获取高动态范围(HDR)图像的方法,该图像传感器包括在第一持续时间接收光的多个第一像素和在比第一持续时间短的第二持续时间接收光的多个第二像素,所述方法可以包括:通过多个第一像素获取第一图像;通过多个第二像素获取第二图像;通过所述多个第一像素获取第三图像;通过所述多个第二像素获取第四图像;使用第一图像的像素值和第三图像的像素值获取第五图像。其中第五图像的每个像素值是第一图像的对应像素值和第三图像的对应像素值的平均值;使用第二图像的像素值和第四图像的像素值获取第六图像,其中,第六图像的每个像素值是通过伽马校正第二图像的对应像素值和第四图像的对应像素值之和而获得的值;以及使用第五图像和第六图像获取第七图像。
伽马校正可以是双三次伽马校正。
第六图像的获取可以包括:对第二图像的像素值和第四图像的对应像素值之和执行白平衡校正;对白平衡校正值执行伽马校正;以及对伽马校正值执行逆白平衡校正,以获取第六图像的像素值。
第一图像和第二图像的获取可以包括:获取包括通过多个第一像素获取的第一长像素值和通过多个第二像素获取的第一短像素值的第一原始数据;以及对第一长像素值应用插值以获取第一图像,并且对第一短像素值应用插值以获取第二图像。
第三图像和第四图像的获取可以包括:获取包括通过多个第一像素获取的第二长像素值和通过多个第二像素获取的第二短像素值的第二原始数据;以及对第一长像素值应用插值以获取第一图像,并且对第一短像素值应用插值以获取第二图像。
在一个实施例中,电子设备(例如,图1中的电子设备101)可以包括:图像传感器(例如,图2中的图像传感器210),该图像传感器包括在第一持续时间接收光的多个第一像素(例如,图3中的长曝光像素310)和在比第一持续时间短的第二持续时间接收光的多个第二像素(例如,图3中的短曝光像素320);以及至少一个处理器,其中所述至少一个处理器被配置为:使用所述图像传感器顺序地获取第一图像和第二图像,其中第一图像包括对应于第一像素的第一像素值和对应于第二像素的第二像素值,并且第二图像包括对应于第一像素的第三像素值和对应于第二像素的第四像素值;使用第一图像处理方案组合第一像素值和第三像素值,以生成第一合成数据;使用第二图像处理方案组合第二像素值和第四像素值,以生成第二合成数据;以及使用第一合成数据和第二合成数据生成第三图像,其中第三图像对应于第一图像和第二图像的组合图像。
第一图像处理方案可以计算每个第一像素值和每个第三像素值的平均值。
第二图像处理方案可以对每个第二像素值和每个第四像素值的总和执行伽马校正。
伽马校正可以是双三次伽马校正。
第二图像处理方案可以对每个第二像素值和每个第四像素值的总和执行白平衡校正,并且对白平衡校正值执行伽马校正,并且对伽马校正值执行逆白平衡校正。
图像传感器可以压缩第一像素值和第二像素值,其中至少一个处理器被配置为:解压缩压缩的第一像素值和第二像素值;使用解压缩的第一像素值和第三像素值生成第一合成数据;使用解压缩的第二像素值和第四像素值生成第二合成数据;以及使用第一合成数据和第二合成数据生成第三图像,其中第三图像对应于第一图像和第二图像的组合图像。
图像传感器可以压缩第一像素值、第二像素值、第三像素值和第四像素值,其中至少一个处理器被配置为:解压缩压缩的第一像素值、第二像素值、第三像素值和第四像素值;使用解压缩的第一像素值和解压缩的第三像素值生成第一合成数据;使用解压缩的第二像素值和解压缩的第四像素值生成第二合成数据;以及使用第一合成数据和第二合成数据生成第三图像,其中第三图像对应于第一图像和第二图像的组合图像。
根据各种实施例的电子设备可以是各种类型的电子设备之一。电子设备可以包括例如便携式通信设备(例如智能手机)、计算机设备、便携式多媒体设备、便携式医疗设备、照相机、可穿戴设备或家用电器。根据本公开的实施例,电子设备不限于上述那些。
应当理解,本公开的各种实施例和其中使用的术语并不旨在将本文阐述的技术特征限制于特定实施例,而是包括对应实施例的各种变化、等同物或替代物。关于附图的描述,相似的附图标记可用于指代相似或相关的元件。应当理解,对应于一个项目的名词的单数形式可以包括一个或多个事物,除非相关上下文清楚地另外指出。如此处所使用的,诸如“A或B”、“A和B中的至少一个”、“A或B中的至少一个”、“A、B或C中的至少一个”和“A、B或C中的至少一个”的短语中的每一个可以包括在相应的一个短语中一起列举的项目中的任何一个或所有可能的组合。如这里所使用的,诸如“第一”和“第二”或“一”和“二”的术语可以用来简单地将相应的组件与另一个相区分,并且不在其他方面(例如,重要性或顺序)限制组件。应当理解,如果一个元件(例如,第一元件)在有或没有术语“可操作地”或“可通信地”的情况下被称为“与另一个元件(例如,第二元件)耦合”、“耦合到”、“连接到”或“连接至”,这意味着该元件可以直接(例如,有线地)、无线地或经由第三元件与另一个元件耦合。
如此处所使用的,术语“模块”可以包括以硬件、软件或固件实现的单元,并且可以与其他术语互换使用,例如,“逻辑”、“逻辑块”、“部分”或“电路”。模块可以是适于执行一个或多个功能的单个整体组件,或其最小单元或部分。例如,根据实施例,该模块可以以专用集成电路的形式实现。
这里阐述的各种实施例可以实现为软件(例如,程序140),包括存储在机器(例如,电子设备101)可读的存储介质(例如,内部存储器136或外部存储器138)中的一个或多个指令。例如,机器(例如,电子设备101)的处理器(例如,处理器120)可以调用存储在存储介质中的一个或多个指令中的至少一个,并在处理器的控制下使用或不使用一个或多个其他组件来执行它。这允许根据所调用的至少一个指令来操作机器以执行至少一个功能。一个或多个指令可以包括由编译器生成的代码或由解释器执行的代码。机器可读存储介质可以以非暂时性存储介质的形式提供。其中,术语“非暂时性”简单地表示存储介质是有形设备,并且不包括信号(例如,电磁波),但是该术语不区分数据半永久存储在存储介质中的位置和数据临时存储在存储介质中的位置。
根据实施例,根据本公开的各种实施例的方法可以被包括并提供在计算机程序产品中。计算机程序产品可以作为卖方和买方之间的产品进行交易。计算机程序产品可以以机器可读存储介质(例如,光盘只读存储器(CD-ROM))的形式分发,或者经由应用商店(例如,PlayStore)在线分发(例如,下载或上传),或者直接在两个用户设备(例如,智能电话)之间分发。如果在线分发,计算机程序产品的至少一部分可以临时生成或至少临时存储在机器可读存储介质中,例如制造商服务器的存储器、应用商店的服务器或中继服务器。
根据各种实施例,上述组件的每个组件(例如,模块或程序)可以包括单个实体或多个实体。根据各种实施例,可以省略一个或多个上述组件,或者可以添加一个或多个其他组件。替代地或附加地,多个组件(例如,模块或程序)可以集成到单个组件中。在这种情况下,根据各种实施例,集成组件仍然可以以与集成之前由多个组件中的相应一个执行的方式相同或相似的方式来执行多个组件中的每一个的一个或多个功能。根据各种实施例,由模块、程序或另一组件执行的操作可以顺序地、并行地、重复地或启发式地执行,或者可以以不同的顺序执行或省略一个或多个操作,或者可以添加一个或多个其他操作。
虽然已经参照其各种实施例示出和描述了本公开,但是本领域技术人员将理解,在不脱离由所附权利要求及其等同物限定的本公开的精神和范围的情况下,可以在形式和细节上进行各种改变。
- 通过使用具有不同光接收持续时间的多个像素获取的数据的合成来生成图像的电子设备和方法
- 使用以不同功率水平传输的不同光源利用相同波长跨相同光学通信路径发送和接收多个数据流的光学设备、系统和机器可读介质