显示控制装置、车辆及显示控制方法
文献发布时间:2023-06-19 19:23:34
技术领域
本发明涉及显示控制装置、车辆及显示控制方法。
背景技术
专利文献1中公开了一种显示控制装置,在该显示控制装置中,将用分别设置于车辆的右侧、左侧和后侧的摄像机拍摄到的图像合成并显示于显示装置。在这种现有技术中,通过将投影面设定为处于后续车辆的位置并且将各个摄像机的视野范围的边界与后续车辆的位置对齐,能够避免后续车辆双重显示。
现有技术文献
专利文献
专利文献1:日本特开2020-052671号公报
发明内容
发明要解决的问题
然而,在将投影面设定为处于后续车辆的位置的情况下,比后续车辆的位置更远的位置的背景部分会双重显示。若为了避免背景部分双重显示而将投影面设定为处于比后续车辆的位置更远的位置,则尽管背景部分不会双重显示,但有可能导致后续车辆从合成后的图像上消失。这样,在现有技术中,在合成用多个摄像机拍摄到的车辆后方的图像方面存在改进的余地。
本发明的非限制性的实施例有助于提供可以防止后续车辆从合成后的图像上消失的显示控制装置、车辆及显示控制方法。
解决问题的方案
本发明的一实施例的显示控制装置具备:车辆检测部,基于用车辆所搭载的多个摄像装置拍摄到的所述车辆的周边的多个拍摄图像,检测在所述车辆的周边存在的周边车辆;以及图像处理部,通过合成多个所述拍摄图像,来生成在所述车辆所搭载的显示部上显示的显示图像,所述图像处理部通过向被设定为处于所述车辆的后方的第一投影面投影多个所述拍摄图像,来生成所述车辆的背景图像,并且,
当在规定区域内检测到所述周边车辆时,将第二投影面设定为处于检测到所述周边车辆的位置,通过向所述第二投影面投影多个所述拍摄图像中的至少一个拍摄图像,来生成作为所述周边车辆的图像的周边车辆图像,并将所述周边车辆图像重叠于所述背景图像。
本发明的一实施例的车辆具备上述显示控制装置。
本发明的一实施例的显示控制方法包括以下步骤:基于用车辆所搭载的多个摄像装置拍摄到的所述车辆的周边的多个拍摄图像,检测在所述车辆的周边存在的周边车辆的步骤;通过向被设定为处于所述车辆的后方的第一投影面投影多个所述拍摄图像,来生成所述车辆的背景图像的步骤;在规定区域内检测到所述周边车辆时,将第二投影面设定为处于检测到所述周边车辆的位置的步骤;通过向所述第二投影面投影多个所述拍摄图像中的至少一个拍摄图像,来生成作为所述周边车辆的图像的周边车辆图像的步骤;以及将所述周边车辆图像重叠于所述背景图像的步骤。
发明效果
根据本发明的一实施例,能够构建可以防止后续车辆从合成后的图像上消失的显示控制装置、车辆及显示控制方法。
本发明的一实施例中的进一步的优点和效果将通过说明书和附图予以阐明。这些优点和/或效果分别由若干个实施方式和说明书以及附图中记载的特征提供,但未必需要为了得到一个或一个以上的相同的特征而全部提供。
附图说明
图1是表示本发明的实施方式的车辆100的结构例的图。
图2是表示本发明的实施方式的显示控制装置200的结构例的图。
图3是表示显示于显示部7的合成图像的一例的图。
图4是用于说明投影变换与视点变换的关系的图。
图5是表示进行了视点变换的情况下的视点变换图像的一例的图。
图6是用于说明通过合成用三个摄像机拍摄到的图像来制成显示图像的流程的图。
图7是用于说明生成如鸟瞰图一样的、看起来像是俯视本车辆的图像的虚拟视点图像时的流程的图。
图8是用于说明后续车辆11从显示图像上消失的状态的图。
图9是用于说明一个物体在显示图像上双重显示的状态的图。
图10是用于说明本实施方式的显示控制装置200进行的屏幕投影面13A的设定方法的图。
图11是用于说明屏幕投影面13A的应用区域(屏幕投影应用区域16)的图。
图12是用于说明屏幕投影面13A的高度的图。
图13是用于说明屏幕投影面13A与投影面10的边界部分的混合处理的图。
图14是用于说明边界区域17a、17b的动态控制方法的图。
图15是用于说明与后续车辆11的位置相应的边界区域的宽度的控制的图。
图16是用于说明边界区域中的混合比的控制的图。
图17是用于说明与后续车辆11的有无相应的虚拟视点20的位置的控制方法的图。
图18是用于说明与本车辆的车速相应的虚拟视点20的位置的控制方法的图。
图19是用于说明投影面10的倾斜度的控制方法的图。
图20是用于说明投影面10的倾斜度的控制方法的图。
图21是用于说明将路面包含在投影面10中的控制方法的图。
图22是用于说明在投影面10的下部附加缓坡面18的控制方法的图。
图23是表示碗状的投影面10的一例的图。
图24是表示弯曲的圆筒状的投影面10和屏幕投影面13A的一例的图。
具体实施方式
下面,参照附图对本发明的优选的实施方式进行详细说明。应予说明,在本说明书和附图中,对于具有实质上相同功能的构成要素,标以相同的附图标记而省略重复说明。
(实施方式)
图1是表示本发明的实施方式的车辆100的结构例的图。车辆100具备右摄像机1、左摄像机2、后方摄像机3及显示控制装置200。
右摄像机1、左摄像机2及后方摄像机3中的每一个是具备CCD(Charge CoupledDevice,电荷耦合器件)或CMOS(Complementary Metal Oxide Semiconductor,互补金属氧化物半导体)等摄像元件的、对车辆100的外部进行摄像的摄像单元。
右摄像机1例如设置在相对于车辆100的行进方向靠右侧的位置,通常,在设有右侧后视镜的位置朝向右斜后方且略微向下地设置,将表示拍摄视野范围1a而得的图像(右图像)的内容的图像信息向显示控制装置200输入。视野范围1a是车辆100的右侧后方(右斜后方)的固定区域。
左摄像机2例如设置在相对于车辆100的行进方向靠左侧的位置,通常,在设有左侧后视镜的位置朝向左斜后方且略微向下地设置,将表示拍摄视野范围2a而得的图像(左图像)的内容的图像信息向显示控制装置200输入。视野范围2a是车辆100的左侧后方(左斜后方)的固定区域。
后方摄像机3例如在相对于车辆100的行进方向靠后侧的位置略微向下地设置,将表示拍摄视野范围3a而得的图像(后方图像)的内容的图像信息向显示控制装置200输入。视野范围3a是车辆100的后方的固定区域。
显示控制装置200是将从右图像、左图像及后方图像分别剪出得到的图像在显示部7上并排显示的装置。
接着,参照图2对显示控制装置200的结构例进行说明。图2是表示本发明的实施方式的显示控制装置200的结构例的图。
显示控制装置200是例如由一个或多个ECU(Electronic Control Unit,电子控制单元)等构成,且进行显示部7中的各种显示控制处理的控制部。
显示控制装置200与右摄像机1、左摄像机2、后方摄像机3、操作部4、导航装置5及显示部7连接,并经由作为车载网络的CAN(Controller Area Network,控制器局域网)与各种传感器8连接。
操作部4是接受车辆100的乘员的输入操作的用户界面(转向灯杆、开关类等)。显示部7是显示合成图像的液晶显示器等。各种传感器8例如是车速传感器、转向角传感器、档位传感器等。
显示控制装置200具备图像处理部61、车辆检测部62、状况判定部63、图像控制部64及CAN通信部65。
图像处理部61将由右摄像机1、左摄像机2及后方摄像机3分别拍摄到的图像合成,并将合成后的图像在显示部7上显示。
车辆检测部62基于由右摄像机1、左摄像机2及后方摄像机3分别拍摄到的图像,检测在车辆100的后方所存在的后续车辆等,并且检测后续车辆的位置,输出表示是否检测到后续车辆以及后续车辆的位置的后续车辆信息。
状况判定部63输入从车辆检测部62输出的后续车辆信息和表示已在操作部4进行了输入操作这一情况的操作信息,并基于这些信息决定显示部7中的显示方式。
图像控制部64按照由状况判定部63决定的显示方式,控制图像的变换和合成的参数。在图像处理部61中,按照由图像控制部64控制的参数,进行由右摄像机1、左摄像机2及后方摄像机3分别拍摄到的图像的合成。
接着,参照图3~图9,说明创建本发明的实施方式的背景和进行拍摄图像的合成时的以往的问题等。
<混合>
图3是表示显示于显示部7的合成图像的一例的图。在图3中的左侧的图示意性地表示如何合成由右摄像机1、左摄像机2及后方摄像机3分别拍摄到的图像。在图3中的右侧的图示出显示于显示部7的合成图像。
若由三个摄像机拍摄车辆100的后方的风景,则由各个摄像机拍摄到的图像为从不同视点位置拍摄到的图像。因此,即使由这些摄像机拍摄到的物体是同一个物体,由于物体的像的形状因视点位置的不同而不同,因此,若合成这些图像,则有时图像在其接缝处不连续或失真。
例如,设置于离车辆100的后方较远的位置的围墙6在实际空间中向与车辆100的横宽方向平行的方向呈直线状延伸。然而,当将拍摄到的右图像与后方图像合成时,若围墙6的像在所合成的图像中的接缝位置处的高度不同,则围墙的像不会对齐,而出现失真。
作为其对策,例如当将后方图像夹在右图像与左图像之间的方式制作一个显示图像时,例如在右图像与后方图像的边界部分(接缝部分)设置边界区域,并且在左图像与后方图像的接缝部分也设置边界区域。而且,通过在这些边界区域中将两个图像(右图像与后方图像、或左图像与后方图像)的像素值混合,来形成显示图像。这通常称为“混合”。
在该混合中,通过设为越从相邻的两个图像中的一个图像接近另一个图像(例如,从图3的右图像接近后方图像),一个图像的像素值相对于另一个图像的像素值的混合比(blend ratio)越降低,从而能够使边界区域的不自然性不显眼。
<投影变换与视点变换>
图4是用于说明投影变换与视点变换的关系的图。当用摄像机进行拍摄时,将从实际视点(摄像机位置)观察到的三维空间中的光学信息变换为二维图像(拍摄图像)的信息。另外,将二维图像投影到三维空间中的面(投影面),这称为投影。若使投影面相对于实际视点倾斜,则投影面上的图像会被拉伸。
将拍摄图像上的像素与投影面上的像素建立对应关系的处理称为映射。通过进行映射,能够将拍摄图像变换为从其他位置观察到的图像。该变换处理称为视点变换或视点移动,通过该变换处理得到的图像称为视点变换图像。将投影面上的像素与视点变换图像上的像素建立对应关系的处理也可以称为映射。
投影面上的图像中的、通过视点变换而至视点为止的距离变近的部分在视点变换图像上被放大,通过视点变换而至视点为止的距离变远的部分在视点变换图像上被缩小。也就是说,图像也会通过视点变换而变形。
应予说明,在进行投影和视点变换时,也可以进行将拍摄图像上的像素直接与视点变换图像上的像素建立对应关系的映射,而不是在进行投影的映射后再进行视点变换的映射。此时被利用于对应关系的建立的表称为映射表。也就是说,投影和视点变换归结为用映射表使图像变形的处理。
<虚拟视点的虚实>
图5是表示进行了视点变换时的视点变换图像的一例的图。若从图上的实际视点拍摄图5所示的立方体50的正面51,则得到正面51能看见而侧面52看不见的图像。当将从该实际视点观察到的图像变换为如图中那样从靠右的虚拟视点观察到的图像时,即,将该图像变换为如虚拟地从倾斜的方向拍摄立方体50一样的视点变换图像时,正面51会被变形为与从图中那样靠右的虚拟视点观察时可观察到的图像相同的像,也就是变形为通过视点移动而变远的左侧的边被缩小的像。但是,从实际视点观察时未反映出来的立方体50的侧面52在视点变换图像中未反映出来。
即,视点变换是虚拟的视点移动,因此,在视点变换图像中,不能够得到与实际将视点移动而进行了拍摄时的图像相同的图像。投影和视点变换毕竟只是拍摄到的图像的变形而已。
<通过视点变换进行的虚拟视点图像的生成和合成图像的生成>
图6是用于说明通过合成用三个摄像机拍摄到的图像来制成显示图像的流程的图。
在制成显示图像的处理中,首先,通过视点变换将右图像、后方图像及左图像中的每一个图像变换为以显示部7的位置为虚拟视点的虚拟视点图像。
接着,通过合成这些虚拟视点图像来制成一个显示图像。通过该处理,将用三个摄像机拍摄到的图像合成为如从一个虚拟视点观察到的图像一样的图像,但如上所述,由于仍然存在因实际视点的位置不同而产生的像的差异,有时会在图像的接缝处出现不连续性。
<虚拟视点的向上移动以及本车辆的模型图像向虚拟视点图像的重叠合成>
图7是用于说明生成如鸟瞰图一样的、看起来像是俯视本车辆的图像的虚拟视点图像时的流程的图。在生成处理中,首先,如在图7的左侧所示,使虚拟视点20向本车辆的前方和上方移动。由此,得到看起来像是俯视本车辆的图像的三个虚拟视点图像。
接着,合成这些虚拟视点图像,最后生成如图7中的右侧的图所示的、在所合成的虚拟视点图像上重叠有本车辆的模型图像(例如,位于图7中的右侧的图的下部的梯形是模拟车辆100的车顶得到的图像)的图像。
在具备后视镜的通常的车辆的实际驾驶场景中,驾驶员通过观察反映在后视镜的车辆100的后部和车辆100的后方,以反映到后视镜的本车辆的后部(例如后备箱的上表面等)为基准掌握后续车辆的位置。如图7所示,在不具备镜子而使用摄像机的车辆中也同样地,通过在合成三个虚拟视点图像时虚拟地重叠合成本车辆的后部图像(图7中是模拟了车顶得到的图像),能够构建用于掌握与后续车辆的位置关系的基准。
<后续车辆11从显示图像上消失的情况>
图8是用于说明后续车辆11从显示图像上消失的状态的图。将投影面10设定为处于离车辆100较远处,且将三个虚拟视点图像以横向连续的方式向投影面10投影时,三个摄像机图像各自的一部分分别被剪出。
应予说明,投影面10不限于平面,例如也可以是后述的碗状的面,还可以是弯曲的面。另外,投影面10既可以是环绕车辆100的整周的圆筒状的面,也可以是围绕车辆100的整周的圆锥状的面。
如图1的视野范围1a、视野范围2a、视野范围3a所示,三个摄像机图像各自的视野范围有重叠的部分。若将三个摄像机图像按原样合成来制作显示图像,则在重叠的视野范围中反映出的物体在显示图像上显示多次,从而有可能导致驾驶员在掌握物体的位置时感到困惑。因此,为了避免在显示图像上产生重叠,进行剪出处理,以制作从各个摄像机图像的视野范围中剪出了一部分得到的图像。图8的剪出范围1a1是从图1的视野范围1a的右图像剪出的部分。图8的剪出范围2a1是从图1的视野范围2a的左图像剪出的部分。图8的剪出范围3a1是从图1的视野范围3a的后方图像剪出的部分。
在此,当在比投影面10的位置靠跟前处存在的后续车辆11存在于未从摄像机图像剪出的部分(背景图像中未显示的死角区域12)的情况下,死角区域12成为看着显示图像的驾驶员的死角,导致后续车辆11从显示图像上消失。也就是说,若投影面10被设定为处于比后续车辆11的位置更远的位置,则有可能后续车辆11从合成后的图像上消失。
<一个物体双重显示的情况>
图9是用于说明一个物体在显示图像上双重显示的状态的图。以下,对投影面10被设定为处于车辆100的附近的情况下的问题进行说明。
在图9的例子中,在被设定为处于车辆100的附近的投影面10上,以使三个后方图像在横向上连续的方式剪出有右图像、左图像及后方图像。剪出范围1a1、剪出范围3a1及剪出范围2a1的各自的宽度比图8的例子宽。在该情况下,剪出范围1a1、剪出范围3a1及剪出范围2a1在投影面10的位置不重叠,但在比投影面10更远的位置有重叠的部分,因此,若存在于比投影面10更远处的物体13位于重叠的部分,则该物体13显示于两个剪出范围的每一个。
在图9的例子中,剪出范围1a1的一部分与剪出范围3a1的一部分在比投影面10更远的位置重叠,从而在右图像和后方图像中显示共同的物体13。也就是说,一个物体13在所合成的显示图像上显示为两个物体13a、13b。当物体13是一辆两轮车的情况下,在被设定为处于车辆100的附近的投影面10上显示两辆两轮车。因此,驾驶员难以正确掌握两轮车的实际位置。
另外,例如,当物体13是一辆两轮车的情况下,若存在于剪出范围3a1与1a1重叠的部分的两轮车移动到仅包含在剪出范围1a1的位置,则只有存在于剪出范围1a1的两轮车显示于显示部7。此时,驾驶员由于已经识别为存在两辆两轮车,因此,在该情况下会错觉为其中一辆摩托车从车辆100的后方区域消失。
接着,参照图10等对用于解决上述问题的实施例进行说明。
(实施例1)
<实施例1-1:屏幕投影面13A的设定>
图10是用于说明本实施方式的显示控制装置200进行的屏幕投影面13A的设定方法的图。
在检测到后续车辆11时,显示控制装置200将能够包围后续车辆11的大小的屏幕状的投影面(屏幕投影面13A)设定为处于后续车辆11的正面部分。而且,显示控制装置200将拍摄图像中的包含后续车辆11的像的区域投影到屏幕投影面13A来生成屏幕图像。此时,若不存在包含后续车辆11的整体像的拍摄图像,则也可以将两个拍摄图像投影到屏幕投影面13A,从而在屏幕投影面13A上合成后续车辆11的整体像。若存在包含后续车辆11的整体像的拍摄图像,则也可以仅将一个拍摄图像投影到屏幕投影面13A。如果只有一个拍摄图像被投影到屏幕投影面13A,则能够避免伴随合成而产生的不连续性,因此,能够生成更优选的屏幕图像。关于屏幕投影面13A的设定区域,将在后面描述。
另外,显示控制装置200将投影面10设定为处于比屏幕投影面13A更远处,并向投影面10投影多个拍摄图像,来生成背景图像(例如包含物体13的图像)。
而且,显示控制装置200通过在背景图像上嵌入屏幕图像,来生成一个显示图像。
应予说明,屏幕投影面13A和投影面10可以是扁平长方形的面,也可以是球面等弯曲的面。
由此,出现后续车辆11的图像被贴到连续的背景图像的情况,因此,能够解决后续车辆11的消失和后续车辆11的图像双重显示的问题。也就是说,背景图像是以使图像在远处的投影面10上连续的方式进行剪裁来合成以避免图像双重显示的,后续车辆11的像被捕捉到屏幕图像中并重叠于背景图像上,因此,不会发生后续车辆11的消失。
应予说明,当未检测到后续车辆11的情况下,显示控制装置200不进行屏幕投影面13A的设定和向屏幕投影面13A的投影,而将背景图像设为显示图像。
<实施例1-2:屏幕投影面13A的设定区域>
图11是用于说明屏幕投影面13A的应用区域(屏幕投影应用区域16)的图。
图11中示出了将车辆周边的多个拍摄图像投影到投影面以生成背景图像时的、右摄像机的拍摄图像的剪出范围1a1的靠中央的端部a、左摄像机的拍摄图像的剪出范围2a1的靠中央的端部b以及后方摄像机的拍摄图像的剪出范围3a1的靠右的端部c1和靠左的端部c2。当将车辆周边的多个拍摄图像投影到该投影面时进行的剪裁是限定从车辆周边的多个拍摄图像投影的范围,以使背景图像成为连续的图像的剪裁,具体而言,以将与相邻的图像重叠的部分从投影的范围中排除的方式进行剪裁。应予说明,在图11的例子中,以进行混合为前提进行剪裁,以留出宽度较窄的重叠部分作为用于混合的余地。屏幕投影应用区域16被设定为包含如下区域,即,包含在后方摄像机的视野范围3a中,但当以使背景图像成为连续的图像的方式进行剪裁时不会被显示于背景图像的区域。
作为以使背景图像成为连续的图像的方式进行了剪裁时的例子,请一并参照图8。如图8所示,当进行了限定从车辆周边的多个拍摄图像投影的范围的剪裁,以使背景图像成为连续的图像时,未显示在背景图像中的死角区域12会扩大,因此,若两轮车11进入该死角区域12,则它从背景图像中消失。在图11的例子中也同样地,剪出范围1a1的端部a与剪出范围3a1的端部c1之间的区域成为未显示在背景图像中的死角区域12,但是,与图8的死角区域12相比,其范围大幅度地缩小,仅限于紧靠车辆100的位置。进入该死角区域12的后续车辆11的图像有可能从背景图像中消失,但这是由于摄像机的配置上的限制而不可避免地产生的死角,可以说是在保持通常的车间距离的情况下后续车辆不会进入的区域,因此,图11的死角区域12不包含在屏幕投影应用区域16中。
如上所述,显示控制装置200将屏幕投影应用区域16设定为包含如下区域,即,包含在后方摄像机的视野范围3a中,但当以使背景图像成为连续的图像的方式进行剪裁时不会被显示于背景图像的区域,并且显示控制装置200将上述屏幕投影面13A设定为处于所设定的屏幕投影应用区域16的前端部分。将屏幕投影应用区域16的宽度设定为大于如下区域,即,包含在后方摄像机的视野范围3a中,但当以使背景图像成为连续的图像的方式进行剪裁时不会被显示于背景图像的区域的理由是,即使在后续车辆的车身的一部分进入不会被显示于背景图像的区域的情况下,也通过应用屏幕投影,来避免后续车辆的车身的一部分变得看不见而妨碍驾驶员对情况的掌握。
应予说明,在背景图像中的、仅反映了由一个摄像机拍摄到的图像的区域(例如图11的剪出范围1a1)中,即使以使背景图像成为连续的图像的方式进行剪裁,后续车辆11也不会消失,而且图像也不会双重显示。因此,不需要对该区域设定屏幕投影应用区域16。在图11中,夹在两个屏幕投影应用区域16之间的车辆100的正后方的区域也被排除在屏幕投影应用区域16之外,因为该区域总是显示于背景图像,也不会产生图像双重显示的情况。
另外,即使将屏幕投影应用区域16应用到离投影面10较近的位置或比投影面10更远的位置,与未应用屏幕投影应用区域16的情况相比,也没有较大的差异,因此,不需要对这些位置设定屏幕投影应用区域16。
<实施例1-3:屏幕投影面13A的高度的设定>
图12是用于说明屏幕投影面13A的高度的图。
屏幕投影面13A的高度被设定为,在从虚拟视点20观察后续车辆11时,包含从后续车辆11的上端到下端的区域。
在比屏幕投影面13A的上端更靠上侧的区域中,不需要显示后续车辆11的图像,因此,在显示图像上的该区域选择投影面10的背景图像。由此,在屏幕投影面13A的上侧的部分,背景图像不被屏幕投影面13A遮挡地显示。在屏幕投影面13A的下侧的部分也选择背景图像,并且拍摄有路面的部分不被屏幕投影面13A遮挡地显示。
根据实施例1,通过设定屏幕投影面13A,后续车辆11的图像被投影到屏幕投影面13A,因此,能够防止后续车辆11的消失。
另外,即使在设定了屏幕投影面13A的情况下,至少在投影面10整体中未被屏幕投影面13A遮挡的区域中,背景图像不会双重显示而看起来是连续的,因此,驾驶员不会对背景图像感到不协调感。
另外,即使远处的物体的图像在后续车辆11的图像的附近双重显示,图像双重显示的区域是比较窄的范围,因此,不会成为视觉辨认上的障碍。
<实施例1-4:屏幕投影面13A与投影面10的边界部分的混合>
图13是用于说明屏幕投影面13A与投影面10的边界部分的混合处理的图。
在设定屏幕投影面13A的情况下,屏幕投影面13A的屏幕投影图像与投影面10的背景图像是不连续的,因此,显示控制装置200可以在屏幕投影面13A的屏幕投影图像的边缘部分设置屏幕投影图像与背景图像的边界区域17c,并在边界区域17c中,以随着靠近外侧而屏幕投影图像的透射率连续地上升,逐渐地融合到背景图像中的方式进行混合。
在背景图像的生成中也同样地,不同的图像的边界部分也有可能变得不连续,因此,也可以设置边界区域并进行混合。例如,后述的图14中的上侧的图的边界区域17a是右图像与后方图像的边界区域,而边界区域17b是左图像与后方图像的边界区域。设置边界区域17a、17b,且在边界区域中通过越靠近相邻的图像则权重越小的加权算术来计算出合成图像的像素值,从而以使相邻的图像彼此融合的方式进行像素混合,由此,能够使背景图像与屏幕图像的边界线(边界)不显眼。另外,当在屏幕投影图像的生成中使用多个摄像机图像时,也可以在图像的边界部分设置边界区域并进行混合。这样,通过对有时会变得不连续的图像的边界部分进行混合,能够避免边界部分变得不自然而引起驾驶员的注意。
<实施例1-5:多个屏幕投影面13A的设定>
显示控制装置200也可以构成为与后续车辆11的数量相应地设定多个屏幕投影面13A。
例如,若在存在多个后续车辆11的情况下仅针对多个后续车辆11中的特定的后续车辆11设定屏幕投影面13A,则被设定屏幕投影面13A的后续车辆11的图像投影到屏幕投影面13A而其余的后续车辆11的图像投影到背景投影面。因此,未设定屏幕投影面13A的后续车辆的图像会在图像的边界部分的边界区域双重显示,或因投影到比本该投影到的位置更远的位置而图像被拉伸。
为了解决这种问题,在检测到多个后续车辆11时,显示控制装置200将能够包围后续车辆11的大小的屏幕状的投影面(屏幕投影面13A)设定为处于检测到的后续车辆11的各自的正面部分。
由此,多个后续车辆11的图像被投影到实际的后续车辆11的位置,从而能够抑制图像在边界区域被双重显示或拉伸。
(实施例2)
<实施例2-1:边界区域的动态控制>
在实施例2中,对通过动态地控制屏幕投影面13A的图像与投影面10的图像的边界部分(边界区域17a、17b),来代替屏幕投影面13A的设定,从而解决后续车辆11消失的问题的实施例进行说明。
图14是用于说明动态地控制边界区域17a、17b的方法的图。例如在后续车辆11进入后方图像与右图像的边界附近区域时,后续车辆11就会消失。
显示控制装置200构成为,在边界区域17a、17b中包含有可能发生后续车辆11的消失的区域。具体而言,当如图14中的下侧的图所示后续车辆11的像位于边界区域17a的附近时,扩大边界区域17a的宽度来使得后续车辆11的像包含在边界区域17a中。在该边界区域中,将后方图像的像素与右图像的像素混合来生成显示图像的像素,因此,如果后续车辆11的像包含在后方图像与右图像中的至少一者,则会在显示图像中显示后续车辆11的像。由此,能够避免后续车辆11在后方图像与右图像的边界附近处消失。
在图14中,将边界区域17a的右端固定,且将边界区域17a的左端向左侧移动,从而将后续车辆11的像包含在边界区域中,但也可以进行根据后续车辆11的像的位置还使边界区域17a的右端移动的控制。例如,也可以还使边界区域17a的右端向左侧移动,并以使后续车辆11的像位于边界区域17a的中央的方式,使边界区域整体的位置移动。在图14中,示出了后续车辆11的像位于后方图像与右图像的边界附近时的例子,当后续车辆11的像位于后方图像与左图像的边界附近时,扩展边界区域17b以包含后续车辆11的像,且在该边界区域中将后方图像的像素与左图像的像素混合来生成显示图像的像素即可。这样,显示控制装置200将后续车辆11的像包含在边界区域17a、17b中,并且将边界区域17a、17b混合,从而能够使边界区域17a、17b的不自然性不显眼的同时,避免后续车辆11在后方图像与左右图像的边界附近处消失。作为该后方图像与左右图像的边界附近的区域,也可以设定与使用图11说明过的应用屏幕投影面13A的区域(屏幕投影应用区域16)相同的区域。
<实施例2-2:与后续车辆11的有无相应的边界区域17a、17b的宽度的控制>
显示控制装置200也可以构成为,当未检测到后续车辆11的情况下不扩大边界区域17a、17b的宽度,而当检测到后续车辆11的情况下扩大边界区域的宽度。另外,显示控制装置200也可以检测后续车辆11的像的宽度,并根据后续车辆11的像的宽度判断是否扩大边界区域17a、17b的宽度。
例如,当检测到后续车辆11的情况下,显示控制装置200对后续车辆11的横向宽度和反映有后续车辆11的范围进行判定。在后续车辆11比规定宽度窄的情况下,显示控制装置200判定为后续车辆11是两轮车,在后续车辆11比规定宽度宽的情况下,显示控制装置200判定为后续车辆11是四轮车。
由于四轮车的车宽比两轮车的车宽更宽,在后续车辆11是四轮车的情况下,不会发生四轮车的整个像从显示图像中消失的情况,即使四轮车的一部分从显示图像中消失,可以认为不会导致后续车辆11的看漏。因此,当后续车辆11的横向宽度较宽而判定为它是四轮车时,显示控制装置200也可以对于该四轮车附近的边界区域进行将边界区域的宽度保持不变的控制。
由于两轮车的车宽比四轮车的车宽更窄,在后续车辆11为两轮车的情况下,容易发生两轮车的整个像从显示图像中消失的情况。因此,当后续车辆11的横向宽度较窄而判定为它是两轮车时,显示控制装置200对于该两轮车附近的边界区域进行扩大边界区域的宽度的控制。
另外,显示控制装置200也可以对从图像上的后续车辆11的像至后方图像与左右图像的边界为止的距离进行评估,仅在后续车辆11的像存在于边界附近时加宽边界区域。如果后续车辆11的像的位置远离边界,则能够省略以后的是否需要加宽的判定的处理,因此,能够减轻判定是否需要边界区域的加宽所带来的负荷。
应予说明,显示控制装置200也可以构成为,对至后续车辆11为止的距离和接近速度进行评估,并仅在检测到与车辆100发生干扰的可能性的情况下,对该后续车辆11附近的边界区域实施上述混合。例如,在与后续车辆11的车间距离比规定值大,并且车间距离并未减少时,可以判断为不存在后续车辆11与车辆100干扰的可能性,进而判定为不需要加宽边界区域。由此,能够防止不必要地发生因在边界区域处图像双重显示而导致图像不清晰(模糊)。
<实施例2-3:与后续车辆11的位置相应的边界区域的宽度的控制>
图15是用于说明与后续车辆11的位置相应的边界区域的宽度的控制的图。
在边界区域中,图像双重显示而使得图像不清晰,因此,优选地,边界区域的宽度较窄。另一方面,当存在于本车辆附近的后续车辆11在横向上进行了移动时的、后续车辆11在图像上的移动量比存在于离本车辆较远处的后续车辆11在横向上进行了移动时的、后续车辆11在图像上的移动量大。此时,如果边界区域的宽度的控制不跟随后续车辆11的横向移动,则后续车辆11的像偏离边界区域并从显示图像中消失的可能性变大。
因此,显示控制装置200可以以如下方式进行控制:例如当宽度较窄的后续车辆11存在于离本车辆较远的位置时,使后续车辆11附近的边界区域的宽度变窄,随着后续车辆11接近本车辆,连续地或阶段性地扩大边界区域的宽度。
由此,能够抑制因图像双重显示而引起的图像模糊,并且防止后续车辆11的像偏离边界区域并从显示图像中消失。
另外,即使在后续车辆11的检测处理延迟的情况下,通过扩大后续车辆11附近的边界区域的宽度,也能够防止后续车辆11从边界区域中消失。
<实施例2-4:边界区域中的混合比的控制>
图16是用于说明边界区域中的混合比的控制的图。
显示控制装置200也可以以如下方式进行控制:检测后续车辆11的像的中心位置或后续车辆11的驾驶员的脸部(或头部)的位置,并使比边界区域更靠右侧的图像与更靠左侧的图像的混合比为1比1的交叉点与后续车辆11的中心位置或后续车辆11的驾驶员的脸部(或头部)的位置一致。从图像中检测脸部图像的人脸识别的技术是公知的,因此省略详细描述,人脸识别是通过对与字典图像之间的匹配度进行评估的模式匹配执行的,也可以是对与多个字典图像之间的匹配度进行评估,如果与其中任意一个匹配,则识别为人脸的算法。若带上头盔则驾驶员的脸部的部位会看不见,但是,通过添加与带头盔的驾驶员的肩部以上的图像匹配的字典图像,能够还检测出带头盔的驾驶员的脸部(或头部),并确定位置。
边界区域中的混合比根据像相对于边界区域的位置而不同。例如,在两轮车的像位于离边界区域的端部较近的、混合比较低的部分(例如接近0%)的情况下,两轮车的像被混合得很薄,对其将不存在两轮车的背景图像较浓地混合而得的像成为显示图像。其结果,两轮车被显示得很薄,驾驶员有可能将两轮车看漏。
此时,通过在后续车辆11的图像的中心位置或后续车辆11的驾驶员的脸部的位置,即驾驶员对两轮车进行视觉辨认时的着眼位置,将混合比设为1比1,使得两轮车的图像以大概一半的浓度被显示,因此,可减轻看漏后续车辆11的风险。另外,由于能够视觉辨认两轮车的驾驶员的脸部,从而也容易预测两轮车的下一步动作。
<实施例2的效果>
如上所述,在两轮车进入显示图像上的左右的摄像机图像的视野范围与后方摄像机的摄像机图像的视野范围之间所形成的死角,而两轮车的像有可能从显示图像上消失的情况下,使将左右的摄像机图像与后方摄像机的摄像机图像混合来进行显示的边界区域的宽度扩大以包含两轮车的像,从而能够防止两轮车的图像消失。
另外,通过控制边界区域,能够只使用一个投影面10显示图像,因此,与使用屏幕投影面13A和投影面10这两者的情况相比,图像处理量变少,能够缩短从检测到后续车辆11至显示图像被显示于显示部7为止的显示延迟时间。
另外,由于显示延迟时间变短,能够缩短从本车辆的周围状况发生变化至实施与变化后的周围状况相应的驾驶操作为止的时间。
(实施例3)
接着,参照图17等对实施例3进行说明。应予说明,实施例3能够与实施例1或实施例2组合。
<实施例3-1:与后续车辆11的有无相应的虚拟视点20的位置控制>
图17是用于说明与后续车辆11的有无相应的虚拟视点20的位置的控制方法的图。
显示控制装置200以如下方式进行控制:在存在后续车辆11的情况下,将虚拟视点20设定在相对于路面较高的位置,在不存在后续车辆11的情况下,与存在后续车辆11的情况相比,将虚拟视点20设定在相对于路面较低的位置。
通过将虚拟视点20设定在相对于路面较高的位置,能够提供如从较高的位置俯瞰车辆一样的图像,因此,可容易掌握路面上的本车辆与后续车辆11的动作。
另一方面,若将虚拟视点20设定在相对于路面较高的位置,则因车辆的移动而产生的路面标记等固定物体的移动在显示画面上显得更大,因此,这会吸引驾驶人员的关注。这种情况可以解释为,若提升虚拟视点20,则视线引导性变高。在行驶中,驾驶员必须注视前方,因此,最好避免不必要地吸引视线。当不存在后续车辆11时,通过将虚拟视点20设定在相对于路面较低的位置,在显示部7上的路面的移动变少,因此,能够防止不必要地吸引视线。
<实施例3-2:与本车辆的车速相应的虚拟视点20的位置控制>
图18是用于说明与本车辆的车速相应的虚拟视点20的位置的控制方法的图。
显示控制装置200也可以构成为,根据本车辆的车速将虚拟视点设定在相对于路面较高的位置,或将虚拟视点20设定在较低的位置。
在本车辆的速度较低的情况下,画面上的路面的移动变少,因此,视线不易被引导于移动的路面。因此,在本车辆的速度为规定速度以下的情况下,显示控制装置200将虚拟视点20设定在相对于路面较高的位置,在本车辆的速度超过规定速度的情况下,与本车辆的速度为规定速度以下的情况相比,将虚拟视点20设定在相对于路面较低的位置。
由此,能够防止不必要地将视线吸引到移动的路面,并且容易掌握本车辆和后续车辆11的动作。这种与本车辆的速度相应的控制也可以和与后续车辆11的有无相应的控制组合来实施。例如,可以进行如下的控制:在本车辆的速度较低且存在后续车辆11时,将虚拟视点20设定在较高的位置,在除此以外的情况下,将虚拟视点20设定在较低的位置,还可以进行如下的控制:仅在本车辆的速度较高且不存在后续车辆11时将虚拟视点20设定在较低的位置,在除此以外的情况下,将虚拟视点20设定在较高的位置。可以说前者是重视抑制视线引导性的控制,后者是重视易于监视后方的控制,可以根据车辆的设计思想,采用任意一种控制。
<实施例3-3:与虚拟视点20的移动相应的投影面10的倾斜度控制>
图19和图20是用于说明投影面10的倾斜度的控制方法的图。
如图19所示,当投影面10沿与路面垂直的方向上下延伸的情况下,后续车辆11的靠近路面的部分的图像被投影到比路面更靠下侧的投影面10上。若从设定在比实际的摄像机位置高的位置的虚拟视点20观察该投影面10上的图像,则看起来后续车辆11的图像沿上下方向被压坏(失真)。
因此,如图20所示,在通过实施例3-1或实施例3-2的控制将虚拟视点20设定在较高的位置的情况下,显示控制装置200将投影面10设定为处于假定后续车辆11所在的位置,并使该投影面10相对于路面倾斜。此时,显示控制装置200将投影面10设定为与从虚拟视点20向假定后续车辆11所在的位置延伸的虚拟视线15垂直相交。
应予说明,从车辆100至投影面10为止的距离可以根据车辆100的速度适当地变更,例如,当车辆100高速行驶时,可以使从车辆100至投影面10为止的距离加长。标准的车间距离在车速高时较长,在车速低时较短,因此,根据车速改变从车辆100至投影面10为止的距离是合理的。
为了容易掌握路面上的本车辆和后续车辆11的动作,当提供如从较高的位置俯瞰车辆一样的图像时,通过使投影面10相对于路面倾斜,能够消除后续车辆11的图像失真。
另外,在通过实施例3-1或实施例3-2的控制将虚拟视点20设定在较低的位置的情况下,显示控制装置200也可以将投影面10设定为处于估计后续车辆11所在的位置,并将该投影面10设定为与路面垂直。
通过将投影面10设定为与路面垂直,显示部7上的路面的移动变少,因此,能够防止不必要地吸引视线。
这样,显示控制装置200根据后续车辆11的有无或本车辆的速度使投影面10的倾斜角度变化,从而能够不易引导驾驶员的视线并且减小投影到投影面的图像的失真。
<实施例3-4:将路面包含在投影面10中的控制>
图21是用于说明将路面包含在投影面10中的控制方法的图。
如图21所示,显示控制装置200也可以构成为将路面包含在投影面10中。
通过将路面包含在投影面10中,路面标记(路面上的限速标记等)的位置不会因投影而变化,因此,能够消除由投影引起的扭曲(失真)。另外,通过从设定在较高的位置的虚拟视点20观察包含路面的投影面10,路面标记变得容易看见。
另外,显示控制装置200也可以构成为,当虚拟视点20的离地高度被设定得较高时,将路面的图像包含在投影面10中,而当虚拟视点20的离地高度被设定得与此相比更低时,使投影面10中包含的路面的范围比虚拟视点20的离地高度被设定得较高时的投影面10中包含的路面的范围小。
应予说明,当由于不存在后续车辆11而将虚拟视点20设定在较低的位置的情况下,即使将图像投影到不包含路面的投影面10,也能够得到如驾驶员实际看到的一样的显示图像,因此,在该情况下,也可以不将路面加入投影面10中。
<实施例3-5:在投影面10的下部附加缓坡面18的控制>
图22是用于说明在投影面10的下部附加缓坡面18的控制方法的图。
显示控制装置200也可以构成为,在投影面10与路面之间添加缓坡面18,将整个投影面10和缓坡面18设定为投影面。
缓坡面18相对于路面的倾斜度小于投影面10相对于路面的倾斜度。应予说明,图22中示出了缓坡面18为平面状的情况,但缓坡面18不限于此,也可以是将投影面10与路面平滑地相连的曲面。
若位于比投影面10更远处的路面的图像被投影在以相对于路面竖立的方式倾斜的投影面10上,则该图像会失真而难以看清。由此,比投影面10靠跟前处的路面的图像与位于比投影面10更远处的路面的图像不连续,导致外观的不协调感较大。
通过在投影面10与路面之间添加缓坡面18,路面与投影面10之间的不连续性会得到减轻,从而能够减小位于比投影面10更远处的路面的图像的失真。
<实施例3-6:以不妨碍对于后续车辆11的视觉辨认性的方式设定缓坡面18的位置的控制>
根据设置缓坡面18的位置,有可能妨碍对于后续车辆11的视觉辨认性。例如,当在投影面10附近存在后续车辆11的情况下,后续车辆11的像中的投影于缓坡面18的部分会失真,并且导致遍及投影于缓坡面18的部分和投影于其上方的投影面的部分的直线看起来是弯折的。作为其对策,可以考虑将缓坡面18的上端的高度限定在假定的后续车辆的下部结构物所存在的范围。后续车辆的下部结构物是指,例如比四轮车的保险杠更靠下方的部分或比两轮车的车轴更靠下方的部分。
于是,失真的部分被限定在后续车辆11的图像的下部。由于驾驶员视觉辨认后续车辆时着眼的部分是车身上部,即使后续车辆11的图像的下部失真,对视觉辨认后续车辆11的妨碍也不大。
因此,显示控制装置200也可以在假定后续车辆11所在的位置,将缓坡面18的上端设定为处于在后续车辆11的保险杠或车轴的位置,并使该缓坡面18与投影面10相连。
由此,投影面10的弯折的部分(缓坡面18)被设定为处于后续车辆11的下部,因此,后续车辆11的上部的图像不会不连续,从而对于后续车辆11的视觉辨认性会提高。
此外,对于俯瞰显示,为了与检测到后续车辆11时保持连续性,未检测到后续车辆11时也可以将路面包含在投影面10中。但是,由于有需要减少视线引导性,当投影面10中包含路面的情况下,也可以通过使投影面10中包含的路面的范围变窄,或使路面部分变得模糊,来减少对视觉的刺激。(实施例4)
显示控制装置200也可以构成为,将投影到屏幕投影面13A的后续车辆11的图像再次投影到投影面10,并且在将后续车辆11的图像再次投影时与屏幕投影面13A至投影面10为止的距离相应地将投影到屏幕投影面13A的后续车辆11的图像放大。
例如,假设在图12所示的后续车辆11的正侧方存在四轮车,且从该四轮车至本车辆为止的距离与从后续车辆11至本车辆为止的距离相等。同时还假设四轮车的高度与后续车辆11的高度大致相等,但四轮车的横向宽度大于后续车辆11的横向宽度。
在此,由于屏幕投影面13A的大小设定为可将后续车辆11的整个图像投影的最小限度的大小,大于屏幕投影面13A的大小的四轮车不会成为设定屏幕投影面13A的对象。
因此,在屏幕投影面13A被设定为仅处于后续车辆11的前方,而未被设定为处于四轮车的前方的情况下,有可能发生如下的问题。即,在该情况下,从屏幕投影面13A至投影到屏幕投影面13A的对象物体(例如后续车辆11)为止的距离,与从设定为处于比屏幕投影面13A更远处的投影面10至投影到投影面10的对象物体(例如上述的四轮车)为止的距离不同。由此,导致用于投影到屏幕投影面13A的屏幕图像的对象物体的放大率与用于投影到投影面10的背景图像的对象物体的放大率不同。
即,后续车辆11被投影到设定为处于紧靠后续车辆11前方的位置的屏幕投影面13A,因此其图像的大小以不会超过屏幕投影面13A的尺寸的方式被缩小,相对于此,存在于后续车辆11的正侧方的四轮车被投影到远处的投影面11,因此其图像被放大而变大。
由此,当通过在背景图像上嵌入屏幕图像来生成一个显示图像时,放大后的四轮车的图像会显示在如上述那样被缩小的后续车辆11的图像的侧方。因此,有可能导致驾驶员对所生成的图像感到不协调感或误认为后续车辆11位于比存在于后续车辆11的正侧方的四轮车更远处。
应予说明,包含作为背景图像而投影到投影面11的对象物体(例如上述的四轮车)的图像的放大率取决于从车辆100至该对象物体为止的距离与从车辆100至投影面11为止的距离之比。因此,在后续车辆11接近车辆100时两者的放大率的差异变大,导致两者的图像大小的不同所引起的不协调感更明显。
为了解决这种问题,显示控制装置200将投影到屏幕投影面13A的后续车辆11的图像再次投影到投影面10,并且在将后续车辆11的图像再次投影时与从屏幕投影面13A至投影面10为止的距离相应地将投影到屏幕投影面13A的后续车辆11的图像放大。
通过上述结构,能够使包含作为背景图像而被投影到投影面11的对象物体(例如上述的四轮车)的图像的放大率,与包含作为屏幕图像而被投影到屏幕投影面13A的对象物体(后续车辆11)的图像的放大率大致相同。
应予说明,被再次投影的面不限定于投影面10,显示控制装置200例如也可以将与投影面10不同的投影面设定为处于如下位置并将屏幕图像再次投影到该投影面,该位置距屏幕投影面13A的距离与从屏幕投影面13A至投影面10为止的距离大致相同。
另外,显示控制装置200也可以构成为,不将投影到屏幕投影面13A的屏幕图像再次投影到投影面10,而代之以如下方式对屏幕图像进行投影。例如,首先,显示控制装置200计算从后续车辆11至屏幕投影面13A为止的距离和从后续车辆至投影面10为止的距离,并计算这些距离的比例。接着,显示控制装置200通过在将计算出的比例设定为屏幕图像的倍率来对屏幕图像进行缩放后将该屏幕图像嵌入背景图像,来生成合成图像。通过上述方式,可以无需将后续车辆11投影到屏幕投影面13A的屏幕图像再次投影到投影面。
应予说明,显示控制装置200能够基于通过声呐(障碍物传感器)等距离传感器检测到的检测信息来计算从后续车辆11至屏幕投影面13A为止的距离和从后续车辆11至投影面10为止的距离。由于可以根据该检测信息确定从车辆100至后续车辆11为止的距离,显示控制装置200能够基于这些信息和预先设定的已知信息(从车辆100至屏幕投影面13A为止的距离和从车辆100至投影面10为止的距离)来计算从后续车辆11至屏幕投影面13A为止的距离和从后续车辆11至投影面10为止的距离。应予说明,显示控制装置200也可以基于声呐以外的检测装置(例如毫米波雷达和摄像机等)来计算距离信息。
另外,在如上述那样进行屏幕图像的再次投影或屏幕图像的缩放来生成合成图像的情况下,显示控制装置200也可以以强调包含后续车辆11的图像的方式显示图像。尤其是,在进行屏幕图像的缩放来生成合成图像的情况下,显示控制装置200可以通过增加缩放倍率或改变倍率来使后续车辆11的像更显眼。
通过上述方式,能够使驾驶员视觉辨认后续车辆11正在接近车辆100。
应予说明,作为强调地显示包含后续车辆11的图像的方式,可以考虑所有可能的方法,例如用线包围后续车辆11来显示的方法和使包含后续车辆11的图像闪烁的方法等。另外,也可以在强调地显示包含后续车辆11的图像的同时,还通过声音和振动等来通知驾驶员后续车辆11已接近车辆100。
另外,对于包含后续车辆11的图像的强调显示,可以在后续车辆11与车辆100之间的距离小于规定距离时进行,也可以在后续车辆11与车辆100之间的距离迅速减小(即后续车辆11正在迅速接近车辆100)时进行。
(本发明的效果)
下面,与现有技术对比来说明本发明的效果。
<实施例1>
例如在日本专利特表2014-531078号公报中公开了以下方法,其特征在于,具有以下步骤:当在车辆的周边检测到突出的物体时,在突出的物体的附近,以使投影面在整个该突出的物体的宽度抬高的方式使投影面变形。
在日本专利特表2014-531078号公报的技术中,若投影面的特定部分较大地变形,则投影面的倾斜度在该变形的部分的周围变大,从而导致被投影的像较大地变形,其形状失真而变得难以视觉辨认。根据上述实施例2,将所接近的后续车辆的像投影在屏幕投影面13A上,并将背景的图像投影在独立于屏幕投影面13A的远处的投影面上,最后将两个投影面上的图像合成来得到显示图像,因此,后续车辆的像和背景的图像都不会失真,因而不会由于失真而妨碍视觉辨认。即使是在屏幕投影面13A的边缘部设定的、因混合而图像双重显示的边界区域中也同样能够得到该不会失真而不会妨碍视觉辨认的效果。也就是说,何处都不存在因投影面变形而产生失真,从而变得难以视觉辨认的部分。
<实施例2>
人的视觉有能力将双重显示的图像,例如陈列柜中的展品和反射在陈列柜上的自己的脸部,分离出来并单独地识别的能力。
上述实施例2是积极利用这人的视觉的能力的方式,将后续车辆的像加入到因混合而图像双重显示的边界区域,来解决后续车辆的像在两个摄像机图像的视野的接缝处消失的问题。即使例如后续的两轮车的驾驶员的脸部进入该被施以混合的边界区域,而驾驶员的脸部与背景混合,如果脸部的图像未变形,则能够进行视觉辨认,也可以期待能够进行脸部朝向的辨别。
根据日本专利特表2014-531078号公报的方式,若例如脸部的部分较大地变形,则不能够期待可进行它是否脸部的辨别和脸部朝向的辨别。也就是说,若图像双重显示,则人的视觉功能会对识别提供辅助,相对于此,若产生变形,则视觉功能不会发挥作用而妨碍识别,因此,本申请的方式能够得到更优异的效果。
<实施例2-4>
例如,根据日本专利特开2019-185381号公报中公开的车辆周围图像生成装置,当立体物体的移动的方向为接近一个俯瞰图像的方向时,使进行加权算术平均的范围向另一个俯瞰图像的一侧移动,而当立体物体的移动方向为接近另一个俯瞰图像的方向时,使进行加权算术平均的范围向一个俯瞰图像的一侧移动。然而,进行加权算术平均的范围中的权重分布是固定的,与立体物体的移动无关。因此,根据进行加权算术平均的范围的控制,有可能在控制车辆100的动作方面很重要的部分,例如后续车辆的驾驶员的脸部的部分,位于进行加权算术平均的范围的端部而权重变小,从而在显示图像上显示得很薄,变得难以视觉辨认。
相对于此,在上述实施例2中以如下方式进行控制:检测后续车辆11的像的中心位置,或者,在后续车辆11为两轮车的情况下,检测两轮车的驾驶员的脸部(或头部)的位置,在像的中心位置或脸部的位置,使比边界区域更靠右侧的图像和更靠左侧的图像的混合比例如为1比1。由此,后续车辆11的像或驾驶员的脸部以大概一半的浓度被显示,能够减轻看漏的风险,并且在以驾驶员的脸部的位置为基准控制混合比的情况下,容易根据驾驶员的脸部的朝向预测下一步的动作。
图23是表示碗状的投影面10的一例的图。图24是表示弯曲的圆筒状的投影面10和屏幕投影面13A的一例的图。通过使用这种形状的投影面10或屏幕投影面13A,使得从车辆100至投影面10或屏幕投影面13A为止的距离在车辆100的后方的任何位置都恒定,从而能够减轻后续车辆11等的图像的失真。
此外,例如,可以理解如下所述的方式也属于本发明的技术的范围。
(1)显示控制装置具备:车辆检测部,基于用车辆所搭载的多个摄像装置拍摄到的所述车辆的周边的多个拍摄图像,检测在所述车辆的周边存在的周边车辆;以及图像处理部,通过合成多个所述拍摄图像,来生成在所述车辆所搭载的显示部上显示的显示图像,所述图像处理部通过向被设定为处于所述车辆的后方的第一投影面投影多个所述拍摄图像,来生成所述车辆的背景图像,并且,当在规定区域内检测到所述周边车辆时,将第二投影面设定为处于检测到所述周边车辆的位置,通过向所述第二投影面投影多个所述拍摄图像中的至少一个拍摄图像,来生成作为所述周边车辆的图像的周边车辆图像,并将所述周边车辆图像重叠于所述背景图像。
(2)在所述周边车辆图像与所述背景图像的边界部分,所述图像处理部将所述周边车辆图像的像素值和所述背景图像的像素值混合起来生成所述显示图像。
(3)所述周边车辆图像具有将多个所述拍摄图像的像素值混合的边界区域,所述图像处理部与所述周边车辆的位置、或者所述周边车辆的驾驶员的脸部或头部的位置相应地改变在所述边界区域中将所述像素值混合时混合比为1比1的交叉点。
(4)以如下区域为基准设定所述规定区域,该区域是当向被设定为处于所述车辆的后方的第一投影面投影所述车辆的周边的多个所述拍摄图像时,若以使所述背景图像成为连续的图像的方式限定从所述车辆的周边的多个所述拍摄图像进行投影的范围,则不会被显示于所述背景图像的区域。
(5)所述图像处理部进行将所述车辆的周边的多个所述拍摄图像变换为从位于与所述摄像装置不同的位置的虚拟视点观察到的图像的视点变换处理,所述车辆检测部对在以所述车辆为基准位置的规定区域内是否存在周边车辆进行检测,所述图像处理部将未在规定区域内检测到所述周边车辆时的所述虚拟视点的离地高度设定得比在规定区域内检测到所述周边车辆时的所述虚拟视点的离地高度低。
(6)在所述车辆的行驶速度为规定值以下时,所述图像处理部将所述虚拟视点的离地高度设定得比所述车辆的行驶速度超过规定值时的离地高度高。
(7)所述虚拟视点的离地高度被设定得低时的所述第一投影面相对于路面的倾斜度,比所述虚拟视点的离地高度被设定得高时的所述第一投影面相对于路面的倾斜度大。
(8)当所述虚拟视点的离地高度被设定得高时,所述图像处理部将路面包含在所述第一投影面中,当所述虚拟视点的离地高度被设定得低时,所述图像处理部不将路面包含在所述第一投影面中。
(9)当所述虚拟视点的离地高度被设定得高时,所述图像处理部将路面包含在所述第一投影面中,当所述虚拟视点的离地高度被设定得低时,所述图像处理部使包含在所述第一投影面中的路面的范围比所述虚拟视点的离地高度被设定得高时的包含在所述第一投影面中的路面的范围小。
(10)当将所述第一投影面中的与规定的离地高度相当的位置设为基准点时,将所述基准点与所述虚拟视点连结的直线与通过所述基准点且与所述第一投影面垂直的直线所成的角度为规定值以下。
(11)所述第一投影面中的比所述基准点更靠下侧的部分的、投影面相对于路面的倾斜度,比所述第一投影面中的比所述基准点更靠上侧的部分的、投影面相对于路面的倾斜度小。
(12)车辆具备上述显示控制装置。
(13)显示控制方法包括以下步骤:基于用车辆所搭载的多个摄像装置拍摄到的所述车辆的周边的多个拍摄图像,检测在所述车辆的周边存在的周边车辆的步骤;通过向被设定为处于所述车辆的后方的第一投影面投影多个所述拍摄图像,来生成所述车辆的背景图像的步骤;在规定区域内检测到所述周边车辆时,将第二投影面设定为处于检测到所述周边车辆的位置的步骤;通过向所述第二投影面投影多个所述拍摄图像中的至少一个拍摄图像,来生成作为所述周边车辆的图像的周边车辆图像的步骤;以及将所述周边车辆图像重叠于所述背景图像的步骤。
以上,对本发明的具体例子进行了详细说明,但这些不过是示例,并非对权利要求书进行限定。在权利要求书所述的技术中包括对以上所示例的具体例子进行的各种变形和变更。
在2020年8月31日提交的日本专利申请特愿2020-145674中包含的说明书、附图以及说明书摘要的公开内容全部引用到本申请。
工业实用性
本发明的一实施例适合用于显示控制装置及车辆。
附图标记说明
1:右摄像机
1a:视野范围
1a1:剪出范围
2:左摄像机
2a:视野范围
2a1:剪出范围
3:后方摄像机
3a:视野范围
3a1:剪出范围
4:操作部
5:导航装置
6:围墙
7:显示部
8:传感器
10:投影面
11:后续车辆
12:死角区域
13:物体
13A:屏幕投影面
13a:物体
13b:物体
15:虚拟视线
16:屏幕投影应用区域
17a:边界区域
17b:边界区域
17c:边界区域
18:缓坡面
20:虚拟视点
50:立方体
51:正面
52:侧面
61:图像处理部
62:车辆检测部
63:状况判定部
64:图像控制部
65:CAN通信部
100:车辆
200:显示控制装置
- 显示面板的显示控制方法、显示控制装置、显示设备
- 一种信号控制装置及方法、显示控制装置及方法、显示装置
- 显示器的控制方法、显示器的控制装置及显示器
- 显示装置、显示控制装置以及车辆
- 显示控制装置及控制方法、显示装置
- 车辆用电子控制系统、中心装置、车辆用主装置、显示控制信息的发送控制方法、显示控制信息的接收控制方法、显示控制信息的发送控制程序以及显示控制信息的接收控制程序
- 作业车辆、作业车辆用显示装置、作业车辆用显示装置的控制方法、反铲式挖掘装载机、反铲式挖掘装载机用显示装置、以及反铲式挖掘装载机用显示装置的控制方法