通过众包实时车队流通信的基于边缘通知的方法和装置
文献发布时间:2023-06-19 12:14:58
技术领域
本公开总体上涉及一种连接到一队连接车辆的基于边缘(edge)的载波网络,并且更具体地,本公开的方面涉及系统、方法和装置,用于从一队连接车辆收集实时流式原始信号数据以进行分析以实时检测附近车辆的运行异常,以便将预测异常的预先警告分发给道路段中的其他车辆,以采取校正动作来补充传感器功能或不必使用每个单独连接车辆的传感器。
背景技术
现代车辆的操作变得越来越自动化,即能够以越来越少的驾驶员干预来提供驾驶控制。车辆自动化已分类为从零(对应于完全人为控制的无自动化)到五(对应于无人为控制的全自动)的数字水平。各种先进的驾驶员辅助系统(ADAS),例如巡航控制、自适应巡航控制,停车辅助系统对应较低的自动化水平,而真正的“无人驾驶”车辆则对应较高的自动化水平。
期望实现边缘载波(carrier)网络的系统,其可以从指定控制区域内的一队连接车辆中收集各种车辆系统的运行状态的实时流原始信号数据,分析该数据以寻找与诸如硬制动、车轮打滑或停止的车辆系统相关的异常,如果检测到,则向该区域内的相关车辆发送指令,以发出驾驶警告,或者例如通过车辆控制信号指示自动紧急制动响应动作。
期望实现一种系统,以在不使用感测车辆周围环境的车辆传感器的情况下针对特定车辆产生事件和操作异常的警告和ADAS指令。期望提供可以通过车辆之间的通信来辨别的车辆路径中的异常的预测,其与基于传感器的检测不同不存在普通传感器的操作故障,例如当车辆感应条件在车辆自身传感器的视野范围之外,或者传感器视线受阻或传感器模糊的条件时。
在背景技术部分中公开的上述信息仅用于增强对本发明背景技术的理解,因此,其可能包含不构成该国本领域普通技术人员已知的现有技术的信息。
发明内容
本文公开的是用于自主车辆控制的自主车辆控制系统、训练系统和相关控制逻辑,用于操作这样的系统的方法以及配备有车载控制系统的机动车辆。作为示例而非限制,提出了一种具有车载机器学习和控制系统的机动车辆,其使用来自一队车辆的众包(crowdsourced)数据来预测车辆操作中的异常。
在示例性实施例中,提供了一种装置,该装置包括在边缘服务器处的处理器,该处理器与车队中的一个或多个车辆进行通信。该装置可用于在车队的一个或多个车辆之间通信并维持连续的通信链路,以接收多个消息,其中,该多个消息包括连续的消息数据流,该消息数据流包括在附近执行车辆操作时在一队车辆中的每个车辆中包含的电子控制单元(ECU)的状态转换(transition)的数据;实时监视来自每个车辆的流消息数据,以检测与用于车辆操作的ECU的状态转换有关的数据的更新,其中ECU的每个状态转换的数据由包含在每个车辆中的高级驾驶员辅助系统(ADAS)报告给边缘服务器;在与边缘服务器通信的每个车辆的车辆操作期间,实时地众包状态转换的或ECU的各种水平的操作的一组数据,以将具有一定程度的通用性的状态转换数据组合在一起,作为众包转换数据;通过机器学习模型的应用,处理众包转换数据,以对指示辅助驾驶系统异常事件的众包转换数据进行分类;以及预先向识别出的车辆发送消息,该消息可能会引起辅助驾驶系统异常事件,以便驾驶员或ADAS执行响应。
在各个示例性实施例中,该装置还包括边缘服务器处的处理器,该处理器与车队中的一个或多个车辆通信,该处理器还用于:模拟用于识别的车辆在预测的路线段上的辅助驾驶系统算法,以生成模拟结果;基于对众包数据和模拟结果的分析,预测在所预测的路线段内的所预测的辅助驾驶系统异常事件。所述装置进一步包括在边缘服务器处的处理器,该处理器与车队中的一个或多个车辆通信,该处理器还用于在执行车辆操作时所识别的车辆引起所预测的辅助驾驶系统异常事件之前,发送所预测的辅助驾驶系统异常事件的用户警报。所述装置进一步包括边缘服务器处的处理器,该处理器与车队中的一个或多个车辆通信,该处理器还用于响应于所预测的辅助驾驶系统异常事件向附近的车辆广播警告消息。所述装置进一步包括在边缘服务器处的处理器,该处理器与车队中的一个或多个车辆通信,该处理器还用于监视与车队中每个车辆的车辆操作有关的一个或多个关键参数。所识别的可能引起辅助驾驶系统异常事件的车辆正在已经引起辅助驾驶系统异常事件的车辆的后面行驶。所述装置进一步包括在边缘服务器处的处理器,该处理器与车队中的一个或多个车辆通信,该处理器还用于接收转换状态数据,该转换状态数据指示该车队的车辆在附近的路线段行驶的先前的辅助驾驶系统异常事件,其中,基于或响应于先前的辅助驾驶系统异常事件来预测辅助驾驶系统异常事件。消息数据经由蜂窝网络上的MQ遥测传输(MQTT)和数据分发服务(DDS)无线协议进行传输。所述装置进一步包括在边缘服务器处的处理器,该处理器与车队中的一个或多个车辆通信,该处理器还用于经由反向路径通过蜂窝协议向车辆的消息收发客户端发送关于辅助驾驶系统异常事件的消息,以在控制器局域网(CAN)总线传输到车辆的ADAS控制器,以对包含在车辆中的ECU执行控制动作。共有程度至少包括车辆位置和朝向辅助驾驶员系统异常事件位置的车辆速度。
在另一个实施例中,提供了一种由处理器执行的方法。该方法包括在边缘服务器处的处理器与车队中的一个或多个车辆之间传送多个消息;维持边缘服务器处的处理器与车队的一个或多个车辆之间的连续蜂窝链路,以接收多个消息,其中多个消息包括连续的消息数据流,该消息数据流包括在车辆操作期间包含在一队车辆中的每个车辆中的ECU的状态转换的数据;实时监视来自每个车辆的流消息数据,以检测与用于车辆操作中的ECU的状态转换有关的数据的更新,其中ECU的每个状态转换的数据由包含在每个车辆中的高级驾驶员辅助系统(ADAS)报告到边缘服务器;在与边缘服务器通信的每个车辆的车辆操作期间,实时众包状态转换的或ECU的不同水平操作的一组数据,以将具有一定程度的通用性的状态转换数据组合在一起,作为众包转换数据;通过机器学习模型的应用,处理众包转换数据,以对指示辅助驾驶系统异常事件的众包转换数据进行分类;以及预先向所识别的车辆发送消息,该消息很可能引起辅助驾驶系统异常事件,以便驾驶员或ADAS执行车辆控制动作。
在各个示例性实施例中,该方法还包括由处理器模拟用于所识别的车辆在预测的路线段上的辅助驾驶系统解决方案,以生成模拟结果;以及响应于众包数据和模拟结果,预测在所预测的路线段内的所预测的异常事件。该方法还包括在所识别的车辆导致所预测的异常事件之前发送所预测的异常事件的驾驶员警报,其中驾驶员警报指示了所预测的异常事件的概率。该方法还包括响应于所预测的异常事件,通过处理器经由蜂窝网络向附近的车辆广播警告消息。
该方法还包括监视与车队中的每个车辆的车辆操作有关的一个或多个关键参数。所识别的可能导致异常事件的车辆正在已经引起异常事件的车辆后面行驶。该方法还包括接收转换状态数据,该转换状态数据指示该车队的车辆在附近的路线段行驶的先前异常事件,并且其中响应于该先前异常事件来预测该异常事件。消息数据经由蜂窝网络上的MQTT和DDS无线协议进行传输。该方法还包括经由反向路径由处理器通过蜂窝协议将关于异常事件的消息发送至车辆处的消息收发客户端,以在CAN总线上发送至车辆的ADAS控制器,以对包含在车辆中的ECU执行控制动作。
在又一个实施例中,提供了一种用于控制车辆的高级驾驶员辅助系统。该系统包括在边缘服务器处的处理器,该处理器与车队中的一个或多个车辆通信,该处理器可用于:在车队的一个或多个车辆之间通信和维持连续的通信链路,以接收多个消息,其中,多个消息包括连续的消息数据流,该消息数据流包括在附近执行车辆操作时一队车辆中的每个车辆中包含的ECU的状态转换的数据;实时监视来自每个车辆的流消息数据,以检测与用于车辆操作的ECU的状态转换有关的数据的更新,其中ECU的每个状态转换的数据由包含在每个车辆中的高级驾驶员辅助系统(ADAS)报告给边缘服务器;在与边缘服务器通信的每个车辆的车辆操作期间,实时地众包状态转换的或ECU的各种水平的操作的一组数据,以将具有一定程度的通用性的状态转换数据组合在一起作为众包转换数据,其中该一定程度的通用性至少包括车辆位置、朝向异常位置附近的车辆速度;通过机器学习模型的应用,处理众包转换数据,以对指示辅助驾驶系统异常事件的众包转换数据进行分类;以及预先向所识别的车辆发送消息,该消息可能会引起辅助驾驶系统异常事件,以便驾驶员或ADAS执行响应。
当结合附图考虑时,根据优选实施例的以下详细描述,本公开的上述优点以及其他优点和特征将变得显而易见。
附图说明
本发明的上述和其他特征和优点以及实现它们的方式将变得更加显而易见,并且通过参考以下结合附图对本发明实施例的描述,可以更好地理解本发明。
图1示意性地示出了根据各个实施例的用于从一队连接车辆收集流原始信号数据的众包通信系统的图;
图2示出了根据各种实施例的具有与车辆相关联的中央网关模块的系统的示例图,其中主要异常检测发生在车辆之间的蜂窝网络中的边缘处;
图3示出了根据各个实施例的与边缘服务器通信的车辆控制组件的架构的示例性示意图,该边缘服务器用于基于对众包数据的分析来确定异常;
图4示出了根据各个实施例的用于通过众包数据的分析的基于一队车辆之间的通信来预先预测道路上的异常的方法的示例性流程图;
图5示出了用于通过分析车辆中的众包车队数据来预测自动驾驶系统异常的系统的示例性框图;和
图6示出了根据各个实施例的用于基于对众包数据的分析来预测自动驾驶系统异常的示例性流程图。
这里阐述的示例示出了本发明的优选实施例,并且这些示例不应被解释为以任何方式限制本发明的范围。
具体实施方式
在此描述本公开的实施例。然而,应当理解,所公开的实施例仅是示例,并且其他实施例可以采取各种替代形式。这些附图不一定按比例绘制;一些特征可能会被放大或最小化以显示特定组件的详细信息。因此,本文公开的具体结构和功能细节不应被解释为限制性的,而仅是代表性的。可以将参考任何一个附图示出和描述的各种特征与在一个或多个其他附图中示出的特征组合以产生未明确示出或描述的实施例。所示特征的组合为典型应用提供了代表性实施例。然而,对于特定的应用或实施方式,可能期望与本公开的教导相一致的特征的各种组合和修改。
在整个本公开中使用了各种术语,例如,包括控制器局域网(CAN)是车辆总线标准,以使设备和控制器能够在没有识别出的计算机的情况下彼此通信。CAN总线充当中央联网系统,该中央联网系统允许车辆的不同电子控制单元(ECU)与每个其他ECU相互通信。可以想到,不仅可以用用于车辆之间的通信的CAN配置来实现本系统,而且还可以以类似的方式来使用CAN FD(具有灵活数据速率的CAN)。CAN FD增加了汽车网络内的带宽要求。CAN FD协议通过最小化指令与数据传输之间的延迟(等待时间)和更高的带宽,使软件更接近“实时”。
本公开描述了各种示例性实施例,这些示例性实施例提供了使用车载处理器流传输车辆总线(CAN/LIN/其他Flex Ray)以通过车辆调制解调器以连续方式在空中传输信号的过程。此外,位于电信载波边缘的基于边缘的系统可以选择地使用众包算法接收信号并检测或确定异常情况,例如速度的大变化(硬制动)。然后,基于边缘的系统构建车辆关系的图形或模型,并连续监视事件,并将生成适当的警告和/或命令并将其发送到事件附近的相关车辆。车辆的车载处理器将接收命令并指示ECU显示FCA或指示ADAS ECU采取措施。
在各个示例性实施例中,本公开描述了直接将CAN/车辆信号流传输到边缘计算器以进行推断,其中集中的众包数据收集发生在边缘服务器处,而不是在车辆到车辆系统之间本地发生。此外,在呈现低延迟载波无线电网络接入的边缘服务器位置处进行计算,并使用卡尔曼滤波进行同步车队预测,以及通过人工智能解决方案对命令进行上下文过滤,所述人工智能解决方案包括在边缘服务器处的神经网络,以基于车辆当前导航方向和关于车辆操作的历史数据向相关车辆发送。
图1示意性地示出了根据各个实施例的用于从一队连接车辆中收集流原始信号数据的众包通信系统的图。在图1中,由载波网络的边缘服务器95在蜂窝域中配置所连接的车队的通信系统100,该边缘服务器95能够从指定的控制区域内一队所连接车辆(即,所连接的车辆10、所连接的车辆90)收集并汇总实时流原始信号数据。边缘服务器95可以分析所收集的数据以用于各种异常,例如硬制动、车轮打滑、停止等。如果检测到异常,则通信系统100被配置为向相关车辆发送指令(即,CAN消息)或多个指令,以向每个相关车辆的驾驶员警示特定的驾驶警告,例如需要自动紧急制动等,或指示高级驾驶员辅助系统(ADAS)在由检测到的路段异常以及当前车辆的速度、位置和路径确定的适当的时间和位置来更改车辆中ECU系统的特征状态。
如图1所示,原始CAN消息通过连续连接的消息收发协议(例如MQTT或DDS)连续地从车辆10流出(即传输)到蜂窝网络20,然后返回到车辆90。来自车辆90的消息被蜂窝网络20引导到最近的边缘服务器(即边缘服务器95),该边缘服务器控制车辆90所在的地理区域。即,一旦车辆90在特定边缘服务器的地理区域之外,则来自车辆90的消息将是到控制车辆90现在所在的其他地理区域的另一个边缘服务器的切换(handoff)。随后经由充当边缘服务器组件与蜂窝网络20(即,蜂窝塔)之间的接口的消息网关代理(broker)30(位于边缘服务器95内)来接收或发送消息。经由消息网关代理30接收的每个CAN消息在消息解码器/编码器40处被解码和/或编码。当在消息解码器/编码器40处对消息进行解码时,从消息中提取的值被数字地写入一队车辆和道路模型50的至少一组双车辆的存储器中。也就是说,车队和道路模型50将解码的消息分发到相关车辆,其中基于所标识的或参数来确定车辆的相关性,所标识的或参数包括车辆位置、车辆方向、提取的消息的时间、从解码的消息中收集的信息的类型等。例如,车队中车辆的一组关键参数可以基于由车队和道路模型50提取和处理的数据来预测60,或者可以在没有来自车辆90的更新(例如卡尔曼滤波)的情况下和/或在更新之间被连续预测,这导致对车辆的当前位置、道路位置和车辆前进方向进行预测。事件检测器70处理已被分析以响应异常的车辆状态。例如,这可以包括车辆10的硬制动或停止以及相应的硬制动状态或停止状态。在识别到车辆状态(即,检测到改变的车辆特征状态)时,可以生成通知并将其发送给命令管理器80,命令管理器80进而通过广播CAN消息发送通知以通知在附近的附近车辆,以预先了解对异常情况采取的响应措施,并预测或提醒驾驶员可能需要采取的措施(如果适用于车辆)。命令管理器80通过空间查询从存储器数据库中查看附近的车辆,并选择在同一道路上在异常事件之后行驶的车辆。由命令管理器发送的命令沿着路径或处理管道经由消息解码器/编码器40到达消息网关代理30,经由蜂窝网络20离开边缘服务器95,并将该命令传达给车辆ADAS或车辆90的驾驶员。此外,车辆90可以在收到CAN消息后通知驾驶员或ADAS。
因此,ADAS可操作以执行用于预测自动驾驶系统(即ECU)的未来特征状态的方法,以向驾驶员提供早期反馈并改善用户体验。该方法可操作以基于众包的车队数据来预测异常,从而导致配备ADAS的机动车辆的ADAS状态分析动态路径和速度曲线成形得到改善。该方法可以使用使用从自动驾驶车队收集的众包数据训练的模型,在路段水平找到微观模式,以及与位置无关的宏观模式。然后,该方法可以对通过在预测的车辆路径的未来路段中的车辆驾驶操作中进行众包而发现的异常建模,并在车辆继续操作至下一个路段时发送特征状态转换或CAN消息的预先警告。
在各个示例性实施例中,车队中的车辆的关键参数(即,在CAN消息中定义的参数)可以在没有更新或更新之间通过实施因子公式来连续预测,该因子公式允许在推断基于众包车队数据的情况下推断之前没有遇到的道路路段。例如,可以通过响应于诸如交通、天气、建筑和/或路段的条件而将ECU的单个特征状态的序列视为仅依赖于该特征的先前状态和将当前观测结果视为仅取决于所有功能的当前状态,来采用阶乘隐马尔可夫模型(FHMM)。FHMM允许特征的分发式表示,并且即使在数据不完整时,例如在以前未记录的路段上行驶或在未知的天气条件下行驶时,也可以进行预测。这种贝叶斯方法允许固有地捕获由于信息丢失或不完整而引起的不确定性。FHMM的输出包括有关模型在通过当前状态车队观测进行的任何预测中所具有的置信水平的信息,以确定可能的未来状态。
现在转向图2,该框图示出了根据各个实施例的用于基于车辆之间的众包通信来预测异常的具有中央网关模块的系统的示例性实施方式。中央网关模块200配置有各种车载系统,包括接口220(即CAN总线),该接口220接收关于通过各种ECU(210a,210b)和/或制动控制器或ADAS控制器260以循环方式放置在CAN上的车辆系统的状态(例如,车轮速度、位置(GPS)、制动压力)的CAN消息。CAN消息被接收到CAN消息发送器/接收器模块230,该CAN消息发送器/接收器模块被配置为中央网关模块200中的软件组件,该软件组件对CAN消息进行编码,以基于从CAN解码的位置、方向、异常类型传输到被认为相关的车辆。接着,消息客户端240经由与车辆相关联或集成的远程信息处理模块250接收和发送CNN消息,其中车辆被配置为使用MQTT或DDS或等同物来操作无线信号的发送和接收。
在车辆操作的情况下,经由远程信息处理模块250存在反向路径通知,该通知首先由远程信息处理模块250(从边缘服务器(未示出))接收,并被发送至位于车辆处的中央网关模块200处的消息收发客户端240。(CAN)发送器/接收器模块230从消息收发客户端240接收(解码的)消息,并将CAN消息发送到CAN总线220上至车辆ADAS控制器260。作为示例,CAN消息可以包括用于通过转换由ADAS控制器260指示的各种ECU(210a,210b)特征状态来配置车辆ADAS的参数。也就是说,ADAS控制器260可以对CAN消息起作用,或者另一个ECU可以对其起作用,并且还可以提供人机界面(HMI)警报。
在存在前进路径通知的车辆操作的情况下,来自车辆ADAS控制器310,260的CAN消息和ECU(210a,210b)的状态变化经由远程信息处理模块250被发送或广播到车辆。在这种情况下,CAN消息从ADAS控制器260生成并发送到CAN总线220上,作为CAN消息发送到消息发送器/接收器模块230,并由消息收发客户端240配置(即编码)以从中央网关模块200发送和发送到远程信息处理模块250。远程信息处理模块250可以将消息广播到附近的车辆,或者可以将消息发送到边缘服务器以进行众包分析。
尽管每辆车中的ADAS控制器260也可能耦合并操作以使用和接收基于从车辆本身中实现的各种传感器获得的数据的指令,用于感测车辆周围环境,但是经由远程信息处理模块250指令给ADAS控制器260的响应是基于对车辆系统的分组的众包数据分析(即,例如,成组的车辆系统的状态变化的聚类(clustering)),而不是每个车辆的一组传感器感测的单个原始数据。对于所描述的用于检测车辆操作中异常的众包车队通信系统,在配置中央网关模块200的CAN消息传输时,车辆中每组独立传感器都没有任何依赖或使用原始传感器数据。在当前情况下,CAN消息是基于对车辆状态事件数据的连续监视而生成的,这些事件以汇总方式(即用于众包检测)针对车辆操作异常进行分析同时成组的车辆正在一本地(locality)运行并且在集中位置执行该分析。例如,分析可以在最近的边缘服务器上执行,其中异常可以检测被异常,分发和/或广播到其他车辆或具有分析引擎并能够经由在远程信息处理模块250和车队中的车辆之间建立的蜂窝协议进行通信的其他云连接位置。
图3示出了根据各种实施例的与边缘服务器通信以基于众包数据确定异常的车辆控制组件的示例性架构。用户界面335(即,HMI)可以是用户输入设备,例如显示屏、发光二极管、可听见的警报或位于车厢中并且可以被驾驶员访问的触觉座椅。替代地,用户界面335可以是在诸如移动电话的电子设备上运行并且例如经由无线网络与车辆通信的程序。用户界面335可操作以收集来自车辆操作员的指令,例如ADAS功能的启动和选择、用于自适应巡航操作的期望跟随距离、用于辅助驾驶的车辆运动曲线的选择等。响应于车辆操作员的选择,用户界面335可以操作以将控制信号等耦合到处理器340以激活ADAS功能。此外,用户界面可操作以提供用户提示或警告,以指示影响ADAS功能的车辆路径上即将发生的异常车内操作或诸如由于安全问题(例如,不安全的天气状况等)或辅助车辆的驾驶功能的可能异常而导致用户需要更多接管控制权之类的请求。
收发器333可操作以经由无线网络(即,蜂窝网络)向边缘服务器310(即,连接到蜂窝网络的本地中央服务器或云服务器)发送和接收数据。基于车队中车辆之间的通信分析,所发送的CAN消息数据可以包括在ADAS操作期间发生异常类型事件的情况和位置。该CAN消息数据可以通过收发器333响应于请求或周期性地或在一个或多个异常之后被发送。收发器可以进一步操作以从边缘服务器接收指示异常的位置、其他ADAS操作状态转换和/或其他众包数据的CAN消息数据(即,来自附近车队中车辆的各个ECU的车队CAN消息数据),例如天气、道路状况、障碍物、阻挡物、建筑工地、交通等,其可用于预测ADAS状态转换,例如异常事件。
在示例性实施例中,处理器340可操作以从位于车辆处的收发器333接收实时流式传输的CAN消息数据,并基于基于当前和历史的众包数据执行预测分析的分析算法接收用于各种ADAS操作状态转换预测的指令,其中在远程边缘服务器310上得到车辆的ADAS的预测转换状态。这是因为远程边缘服务器配置为连续通信并从多个车辆(即,实时流式传输的众包车辆数据通信和收集)收集流式传输的数据。在一个实例中,对边缘服务器310处的处理器315进行编程,以对车辆的运行进行建模,并对穿过多个即将行驶的路线段的车辆的运动的控制进行模拟或建模,在该路线段中,将通过使用ADAS操作的车辆本身的运动计划和自动驾驶系统对车辆进行导航。需要执行车队中的每个车辆的自主或辅助驾驶操作的每个车辆的关键参数由边缘服务器处的处理器315连续地预测,该处理器充当分析引擎,通过在确定或预测的路段上对数据进行众包聚类、其他分析解决方案或各种机器学习应用程序,连续分析车辆状态中的异常变化。此外,在替代示例性实施例中,包含在车辆中的处理器340可以被实现为从由边缘服务器310处的处理器315传送的存储器数据库320接收数据动作。响应于建模,处理器315可操作以基于包括定时、距离、速度、车辆环境的天气状况或后面行驶的多辆车辆的因素的分组在内的因素来生成指示车辆预先遇到异常的可能性的预测。
如果异常的可能性被认为是高的(例如,阈值可以与异常事件检测相关联,作为指示足够高的概率以警告车辆操作者或指示ADAS),则用户提示或警告预先生成并经由蜂窝网络传送到用户界面335。例如,如果处理器340确定异常可能在距经由收发器333接收的蜂窝通信一定距离内,则可以向用户界面335提供用户提示,以便车辆的ECU系统平稳运行,并且车辆操作员有足够的时间安全地接合或更改适当的车辆控制。该数据还可以由处理器315使用,以用于基于众包数据对所学习的路段模型(即,用于指示ADAS的机器学习模型)进行(监督)训练。
车辆控制器330可以生成用于耦合至其他车辆系统控制器(例如节气门控制器355、制动控制器360和转向控制器370)的控制信号,以便响应于提供的ADAS算法指令来控制车辆的操作。车辆控制器330可以可操作以响应于由处理器340产生的控制信号,经由经由节气门控制器355减小节气门来调节车辆的速度,或者经由制动控制器360施加摩擦制动器。车辆控制器330可以可操作以响应于由处理器340产生的控制信号,经由转向控制器370来调节控制车辆的转向的车辆的方向。
现在转向图4,该流程图示出了根据各个实施例的用于基于车队中的车辆之间的经由众包数据的通信来预先预测道路上的异常的方法400的示例性实施方式的流程图。该方法是首先可操作以经由用户界面或经由无线传输(例如,蜂窝传输)来接收410路由请求。路线请求可以指示目的地,或者可以指示具有优选路线的目的地。路线请求还可以是响应于经由用户界面的用户请求或者响应于经由远程信息处理模块从最近的边缘服务器传输至车辆的CAN消息而发起的ADAS功能,例如自适应巡航控制或其他ECU设置。
该方法接下来可用于确定420车辆的当前位置。该方法可以响应于GPS接收到的输出和/或高清晰度地图数据等来确定该位置。响应于车辆的当前位置,该方法可用于响应于存储的地图数据和经由无线网络接收的数据来生成当前位置与目的地之间的路线。地图数据和接收到的数据可以指示道路、交通数据、天气状况、建筑信息等。路线可分为路线段,其中ADAS系统可用于依次使车辆导航通过每个路线段。
该方法接下来可用于执行430ADAS操作改变,该ADAS操作改变响应于通过预测导航算法在建模440的运动路径中发现的环境、状况等。在执行ADAS操作时,该方法可用于在路线段上导航预测的导航路径的同时确定或预测路线上的异常。例如,响应于导航的路线段中的环境条件,基于远程边缘服务器处的分析引擎处的众包车辆数据的分析,响应于即将到来的异常的确定命令被预先发送到车辆,在该车辆处CAN消息被传送到车辆的ADAS的各种ECU系统,以对即将在即将到来的路线段中预测的异常进行校正或预先做出响应。因此,对所收集的在该本地的车辆或穿过所确定的路线的车辆的数据的众包被应用到所建模的运动路径上的预测模型并作为基础来预测车辆在行驶路线中和在去往下一路线段的路线上的进一步异常以调整运行车辆的各种ECU。
在各种示例性实施例中,该方法可被实现为基于在即将到来的路段中用于车辆控制的各种ECU系统中引起状态变化的多个车辆的聚类来确定阈值445,该阈值用于确定异常或用于在运动路径中要响应的异常类型的比较。该阈值可适用于需要多少ECU来转换状态以响应即将发生的异常。
另外,对于ADAS操作,该方法还可用于执行预测性导航算法(使用机器学习模型),以便预测在即将到来的路线段中是否可能发生异常事件。该方法可用于接收从与即将到来的路线段有关的众包数据(例如,该数据由车队中的许多车辆实时流传输)生成的预测(模拟)模型。该方法接下来可用于模拟在即将到来的路段的通过车辆的虚拟导航,以便预先预测另一异常。
在示例性实施例中,使用在当前车辆前面的ECU的接收状态数据和/或ECU的当前流状态数据来配置车辆的各种ECU或在即将到来的路线段中警告450驾驶员,该方法可用于在边缘服务器处使用诸如检测到的异常、位置、天气、路段、道路类型、地图版本、建筑、环境交通和道路材料等的特征构建FHMM模型或其他类型的AI模型。该模型可用于捕获沿道路路段的特征状态与状态变化之间的转换,这些状态变化取决于车辆穿过该道路路段时各种ECU的那些特征。
该方法可用于经由消息生成或广播指示异常的用户警告450。用户警告可以经由用户界面显示,并且可以指示异常发生的概率或可能性以及车辆到异常事件的距离。例如,用户界面可以是多个发光二极管,其响应于异常事件发生的概率和/或到可能的异常事件的距离而改变颜色。该方法可以将该用户警告、分数和/或概率和位置耦合到ADAS或车辆控制系统,以供ADAS使用。然后,该方法可用于模拟下一个路段,其中可以通过例如距离和速度或另一设计要求来动态地确定在车辆位置前方的模拟的路线路段的数量。
另外,当状态改变或经过一定距离/时间时,可以经由无线传输(蜂窝)将预测信息发送到本地边缘服务器。如果状态已经改变,则边缘服务器上的有效学习算法可以更新460数据中的状态转换模型,以被传送到期望导航所述路线段的其他车辆。边缘服务器上的云应用程序可以模拟车辆沿着学习的虚拟道路模型行驶,以确定状态变化是否可能。云算法可以对FHMM使用前向-后向算法,以在接下来的n个路段上执行置信度(belief)传播预测,其中n可以通过例如距离和速度来动态地确定。由于FHMM的阶乘性质,云模型可能会使用部分知识来预测路段上以前从未遇到过的状态变化可能性。如果云应用程序响应于路段条件确定ADAS状态的变化可能发生,则云应用程序可以更新提供给车辆的信息,该信息指示ECU操作状态发生变化的可能性。
现在转向图5,示出了示出用于经由车辆中的众包车队数据来预测自动驾驶系统异常的系统500的另一示例性实施方式的框图。该系统可以是用于控制所识别的车辆的高级驾驶员辅助系统,该车辆具有收发器510、处理器520、用户界面530和车辆控制器540。
收发器510可以是射频收发器,诸如蜂窝网络设备,其可用于通过蜂窝数据网络向远程边缘服务器发送和接收数据。在该示例性实施例中,收发器510可用于接收指示由第一车辆提供的辅助驾驶系统异常事件的数据。可以响应于多个车辆检测和发送的大量异常来生成数据。然后,该模型可以用于响应于识别出的车辆动态性来预测异常事件。在示例性实施例中,响应于ADAS的请求来确定异常事件。
示例性系统500进一步包括处理器520,该处理器520用于基于边缘服务器550上对多个路线段上的众包数据分析来模拟ADAS算法,以生成预测或模拟结果,该处理器还可以用于响应于单个或众包的车辆状态数据和模拟结果预测未来路线段内的预测异常事件,并响应于预测的异常事件生成警告控制信号。处理器520可以进一步用于响应于目的地和所识别的车辆位置而生成路线,并且响应于该路线来确定第一路线段和另一个或预测的路线段,并且响应于第一路线段生成第一运动路径并将第一运动路径耦合到车辆控制器540,以在第一路线段上控制车辆。
示例性系统500还可包括用户界面530,以在所识别的车辆到达下一路线段之前响应于警告控制信号来呈现用户警报或预测的异常事件的消息。用户界面530可以是车厢内的显示屏,可能是一个或多个发光二极管、触觉座椅和/或声音警报。
在示例性实施例中,可以使用在边缘服务器550处配置的机器学习模型来预测预测的异常事件,该机器学习模型使用包括阶乘隐马尔可夫模型、过滤模型、回归或分类模型的模型或连续评估由附近车辆传送到边缘服务器处的处理器的众包数据。此外,每个机器学习模型可以使用从自动驾驶车队收集的众包数据来训练,其有助于在路段水平查找微观模式以及与位置无关的宏观模式。处理器520可用于模拟虚拟车辆沿路线段的操作并对所有模型评分。每个模型都可以允许之前未遇到的推理路段。
该系统可以进一步包括车辆控制器540,其可用于响应于诸如自适应巡航控制算法之类的ADAS算法来控制在第一路线段上的被识别车辆。使用机器学习模型来预测所预测的异常事件,该机器学习模型使用众包数据和来自车辆控制器540的数据进行分析。车辆控制器可用于将当前特征数据发送到处理器520并从ADAS控制器接收控制指令。在示例性实施例中,处理器520也是ADAS控制器。车辆控制器可以通过控制转向控制器、制动控制器和/或节气门控制器来控制所识别的车辆。
现在转向图6,该流程图示出了根据各个实施例的用于基于识别出的车辆中的众包数据预测自动驾驶系统异常的系统的示例性实施方式。示例性方法600是首先用于计算610确定的车辆位置与目的地之间的路线。可以响应于指示所识别车辆的当前位置的全球定位系统测量来确定所识别车辆的位置。可以响应于存储在所识别的车辆内的存储器内的地图数据来进一步确定所识别的车辆位置。可以响应于用户输入或者响应于经由无线网络接收到的信号来确定目的地。可以使用地图数据、当前交通、天气、用户偏好、车辆特性等来计算路线。
该方法接下来可用于将路线分段620成至少第一路线段和另一个或第二路线段。路线可被分成多个路段,其中可响应于识别出的车辆速度、识别出的车辆位置、道路特性和道路状况来确定路段长度。在该示例性实施例中,第一和第二路段可以由另外的多个路段分开,其中可以响应于识别出的车速、识别出的车辆位置、道路特性和道路状况来建立另外的多个路段的数量,使得在异常事件警告和驾驶员安全地恢复驾驶操作之间可以提供足够的时间。
该方法接下来可用于生成630第一路线段的第一运动路径,并控制在第一路线段上的所识别的车辆。第一运动路径是通过ADAS算法生成的,并且是其中通过第一路线段控制所识别的车辆的路径。响应于当前识别的位置、目的地、检测到的邻近对象、地图数据等来生成第一运动路径。
接下来,该方法为下一路线段生成640另一条或预测的运动路径,并模拟在预测的路线段上所模拟的标识的车辆操作。然后,该方法可用于响应于在第二路线段上所模拟的识别的车辆操作来预测异常事件。
然后,该方法提供650指示异常事件的驾驶员警报,同时在第一路线段上控制所识别的车辆。驾驶员警报可以指示异常事件的位置和/或异常事件的概率。可以通过确定异常事件的概率并将该概率与阈值水平进行比较来执行对异常事件的预测,其中该概率超过阈值水平。
该方法可以进一步包括接收660指示在预测的路线段内的先前的异常事件的更新的或连续的异常事件数据,并且其中响应于先前的异常事件、所识别的车辆位置以及所识别的车辆速度来预测该异常事件。事件数据可以是用于预测异常事件的模拟模型,其中该模型是响应于从多个车辆汇编的众包ADAS操作状态转换而生成的。在示例性实施例中,可以响应于机器学习模型以及所标识的车辆位置和所标识的车辆速度来预测异常事件。在另一个示例性实施例中,响应于响应于第二路线段内的多个先前异常事件而生成的机器学习模型来预测异常事件。可以响应于地图数据、所识别的车辆位置和所识别的车辆速度来进一步执行对异常事件的预测。
尽管在以上详细描述中已经呈现了至少一个示例性实施例,但是应当理解,存在大量的变型。还应当理解,一个或多个示例性实施方式仅是示例,并且无意以任何方式限制本公开的范围、适用性或配置。相反,前述详细描述将为本领域技术人员提供用于实现一个或多个示例性实施例的便利路线图。应当理解,在不脱离如本申请及其合法等同物所阐述的本公开的范围的情况下,可以对元件的功能和布置进行各种改变。
- 通过众包实时车队流通信的基于边缘通知的方法和装置
- 基于即时通信协议MQTT的实时通知的方法