掌桥专利:专业的专利平台
掌桥专利
首页

信息提供装置、信息提供方法及存储介质

文献发布时间:2023-06-19 09:36:59


信息提供装置、信息提供方法及存储介质

技术领域

本发明涉及信息提供装置、信息提供方法及存储介质。

背景技术

以往,已知有生成附加了与基于本车辆的位置、方位及日期时刻而确定出的天体相关的信息的影像数据并将生成的影像数据向车内投影的技术(例如,参照专利文献1(日本特开2008-064889号公报))。

发明内容

发明要解决的课题

然而,以往的技术涉及来自车室内的天体观测,关于用于供乘员从车辆内观测其他现象的技术,没有充分研究。

本发明的目的之一在于,提供能够使乘员察觉在车辆的周边正在发生着的规定的现象的信息提供装置、信息提供方法及存储介质。

用于解决课题的手段

本发明的信息提供装置、信息提供方法及存储介质采用了以下的结构。

(1):本发明的一方案的信息提供装置具备:现象识别部,其基于在第一车辆的周边取得的信息,来识别正在发生着在所述第一车辆的周边的地域中不是日常的范围所包含的第一现象;以及通知部,其在由所述现象识别部识别到正在发生着所述第一现象的情况下,对所述第一车辆的乘员通知与所述第一现象相关的信息。

(2):在上述(1)的方案中,所述现象识别部在所述识别到的在所述第一车辆的周边正在发生着的现象符合在所述第一车辆的周边的地域中作为日常的现象而预先登记的日常现象列表的情况下,不将所述正在发生着的现象识别为所述第一现象。

(3):在上述(1)或(2)的方案中,所述现象识别部还识别正在发生着在所述第一车辆的周边的地域中包含于日常的范围但对于所述第一车辆的乘员而言不包含于日常的范围的第二现象,所述通知部在由所述现象识别部识别到正在发生着所述第二现象的情况下,也对所述第一车辆的乘员通知与所述第二现象相关的信息。

(4):在上述(1)~(3)的任一方案中,所述现象识别部在所述识别到的在所述第一车辆的周边正在发生着的现象符合在所述第一车辆的周边的地域中作为不是日常的现象而预先登记的非日常现象列表的情况下,将所述正在发生着的现象识别为所述第一现象。

(5):在上述(4)的方案中,所述信息提供装置还具备基于所述第一车辆的乘员的指示来编辑所述非日常现象列表的列表编辑部。

(6):在上述(1)~(5)的任一方案中,所述信息提供装置还具备确认部,该确认部在所述现象识别部识别到的在所述第一车辆的周边正在发生着的现象不符合在所述第一车辆的周边的地域中作为日常的现象而预先登记的日常现象列表、且也不符合在所述第一车辆的周边的地域中作为不是日常的现象而预先登记的非日常现象列表的情况下,对所述第一车辆的乘员确认通知的有无,所述通知部在由所述第一车辆的乘员指示了通知的情况下,对所述第一车辆的乘员通知与在所述第一车辆的周边正在发生着的现象相关的信息。

(7):在上述(6)的方案中,所述信息提供装置还具备学习部,该学习部针对所述第一车辆的每个乘员而学习由所述第一车辆的乘员指示了通知的现象。

(8):在上述(1)~(7)的任一方案中,所述通知部在与对所述第一车辆的乘员通知了的现象相同的现象从上次的通知起在规定期间以内再次发生了的情况下,从通知对象排除。

(9):在上述(1)~(8)的任一方案中,所述现象识别部基于使用搭载于所述第一车辆的车载检测装置在行驶中检测到的检测结果,来识别在所述第一车辆的周边正在发生着的现象。

(10):在上述(1)~(9)的任一方案中,所述现象识别部基于由搭载于所述第一车辆的车载检测装置检测到的周边状况和由设置于车辆的外部的车外检测装置检测到的周边状况中的至少一个,来识别正在发生着所述现象。

(11):在上述(1)~(10)的任一方案中,所述信息提供装置还具备数据取得部,该数据取得部在由所述现象识别部识别到正在发生着所述现象的情况下,取得使用搭载于所述第一车辆的摄像部拍摄所述现象而得到的数据。

(12):在上述(1)~(11)的任一方案中,所述通知部对在正在发生着所述现象的地域中行驶的第二车辆的乘员通知在正在发生着所述现象的地域中行驶这一内容。

(13):在上述(1)~(12)的任一方案中,所述信息提供装置还具备驾驶指示部,该驾驶指示部在由所述现象识别部识别到正在发生着所述第一现象的情况下,对所述第一车辆指示慢行驾驶。

(14):在本发明的其他方案的信息提供方法中,使计算机执行以下处理:基于在第一车辆的周边取得的信息来识别正在发生着在所述第一车辆的周边的地域中不是日常的范围所包含的第一现象,在识别到正在发生着所述第一现象的情况下,对所述第一车辆的乘员通知与所述第一现象相关的信息。

(15):本发明的其他方案的存储介质存储有程序,所述程序使计算机执行以下处理:基于在第一车辆的周边取得的信息来识别正在发生着在所述第一车辆的周边的地域中不是日常的范围所包含的第一现象,在识别到正在发生着所述第一现象的情况下,对所述第一车辆的乘员通知与所述第一现象相关的信息。

发明效果

根据(1)~(15)的方案,能够使乘员察觉在车辆的周边正在发生着的规定的现象。

附图说明

图1是示出本发明的信息提供系统1的一例的图。

图2是实施方式的第一车辆10A的结构图。

图3是第一控制部120及第二控制部160的功能结构图。

图4是示出车内通知装置300的结构和搭载于第一车辆10A的设备的图。

图5是示出车内通知装置300的结构和信息提供装置500的结构的一部分的图。

图6是示出由信息提供装置500执行的处理(其1)的一例的流程图。

图7是示出由信息提供装置500执行的处理(其2)的一例的流程图。

图8是示出由信息提供装置500执行的处理(其3)的一例的流程图。

附图标记说明:

500 信息提供装置

531 现象识别部

532 通知部

533 用户确认部

534 列表编辑部

535 学习部

536 数据取得部

537 驾驶指示部

538 数据管理部

539 其他车辆检测部。

具体实施方式

以下,参照附图,对本发明的信息提供装置、信息提供方法及存储介质的实施方式进行说明。

[整体结构]

图1是示出本发明的信息提供系统1的一例的图。如图1所示,信息提供系统1例如包括第一车辆10A、用户终端70A、第二车辆10B、用户终端70B、信息提供装置500、车外检测装置700C及车外检测装置700D。第一车辆10A、用户终端70A、第二车辆10B、用户终端70B、信息提供装置500、车外检测装置700C及车外检测装置700D经由网络NW而连接。需要说明的是,网络NW例如包括互联网、WAN(Wide Area Network)、LAN(Locall Area Network)、运营商装置、无线基站等。

第一车辆10A、第二车辆10B例如是二轮、三轮、四轮等的车辆,其驱动源是柴油发动机、汽油发动机等内燃机、电动机或它们的组合。电动机使用连结于内燃机的发电机的发电电力或二次电池、燃料电池的放电电力来进行动作。在以下的说明中,在不区分第一车辆10A和第二车辆10B的情况下,记为车辆10。在图1中,示出了两台车辆,但在信息提供系统中也可以包括三台以上的车辆。

各车辆10是识别周边状况且将表示周边状况的信息(以下,记为周边状况信息)向信息提供装置500通知的移动体的一例。周边状况信息例如是表示在车辆10的周边出现了彩虹、在车辆10的周边出现了流星等的信息。例如,第一车辆10A将在周边取得的周边状况信息经由网络NW而向信息提供装置500发送。第二车辆10B将在周边取得的周边状况信息经由网络NW而向信息提供装置500发送。另外,车辆10也可以生成表示自身的当前位置的信息(以下,记为当前位置信息),将辨识车辆10的辨识信息(例如,车辆ID)与当前位置信息建立对应关系,定期地经由网络NW而向信息提供装置500发送。

用户终端70A是第一车辆10A的乘员即用户A拥有的终端。用户终端70B是第二车辆10B的乘员即用户B拥有的终端。用户终端70A、70B例如包括智能手机、平板终端、个人计算机等。

信息提供装置500例如基于从第一车辆10A接收到的周边状况信息来生成通知信息,将生成的通知信息向用户A提供。信息提供装置500例如使用通知智能体功能来将通知信息向用户A提供。在通知智能体功能中,例如包括识别车辆的周边的状况并将识别到的内容向车辆的乘员通知的功能、一边与车辆的乘员进行对话一边进行基于乘员的讲话中包含的要求(指令)的信息提供的功能等。另外,在通知智能体功能中,也可以具有进行车辆内的设备(例如驾驶控制、车身控制所涉及的设备)的控制等的功能。

智能体功能例如除了识别乘员的声音的声音识别功能(将声音文本化的功能)之外,还综合地利用自然语言处理功能(理解文本的构造、含义的功能)、对话管理功能、经由网络而检索其他装置或者检索本装置持有的规定的数据库的网络检索功能等而实现。这些功能的一部分或全部可以由AI(Artificial Intelligence)技术实现。另外,用于进行这些功能的结构的一部分(尤其是,声音识别功能、自然语言处理解释功能)也可以搭载于信息提供装置500。在以下的说明中,以结构的一部分搭载于信息提供装置500且车内通知装置300和信息提供装置500协同配合而实现智能体系统为前提。另外,作为智能体系统,将车内通知装置300和信息提供装置500协同配合而虚拟地出现的服务提供主体(服务实体)称作智能体。

对使用智能体功能来将通知信息向车室内的乘员通知的处理的一例进行说明。例如,在第一车辆10A的周边出现了彩虹的情况下,信息提供装置500生成将在第一车辆10A的周边出现了彩虹通过声音或图像来通知的通知信息。信息提供装置500例如将通知信息向第一车辆10A发送,将出现了彩虹向通过向第一车辆10A的车室内输出而向用户A通知。不限定于此,信息提供装置500也可以将通知信息向用户终端70A发送,将出现了彩虹通过从用户终端70A输出来向用户A通知。以下,对将通知信息向第一车辆10A发送来向用户A通知的例子进行说明。

另外,在第二车辆10B也在能够观测该彩虹的区域中行驶的情况下,信息提供装置500也可以将生成的通知信息向用户B提供。通知信息向用户B的提供也与通知信息向用户A的提供同样,可以是向第二车辆10B的车室内输出的方式,也可以是从用户终端70B输出的方式。

车外检测装置700C固定于车外设置物720C,车外检测装置700D固定于车外设置物720D。各车外检测装置700C、700D是在车辆10的外部设置的检测装置的一例,识别车外设置物的周边状况,将周边状况信息向信息提供装置500通知。例如,车外检测装置700C将表示车外设置物720C的周边状况的周边状况信息经由网络NW而向信息提供装置500发送。车外检测装置700D将表示车外设置物720D的周边状况的周边状况信息经由网络NW而向信息提供装置500发送。信息提供装置500也可以基于由车外检测装置700C、700D生成的周边状况信息来生成通知信息,并将生成的通知信息向用户提供。在以下的说明中,在不区分车外检测装置700C、700D的情况下,记为车外检测装置700。

[车辆的结构]

图2是实施方式的第一车辆10A的结构图。需要说明的是,第二车辆10B也具有与以下说明的第一车辆10A同样的结构,因此省略关于第二车辆10B的结构的说明。

第一车辆10A例如具备相机11、雷达装置12、探测器14、物体识别装置16、通信装置20、HMI(Human Machine Interface)30、车辆传感器40、导航装置50、MPU(Map PositioningUnit)60、驾驶操作件80、自动驾驶控制装置100、行驶驱动力输出装置200、制动装置210、转向装置220及车内通知装置300。这些装置、设备通过CAN(Controller Area Network)通信线等多路通信线、串行通信线、无线通信网等而互相连接。需要说明的是,图2所示的结构只不过是一例,也可以省略结构的一部分,还可以进一步追加别的结构。相机11、雷达装置12及探测器14是检测车辆10的周边的状况的装置,是搭载于车辆10的车载检测装置的一例。

相机11例如是利用了CCD(Charge Coupled Device)、CMOS(Complementary MetalOxide Semiconductor)等固体摄像元件的数码相机。相机11安装于第一车辆10A的任意部位。在拍摄前方的情况下,相机11安装于前风窗玻璃上部、车室内后视镜背面等。相机11例如周期性地反复拍摄第一车辆10A的周边。相机11也可以是立体相机。相机11还可以是行车记录仪。

雷达装置12向第一车辆10A的周边放射毫米波等电波,并且检测由物体反射出的电波(反射波)而至少检测物体的位置(距离及方位)。雷达装置12安装于第一车辆10A的任意部位。雷达装置12也可以通过FM-CW(Frequency Modulated Continuous Wave)方式来检测物体的位置及速度。

探测器14是LIDAR(Light Detection and Ranging)。探测器14向第一车辆10A的周边照射光,测定散射光。探测器14基于从发光到受光为止的时间来检测距对象的距离。照射的光例如是脉冲状的激光。探测器14安装于第一车辆10A的任意部位。

物体识别装置16对由相机11、雷达装置12及探测器14中的一部分或全部检测的检测结果进行传感器融合处理来识别物体的位置、种类、速度等。物体识别装置16将识别结果向自动驾驶控制装置100输出。物体识别装置16可以将相机11、雷达装置12及探测器14的检测结果直接向自动驾驶控制装置100输出。也可以省略物体识别装置16。

通信装置20例如利用蜂窝网、Wi-Fi网、Bluetooth(注册商标)、DSRC(DedicatedShort Range Communication)等来与存在于第一车辆10A的周边的其他车辆通信,或者经由无线基站而与各种服务器装置通信。

HMI30对第一车辆10A的乘员提示各种信息,并且接受乘员的输入操作。HMI30包括各种显示装置、扬声器、蜂鸣器、触摸面板、开关、按键等。

车辆传感器40包括检测第一车辆10A的速度的车速传感器、检测加速度的加速度传感器、检测绕铅垂轴的角速度的横摆角速度传感器、检测第一车辆10A的朝向的方位传感器等。

导航装置50例如具备GNSS(Global Navigation Satellite System)接收机51、导航HMI52及路径决定部53。导航装置50在HDD(Hard Disk Drive)、闪存器等存储装置中保持有第一地图信息54。GNSS接收机51基于从GNSS卫星接收到的信号来确定第一车辆10A的位置。第一车辆10A的位置也可以由利用了车辆传感器40的输出的INS(Inertial NavigationSystem)确定或补充。导航HMI52包括显示装置、扬声器、触摸面板、按键等。导航HMI52也可以一部分或全部与前述的HMI30共用化。路径决定部53例如参照第一地图信息54来决定从由GNSS接收机51确定出的第一车辆10A的位置(或输入的任意的位置)到由乘员使用导航HMI52输入的目的地为止的路径(以下,记为地图上路径)。第一地图信息54例如是通过表示道路的线路和由线路连接的节点而表现了道路形状的信息。第一地图信息54也可以包括道路的曲率、POI(Point Of Interest)信息等。地图上路径向MPU60输出。导航装置50也可以基于地图上路径来进行使用了导航HMI52的路径引导。导航装置50例如也可以由乘员持有的智能手机、平板终端等终端装置的功能实现。导航装置50也可以经由通信装置20而向导航服务器发送当前位置和目的地,并从导航服务器取得与地图上路径同等的路径。

MPU60例如包括推荐车道决定部61,在HDD、闪存器等存储装置中保持有第二地图信息62。推荐车道决定部61将从导航装置50提供的地图上路径分割为多个区块(例如,在车辆行进方向上每隔100[m]进行分割),并参照第二地图信息62来针对每个区块决定推荐车道。推荐车道决定部61进行在从左侧起的第几车道上行驶之类的决定。推荐车道决定部61在地图上路径中存在分支部位的情况下,以使第一车辆10A能够在用于向分支目的地行进的合理的路径上行驶的方式决定推荐车道。

第二地图信息62是比第一地图信息54高精度的地图信息。第二地图信息62例如包括车道中央的信息或车道的边界的信息等。另外,在第二地图信息62中,可以包括道路信息、交通限制信息、住所信息(住所·邮政编码)、设施信息、电话号码信息等。第二地图信息62可以通过通信装置20与其他装置通信而随时被更新。

驾驶操作件80例如包括油门踏板、制动踏板、换挡杆、转向盘、异形方向盘、操纵杆及其他操作件。在驾驶操作件80安装有检测操作量或操作的有无的传感器,其检测结果向自动驾驶控制装置100、或者行驶驱动力输出装置200、制动装置210及转向装置220中的一部分或全部输出。

自动驾驶控制装置100例如具备第一控制部120和第二控制部160。第一控制部120和第二控制部160分别例如通过CPU(Central Processing Unit)等硬件处理器执行程序(软件)而实现。另外,这些构成要素中的一部分或全部也可以由LSI(Large ScaleIntegration)、ASIC(Application Specific Integrated Circuit)、FPGA(Field-Programmable Gate Array)、GPU(Graphics Processing Unit)等硬件(包括电路部:circuitry)实现,还可以通过软件与硬件的协同配合来实现。程序可以预先保存于自动驾驶控制装置100的HDD、闪存器等存储装置(具备非暂时性的存储介质的存储装置),也可以保存于DVD、CD-ROM等能够装卸的存储介质,并通过存储介质(非暂时性的存储介质)向驱动装置装配而向自动驾驶控制装置100的HDD、闪存器安装。

行驶驱动力输出装置200将用于供车辆行驶的行驶驱动力(转矩)向驱动轮输出。行驶驱动力输出装置200例如具备内燃机、电动机及变速器等的组合和控制它们的ECU(Electronic Control Unit)。ECU按照从第二控制部160输入的信息或从驾驶操作件80输入的信息来控制上述的结构。

制动装置210例如具备制动钳、向制动钳传递液压的液压缸、使液压缸产生液压的电动马达及制动ECU。制动ECU按照从第二控制部160输入的信息或从驾驶操作件80输入的信息来控制电动马达,使得与制动操作相应的制动转矩向各车轮输出。制动装置210可以具备将通过驾驶操作件80中包含的制动踏板的操作而产生的液压经由主液压缸而向液压缸传递的机构作为备用件。需要说明的是,制动装置210不限于上述说明的结构,也可以是按照从第二控制部160输入的信息来控制致动器从而将主液压缸的液压向液压缸传递的电子控制式液压制动装置。

转向装置220例如具备转向ECU和电动马达。电动马达例如使力作用于齿条-小齿轮机构来变更转向轮的朝向。转向ECU按照从第二控制部160输入的信息或从驾驶操作件80输入的信息来驱动电动马达,使转向轮的朝向变更。

图3是第一控制部120及第二控制部160的功能结构图。第一控制部120例如具备识别部130和行动计划生成部140。第一控制部120例如并行实现基于AI(ArtificialIntelligence;人工智能)的功能和基于预先给出的模型的功能。例如,“识别交叉路口”的功能可以通过“并行执行基于深度学习等的交叉路口的识别和基于预先给出的条件(存在能够图案匹配的信号、道路标示等)的识别,并对双方评分而综合性地评价”来实现。由此,可确保自动驾驶的可靠性。

识别部130基于从相机11、雷达装置12及探测器14经由物体识别装置16而输入的信息来识别处于第一车辆10A的周边的物体的位置及速度、加速度等状态。物体的位置例如作为以第一车辆10A的代表点(重心、驱动轴中心等)为原点的绝对坐标上的位置而识别,在控制中使用。物体的位置可以由该物体的重心、角部等代表点表示,也可以由表现出的区域表示。物体的“状态”也可以包括物体的加速度、加加速度或“行动状态”(例如是否正在进行车道变更或将要进行车道变更)。

行动计划生成部140以原则上在由推荐车道决定部61决定出的推荐车道上行驶而且能够应对第一车辆10A的周边状况的方式,生成第一车辆10A自动地(不依赖于驾驶员的操作地)将来行驶的目标轨道。目标轨道例如包括速度要素。例如,目标轨道表现为将第一车辆10A应该到达的地点(轨道点)依次排列而得到的轨道。轨道点是按沿途距离计每隔规定的行驶距离(例如数[m]程度)的第一车辆10A应该到达的地点,有别于此,每隔规定的采样时间(例如零点几[sec]程度)的目标速度及目标加速度作为目标轨道的一部分而生成。另外,轨道点也可以是每隔规定的采样时间的该采样时刻下的第一车辆10A应该到达的位置。在该情况下,目标速度、目标加速度的信息由轨道点的间隔表现。

行动计划生成部140在生成目标轨道时,可以设定自动驾驶的事件。在自动驾驶的事件中,存在定速行驶事件、低速追随行驶事件、车道变更事件、分支事件、汇合事件、接管事件等。行动计划生成部140生成与起动后的事件相应的目标轨道。

第二控制部160控制行驶驱动力输出装置200、制动装置210及转向装置220,以使第一车辆10A按照预定的时刻通过由行动计划生成部140生成的目标轨道。

第二控制部160例如具备取得部162、速度控制部164及转向控制部166。取得部162取得由行动计划生成部140生成的目标轨道(轨道点)的信息,并向存储器(未图示)存储。速度控制部164基于向存储于存储器的目标轨道随附的速度要素来控制行驶驱动力输出装置200或制动装置210。转向控制部166根据存储于存储器的目标轨道的弯曲状况来控制转向装置220。速度控制部164及转向控制部166的处理例如通过前馈控制与反馈控制的组合而实现。作为一例,转向控制部166将与第一车辆10A的前方的道路的曲率相应的前馈控制和基于从目标轨道的偏离的反馈控制组合而执行。

[车内通知装置]

首先,对车内通知装置300侧的智能体系统的一部分进行说明。图4是示出车内通知装置300的结构和搭载于第一车辆10A的设备的图。在第一车辆10A例如还搭载有话筒410、显示·操作装置420及扬声器430。车内通知装置300和用户终端70A例如可以通过CAN(Controller Area Network)通信线等多路通信线、串行通信线、无线通信网等而互相连接。由此,在用户终端70A被带入到车室内的情况下,用户终端70A能够经由车内通知装置300而输出从信息提供装置500接收到的通知信息。

话筒410是收集在车室内发出的声音的收音部。为了取得车辆的多个乘员的讲话,话筒410也可以存在多个。显示·操作装置420是显示图像并且能够接受输入操作的装置(或装置群)。显示·操作装置420例如包括构成为触摸面板的显示器装置。显示·操作装置420也可以进一步包括HUD(Head Up Display)、机械式的输入装置、输出装置。扬声器430例如包括在车室内的互不相同的位置配设的多个扬声器(声音输出部)。显示·操作装置420也可以由车内通知装置300和导航装置50共用。另外,车内通知装置300也可以以导航控制器为基础而构建,在该情况下,导航控制器和车内通知装置300在硬件上一体构成。

车内通知装置300具备管理部310、通知智能体功能部320及车内存储部330。管理部310例如具备声响处理部311、指示接受部312、显示控制部313及声音控制部314。车内通知装置300的各构成要素例如通过CPU等硬件处理器执行程序(软件)而实现。这些构成要素中的一部分或全部也可以由LSI、ASIC、FPGA、GPU等硬件(包括电路部:circuitry)实现,还可以通过软件与硬件的协同配合来实现。程序可以预先保存于HDD、闪存器等存储装置(具备非暂时性的存储介质的存储装置),也可以保存于DVD、CD-ROM等能够装卸的存储介质(非暂时性的存储介质),并通过存储介质向驱动装置装配而安装。

管理部310通过执行OS(Operating System)、中间件等程序来发挥功能。车内存储部330由上述的各种存储装置实现。在车内存储部330中例如暂时存储从物体识别装置16输入的信息。

通知智能体功能部320与信息提供装置500协同配合而使智能体出现,提供包括基于声音的信息提供的通知智能体功能。需要说明的是,通知智能体功能部320也可以根据车辆的乘员的讲话而提供包括基于声音的响应的通知智能体功能。也可以对通知智能体功能部320赋予控制车辆设备的权限。

通知智能体功能部320基于从相机11、雷达装置12及探测器14经由物体识别装置16而输入的信息来生成周边状况信息。另外,通知智能体功能部320也可以基于物体识别装置16的识别结果来生成周边状况信息。通知智能体功能部320将生成的周边状况信息经由通信装置20而向信息提供装置500发送。通知智能体功能部320在从信息提供装置500接收到通知信息的情况下,基于接收到的通知信息来执行用于向用户A通知的各种处理。

另外,通知智能体功能部320在从相机11经由物体识别装置16而输入了信息的情况下,使输入的信息暂时存储于车内存储部330,在经过了一定时间的情况下,将存储于车内存储部330的信息擦除。在向车内存储部330保存的信息中,包括由相机11拍摄到的图像数据或动画数据。拍摄的时刻与该图像数据、动画数据建立了对应关系。

通知智能体功能部320根据进行声响处理后的声音(声音流)来识别声音的含义。首先,通知智能体功能部320基于声音流中的声音波形的振幅和零交叉来检测声音区间。通知智能体功能部320也可以进行基于以混合高斯分布模型(GMM;Gaussian mixture model)为根据的帧单位的声音辨识及非声音辨识的区间检测。通知智能体功能部320识别针对每个智能体预先设定的唤醒词等。

声响处理部311以成为适合于识别乘员的讲话的状态的方式对输入的声音进行声响处理。通知智能体功能部320基于由声响处理部311处理后的声音流,例如识别唤醒词和其他的来自乘员的要求词。在唤醒词中,例如包括“开始通知服务”等。在要求词中,例如包括“再说一次”、“用更大的声音说”、“在哪能看到?”、“将通知内容的图像发送到手机”等。

指示接受部312使用显示·操作装置420来接受来自乘员的指示。不限定于此,指示接受部312也可以具备声音识别功能,通过基于车内声音识别声音的含义来接受来自乘员的指示。在车内声音中,包括从话筒410输入的声音、由声响处理部311进行声响处理后的声音(声音流)等。

显示控制部313根据来自通知智能体功能部320的指示而使显示·操作装置420的显示器显示图像、动画。声音控制部314根据来自通知智能体功能部320的指示而使扬声器430中包含的扬声器中的一部分或全部输出声音。

对由通知智能体功能部320取得了通知信息的情况下的通知例进行说明。例如,通知智能体功能部320以使基于通知信息的文本、图像显示于显示·操作装置420的方式向显示控制部313指示,并且以使基于通知信息的声音从扬声器430输出的方式向声音控制部314指示。需要说明的是,在由用户A事先没定了向用户终端70A通知的情况下,通知智能体功能部320也可以经由通信装置20而向用户终端70A发送通知信息,从用户终端70A的显示部、扬声器输出基于通知信息的图像、声音。

通知智能体功能部320也可以根据通知信息来决定向用户A通知的方式。例如,通知智能体功能部320在通知等级高的通知信息的情况下,与通知等级低的通知信息的情况相比,强调输出方式。强调输出方式例如包括不仅从扬声器430输出声音也使显示·操作装置420输出图像。通过这样,能够将通知等级高的通知信息(例如,流星、陨石坠落等出现概率相当低的现象)与通知等级低的通知信息(例如,游击型暴雨、罕见的形状的云的出现等现象)相比强调而向乘员通知。需要说明的是,该输出方式也可以针对每个通知信息而由信息提供装置500指定。

[信息提供装置的结构]

接着,对信息提供装置500侧的智能体系统的一部分进行说明。图5是示出车内通知装置300的结构和信息提供装置500的结构的一部分的图。以下,与信息提供装置500的结构一起,对车内通知装置300等的动作进行说明。在此,省略关于从车内通知装置300到网络NW为止的物理通信的说明。

信息提供装置500例如具备通信部510、第一处理部520、第二处理部530、第一存储部550及第二存储部560。通信部510例如是NIC(Network Interface Card)等网络接口。第一处理部520和第二处理部530的构成要素例如通过CPU等硬件处理器执行程序(软件)而实现。这些构成要素中的一部分或全部也可以由LSI、ASIC、FPGA、GPU等硬件(包括电路部:circuitry)实现,还可以通过软件与硬件的协同配合来实现。程序可以预先保存于HDD、闪存器等存储装置(具备非暂时性的存储介质的存储装置),也可以保存于DVD、CD-ROM等能够装卸的存储介质(非暂时性的存储介质),并通过存储介质向驱动装置装配而安装。

第一处理部520与车内通知装置300协同配合来执行用于实现智能体系统的各处理。第一处理部520例如具备声音识别部521、自然语言处理部522、对话管理部523及响应文生成部524。

第二处理部530执行用于生成通知信息并向车内通知装置300发送的各处理。第二处理部530例如具备现象识别部531、通知部532、用户确认部533、列表编辑部534、学习部535、数据取得部536、驾驶指示部537、数据管理部538及其他车辆检测部539。

第一存储部550和第二存储部560由上述的各种存储装置实现。在第一存储部550中,例如保存字典DB(数据库)551、响应规则DB552等数据、程序。这些信息由第一处理部520读出。在第二存储部560中,例如保存日常现象列表561、非日常现象列表562、每个用户列表563、用户现象辨识模型564、车辆位置信息565、周边状况信息566等数据、程序。这些信息由第二处理部530写入,由第二处理部530读出。

首先,对由第一处理部520进行的处理进行说明。例如,在车内通知装置300中,通知智能体功能部320将声音流或进行压缩、编码等处理后的声音流向信息提供装置500发送。

当取得声音流后,声音识别部521进行声音识别并输出文本化的文字信息,自然语言处理部522对文字信息一边参照字典DB551一边进行含义解释。在字典DB551中,抽象化的含义信息相对于文字信息建立了对应关系。字典DB551也可以包括同义词、近义词的一览信息。声音识别部521的处理和自然语言处理部522的处理并非明确地划分阶段,可以如声音识别部521接受自然语言处理部522的处理结果而修正识别结果等这样相互影响而进行。

自然语言处理部522例如在作为识别结果而识别了“在哪里能看到?”、“哪里哪里?”等含义的情况下,生成置换为标准文字信息“哪里”的指令。由此,在请求的声音中存在表述差异的情况下也能够容易进行与要求相符的对话。另外,自然语言处理部522例如也可以使用利用了概率的机器学习处理等人工智能处理来识别文字信息的含义,生成基于识别结果的指令。

对话管理部523基于自然语言处理部522的处理结果(指令),一边参照响应规则DB552一边决定相对于车辆的乘员的讲话的内容。响应规则DB552是规定了智能体相对于指令而应该进行的动作(回答、设备控制的内容等)的信息。

响应文生成部524以使由对话管理部523决定出的讲话的内容向车辆的乘员传达的方式生成响应文,并经由通信部510而向车内通知装置300发送。在确定了乘员是登记于个人简介的乘员的情况下,响应文生成部524也可以生成叫出乘员的名字或者设为了模仿乘员的说法方式的说话方式的响应文。

通知智能体功能部320当取得响应文后,向声音控制部314指示以进行声音合成而输出声音。另外,通知智能体功能部320也可以以配合声音输出而显示AG动画的方式向显示控制部313指示,还可以以将响应文作为文字而显示的方式向显示控制部313指示。这样,实现虚拟地出现的智能体对车辆的乘员进行响应的智能体功能。

接着,对由第二处理部530进行的处理进行说明。例如,在车内通知装置300中,通知智能体功能部320将生成的周边状况信息向信息提供装置500发送。

现象识别部531经由通信部510而从第一车辆10A接收周边状况信息。例如,现象识别部531将使用搭载于第一车辆10A的外部检测部(例如,相机11、雷达装置12及探测器14等)在行驶中检测到的检测结果作为周边状况信息而接收。现象识别部531也可以将由车外检测装置700检测到的检测结果作为周边状况信息而接收。

例如,现象识别部531基于接收到的第一车辆10A的周边状况信息来识别在第一车辆10A的周边正在发生的现象(以下,记为发生现象E

现象识别部531例如通过解析由相机11拍摄到的图像来检测图像内包含的规定的图像。现象识别部531基于检测到的规定的图像来决定发生现象E

现象识别部531也可以除了图像解析之外还基于从雷达装置12、探测器14输出的信息来导出规定的图像的动作、速度等,从而识别发生现象E

另外,现象识别部531识别正在发生着在第一车辆10A的周边的地域中不是日常的范围中包含的现象(以下,记为第一现象)。例如,在识别到的发生现象E

现象识别部531在识别到的发生现象E

通知部532在由现象识别部531识别到正在发生第一现象的情况下,对第一车辆10A的乘员即用户A通知与在第一车辆10A的周边正在发生的现象相关的信息。通知部532例如生成将正在发生被识别为第一现象的发生现象E

需要说明的是,在由现象识别部531基于发生现象E

另外,现象识别部531识别正在发生着在第一车辆10A的周边的地域中包含于日常的范围但对于第一车辆的乘员而言不包含于日常的范围的现象(以下,记为第二现象)。例如,在识别到的发生现象E

通知部532在由现象识别部531识别到正在发生第二现象的情况下,对第一车辆10A的乘员即用户A通知与在第一车辆10A的周边正在发生的现象相关的信息。通知部532例如将正在发生被识别为第二现象的发生现象E

另外,现象识别部531在识别到的发生现象E

另外,现象识别部531也可以判定识别到的发生现象E

用户确认部533在识别到的发生现象E

通知部532在用户确认部533的确认中由用户A指示了通知在车辆周边识别到的现象的情况下,即使在发生现象E

列表编辑部534在由用户A指示了通知在车辆周边识别到的现象的情况下,将识别到的发生现象E

列表编辑部534基于由第一车辆10A的乘员进行的指示来编辑非日常现象列表562。例如,即使是一般包含于日常的范围的现象,列表编辑部534也将用户希望通知的现象向非日常现象列表562追加。即使是一般包含于不是日常的范围的现象,列表编辑部534也可以将用户不希望通知的现象从非日常现象列表562删除。

列表编辑部534也可以基于由第一车辆10A的乘员进行的指示来编辑日常现象列表561。例如,即使是一般包含于不是日常的范围的现象,列表编辑部534也将用户不希望通知的现象向日常现象列表561追加。即使是一般包含于日常的范围的现象,列表编辑部534也将用户希望通知的现象从日常现象列表561删除。

学习部535在由第一车辆10A的乘员指示了通知在车辆周边识别到的现象的情况下,基于在周边车辆识别到的现象(即,发生现象E

学习部535在识别到的发生现象E

现象识别部531也可以使用用户现象辨识模型564来辨识识别到的发生现象E

数据取得部536生成关于由通知部532向乘员通知的发生现象E

驾驶指示部537在由现象识别部531识别到是通知现象(包括第一现象、向用户A通知的现象)的情况下,对第一车辆10A指示慢行驾驶。此时,驾驶指示部537也可以决定用于慢行驾驶的行驶速度、行驶距离等,并向第一车辆10A指示。接受了指示的第一车辆10A通过自动驾驶而执行慢行驾驶。通过这样,乘员容易确认车辆周边的现象。

数据管理部538将经由通信部510而从车辆10、车外检测装置700接收到的信息向第二存储部560保存。例如,数据管理部538将从车辆10接收到的将当前位置信息与车辆ID建立了对应关系的信息作为车辆位置信息565的一部分而向第二存储部560保存。数据管理部538将从车辆10、车外检测装置700接收到的周边状况信息作为周边状况信息566的一部分而向第二存储部560保存。数据管理部538也可以将从车辆10、车外检测装置700接收到的图像数据、动画数据、生成的发生现象数据作为周边状况信息566的一部分而向第二存储部560保存。

其他车辆检测部539参照车辆位置信息565来检测发送通知信息的其他车辆。例如,在识别到在第一车辆10A的周边正在发生通知现象的情况下,检测存在于包含第一车辆10A的规定的区域的其他车辆。通知部532对由其他车辆检测部539检测到的其他车辆通知在其他车辆的周边正在发生发生现象E

[日常现象列表和非日常现象列表]

以下,对日常现象列表561和非日常现象列表562的一例进行说明。

在日常现象列表561中,例如包括在雪乡下雪的现象、在日光出现猴子的现象、在农村出现狸的现象等。

在非日常现象列表562中,例如包括不管在哪个地域中出现概率都非常低的第一现象(例如,彩虹、流星、UFO、陨石坠落等)。该第一现象是通知等级比后述的第二现象、第三现象高的通知信息的一例。

在非日常现象列表562中,也可以包括虽然出现概率比第一现象高但不管在哪个地域中都罕见的第二现象(例如,游击型暴雨等)。在罕见的第二现象中,例如包括出现方式不符合通常的方式的现象(例如,罕见的形状的云的出现、罕见的颜色的月亮的出现等)。

在非日常现象列表562中,例如也可以包括在发生了发生现象E

在该第三现象中,也可以包括从在第一车辆10A的当前位置处上次出现的时刻起的经过时间超过了阈值的现象(例如,时隔数月的雨、时隔数月的雪、时隔数月的雷等)。通知部532在与向乘员通知的现象相同的现象从上次的通知起在规定期间以内再次发生的情况下,从通知对象排除。例如,通知部532在由现象识别部531识别到正在发生第三现象的情况下,也可以在从发生了同一现象的上次的发生日期时刻起经过了规定时间的情况下对乘员通知。即,在从上次的发生日期时刻起未经过规定时间的情况下,通知部532也可以不对乘员通知。另外,通知部532在相同年的相同季节中发生了同一现象的情况下,也可以仅在初次向乘员通知,第二次以后不通知。

在非日常现象列表562中,例如可以包括出现名人像要出现的状况(正在实施名人演出的事件、外景拍摄的状况等)的现象。名人例如包括不管在哪个地域中都有名的人物(在全国具有知名度的明星、国会议员等)、在该地域中有名的人物(市长、市议会议员、当地偶像等)。

在非日常现象列表562中,例如可以包括出现与平时的街道的情形不同的景色(例如,灯笼、横幅、伴奏、街道内广播等)的现象。在非日常现象列表562中,可以包括出现热议的内容(最近开放的热议的设施、人气的拉面店、人气的面包店等)的现象。在非日常现象列表562中,可以包括出现在其他季节中罕见的季节物(例如,樱花、红叶等)的现象等。

[处理流程]

接着,对由实施方式的信息提供装置500执行的处理的流程的一例进行说明。在此,对第一车辆10A将第一车辆10A的周边的周边状况信息向信息提供装置500发送的例子进行说明。

[处理流程(其1)]

图6是示出由信息提供装置500执行的处理(其1)的一例的流程图。首先,现象识别部531取得周边状况信息(步骤S101),基于取得的周边状况信息来识别发生现象E

在步骤S107中识别到的发生现象E

[处理流程(其2)]

图7是示出由信息提供装置500执行的处理(其2)的一例的流程图。首先,现象识别部531取得周边状况信息(步骤S201),基于取得的周边状况信息来识别发生现象E

在步骤S207中识别到的发生现象E

[处理流程(其3)]

图8是示出由信息提供装置500执行的处理(其3)的一例的流程图。首先,现象识别部531取得周边状况信息(步骤S301),基于取得的周边状况信息来识别发生现象E

在步骤S307中识别到的发生现象E

根据以上说明的实施方式的信息提供装置500,具备:现象识别部531,其基于在第一车辆10A的周边取得的信息来识别正在发生着在第一车辆10A的周边的地域中不是日常的范围中包含的第一现象;以及通知部532,其在识别到正在发生第一现象的情况下,对第一车辆10A的乘员通知与第一现象相关的信息,由此,能够使乘员察觉在车辆的周边正在发生的规定的现象。

上述说明的实施方式能够如以下这样表述。

一种信息提供装置,其具备:

存储装置,存储有程序;以及

硬件处理器,

构成为通过所述硬件处理器执行存储于所述存储装置的程序而执行以下处理:

基于在第一车辆的周边取得的信息来识别正在发生着在所述第一车辆的周边的地域中不是日常的范围中包含的第一现象,

在识别到正在发生所述第一现象的情况下,对所述第一车辆的乘员通知与所述第一现象相关的信息。

以上使用实施方式说明了本发明的具体实施方式,但本发明丝毫不被这样的实施方式限定,在不脱离本发明的主旨的范围内能够施加各种变形及替换。

例如,信息提供装置500中包含的结构也可以搭载于车辆10。例如,车辆10也可以在无需向其他车辆通知的情况(仅进行向本车辆的通知的情况)下,将在车辆10的周边识别到的现象向车辆10的乘员通知。

相关技术
  • 信息提供系统、信息提供控制设备、信息提供方法、信息提供控制方法和存储介质
  • 信息提供系统、信息提供系统的控制方法、信息提供装置、程序和信息存储介质
技术分类

06120112230415