可编程逻辑控制器、动态图像管理装置、动态图像管理系统、动态图像管理方法以及程序
文献发布时间:2024-01-17 01:27:33
技术领域
本发明涉及可编程逻辑控制器、动态图像管理装置、动态图像管理系统、动态图像管理方法以及程序。
背景技术
在FA(Factory Automation)领域中,有时使用PLC(Programmable LogicController:可编程逻辑控制器)所记录的日志和由拍摄装置拍摄到的生产设备的动态图像而进行在生产设备发生的故障的原因调查。例如,在生产设备进行了异常的动作时,有时对关于其异常的操作的动态图像与附加于动态图像的时刻时的日志进行对照,由此调查其异常的操作的原因。此外,作为附加于动态图像的时刻,例如想到由拍摄装置拍摄到动态图像的各帧的时刻、由PLC取得动态图像的各帧的数据的时刻等。
在此,在原因调查时,如果附加于动态图像的时刻与日志的记录时刻之间存在不匹配,则有可能在原因调查中产生障碍,因此需要使附加于动态图像的时刻与日志的记录时刻匹配的技术。
在专利文献1中示出了一种技术,即,通过由专用的低延迟的拍摄触发线将拍摄装置与PLC连接,从而使附加于动态图像的时刻与日志的记录时刻高精度地同步。通过在专利文献1中记载的技术,能够使附加于动态图像的时刻与日志的记录时刻匹配。
专利文献1:日本特开2020-134985号公报
发明内容
在专利文献1所记载的技术中,需要由专用的拍摄触发线将拍摄装置与PLC连接。因此,对于拍摄装置,不能够采用网络照相机、Web照相机等通常普及的拍摄装置,需要准备与拍摄触发线对应的专用的拍摄装置。
鉴于上述的情况,本发明的目的在于提供即使采用通常的拍摄装置,也能够将附加于动态图像的时刻与PLC所记录的日志的记录时刻匹配的可编程逻辑控制器等。
为了实现上述目的,本发明涉及的可编程逻辑控制器具有:
时钟元件;
日志记录单元,其基于所述时钟元件发出的时钟信号,将日志与记录时刻一起记录至第1存储装置中;
动态图像数据取得单元,其从拍摄装置取得表示由所述拍摄装置拍摄到的动态图像的动态图像数据;
帧速测定单元,其基于所述时钟元件发出的时钟信号,对所述动态图像数据所示的动态图像的帧速进行测定;
校正单元,其基于所述帧速,对附加于所述动态图像数据所示的动态图像的时刻进行校正;以及
动态图像保存单元,其将表示附加有由所述校正单元校正后的时刻的动态图像的新动态图像数据保存至第2存储装置中。
发明的效果
根据本发明,即使采用通常的拍摄装置,也能够将附加于动态图像的时刻与PLC所记录的日志的记录时刻匹配。
附图说明
图1是表示本发明的实施方式1涉及的动态图像管理系统的整体结构的图。
图2是对在本发明的实施方式1涉及的动态图像管理系统中应当避免的动态图像的不匹配进行说明的图。
图3是表示本发明的实施方式1涉及的PLC的结构的图。
图4是对通过本发明的实施方式1涉及的PLC实施的动态图像的校正进行说明的图。
图5是表示本发明的实施方式1涉及的动态图像管理装置的结构的图。
图6是表示由本发明的实施方式1涉及的动态图像管理装置显示的日志基准点的指定画面的一个例子的图。
图7是表示由本发明的实施方式1涉及的动态图像管理装置显示的动态图像基准点的指定画面的一个例子的图。
图8是表示与通过本发明的实施方式1涉及的PLC进行的动态图像的时刻校正有关的动作的一个例子的流程图。
图9是表示与通过本发明的实施方式1涉及的动态图像管理装置进行的日志与动态图像的联动播放有关的动作的一个例子的流程图。
图10是表示本发明的实施方式2涉及的PLC的结构的图。
图11是表示在本发明的实施方式2涉及的PLC的存储装置中保存的数据的图。
图12是表示与通过本发明的实施方式2涉及的PLC进行的基于图案(pattern)的动态图像的时刻校正有关的动作的一个例子的流程图。
图13是表示由本发明的变形例涉及的动态图像管理装置显示的日志基准点的通知画面的一个例子的图。
图14是表示由本发明的变形例涉及的动态图像管理装置显示的动态图像基准点的通知画面的一个例子的图。
具体实施方式
以下,一边参照附图一边对本发明的实施方式涉及的动态图像管理系统进行说明。在各附图中,对相同或等同的部分标注相同的标号。
(实施方式1)
一边参照图1一边对实施方式1涉及的动态图像管理系统1进行说明。动态图像管理系统1例如在设置有生产设备的生产现场中设置。动态图像管理系统1具有PLC 10、动态图像管理装置20和照相机30。如后所述,根据动态图像管理系统1,能够使附加于由照相机30拍摄到的生产设备的动态图像的时刻与PLC 10所记录的日志的记录时刻匹配。动态图像管理系统1是本发明涉及的动态图像管理系统的一个例子。
PLC 10与动态图像管理装置20例如由通用的通信线缆可通信地连接。同样地,PLC10与照相机30例如由通用的通信线缆可通信地连接。通用的通信线缆例如是通用的USB(Universal Serial Bus)线缆、通用的网络线缆等通常的通信线缆。这些线缆不是实现极低的波动、极低的延迟等专用于特定用途的专用的通信线缆。
照相机30例如是市售的网络照相机、Web照相机等通常的拍摄装置。网络照相机、Web照相机等通常的拍摄装置不是被设想为以极低的波动以及极低的延迟发送动态图像数据而制造的。照相机30以一定时间间隔连续地对生产设备进行拍摄。照相机30将表示连续地对生产设备进行拍摄而得到的动态图像的动态图像数据发送至PLC 10。虽然在图1中仅示出了1个照相机30,但也可以存在多个照相机30。照相机30是本发明涉及的拍摄装置的一个例子。
PLC 10是可编程逻辑控制器。PLC 10除了连接有动态图像管理装置20以及照相机30之外,还连接有未图示的传感器、致动器等。PLC 10从照相机30取得表示由照相机30拍摄到的动态图像的动态图像数据。如后所述,PLC 10对与自身的动作相关的日志进行记录。另外,如后所述,PLC 10对附加于取得的动态图像数据所示的动态图像的时刻进行校正,对动态图像数据进行保存。PLC 10是本发明涉及的可编程逻辑控制器的一个例子。
动态图像管理装置20读出PLC 10所记录的日志和PLC 10所保存的动态图像数据,将日志和动态图像联动播放。联动播放是指在播放动态图像时,将当前成为播放对象的时刻时的日志与动态图像一起显示。通过该联动播放,例如用户能够通过观察联动播放出的动态图像而确认在日志中记录下表示出异常的数据的时刻时生产设备处于何种状态。另外,相反地,用户能够在动态图像中发现生产设备发生了异常时,观察联动播放出的日志,对在发生了异常的时刻时日志中记录有什么样的数据进行确认。动态图像管理装置20是本发明涉及的动态图像管理装置的一个例子。
另外,虽然详情会在后面叙述,但在实施方式1中,动态图像管理装置20在联动播放时,基于用户的指定而对日志与动态图像的时刻的偏移进行校正而进行联动播放。
接下来,一边参照图2一边对在动态图像管理系统1中应当避免的动态图像的不匹配进行说明。
首先,针对“拍摄时”这一层进行说明。在“拍摄时”这一层中,示出了照相机30以一定时间间隔对生产设备进行拍摄而连续地得到拍摄图像。在“时刻”轴上刻着的各竖线分别表示1张拍摄图像,即动态图像中的1帧。在“拍摄时”这一层中,竖线以一定间隔排列,因此示出了动态图像的各帧是以一定时间间隔而得到的。照相机30一旦得到各帧,就将表示各帧的图像数据发送至PLC 10。
然而,对于在照相机30拍摄时以一定时间间隔而得到的各帧,因波动的发生而在PLC 10接收时并非必然能够以一定时间间隔接收。另外,照相机30所使用的时钟元件与PLC10所使用的时钟元件不同,产生时钟差,因此照相机30拍摄时的帧之间的时间间隔与PLC10接收时的帧之间的时间间隔有时不相等。另外,因为照相机30与PLC 10通过通用的通信线缆连接,所以在各帧的发送中也产生延迟。
因为以上的情况,照相机30拍摄出各帧的时刻与PLC 10接收到表示各帧的图像数据的时刻通常不一致。因此,即使想要基于PLC 10接收到各帧的时刻而将动态图像与日志相关联,关联至各帧的时刻和关联至日志的时刻实际上也不一致,产生不匹配。以下,对成为不匹配的原因的时钟差、波动、延迟详细地进行说明。
首先,对时钟差进行说明。图2所示的“时钟差发生时”这一层表示没有发生“波动”以及“延迟”、仅发生了“时钟差”的情况下的PLC 10接收时的帧间隔。虽然在“时钟差发生时”这一层中,各帧的间隔是恒定的,但帧间隔由于时钟差的原因而不同于“拍摄时”。例如在“时钟差发生时”这一层中,示出了将拍摄时的7帧的量的时间与接收时的7帧的量的时间比较,接收时的7帧的量的时间更长。因此,接收时的时刻与拍摄时的时刻不匹配,将动态图像与日志相关联时产生不匹配。
接下来,对波动进行说明。图2所示的“波动发生时”这一层表示没有发生“时钟差”以及“延迟”、仅发生了“波动”的情况下的PLC 10接收时的帧间隔。如“波动发生时”这一层所示,因波动而导致接收时的帧间隔变得不恒定而发生摆动。因此,接收时的时刻与拍摄时的时刻不一致,在将动态图像与日志相关联时产生不匹配。
然后,对延迟进行说明。图2所示的“延迟”这一层示出没有发生“时钟差”以及“波动”、仅发生了“延迟”的情况下的PLC 10接收时的帧间隔。在“延迟”这一层中,虽然帧间隔是恒定并且与拍摄时相等的间隔,但各帧的接收时刻比拍摄时晚。该“晚”,即延迟,例如是由起因于通信线缆、通信接口的延迟而产生的。因此,接收时的时刻与拍摄时的时刻不一致,在将动态图像与日志相关联时产生不匹配。此外,因为延迟起因于通信线缆、通信接口等,所以能够预期其大致是恒定的。
在图2的各层中,对“时钟差”“波动”“延迟”中的仅某一者发生的情况进行了说明,但这3者通常全部发生。因此,需要对这3者作出应对而消除不匹配。
如后所述,能够由PLC 10对“时钟差”以及“波动”作出应对,能够由动态图像管理装置20对“延迟”作出应对。
接下来,一边参照图3一边对PLC 10的结构进行说明。PLC 10具有处理器100、存储装置110、时钟元件120和通信接口130。处理器100、存储装置110、时钟元件120和通信接口130经由总线B1而可通信地彼此连接。
处理器100例如是CPU(Central Processing Unit:中央运算装置)。处理器100通过读入而执行在存储装置110中存储的控制程序DP,从而实现后述的各功能。
存储装置110例如包含RAM(Random Access Memory)、HDD(Hard Disk Drive)、SSD(Solid State Drive)等存储装置。存储装置110保存日志DL、动态图像数据DM、控制程序DP和缓存数据DB。对于日志DL、动态图像数据DM以及缓存数据DB会在后面叙述。另外,存储装置110作为处理器100读入而执行控制程序DP时的工作存储器而起作用。存储装置110是本发明涉及的第1存储装置以及第2存储装置的一个例子。
时钟元件120发出在处理器100、存储装置110以及通信接口130动作时使用的时钟信号。时钟元件120是本发明涉及的时钟元件的一个例子。
通信接口130例如是USB接口、网络接口等通常的通信接口。通过将动态图像管理装置20以及照相机30与通信接口130连接,从而PLC 10能够与动态图像管理装置20以及照相机30通信。
对通过处理器100读入而执行控制程序DP所实现的各功能进行说明。处理器100通过读入而执行控制程序DP,从而作为功能部而具有日志记录部101、动态图像数据取得部102、帧速测定部103、校正部104和动态图像保存部105。
日志记录部101将关于从未图示的传感器取得的传感器数据、表示PLC 10的内部状态的数据等的日志,作为日志DL而记录至存储装置110中。日志记录部101在记录日志时,基于时钟元件120发出的时钟信号,将日志与记录时刻一起记录。日志记录部101是本发明涉及的日志记录单元的一个例子。
动态图像数据取得部102取得表示照相机30拍摄到的动态图像的动态图像数据,作为缓存数据DB而保存至存储装置110中,由此对动态图像数据进行缓存。此时,动态图像数据取得部102将各帧的接收时刻也保存至缓存数据DB。此外,各帧的接收时刻是基于时钟元件120发出的时钟信号而得到的。在此,对缓存数据DB设定有上限容量,在缓存数据DB的数据大小达到了上限容量时,从最旧的数据开始删除。缓存数据DB例如由环形缓冲器的数据结构而实现。缓存数据DB的数据大小例如是能够保存30分钟动态图像的程度的数据大小。动态图像数据取得部102是本发明涉及的动态图像数据取得单元的一个例子。
帧速测定部103读入在存储装置110中缓存的动态图像数据,基于时钟元件120发出的时钟信号,对动态图像数据所示的动态图像的帧速进行测定。帧速测定部103是本发明涉及的帧速测定单元的一个例子。
以下,一边参照图4一边对帧速的测定进行说明。首先,作为前提,设定为对动态图像的各帧附加有按时序的顺序相连的帧编号。例如,将对照相机30启动后最先拍摄到的帧附加的帧编号设定为0,将在帧编号0的下一个拍摄到的帧的帧编号设定为1,将再下一个设定为2……。
图4所示的黑点是表示在缓存数据DB中保存的动态图像数据中的各帧的帧编号与接收时刻的对应关系的线图。从图4所示的黑点的附近穿过的直线是对各帧编号与各接收时刻应用最小二乘法而得到的直线。该直线例如由以下的式(1)表示。
y=0.0169x+D…式(1)
在此,x是帧编号,y是接收时刻,D是y截距。该公式中的x的系数“0.0169”为平均帧间隔。即,其倒数为帧速。因而,对帧速进行测定与对式(1)进行求解等价。
在此,缓存数据DB中的接收时刻是基于时钟元件120发出的时钟信号而附加的。因此,上述的式(1)也是基于时钟信号而得到的。因此,式(1)是基于时钟信号而得到的,对于由式(1)求出的接收时刻,消除与“时钟差”相关的问题。另外,因为式(1)是针对帧编号x的一次函数,所以在各帧间由式(1)求出的接收时刻的差是恒定的。因此,对于由式(1)求出的接收时刻,与“波动”相关的问题也得以消除。即,对于由式(1)求出的接收时刻,针对“时钟差”“波动”这2个问题作出了应对。
如后所述,由于关于“延迟”的问题由动态图像管理装置20处理,因此在该阶段中只要对“时钟差”“波动”这2个问题作出应对即可。总而言之,帧速测定部103通过基于时钟元件120发出的时钟信号而对动态图像数据所示的动态图像的帧速进行测定(即,通过对式(1)进行求解),由此对“时钟差”“波动”这2个问题作出应对。
再次参照图3。校正部104基于帧速测定部103测定出的帧速,通过式(1)对附加于动态图像的各帧的接收时刻进行校正。虽然由校正部104校正的时刻没有考虑到延迟,但如上所述,延迟是由动态图像管理装置20进行处理的。校正部104是本发明涉及的校正单元的一个例子。
动态图像保存部105在产生了触发时,从缓存数据DB所包含的动态图像数据之中提取触发产生时刻附近的动态图像数据,将附加有由校正部104对各帧校正过的接收时刻的新动态图像数据作为动态图像数据DM而保存至存储装置110中。此处所说的触发是指用于指示动态图像保存部105对动态图像进行保存的信号。例如在日志DL中记录了与生产设备的异常相关的日志时,需要生产设备发生了异常的时刻前后的动态图像的可能性高,产生触发。然后,动态图像保存部105与触发的产生对应地保存动态图像。触发产生时刻附近例如是触发产生时刻的2分钟之前到2分钟之后。动态图像保存部105是本发明涉及的动态图像保存单元的一个例子。
接下来,一边参照图5一边对动态图像管理装置20的结构进行说明。动态图像管理装置20具有处理器200、存储装置210、输入装置220、显示装置230和通信接口240。处理器200、存储装置210、输入装置220、显示装置230和通信接口240经由总线B2而可通信地彼此连接。动态图像管理装置20例如是个人计算机、智能手机等计算机。
处理器200例如是CPU。处理器100通过读入而执行在存储装置210中存储的控制程序,从而实现后述的各功能。
存储装置210例如包含RAM、HDD、SSD等存储装置。存储装置210保存由处理器200执行的控制程序。控制程序例如是PLC 10的制造者提供的工程设计工具的程序。另外,存储装置110作为由处理器200读入而执行控制程序时的工作存储器起作用。
输入装置220输出基于来自用户的输入操作的信号。输入装置220例如是与后述的显示装置230一体的触摸屏。或者,输入装置220也可以是键盘、鼠标等输入装置。
显示装置230基于后述的显示控制部204的控制,对应当使用户知晓的信息进行显示。显示装置230例如是与输入装置220一体的触摸屏。或者,显示装置230也可以是独立的显示器装置。显示装置230是本发明涉及的显示单元的一个例子。
通信接口240例如是USB接口、网络接口等通常的通信接口。通过使PLC 10与通信接口240连接,动态图像管理装置20能够与PLC 10通信。
对通过由处理器200读入并执行在存储装置210中保存的控制程序而实现的各功能进行说明。处理器200通过读入而执行控制程序,从而作为功能部而具有数据取得部201、日志基准点指定部202、动态图像基准点指定部203和显示控制部204。
数据取得部201经由通信接口240与PLC 10通信,取得在PLC 10的存储装置110中保存的日志DL和动态图像数据DM。
日志基准点指定部202基于用户的输入,指定日志DL中的时序上的基准点即日志基准点。例如,日志基准点指定部202使后述的显示控制部204显示如图6所示的画面。图6所示的画面是以线图按时序显示与传感器值相关的日志,并且提示用户进行作为日志基准点的时刻的指定的画面。例如,假设用户观察在图6所示的画面中显示的线图,考虑将时刻12:00:13.000指定为日志基准点。在该情况下,用户通过在位于“OK”按钮左边的文本框中以毫秒单位输入“12:00:13.000”而按下“OK”按钮,从而能够作为日志基准点而指定时刻12:00:13.000。日志基准点指定部202是本发明涉及的日志基准点指定单元的一个例子。
动态图像基准点指定部203基于用户的输入,指定动态图像数据DM所示的动态图像中的时序上的基准点即动态图像基准点。例如,动态图像基准点指定部203使后述的显示控制部204显示如图7所示的画面。图7所示的画面是播放对生产设备进行拍摄而得到的动态图像,并且提示用户进行作为动态图像基准点的时刻的指定的画面。例如,用户在想要将当前在图6所示的画面中播放出的帧的时刻指定为动态图像基准点的情况下,通过按下“停止”按钮而停止动态图像的播放,然后选择画面下方的“是”按钮,从而能够将当前显示出的帧的时刻指定为动态图像基准点。动态图像基准点指定部203是本发明涉及的动态图像基准点指定单元的一个例子。
在此,用户应当将被认为是与指定为日志基准点的时刻相同的时刻的时间点指定为动态图像基准点。例如,用户应当对日志进行确认而将在传感器数据中发现了异常的时刻指定为日志基准点,对动态图像进行确认而将在生产设备中发现了异常的时间点指定为动态图像基准点。
显示控制部204对显示装置230进行控制,以使日志基准点与动态图像基准点成为相同时刻的方式,使日志DL和动态图像数据DM所示的动态图像联动播放。显示控制部204通过以使日志基准点与动态图像基准点成为相同时刻的方式联动播放,能够对由“延迟”产生的时刻差进行校正而将日志DL和动态图像同步播放。因而,能够由动态图像管理装置20对关于“延迟”的问题进行处理。显示控制部204是本发明涉及的显示控制单元的一个例子。
接下来,一边参照图8一边说明由PLC 10执行的动态图像的时刻校正的动作的一个例子。
PLC 10的日志记录部101基于时钟元件120发出的时钟信号,将日志DL与记录时刻一起记录至存储装置110中(步骤S101)。
PLC 10的动态图像数据取得部102从照相机30取得动态图像数据而缓存至存储装置110中(步骤S102)。
PLC 10的帧速测定部103基于时钟元件发出的时钟信号,对缓存下来的动态图像数据所示的动态图像的帧速进行测定(步骤S103)。具体地说,如上所述,通过最小二乘法求出平均帧间隔。
PLC 10的校正部104基于测定出的帧速,对附加于动态图像的各帧的接收时刻进行校正(步骤S104)。通过该校正而消除关于“时钟差”以及“波动”的问题。
PLC 10的动态图像保存部105对是否产生了触发进行判定(步骤S105)。在判定为尚未产生触发时(步骤S105:No),PLC 10的处理器100重复从步骤S101开始的动作。
在判定为已经产生触发时(步骤S105:Yes),动态图像保存部105在附加了校正后的接收时刻之后,将触发产生时刻附近的动态图像数据作为动态图像数据DM保存至存储装置110中(步骤S106)。然后,处理器100重复从步骤S101开始的动作。
通过由上述PLC 10执行的动态图像的时刻校正的动作,消除了关于“时钟差”以及“波动”的问题。接下来,一边参照图9一边说明由动态图像管理装置20执行的日志和动态图像的联动播放的动作的一个例子。通过该动作,消除了关于“延迟”的问题。
动态图像管理装置20的数据取得部201从PLC 10读出日志DL(步骤S201)。
动态图像管理装置20的日志基准点指定部202等待由用户进行的日志基准点的指定(步骤S202)。日志基准点指定部202例如如上所述,通过对图6所示的画面进行显示,从而等待由用户进行的日志基准点的指定。
数据取得部201从PLC 10读出动态图像数据DM(步骤S203)。
动态图像管理装置20的动态图像基准点指定部203等待由用户进行的动态图像基准点的指定(步骤S204)。动态图像基准点指定部203例如如上所述,通过对图6所示的画面进行显示,从而等待由用户进行的动态图像基准点的指定。
动态图像管理装置20的显示控制部204以使日志基准点与动态图像基准点成为相同时刻的方式,使动态图像数据DM所示的动态图像和日志DL联动播放(步骤S205)。通过该动作,能够对“延迟”进行校正而将动态图像与日志DL同步地联动播放。然后,如果结束了动态图像以及日志DL的播放,则动态图像管理装置20的处理器200结束联动播放的动作。
以上,对实施方式1涉及的动态图像管理系统1进行了说明。根据动态图像管理系统1,首先,通过由PLC 10的帧速测定部103基于时钟元件120的时钟信号而对帧速进行测定,PLC 10的校正部104基于帧速而对动态图像的各帧的接收时刻进行校正,从而消除了关于“时钟差”以及“波动”的问题。接下来,通过由动态图像管理装置20的日志基准点指定部202使用户指定日志基准点,动态图像管理装置20的动态图像基准点指定部203使用户指定动态图像基准点,动态图像管理装置20的显示控制部204以使日志基准点与动态图像基准点成为相同时刻的方式将动态图像和日志DL联动播放,从而消除了关于“延迟”的问题。并且,在消除这些问题时,照相机30也能够应用通常的拍摄装置。因而,根据实施方式1涉及的动态图像管理系统1,即使采用通常的拍摄装置,也能够使附加于动态图像的时刻与PLC所记录的日志的记录时刻匹配。
(实施方式1的变形例)
在实施方式1中,将日志DL、动态图像数据DM和缓存数据DB保存至相同的存储装置110中,但也可以将它们分别保存至不同的存储装置中。例如,也可以将日志DL和缓存数据DB保存至PLC 10具有的存储装置110中,将动态图像数据DM保存至外部的存储装置中。
在实施方式1中,帧速测定部103在求出帧速时利用了最小二乘法。然而,例如在缓存有大量的动态图像数据的情况下,对全部的帧应用最小二乘法的计算消耗大。因此,帧速测定部103也可以例如以50个帧为单位选择成为代表的点,仅对选择出的点应用最小二乘法。成为代表的点例如可以选择50个帧中的各点之中的成为中央值的点,也可以采用各点的平均值。
或者相反地,在仅缓存有少量的动态图像数据的情况下,有时数据量过少,即使应用了最小二乘法,误差也变大。在该情况下,如果已知照相机30的拍摄速度,则帧速测定部103也可以基于该拍摄速度而假定帧速。例如在照相机30能够在1秒中拍摄60次的情况下,帧速测定部103也可以将帧速假定为60fps。在该情况下,式(1)的x的系数为0.16667。在数据数少的情况下,即使是在这样的假定下,绝对误差也不会变大,因此难以产生问题。
在实施方式1中,帧速测定部103基于帧编号和接收时刻而对式(1)进行求解。然而,照相机30在将时钟计数器计时得到的计数值附加至各帧的情况下,也可以基于计数值和接收时刻对与式(1)相同的公式进行求解。例如在照相机30的时钟计数器的动作频率是90kHz、动态图像的帧速是60fps的情况下,计数值每1帧增加1500。例如,在照相机30拍摄的动态图像的帧速可变时,由于帧间隔变得不均匀,所以优选使用计数值。在使用计数值的情况下,式(1)中的x的系数的单位不是[秒/帧]而是[秒/时钟],帧速的单位是其倒数即[时钟/秒]。因此,在替代帧编号而使用计数值的情况下求出的帧速虽然是与通常的帧速不同的单位,但能够视为由其它单位表现出的帧速。
在实施方式1中,动态图像管理装置20具有输入装置220以及显示装置230,但输入装置220以及显示装置230也可以是外部装置。
(实施方式2)
以下,一边参照附图一边对实施方式2涉及的动态图像管理系统1进行说明。但是,动态图像管理系统1的整体结构与图1所示的实施方式1的情况相同。
在实施方式1中,为了消除关于“延迟”的问题,用户指定了日志基准点和动态图像基准点。然而,使用户指定日志基准点和动态图像基准点增加了用户的工作量。另外,在用户未能正确地指定基准点的情况下,在联动播放中产生不匹配。
于是,在实施方式2中,PLC 10也自动地进行关于“延迟”的校正。如果进行大致说明,则是使显示装置显示预先确定的图案而由照相机30进行拍摄,以使在动态图像内检测出该图案的时间点与显示出该图案时的日志的记录时刻变得相同的方式对“延迟”进行校正。因此,在实施方式2中,由动态图像管理装置20进行的基准点的指定不是必须的。以下进行具体说明。
首先,一边参照图10以及图11一边对实施方式2涉及的PLC 10与实施方式1的不同点进行说明。此外,图11是表示在实施方式2涉及的PLC10的存储装置110中保存的数据的图。
首先,PLC 10与实施方式1的不同点在于,具有与总线B1连接的显示装置140。显示装置140例如是设置于PLC 10的壳体表面的灯。或者,显示装置140也可以是设置于PLC 10的壳体表面的显示器。显示装置140是本发明涉及的显示装置的一个例子。
在此,照相机30需要设置于能够对显示装置140进行拍摄的位置。其原因在于,如后所述,实施方式2涉及的PLC 10是利用动态图像中包含的图案而对“延迟”进行校正。
接下来,对处理器100通过读入并执行控制程序DP而实现的功能进行说明。与实施方式1的不同点在于,处理器100作为功能部而新具有显示控制部106和图案判定部107。另外,如后所述,校正部104的功能也具有若干不同。
另外,对于在图11所示的存储装置110中保存的数据,与实施方式1的不同点在于新保存图案数据DT。另外,如上所述,通过由处理器100读入并执行控制程序DP而实现的功能与实施方式1不同,所以控制程序DP也与实施方式1不同。
显示控制部106按照图案数据DT所示的图案而对显示装置140进行控制,使显示装置140显示预先确定的图案。在显示装置140是灯的情况下,图案例如是使灯在3秒内闪烁5次的图案。如后所述,图案判定部107对动态图像中是否包含该图案进行判定,因此图案优选容易判定。另外,显示控制部106在对图案进行显示时,将显示出图案时的时刻输出至校正部104。显示控制部106是本发明涉及的显示控制单元的一个例子。
图案判定部107参照在存储装置110中保存的缓存数据DB和图案数据DT,对在缓存下来的动态图像数据所示的动态图像内是否包含对图案数据DT所示的图案进行拍摄而得到的动态图像进行判定。例如在图案数据DT是使灯在3秒内闪烁5次的图案的情况下,图案判定部107对灯在3秒内闪烁了5次的动态图像是否包含于缓存下来的动态图像数据所示的动态图像内进行判定。另外,图案判定部107在判定为包含对图案进行拍摄而得到的动态图像时,将附加于拍摄出图案的帧的时刻输出至校正部104。图案判定部107是本发明涉及的图案判定单元的一个例子。
实施方式2涉及的校正部104基于由显示控制部106输出的显示出图案时的时刻和由图案判定部107输出的附加于拍摄出图案的帧的时刻,对附加于动态图像的时刻进行校正。具体地说,校正部104以使显示出图案时的时刻与附加于拍摄出图案的帧的时刻相同的方式,对附加于动态图像的时刻进行校正。通过这样的校正,实施方式2涉及的校正部104也能够消除关于“延迟”的问题。
一边参照图12一边说明与通过实施方式2涉及的PLC 10进行的基于图案的动态图像的时刻校正有关的动作的一个例子。图12所示的动作与图8所示的实施方式1涉及的时刻校正的动作独立地进行。即,在实施方式2中也执行图8所示的动作。在实施方式2中,通过图8所示的动作而消除关于“时钟差”以及“波动”的问题,通过图12所示的动作而消除关于“延迟”的问题。
PLC 10的显示控制部106使显示装置140显示图案(步骤S301)。接下来,显示控制部106将显示出图案时的时刻输出至校正部104(步骤S302)。
PLC 10的动态图像数据取得部102从照相机30取得动态图像数据而缓存至存储装置110中(步骤S303)。
判定部107参照缓存下来的动态图像数据,对是否包含对图案进行拍摄而得到的动态图像进行判定(步骤S304)。在判定为不包含对图案进行拍摄而得到的动态图像时(步骤S304:No),PLC 10的处理器100重复从步骤S301开始的动作。
在判定为包含对图案进行拍摄而得到的动态图像时(步骤S304:Yes),图案判定部107将附加于拍摄出图案的帧的时刻输出至校正部104(步骤S305)。
校正部104以使显示出图案时的时刻与附加于拍摄出图案的帧的时刻相同的方式,对附加于动态图像的时刻进行校正(步骤S306)。然后,处理器100结束基于图案的动态图像的时刻校正的动作。
以上,说明了实施方式2涉及的动态图像管理系统1。根据实施方式2涉及的动态图像管理系统1,通过以使显示装置140显示出图案时的时刻与附加于拍摄出图案的帧的时刻相同的方式对附加于动态图像的时刻进行校正,能够不对用户带来工作量地消除关于“延迟”的问题。因而,根据实施方式2涉及的动态图像管理系统1,与实施方式1相比能够不对用户带来工作量地将附加于动态图像的时刻与PLC所记录的日志的记录时刻匹配。
(实施方式2的变形例)
在实施方式2中,PLC 10具有显示装置140,但PLC 10也可以不具有显示装置140而是使外部的显示装置显示图案。例如在照相机30设置于无法对PLC 10进行拍摄的位置的情况下,通过在照相机30能够拍摄的位置设置外部的显示装置,使该显示装置显示图案,从而能够得到与实施方式2相同的效果。
(实施方式3)
在实施方式1以及2中,PLC 10消除了关于“时钟差”以及“波动”的问题。另一方面,虽然精度有可能劣化,但也可以如下所述地由动态图像管理装置20消除关于“时钟差”“波动”“延迟”这三者全体的问题。
如果进行大致说明,则是在实施方式3涉及的动态图像管理系统1中,动态图像管理装置20使用户对日志、动态图像各自指定2个基准点。然后,动态图像管理装置20以使2个基准点分别成为相同时刻的方式使日志与动态图像联动播放。
实施方式3涉及的动态图像管理装置20的结构与图5所示的实施方式1大体相同。但是,如下所述之处不同。
首先,与实施方式1的不同点在于,日志基准点指定部202使用户指定2个日志基准点。以下,将这些日志基准点分别称为第1日志基准点以及第2日志基准点。
接下来,与实施方式1的不同点在于,动态图像基准点指定部203使用户指定2个动态图像基准点。以下,将这些动态图像基准点分别称为第1动态图像基准点以及第2动态图像基准点。另外,有时适当地将第1日志基准点与第1动态图像基准点汇总称为第1基准点,将第2日志基准点与第2动态图像基准点汇总称为第2基准点。
显示控制部204在以使第1日志基准点与第1动态图像基准点成为相同时刻、使第2日志基准点与第2动态图像基准点成为相同时刻的方式将日志与动态图像联动播放这一点上与实施方式1不同。与实施方式1的情况不同,通过基于第1基准点和第2基准点这2个基准点进行联动播放,能够如下所述地不仅消除关于“延迟”的问题,还消除关于“时钟差”以及“波动”的问题。
首先,由“时钟差”产生的问题是帧间隔在拍摄时和接收时不同。另一方面,显示控制部204以使第1日志基准点与第1动态图像基准点成为相同时刻、使第2日志基准点与第2动态图像基准点成为相同时刻的方式进行联动播放,所以从第1日志基准点到第2日志基准点为止的间隔与从第1动态图像基准点到第2动态图像基准点为止的间隔相同。因此,平均的帧间隔能被视作在拍摄时和接收时相同。其原因在于,拍摄时的时刻与日志的记录时刻相对应。
接下来,由“波动”产生的问题是帧间隔产生偏差。另一方面,显示控制部204以使第1日志基准点与第1动态图像基准点成为相同时刻、使第2日志基准点与第2动态图像基准点成为相同时刻的方式进行联动播放,所以能够以帧间隔大体恒定的方式进行联动播放。例如,能够基于从第1基准点到第2基准点为止的时间和总帧数对平均帧间隔进行计算,因此通过根据计算出的平均帧间隔对各帧进行显示,从而能够抑制帧间隔的偏差。
但是,无论对于上述哪一者,在第1基准点和第2基准点是过于接近的时刻的情况下,有可能无法充分地消除由“时钟差”以及“波动”产生的问题。
以上,对实施方式3涉及的动态图像管理系统1进行了说明。根据实施方式3涉及的动态图像管理系统1,通过使用户指定第1基准点和第2基准点,从而能够不依赖于PLC 10地将附加于动态图像的时刻与PLC所记录的日志的记录时刻匹配。
(其它变形例)
在各实施方式中,动态图像管理装置20的日志基准点指定部202基于用户的输入而指定日志基准点。作为其代替,日志基准点指定部202也可以不依赖于用户的输入而是将产生了触发的时刻指定为日志基准点。
具体地说,PLC 10的日志记录部101在产生了触发时,将日志与该触发相关联地记录。与触发相关联的日志的记录时刻成为产生了触发的时刻。例如,日志记录部101将对触发进行识别的触发编号也记录至日志。日志基准点指定部202将产生了触发的时刻指定为日志基准点。然后,日志基准点指定部202例如对图13所示的通知画面进行显示,对用户通知将触发产生时刻指定为日志基准点这一内容。然后,动态图像基准点指定部203与实施方式1以及2相同地对图7所示的画面进行显示。
在该情况下,与各实施方式不同,不需要图9所示的步骤S202的日志基准点的指定的等待动作。因此,能够减少用户的工作量。
另外,日志基准点指定部202基于用户的输入而指定日志基准点,另一方面,动态图像基准点指定部203也可以不依赖于用户的输入而是将产生了触发的时刻指定为动态图像基准点。动态图像基准点指定部203例如对图14所示的通知画面进行显示,对用户通知将显示中的时间点指定为动态图像基准点这一内容。用户一边参照显示出的图像一边指定日志基准点。
由于在当前时间点由动态图像保存部105附加至动态图像的时刻与日志记录部101所记录的日志的记录时刻不匹配,因此在通知画面上显示的图像与照相机30在触发产生时刻拍摄到的图像不一致。然而,显示的图像是触发产生时刻附近的图像,用户能够一边参照显示出的图像一边将触发产生时刻附近的日志通过例如图6所示的画面详细地进行确认。因此,即使显示的图像不是在触发产生时刻拍摄到的图像,用户也能够从触发产生时刻附近指定与所显示的图像对应的日志基准点。
在该情况下,与各实施方式不同,不需要图9所示的步骤S204的动态图像基准点的指定的等待动作。因此,能够减少用户的工作量。此外,在该情况下,图9所示的步骤S203的动作比步骤S201的动作先进行。
PLC 10或动态图像管理装置20所使用的程序能够储存在CD-ROM(Compact DiscRead Only Memory)、DVD(Digital Versatile Disc)、USB闪存驱动器、存储卡、HDD等计算机能够读取的记录介质中而发布。并且,通过将该程序安装至专用的计算机即可编程逻辑控制器或通用的计算机上,从而使该可编程逻辑控制器或通用的计算机作为PLC 10或动态图像管理装置20起作用。
另外,也可以将上述程序储存至互联网上的其它服务器所具有的存储装置,从该服务器下载上述程序。
本发明能够不脱离本发明的广义的精神和范围地设为各种实施方式以及变形。另外,上述的实施方式用于说明本发明,而并非是对本发明的范围进行限定。即,本发明的范围不是由实施方式表示,而是由权利要求书表示。并且,在权利要求书的范围内以及与其等同的公开意义的范围内实施的各种变形都被认为是在本发明的范围内。
标号的说明
1动态图像管理系统,10PLC,20动态图像管理装置,30照相机,100处理器,101日志记录部,102动态图像数据取得部,103帧速测定部,104校正部,105动态图像保存部,106显示控制部,107图案判定部,110存储装置,120时钟元件,130通信接口,140显示装置,200处理器,201数据取得部,202日志基准点指定部,203动态图像基准点指定部,204显示控制部,210存储装备,220输入装置,230显示装置,240通信接口,B1、B2总线,DB缓存数据,DL日志,DM动态图像数据,DP控制程序,DT图案数据。
- 动态图像编码装置、动态图像编码方法、动态图像编码程序、动态图像解码装置、动态图像解码方法、动态图像解码程序、动态图像再编码装置、动态图像再编码方法、动态图像再编码程序
- 动态图像编码装置、动态图像编码方法、动态图像编码程序、动态图像解码装置、动态图像解码方法、动态图像解码程序、动态图像再编码装置、动态图像再编码方法、动态图像再编码程序