基于多视视频与时空神经辐射场的实验动物视场模拟方法

技术领域

本申请涉及计算机图形学与计算机视觉技术领域，尤其涉及一种基于多视视频与时空神经辐射场的实验动物视场模拟方法。

背景技术

视觉是哺乳动物感知世界的最重要的途径，而视觉脑信号相关的研究探索大脑如何获取并处理视觉信息是脑科学与神经科学的重要问题。以小鼠这一广受欢迎的动物模型为例，头戴式微型显微镜的出现为神经元活动观测提供了强有力工具，但模拟小鼠视觉输入仍然缺乏有效技术。

相关技术中，通常是采用人工设计场景的CAD(计算机辅助设计)模型，并使用传统的计算机图形学方法渲染视场图片。但是，这样的方法无法真实地构建场景的几何与光照，且无法处理场景中的动态信息，比如实验动物对场景物体的挪动、实验动物与其他实验动物的互动等。而在实验动物头部安装摄像头进行视场模拟的方法带有侵入性，容易干扰实验动物的正常行为。因此，非侵入式的真实视场模拟方法是视觉脑信号研究的关键技术之一。

发明内容

本申请的目的旨在至少在一定程度上解决上述的技术问题之一。

为此，本申请的一个目的在于提出一种基于多视视频与时空神经辐射场的实验动物视场模拟方法，可以有效解决现有技术不能实现非侵入式的实验动物真实视场模拟的问题。

为达上述目的，本申请一方面实施例提出了一种基于多视视频与时空神经辐射场的实验动物视场模拟方法，包括：

搭建实验环境，放入至少一只实验动物；

搭建同步的多相机系统，并对所述多相机系统进行标定，采集同步的多视角视频数据；

训练基于神经辐射场的时空新视角合成网络F

利用姿态检测网络F

确定每只所述实验动物的视角方向，利用所述时空新视角合成网络F

根据本申请实施例的技术方案，通过搭建实验环境，放入至少一只实验动物，并搭建同步的多相机系统，并对多相机系统进行标定，采集同步的多视角视频数据；训练基于神经辐射场的时空新视角合成网络F

本申请附加的方面和优点将在下面的描述中部分给出，部分将从下面的描述中变得明显，或通过本申请的实践了解到。

附图说明

本申请上述的和/或附加的方面和优点从下面结合附图对实施例的描述中将变得明显和容易理解，其中：

图1为本申请实施例所提供的一种基于多视视频与时空神经辐射场的实验动物视场模拟方法的流程示意图。

具体实施方式

下面详细描述本申请的实施例，所述实施例的示例在附图中示出，其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的，旨在用于解释本申请，而不能理解为对本申请的限制。

下面参考附图描述本申请实施例的基于多视视频与时空神经辐射场的实验动物视场模拟方法。

图1为本申请实施例所提供的一种基于多视视频与时空神经辐射场的实验动物视场模拟方法的流程示意图。如图1所示，该基于多视视频与时空神经辐射场的实验动物视场模拟方法可以包括如下步骤。

在步骤101中，搭建实验环境，放入至少一只实验动物。

在本申请实施例中，实验环境并非固定不变，实验环境的配置根据实验动物的不同可以有所变化。以实验动物为实验小鼠为例，一般搭建1m×1m×0.5m的以内的玻璃、塑料或木质的半封闭实验箱，箱中可放置木屑、塑料玩具等内容以丰富环境内容，提供自由移动的环境。实验动物可以是野生型动物或者经过基因编辑动物，以研究病例现象；或者头戴微型显微镜，以进行同步的神经观测。实验动物的数量为1～4只，根据不同的研究内容而定。需要说明的是，本申请的方法仅针对视觉模拟，不受到实验方案的局限。

在步骤102中，搭建同步的多相机系统，并对多相机系统进行标定，采集同步的多视角视频数据。

在本申请实施例中，多相机系统的数量可为4个以上，并且对多相机系统事先进行内参与外参标定。相机经过触发线同步，或者事后进行手动同步。采集到的视频应保证较为均匀的光照。

在步骤103中，训练基于神经辐射场的时空新视角合成网络F

在本申请实施例中，步骤103可包括两个部分：1)构建基于神经辐射场的时空新视角合成网络F

其中，所述构建基于神经辐射场的时空新视角合成网络F

静态的神经辐射场可以记为函数(c,σ)＝F

在本实施例中，所述训练包括三部分损失函数。首先，在每个训练视角上定义第i时刻的多视损失函数，对时刻i和视角v，其损失函数为

可选地，在本申请实施例中，在训练时，还可加入正则项来保证训练的空间平滑性，比如使用L

在步骤104中，利用姿态检测网络F

在本申请实施例中，姿态检测网络F

在本申请一些实施例中，在每个视角下利用姿态检测网络F

在步骤105中，确定每只实验动物的视角方向，利用时空新视角合成网络F

在本申请实施例中，在得到实验动物的头部姿态和眼睛位置之后，可以每只实验动物的眼睛位置为光心，眼睛表面法向为相机中心出射方向，通过已知的动物视场角经验数据模拟画幅宽高与相机焦距，得到虚拟相机投影模型。对于虚拟相机投影模型平面中的每个像素，计算出从光心(如眼睛)出发的射线，在时空新视角合成网络F

根据本申请实施例的技术方案，可通过搭建实验环境，放入至少一只实验动物，并搭建同步的多相机系统，并对多相机系统进行标定，采集同步的多视角视频数据；训练基于神经辐射场的时空新视角合成网络F

在本说明书的描述中，参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本申请的至少一个实施例或示例中。在本说明书中，对上述术语的示意性表述不必须针对的是相同的实施例或示例。而且，描述的具体特征、结构、材料或者特点可以在任一个或多个实施例或示例中以合适的方式结合。此外，在不相互矛盾的情况下，本领域的技术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结合和组合。

此外，在本申请的描述中，“多个”的含义是至少两个，例如两个，三个等，除非另有明确具体的限定。

流程图中或在此以其他方式描述的任何过程或方法描述可以被理解为，表示包括一个或更多个用于实现定制逻辑功能或过程的步骤的可执行指令的代码的模块、片段或部分，并且本申请的优选实施方式的范围包括另外的实现，其中可以不按所示出或讨论的顺序，包括根据所涉及的功能按基本同时的方式或按相反的顺序，来执行功能，这应被本申请的实施例所属技术领域的技术人员所理解。

在流程图中表示或在此以其他方式描述的逻辑和/或步骤，例如，可以被认为是用于实现逻辑功能的可执行指令的定序列表，可以具体实现在任何计算机可读介质中，以供指令执行系统、装置或设备(如基于计算机的系统、包括处理器的系统或其他可以从指令执行系统、装置或设备取指令并执行指令的系统)使用，或结合这些指令执行系统、装置或设备而使用。就本说明书而言，"计算机可读介质"可以是任何可以包含、存储、通信、传播或传输程序以供指令执行系统、装置或设备或结合这些指令执行系统、装置或设备而使用的装置。计算机可读介质的更具体的示例(非穷尽性列表)包括以下：具有一个或多个布线的电连接部(电子装置)，便携式计算机盘盒(磁装置)，随机存取存储器(RAM)，只读存储器(ROM)，可擦除可编辑只读存储器(EPROM或闪速存储器)，光纤装置，以及便携式光盘只读存储器(CDROM)。另外，计算机可读介质甚至可以是可在其上打印所述程序的纸或其他合适的介质，因为可以例如通过对纸或其他介质进行光学扫描，接着进行编辑、解译或必要时以其他合适方式进行处理来以电子方式获得所述程序，然后将其存储在计算机存储器中。

应当理解，本申请的各部分可以用硬件、软件、固件或它们的组合来实现。在上述实施方式中，多个步骤或方法可以用存储在存储器中且由合适的指令执行系统执行的软件或固件来实现。如，如果用硬件来实现和在另一实施方式中一样，可用本领域公知的下列技术中的任一项或他们的组合来实现：具有用于对数据信号实现逻辑功能的逻辑门电路的离散逻辑电路，具有合适的组合逻辑门电路的专用集成电路，可编程门阵列(PGA)，现场可编程门阵列(FPGA)等。

本技术领域的普通技术人员可以理解实现上述实施例方法携带的全部或部分步骤是可以通过程序来指令相关的硬件完成，所述的程序可以存储于一种计算机可读存储介质中，该程序在执行时，包括方法实施例的步骤之一或其组合。

此外，在本申请各个实施例中的各功能单元可以集成在一个处理模块中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个模块中。上述集成的模块既可以采用硬件的形式实现，也可以采用软件功能模块的形式实现。所述集成的模块如果以软件功能模块的形式实现并作为独立的产品销售或使用时，也可以存储在一个计算机可读取存储介质中。

上述提到的存储介质可以是只读存储器，磁盘或光盘等。尽管上面已经示出和描述了本申请的实施例，可以理解的是，上述实施例是示例性的，不能理解为对本申请的限制，本领域的普通技术人员在本申请的范围内可以对上述实施例进行变化、修改、替换和变型。