基于神经网络的接收器

技术领域

总体而言，各方面涉及电信网络，并且更具体地涉及基于神经网络的接收器，尽管不仅限于此。

背景技术

在简单的表示中，无线电信网络包括发送侧和接收侧，以及它们之间的无线信道。发送侧通常由生成数据(比特)的数据源和调制系统组成，调制系统包括由数据调制以提供输出信号的载波。发送侧的输出(输出信号)通过信道发送给接收侧。总体而言，信道会用因不利的信道条件而可能表现的噪声和任何干扰破坏传输的输出信号。

接收侧上的接收器能够被用于解调通过信道从发送侧接收的信号，以用于数据恢复。接收器通常被配置为基于用于信道估计、均衡、符号检测等等的算法来解调接收到的信号，这种算法在将接收器部署在网络中之前被预先配置。这样，接收器虽然能够解调来自网络的发送侧的接收信号的一部分，但由于可能损坏输出信号的主要信道条件，可能无法解调所有信号。

发明内容

根据示例，提供了一种用于电信网络的节点，该节点包括用于上行链路通信的基于神经网络的接收器，其中该节点被配置为修改基于神经网络的接收器，以生成一组修改的接收器框架，该组修改的接收器框架定义针对接收器的相应不同版本，使用修改的接收器框架中的每个修改的接收器框架来生成相应测量，该相应测量表示由节点处接收的信号编码的比特，计算表示测量的方差的值，以及基于该值，确定是否选择在节点处接收的信号以用作针对基于神经网络的接收器的训练数据集的一部分。相应地，基于NN的接收器能够在部署后被训练和校准。这使得基于NN的接收器能够根据当时的环境调整其操作。如果在接收器处接收到的信号与训练数据中使用的样本相似，则模型可以信赖地检测由接收到的信号波形编码的比特，并且将具有较低不确定性。然而，如果样本与训练数据中呈现的样本有很大不同，则模型必须进行外推，并且通常存在较高的模型不确定性。这样的模型不确定性能够通过用若干随机操纵版本的神经网络接收给定的波形，并且使用它们计算检测到的比特的方差来捕获，该神经网络支持网络节点中基于NN的接收器。高方差意味着高模型不确定性。请注意，这种方差/不确定性不同于检测不确定性，检测不确定性是由噪声信息通道引起的。换句话说，模型不确定性是检测不确定性的不确定性。因此，收集的数据能够在云中用来重新训练基于NN的接收器，该基于NN的接收器以与部署的接收器类似的方式被配置，该部署的接收器具有依据NN架构所需要被使用的确切数据量。

基于神经网络的接收器可以通过应用丢弃掩码而被修改。节点可以将表示方差的值与阈值相比较。节点可以接收表示阈值的数据，并且使用该阈值来调节在节点处接收的信号的选择，以用作训练数据集的一部分。在示例中，相应测量是对数似然比值LLR。

节点可以计算存储在节点的临时存储设备中的多个LLR值的方差的测量，以及确定方差的中值。在示例中，基于神经网络的接收器是无线电接收器。

根据示例，提供了一种用于选择用于基于神经网络的接收器的训练样本的方法，该基于神经网络的接收器被配置用于在电信网络的选择的部署环境中的上行链路通信，该方法包括使用相应不同的基于神经网络的接收器框架生成多个测量，该多个测量表示由在接收器处接收的信号编码的比特，计算测量的方差，以及基于方差与阈值的比较，确定是否选择在接收器处接收的信号作为训练数据集的一部分。该方法还可以包括将随机丢弃掩码应用于部署在所选择的环境中的基于神经网络的接收器，以便生成不同的基于神经网的接收器框架。该方法还可以包括从电信网络的核心网络实体接收阈值。该方法还可以包括向电信网络的核心网络实体发送在接收器处接收的信号和多个测量。多个度量值可以是LLR值。

根据示例，提供了一种用于电信网络的网络实体，该网络实体被配置为从电信网络的节点接收信号和一组对应的数据比特，使用信号和该组对应的数据比特来训练基于神经网络的接收器，基于神经网络的接收器被配置用于针对节点的上行链路通信，确定表示针对模型的过拟合的程度的测量，以及基于测量，向节点提供更新的基于神经网络的接收器，或生成针对来自节点的附加数据的请求。网络实体可以基于该测量来修改阈值，以及向节点发送修改的阈值。网络实体可以确定与节点相关的回传容量，以及基于确定的回传容量，确定表示针对模型的过拟合的程度的测量。在示例中，网络实体可以是基于云的训练实体的形式，其被配置为接收由网络节点(诸如，本文描述的节点)上传的训练数据。

附图说明

为了本公开的更说明性的理解，现在仅通过示例的方式参考结合附图的以下描述，其中：

图1是根据示例的针对电信网络的节点的示意图；

图2是根据示例的选择δ

图3是根据示例的用于数据选择的过程的示意图；以及

图4是根据示例的节点的示意图。

具体实施方式

下面充分详细地描述了示例实施例，以使本领域普通技术人员能够体现和实施本文描述的系统和过程。重要的是要理解，实施例能够以许多备选形式被提供，而不应被解释为限于本文所阐述的示例。因此，虽然实施例能够以各种方式被修改并采取各种备选形式，但其具体实施例在附图中示出并在下文中作为示例详细描述。没有意图将其限制于所公开的特定形式。相反，应包括落入所附权利要求范围内的所有修改、等同物和备选方案。示例实施例的元素在整个附图和具体实施方式的适当地方用相同的附图标记一致地表示。

本文中用于描述实施例的术语不旨在限制范围。冠词“一”、“一个”和“该”是单数的，因为它们有单个指代对象，但在本文件中使用单数形式不应排除不止一个指代对象的出现。换言之，以单数形式指代的元素能够是一个或多个，除非上下文另有明确说明。将进一步理解，术语“包括”、和/或“包含”在本文中使用时指定了所述特征、项目、步骤、操作、元件和/或组件的存在，但不排除一个或多个其他特征、项目、步骤、操作、元件、组件和/或它们的群组的存在或添加。

除非另有定义，否则本文中使用的所有术语(包括技术术语和科学术语)均应解释为本领域的惯用术语。应进一步理解，除非本文明确定义，否则常用术语也应解释为相关领域的惯用含义，而非理想化或过于正式的含义。

深度学习在诸如自然语言处理、图像处理、自动驾驶和等领域的最新进展促使人们对其在通信信号处理领域的应用产生了兴趣。例如，深度神经网络(DNN)能够被用于执行详细的波形分类，并且可能使用神经网络(NN)实现电信网络中的接收器的数字接收器链。因此，不需要实现例如用于信道估计、均衡、符号检测和解调的显式算法，并且能够在部署之前用模拟(或真实)数据训练基于NN的接收器，以使其能够隐式地执行操作。

尽管如此，如果基于NN的接收器能够根据部署区域中的信道条件专门化其操作，则其性能将得到改善，因为不同的部署位置的条件能够发生显著变化。然而，为了做到这一点，基于NN的接收器需要在现场重新训练，以适应当时的信道条件。这可能在实现基于NN的接收器的网络节点中引入对额外硬件的需求。由于这种节点中的无线电组件的成本效率受到严格控制，这不是期望的。此外，网络回传链路中的带宽非常有限，因为必须优先考虑实际数据流量。因此，这意味着节点通常无法发送能够提供经充分训练的模型所需要的程度的训练数据。

因此，尽管期望能够根据部署地点所经历的条件来定制基于NN的接收器，但是能够仅从特定环境中选择、收集和传输基本数据，使用该数据来重新训练NN接收器，然后将新模型上传到节点是有问题的。而且，这必须以可扩展的方式进行。

根据示例，提供了一种用于电信网络的节点。该节点包括用于上行链路通信的基于神经网络的接收器。基于NN的接收器的操作能够根据节点的部署环境中的主要信道、干扰和流量统计进行调整。这样，在示例中，能够用非位置特定的接收模型来预先配置基于NN的接收器。这种初始模型可以被配置为处理常见的非位置特定的接收场景，而位置特定的现象可以使用现场数据来自主习得。

在实现中，部署的基于NN的接收器可以收集一定比例的接收到的波形及其对应的比特，以用于模型训练的目的。例如，预定义的比例，诸如由基于NN的接收器接收的信号波形的百分比(例如，1％)能够被存储为样本。

这些样本的部分可以基于随机选择(形成数据集D

根据示例，存在与比特能够从噪声信号中被检测到的程度相关的不确定性。在基于NN的接收器中，这种不确定性能够用对数似然比(LLR)值表示，并且可以被称为“检测不确定性”。噪声级别等因素对这种不确定性有影响。另一方面，还有另一种类型的不确定性(其可被称为“模型不确定性”)，它定义了模型准备得如何充分，从而能够检测信号。例如，如果信号样本与训练数据中的样本相似，则模型可以信赖地检测由接收到的信号波形编码的比特，并且不确定性将很低。然而，如果样本与训练数据中呈现的样本非常不同，则模型必须进行外推，并且通常存在较高的模型不确定性。这种不确定性可以通过例如使用集成法或变分法来推断。

在示例中，该模型不确定性可以通过利用若干随机操纵版本的神经网络接收给定波形来捕获，该神经网络支持网络节点中的基于NN的接收器，并计算检测到的比特的方差。高方差意味着高模型不确定性。注意，该方差/不确定性不同于由噪声信息信道引起的检测不确定性。换言之，模型不确定性是检测不确定性的不确定性。

所收集的数据可以在云中被用于重新训练基于NN的接收器，该基于NN的接收器利用依据NN架构需要使用的确切数据量以与部署的接收器类似的方式被配置。在基于云的版本过拟合数据的情况下，可以从部署在节点中的接收器请求更多数据，这可以使用用于过拟合检测的任何一个正常过程来确定。已经用来自部署环境的足够数量的数据训练的基于云的版本可以被上传到节点，以替换初始的基于NN的接收器，以便提高检测性能。相应地，基于NN的接收器可以在部署后被进行训练和校准。这使得基于NN的接收器能够根据当时的环境调整其操作。

图1是根据示例的用于电信网络的节点的示意图。节点100包括基于NN的接收器101。在节点100与网络实体(诸如，电信网络的核心的云组件105)之间提供回传链路103。在示例中，回传链路103能够被用于将数据从基于NN的接收器101的临时缓冲器107发送到组件105的训练数据控制器109。在图1的示例中，基于NN的接收器101被配置为接收信号111。信号111可以从例如在电信网络中操作的用户设备被接收。使用预先训练的NN模型113对接收到的信号111进行解码。也就是说，已经用于调制载波信号的比特形式的数据由基于NN的接收器101接收，并使用NN 113解码，以便恢复数据。接收到的信号111可以存储在基于NN的接收器101的临时存储设备117中。

如上所述，信道条件可以破坏信号111，使得经解码的数据与所发送的数据不同。循环冗余校验(CRC)115可以被执行以确定是否存在错误。

如果CRC的结果指示解码错误，则CRC的结果可以存储在基于NN的接收器101的临时存储设备117中，并与对应的信号111相关联。如果CRC指示正确解码，则基于NN的接收器101能够确定(119)导致正确CRC的信号111是否是重传。如果是重传，则可以从临时存储设备117取回信号111，并将其分配(121)给由信号111编码的解码数据比特。也就是说，可以将无法从第一次传输中解码的信号存储在临时存储设备117中，同时等待对应分组的重传。

一旦它被重传并且成功解码，最后的比特就可以与初始信号相关联。因此，基于NN的接收器101期望能够更准确地检测的检测不良的信号用于改进基于NN的接收器的性能。

如下面将更详细描述的，基于NN的接收器101能够确定(123)是否将信号111和对应的解码数据比特上传到组件105。如果没有上传，则它们可以被摒弃(125)。否则，它们可以被提供给临时缓冲器107，以通过回传103发送给组件105的训练数据控制器109。在图1的示例中，训练数据控制器109可以与训练数据存储设备127通信，该训练数据存储设备127可以存储训练数据，该训练数据可以用于训练用于解码信号111的NN模型。在图1的示例中，来自临时缓冲器107的数据可以被存储在存储设备127中，并且控制器109可以取回这样的数据并将其提供给临时训练数据存储设备129，其中只要它不比预先选择的阈值旧，它就可以用于训练(131)上述模型。

组件105可以确定(133)该模型是否过拟合训练数据。如果没有过拟合，则模型可以被上传137到节点100，并因此形成用于基于NN的接收器101的预先训练的NN 113的更新版本。如果存在过拟合，则可以从节点100请求(135)更多数据。在图1的示例中，针对更多数据的请求可以通知在基于NN的接收器101处的关于是否向组件105上传(123)数据的决定。这样，关于过拟合的确定(133)的结果指示过拟合能够导致向节点100发送(139)针对数据135的请求。

为了从其自身的部署环境中生成训练数据，节点101可以使用不同类型的数据，从而使其能够在训练数据中具有足够的可变性。根据示例，并且如上参考图1所述，节点100可以随机地保存一定比例的RX信号111，并将这些信号与解码比特组合，从而形成针对信号的标签。在备选实现中，编码比特可以用作标签，并且基于NN的接收器101可以输出例如LLR，LLR可以用传统LDPC解码器解码。

保存的数据的比例(与节点100处接收的数据的总量相比)可以是1-5％的量级，以避免在向云组件105传输数据时阻塞回传链路103。

根据示例，节点100可以收集例如第一次传输时不可解码的数据。如参考图1所述，这可以通过在等待对应分组的重传的同时将不可解码的RX信号111保持在缓冲器(117)中来完成。一旦它被重传并成功解码，例如借助HARQ，最终比特可以与初始RX信号相关联，并且可能被上传到云组件105。这使得基于NN的接收器1010的性能得以改善，因为这些检测不良的信号是NN应该理想地能够更准确地检测的信号，因为它们很可能是由于节点100的部署环境而经历的信道条件的结果。

在示例中，上传到组件105用于训练的数据可以包括上述两种情况，从而确保低SINR和高SINR数据样本的均衡表示。该随机生成的训练数据集在本文中称为D

因此，根据示例，针对第j个OFDM符号上的第i个子载波的建模不确定性可以表示为：

其中LLR

由此，可以通过满足以下标准的那些样本来确定要回传以包括在数据集D

median(δ

其中中值是在TTI中的所有索引i和j上计算的，并且δ

图2是根据示例的选择δ

在框201中，在训练数据控制器109处经由回传103从节点100获得新的训练数据样本。在框203中，组件105确定组件105与节点100之间是否存在回传103容量。如果确定不存在可用回传容量，则在框205中增大δ

图3是根据示例的用于数据选择过程的示意图。特别地，图3是针对电信网络的节点(例如节点100)处的不确定性计算和数据选择的过程。在图3的示例中，可以在上面参考图1描述的节点100的框123中实现该过程。在节点100的框123中(至少部分地)实现的图3的过程定义了用于确定是否应将单个TTI添加到数据集D

参考图3，在框301中，例如在一个传输时间间隔(TTI)上，信号111在节点100处被接收。在框303中，使用NN解码器113从在301处接收的信号中检测LLR。在框305中执行低密度奇偶校验(LDPC)，并且确定由信号111编码的数据比特307。在框309中，确定是否使用信号11进行不确定性计算。如上所述，可以例如随机地选择预定义比例的信号。如果在框309中没有选择信号，则出于不确定性计算的目的而将其摒弃(311)。

如果在框309中选择了信号111，则在框313中将计数器设置为零。在框315中，随机丢弃掩码被应用于基于NN的接收器101的NN模型113，以生成一组修改的接收器框架，该组修改的接收器框架定义针对接收器101的相应不同版本。更具体地，丢弃掩码使得一组NN模型113能够被生成，该组NN模型113中的每个NN模型可以在框317中被用于生成表示由在节点100处接收的信号111编码的比特的相应测量。在示例中，测量可以包括LLR。测量被存储在临时存储设备319中，并且在框321中计数器被递增。在框323中，执行检查以确定如此递增的计数器是否小于N

每当节点100选择特定传输块(样本)作为训练数据集的一部分(通过随机采样或由于不确定性标准)，对应的RX信号111和信息比特307因此被移动到上传缓冲器107。它们从那里被传送给核心云组件105。在示例中，传送可以是低优先级的，因为训练数据的传送不是延迟关键的。

根据示例，可用的回传容量可以被反映在选择上传用于训练的数据的比例上。例如，在回传容量较大的情况下，可以根据图2的决策流程更快地收集用于NN重新训练所需的数据，这对节点性能是有利的。此外，如图1所示并且如在下面更详细地讨论的，组件105可以在决定何时上传数据以及上传多少数据方面发挥积极作用。此外，可以根据节点部署后的时间调整用于训练的数据比例。例如，新部署的基于NN的接收器将对更新的模型有更迫切的需求，以提高性能，而更成熟的基于NN的接收器可能更接近最佳性能，这样使得较慢的数据收集就足够了。

参考图1至图3，因此可以看到使用诸如云组件105的网络实体来执行训练过程。因此，节点100的已知硬件限制不是问题，因为云训练实体105接收由节点100上传的训练数据，其中它首先被馈送到训练数据控制器109，同时保持两个数据集D

这样的组合训练数据集被馈送到临时存储设备129，它被保存在其中，直到在组件105处训练资源变得可用。在示例中，取决于NN架构(例如，具有Adam优化的反向传播)，可以使用多个过程来执行模型训练。在训练完成之后，确定(框133)NN是否已经对训练数据过拟合。可以通过使用单独的验证集验证训练的NN来检测过拟合。验证集可以从尚未用于训练的数据集D

一旦NN被认为已经对数据进行归纳，并且它已经表现出比部署的NN接收器更高的性能，它就可以被上传(137)到节点100。性能可以通过计算使用训练期间或验证期间(用于过拟合检测)尚未使用的部分数据的未编码误码率(BER)来测量。该数据也可以从数据集D

根据示例，一种方法是使用比较度量来比较平均BER：

其中N

然而，在某些情形中，该度量可能强调低SNR区域，有利于在低SNR下表现出色，而在高SNR上不一定表现良好的NN。在示例中，几何平均值因此也可以被计算并被用作比较度量(通过用比最小可观测BER小的值替换零)。

在这种情况下，比较度量变为：

其中n

在示例中，新训练的NN模型的传送可以在低活动时间执行(例如，在夜间，或在服务中断期间)，以避免针对订户的服务的丢失。一旦新模型在节点100处执行，它还可能开始在云组件105中训练新模型，其性能可以与部署的模型相比。通过从中央数据库向新模型提供数据，强调来自节点100的最新数据，可以以类似的方式训练新模型。一旦观察到新模型候选实现了比部署的模型更高的性能，就可以将其上传到节点100以替换旧模型。

本公开中的示例可以提供为方法、系统或机器可读指令，诸如软件、硬件、固件等的任何组合。这种机器可读指令可以被包括在计算机可读存储介质(包括但不限于光盘存储、CD-ROM、光存储等等)上，其中或其上具有计算机可读程序代码。

参考根据本公开的示例的方法、设备和系统的流程图和/或框图来描述本公开。尽管上面描述的流程图显示了特定的执行顺序，但执行顺序可以与所描述的不同。关于一个流程图描述的框可以与另一流程图的框组合。在一些示例中，流程图的一些框可能不是必要的，和/或可以添加额外的框。应当理解，流程图和/或框图中的每个流程和/或框，以及流程图和/或框图中的流程和/或图的组合可以通过机器可读指令来实现。

机器可读指令可以例如由通用计算机、专用计算机、嵌入式处理器或其他可编程数据处理设备的处理器执行，以实现描述和图中描述的功能。具体地，处理器或处理设备可以执行机器可读指令。因此，设备的模块(例如，SOC 123)可以由执行存储在存储器中的机器可读指令的处理器来实现或由根据嵌入在逻辑电路中的指令操作的处理器来实现。术语“处理器”应被广义地解释为包括CPU、处理单元、ASIC、逻辑单元或可编程门集等。方法和模块都可以由单个处理器执行或在多个处理器之间分配。

这种机器可读指令还可以存储在计算机可读存储设备中，该计算机可读存储设备可以引导计算机或其他可编程数据处理设备以特定模式操作。例如，可以在用处理器可执行的指令编码的非瞬态计算机可读存储介质上提供指令。

图4是根据示例的节点的示意图。节点400包括基于NN的接收器401。基于NN的接收器401包括NN模型402，例如图1的113和图3的303。节点400还包括处理器403和存储指令407的存储器405。临时存储设备409可以被提供用于节点400。临时存储设备409可以通过回传411向例如网络核心组件105发送数据。

指令407可以由处理器403执行。指令407可以包括以下指令：使用相应不同的基于神经网络的接收器框架生成表示由接收器401处接收的信号编码的比特的多个测量，计算测量317的方差325，以及基于方差与阈值的比较，确定是否选择在接收器401处接收的信号作为训练数据集的一部分。相应地，该节点可以实现用于选择用于基于神经网络的接收器401的训练样本的方法，该接收器401被配置为在电信网络的所选部署环境中进行上行链路通信。

这样的机器可读指令也可以加载到计算机或其他可编程数据处理设备上，使得计算机或其他可编程数据处理设备执行一系列操作以产生计算机执行的处理，从而在计算机或其他可编程数据处理设备上执行的指令可编程设备提供用于实现流程图中的(多个)流程和/或(多个)框图中的块指定的功能的操作。

此外，本文的教导可以以计算机软件产品的形式实现，该计算机软件产品存储在存储介质中，并且包括多个指令，该多个指令用于使计算机设备实现本公开的示例中所述的方法。