评论处理方法、装置、计算设备及计算机存储介质

技术领域

本申请实施例涉及数据处理技术领域，具体涉及一种评论处理方法、装置、计算设备及计算机存储介质。

背景技术

随着科技及社会的不断发展，直播服务的出现极大丰富了人们的工作与生活。其中，许多直播服务为用户提供了弹幕功能等即时评论功能，用户可以通过该功能在观看直播过程中发送弹幕等即时评论。

为了保障直播服务健康安全地运行，需要对用户发送的即时评论进行审核。现有技术的即时评论审核方式为：按照即时评论发送时间由早至晚的顺序，依次对各条即时评论进行审核，在审核通过后展示即时评论。然而，采用该种方式，在即时评论数量较多时，会使得展示出的即时评论大幅滞后于当前观看的资源内容，降低用户服务体验。

申请内容

鉴于现有技术中存在展示出的即时大幅滞后于当前观看的资源内容的技术问题，提出了本申请实施例，以便提供一种克服上述问题或者至少部分地解决上述问题的评论处理方法、装置、计算设备及计算机存储介质。

根据本申请实施例的第一方面，提供了一种评论处理方法，包括：

将用户发送的即时评论存储于评论池中，并记录即时评论的评论发送时间；

按照评论发送时间由晚至早的顺序对所述评论池中的即时评论进行排序，根据排序结果从所述评论池中提取出至少一个目标即时评论；其中，所述目标即时评论的评论发送时间晚于所述评论池中各个非目标即时评论的评论发送时间；

在审核界面中展示所述目标即时评论，以供对所述目标即时评论进行审核。

在一种可选的实施方式中，在所述在审核界面中展示所述目标即时评论之后，所述方法还包括：

判断所述目标即时评论在所述审核界面的展示时长是否达到第一预设时长；

若是，则执行所述根据排序结果从所述评论池中提取出至少一个目标即时评论以及在审核界面中展示所述目标即时评论的步骤，以更新所述审核界面。

在一种可选的实施方式中，在所述判断所述目标即时评论在所述审核界面的展示时长是否达到第一预设时长之前，所述方法还包括：

获取在第一历史时间窗口内通过所述审核界面审核过的目标即时评论的第一数量；

根据所述第一历史时间窗口的第一窗口长度以及所述第一数量确定所述第一预设时长。

在一种可选的实施方式中，在所述判断所述目标即时评论在所述审核界面的展示时长是否达到第一预设时长之前，所述方法还包括：

获取在第二历史时间窗口内存储至评论池中即时评论的第二数量；

根据所述第二历史时间窗口的第二窗口长度以及所述第二数量确定所述第一预设时长。

在一种可选的实施方式中，在所述在审核界面中展示所述目标即时评论之后，所述方法还包括：

检测到审核界面更新操作，执行所述根据排序结果从所述评论池中提取出至少一个目标即时评论以及在审核界面中展示所述目标即时评论的步骤，以更新所述审核界面。

在一种可选的实施方式中，在所述更新所述审核界面后，所述方法还包括：将更新前审核界面中尚未审核的目标即时评论重新存储于评论池中。

在一种可选的实施方式中，所述根据排序结果从所述评论池中提取出至少一个目标即时评论进一步包括：

根据排序结果以及即时评论的发送时间与当前时间的时间差，从所述评论池中提取出至少一个目标即时评论；其中，所述目标即时评论的发送时间与当前时间的时间差小于第二预设时长。

在一种可选的实施方式中，所述将用户发送的即时评论存储于评论池中，并记录即时评论的评论发送时间进一步包括：针对于任一发送的即时评论，将该即时评论存储于评论池中，并在所述评论池对应的索引表中添加该即时评论的索引记录；其中，所述索引记录包括评论标识以及评论发送时间；

所述按照评论发送时间由晚至早的顺序对所述评论池中的即时评论进行排序进一步包括：在所述评论池对应的索引表中添加该即时评论的索引记录之后，根据索引记录中评论发送时间由晚至早的顺序对索引记录进行排序，以更新所述索引表；

所述根据排序结果从所述评论池中提取出至少一个目标即时评论进一步包括：查找索引表中前N个索引记录，将所述前N个索引记录中评论标识对应的即时评论确定为目标即时评论，并从评论池中提取出所述目标即时评论以及删除所述索引表中目标即时评论的索引记录；其中，所述N为大于或等于1的正整数。

在一种可选的实施方式中，所述将用户发送的即时评论存储于评论池中进一步包括：将用户发送的针对任一电子资源的即时评论存储于该电子资源对应的评论池中；

所述在审核界面中展示所述目标即时评论进一步包括：在审核界面中展示所述目标即时评论以及所述目标即时评论对应的电子资源的播放画面。

在一种可选的实施方式中，所述即时评论为针对直播流的即时评论；

则所述根据排序结果从所述评论池中提取出至少一个目标即时评论以及在审核界面中展示所述目标即时评论进一步包括：在直播流开播过程中，根据排序结果从所述评论池中提取出至少一个目标即时评论以及在审核界面中展示所述目标即时评论；

所述方法还包括：在所述直播流关播后，从所述评论池中提取即时评论，并将提取出的即时评论展示于回放审核界面中，以供对所述即时评论进行审核，并将审核通过的即时评论展示于所述直播流的回放界面中。

在一种可选的实施方式中，所述将用户发送的即时评论存储于评论池中进一步包括：

接收用户发送的即时评论；

从用户发送的即时评论中识别出免审评论，将免审评论以外的即时评论存储于评论池中。

在一种可选的实施方式中，所述从用户发送的即时评论中识别出免审评论进一步包括：

针对于任一即时评论，确定该即时评论针对的电子资源，将该即时评论的信息与该电子资源对应的白名单中的信息进行匹配，若该即时评论的信息与所述白名单中的任一信息相匹配，则确定该即时评论为免审评论；

和/或，针对于任一即时评论，确定该即时评论针对的电子资源，将该即时评论的信息与该电子资源对应的黑名单中的信息进行匹配，若该即时评论的信息与所述黑名单中的任一信息相匹配，则确定该即时评论为免审评论。

在一种可选的实施方式中，所述方法还包括：

获取在第三历史时段内通过所述审核界面已审核过的针对电子资源的目标即时评论的审核结果，根据所述审核结果更新该电子资源对应的白名单和/或黑名单。

在一种可选的实施方式中，所述从用户发送的即时评论中识别出免审评论进一步包括：

针对于任一即时评论，将该即时评论输入至预先构建的情感分析模型中，并获取所述情感分析模型输出的情感预测结果，根据所述情感预测结果识别免审评论。

根据本申请实施例的第二方面，提供了一种评论处理方法，包括：

获取用户发送的任一即时评论，利用负向评论模型判断该即时评论是否为负向评论；

若所述负向评论模型判定该即时评论不是负向评论，则利用正向评论模型判断该即时评论是否为正向评论；

若所述正向评论模型判定该即时评论为正向评论，则将该即时评论发送至人工审核平台。

在一种可选的实施方式中，所述负向评论模型中包含有敏感词识别规则，则所述利用负向评论模型判断该即时评论是否为负向评论进一步包括：利用所述敏感词识别规则判断该即时评论中是否存在敏感词；若是，则判定该即时评论为负向评论；若否，则判定该即时评论不是负向评论；

和/或，所述负向评论模型为基于机器学习算法生成的负向情感分析模型，则所述利用负向评论模型判断该即时评论是否为负向评论进一步包括：将该即时评论输入至所述负向评论模型中，并获取所述负向评论模型输出的该即时评论的情感分析结果；若所述情感分析结果为负向情感，则判定该即时评论为负向评论；若否，则判定该即时评论不是负向评论。

在一种可选的实施方式中，所述正向评论模型中包含有正向词识别规则，则所述利用正向评论模型判断该即时评论是否为正向评论进一步包括：利用所述正向词识别规则判断该即时评论中是否存在正向词；若是，则判定该即时评论为正向评论；若否，则判定该即时评论不是正向评论；

和/或，所述正向评论模型为基于机器学习算法生成的正向情感分析模型，则所述利用正向评论模型判断该即时评论是否为正向评论进一步包括：将该即时评论输入至所述正向评论模型中，并获取所述正向评论模型输出的该即时评论的情感分析结果；若所述情感分析结果为正向情感，则判定该即时评论为正向评论；若否，则判定该即时评论不是正向评论。

在一种可选的实施方式中，在所述获取用户发送的任一即时评论之后，所述方法还包括：采用预设免审规则，判断该即时评论是否为免审评论；

则所述利用负向评论模型判断该即时评论是否为负向评论进一步包括：若该即时评论不是免审评论，则利用负向评论模型判断该即时评论是否为负向评论。

在一种可选的实施方式中，所述采用预设免审规则，判断该即时评论是否为免审评论进一步包括：

确定该即时评论针对的电子资源，将该即时评论的信息与所述电子资源对应的白名单中的信息进行匹配，若该即时评论的信息与所述白名单中的任一信息相匹配，则确定该即时评论为免审评论。

在一种可选的实施方式中，在所述获取用户发送的任一即时评论之后，所述方法还包括：采用预设过滤规则，判断该即时评论是否为过滤评论；

则所述利用负向评论模型判断该即时评论是否为负向评论进一步包括：若该即时评论不是过滤评论，则利用负向评论模型判断该即时评论是否为负向评论。

在一种可选的实施方式中，所述采用预设过滤规则，判断该即时评论是否为过滤评论进一步包括:

确定该即时评论针对的电子资源，将该即时评论的信息与所述电子资源对应的黑名单中的信息进行匹配，若该即时评论的信息与所述黑名单中的任一信息相匹配，则确定该即时评论为过滤评论。

在一种可选的实施方式中，所述方法还包括：

获取所述人工审核平台已审核过的针对所述电子资源的即时评论审核结果，根据所述审核结果更新预设免审规则和/或预设过滤规则。

在一种可选的实施方式中，所述将所述即时评论发送至人工审核平台进一步包括：

将所述即时评论存储于评论池中，并记录所述即时评论的评论发送时间；

按照评论发送时间由晚至早的顺序对所述评论池中的即时评论进行排序，根据排序结果从所述评论池中提取出至少一个目标即时评论；其中，所述目标即时评论的评论发送时间晚于所述评论池中各个非目标即时评论的评论发送时间；

将目标即时评论发送给人工审核平台，以供在人工审核平台的审核界面中展示所述目标即时评论。

根据本申请实施例的第三方面，提供了一种评论处理装置，包括：

评论处理模块，用于将用户发送的即时评论存储于评论池中，并记录即时评论的评论发送时间；按照评论发送时间由晚至早的顺序对所述评论池中的即时评论进行排序；

评论提取模块，用于根据排序结果从所述评论池中提取出至少一个目标即时评论；其中，所述目标即时评论的评论发送时间晚于所述评论池中各个非目标即时评论的评论发送时间；

展示模块，用于在审核界面中展示所述目标即时评论，以供对所述目标即时评论进行审核。

在一种可选的实施方式中，该装置还包括：判断模块，用于在所述在审核界面中展示所述目标即时评论之后，判断所述目标即时评论在所述审核界面的展示时长是否达到第一预设时长；若是，则执行所述根据排序结果从所述评论池中提取出至少一个目标即时评论以及在审核界面中展示所述目标即时评论的步骤，以更新所述审核界面。

在一种可选的实施方式中，该装置还包括：时长确定模块，用于获取在第一历史时间窗口内通过所述审核界面审核过的目标即时评论的第一数量；

根据所述第一历史时间窗口的第一窗口长度以及所述第一数量确定所述第一预设时长。

在一种可选的实施方式中，该装置还包括：时长确定模块，用于获取在第二历史时间窗口内存储至评论池中即时评论的第二数量；

根据所述第二历史时间窗口的第二窗口长度以及所述第二数量确定所述第一预设时长。

在一种可选的实施方式中，该装置还包括:检测模块，用于检测到审核界面更新操作，执行所述根据排序结果从所述评论池中提取出至少一个目标即时评论以及在审核界面中展示所述目标即时评论的步骤，以更新所述审核界面。

在一种可选的实施方式中，评论处理模块用于：将更新前审核界面中尚未审核的目标即时评论重新存储于评论池中。

在一种可选的实施方式中，评论提取模块用于：根据排序结果以及即时评论的发送时间与当前时间的时间差，从所述评论池中提取出至少一个目标即时评论；其中，所述目标即时评论的发送时间与当前时间的时间差小于第二预设时长。

在一种可选的实施方式中，评论处理模块用于：针对于任一发送的即时评论，将该即时评论存储于评论池中，并在所述评论池对应的索引表中添加该即时评论的索引记录；其中，所述索引记录包括评论标识以及评论发送时间；在所述评论池对应的索引表中添加该即时评论的索引记录之后，根据索引记录中评论发送时间由晚至早的顺序对索引记录进行排序，以更新所述索引表；

评论提取模块，用于查找索引表中前N个索引记录，将所述前N个索引记录中评论标识对应的即时评论确定为目标即时评论，并从评论池中提取出所述目标即时评论以及删除所述索引表中目标即时评论的索引记录；其中，所述N为大于或等于1的正整数。

在一种可选的实施方式中，评论处理模块用于：将用户发送的针对任一电子资源的即时评论存储于该电子资源对应的评论池中；

展示模块用于：在审核界面中展示所述目标即时评论以及所述目标即时评论对应的电子资源的播放画面。

在一种可选的实施方式中，所述即时评论为针对直播流的即时评论；

则评论提取模块用于：在直播流开播过程中，根据排序结果从所述评论池中提取出至少一个目标即时评论；

该装置还包括：回放审核模块，用于在所述直播流关播后，从所述评论池中提取即时评论，并将提取出的即时评论展示于回放审核界面中，以供对所述即时评论进行审核，并将审核通过的即时评论展示于所述直播流的回放界面中。

在一种可选的实施方式中，评论处理模块用于：接收用户发送的即时评论；

从用户发送的即时评论中识别出免审评论，将免审评论以外的即时评论存储于评论池中。

在一种可选的实施方式中，评论处理模块用于：针对于任一即时评论，确定该即时评论针对的电子资源，将该即时评论的信息与该电子资源对应的白名单中的信息进行匹配，若该即时评论的信息与所述白名单中的任一信息相匹配，则确定该即时评论为免审评论；

和/或，针对于任一即时评论，确定该即时评论针对的电子资源，将该即时评论的信息与该电子资源对应的黑名单中的信息进行匹配，若该即时评论的信息与所述黑名单中的任一信息相匹配，则确定该即时评论为免审评论。

在一种可选的实施方式中，该装置还包括：名单更新模块，用于获取在第三历史时段内通过所述审核界面已审核过的针对电子资源的目标即时评论的审核结果，根据所述审核结果更新该电子资源对应的白名单和/或黑名单。

在一种可选的实施方式中，评论处理模块用于：针对于任一即时评论，将该即时评论输入至预先构建的情感分析模型中，并获取所述情感分析模型输出的情感预测结果，根据所述情感预测结果识别免审评论。

根据本申请实施例的第四方面，提供了一种评论处理系统，包括：

获取模块，用于获取用户发送的任一即时评论；

负向评论模型，用于判断该即时评论是否为负向评论；

正向评论模型，用于若所述负向评论模型判定该即时评论不是负向评论，则判断该即时评论是否为正向评论；

发送模块，用于若所述正向评论模型判定该即时评论为正向评论，则将所述即时评论发送至人工审核平台；

人工审核平台，用于对即时评论进行人工审核。

在一种可选的实施方式中，负向评论模型中包含有敏感词识别规则，负向评论模型用于：利用所述敏感词识别规则判断该即时评论中是否存在敏感词；若是，则判定该即时评论为负向评论；若否，则判定该即时评论不是负向评论；

和/或，所述负向评论模型为基于机器学习算法生成的负向情感分析模型，则负向评论模型用于：将该即时评论输入至所述负向评论模型中，并获取所述负向评论模型输出的该即时评论的情感分析结果；若所述情感分析结果为负向情感，则判定该即时评论为负向评论；若否，则判定该即时评论不是负向评论。

在一种可选的实施方式中，所述正向评论模型中包含有正向词识别规则，则正向评论模型用于：利用所述正向词识别规则判断该即时评论中是否存在正向词；若是，则判定该即时评论为正向评论；若否，则判定该即时评论不是正向评论；

和/或，所述正向评论模型为基于机器学习算法生成的正向情感分析模型，则正向评论模型用于：将该即时评论输入至所述正向评论模型中，并获取所述正向评论模型输出的该即时评论的情感分析结果；若所述情感分析结果为正向情感，则判定该即时评论为正向评论；若否，则判定该即时评论不是正向评论。

在一种可选的实施方式中，该系统还包括：场次规则模块，用于在所述获取用户发送的任一即时评论之后，采用预设免审规则，判断该即时评论是否为免审评论；

负向评论模型用于：若该即时评论不是免审评论，则利用负向评论模型判断该即时评论是否为负向评论。

在一种可选的实施方式中，场次规则模块用于：确定该即时评论针对的电子资源，将该即时评论的信息与所述电子资源对应的白名单中的信息进行匹配，若该即时评论的信息与所述白名单中的任一信息相匹配，则确定该即时评论为免审评论。

在一种可选的实施方式中，该系统还包括：场次规则模块，用于采用预设过滤规则，判断该即时评论是否为过滤评论；

负向评论模型用于：若该即时评论不是过滤评论，则利用负向评论模型判断该即时评论是否为负向评论。

在一种可选的实施方式中，场次规则模块用于：确定该即时评论针对的电子资源，将该即时评论的信息与所述电子资源对应的黑名单中的信息进行匹配，若该即时评论的信息与所述黑名单中的任一信息相匹配，则确定该即时评论为过滤评论。

在一种可选的实施方式中，该系统还包括：规则更新模块，用于获取所述人工审核平台已审核过的针对所述电子资源的即时评论审核结果，根据所述审核结果更新预设免审规则和/或预设过滤规则。

在一种可选的实施方式中，发送模块用于：将所述即时评论存储于评论池中，并记录所述即时评论的评论发送时间；

按照评论发送时间由晚至早的顺序对所述评论池中的即时评论进行排序，根据排序结果从所述评论池中提取出至少一个目标即时评论；其中，所述目标即时评论的评论发送时间晚于所述评论池中各个非目标即时评论的评论发送时间；

将目标即时评论发送给人工审核平台，以供在人工审核平台的审核界面中展示所述目标即时评论。

根据本申请实施例的第五方面，提供了一种计算设备，包括：处理器、存储器、通信接口和通信总线，所述处理器、所述存储器和所述通信接口通过所述通信总线完成相互间的通信；

所述存储器用于存放至少一可执行指令，所述可执行指令使所述处理器执行上述评论处理方法对应的操作。

根据本申请实施例的第六方面，提供了一种计算机存储介质，所述存储介质中存储有至少一可执行指令，所述可执行指令使处理器执行上述评论处理方法对应的操作。

本申请实施例将即时评论存储于评论池中，并按照评论发送时间由晚至早的顺序对评论池中的即时评论进行排序，提取评论发送时间晚的目标即时评论进行展示，从而能够对最新的即时评论进行审核，减小即时评论的展示延迟，提升展示的即时评论与播放的电子资源的匹配度，提升用户体验。

本申请实施例在目标即时评论在审核界面的展示时长达到第一预设时长的情况下重新获取新的目标即时评论展示，从而能够便于对最新的即时评论进行审核，进一步减小即时评论的展示延时。

本申请实施例根据审核速度来确定第一预设时长，从而能够使目标即时评论的获取速度与审核速度相匹配，提升整体的审核效果。

本申请实施例根据即时评论的存储速度来确定第一预设时长，从而能够使目标即时评论的获取速度与即时评论的存储速度相匹配，提升整体的审核效果。

本申请实施例检测到审核界面更新操作更新审核界面，从而满足审核人员的审核需求

本申请将更新前审核界面中尚未审核的目标即时评论重新存储于评论池中，从而使得评论池中存储尚未审核的即时评论，便于对该尚未审核的即时评论的集中处理。

本申请实施例根据排序结果以及即时评论的发送时间与当前时间的时间差，从评论池中提取出目标即时评论，使得目标即时评论的发送时间与当前时间的时间差小于第二预设时长，从而避免在审核界面中展示发送时间过早的即时评论。

本申请实施例在评论池具有对应的索引表，每当新添加即时评论和/或提取目标即时评论后，更新索引表中索引记录，并且索引表中索引记录按照发送时间由晚至早的顺序排列，从而能够快速地提取目标即时评论。

本申请实施例将用户发送的针对任一电子资源的即时评论存储于该电子资源对应的评论池中，避免不同电子资源的即时评论直接的干扰；而且在审核界面中展示目标即时评论以及目标即时评论对应的电子资源的播放画面，便于审核人员对目标即时评论进行审核，提升审核精度。

本申请可以在直播流开播过程中，根据排序结果从所述评论池中提取出至少一个目标即时评论以及在审核界面中展示所述目标即时评论，从而在直播流开播过程中减小即时评论的展示延迟；并在直播流关播后，对评论池中即时评论进行审核，将审核通过的即时评论展示于直播流的回放界面中，从而用户可在直播回放中观看到完整的通过审核的即时评论。

本申请实施例在接收用户发送的即时评论后从用户发送的即时评论中识别出免审评论，将免审评论以外的即时评论存储于评论池中，从而减少在审核界面中展示的即时评论的数量，节约审核资源以及提升整体的审核效率。

本申请可以根据相应电子资源的白名单和/或黑名单来识别免审评论，提升免审评论的识别效率及识别精度。

本申请获取在第三历史时段内通过审核界面已审核过的针对电子资源的目标即时评论的审核结果，根据审核结果更新该电子资源对应的白名单和/或黑名单，从而有利于提升后续的免审评论的识别精度。

本申请实施例还可以通过情感分析模型来识别免审评论，进一步提升免审评论的识别精度。

本申请实施例依次采用负向评论模型、正向评论模型以及人工审核平台来对即时评论进行审核，从而能够减少进入人工审核平台的即时评论的数量，简化人工审核过程，提升审核效率。

上述说明仅是本申请实施例技术方案的概述，为了能够更清楚了解本申请实施例的技术手段，而可依照说明书的内容予以实施，并且为了让本申请实施例的上述和其它目的、特征和优点能够更明显易懂，以下特举本申请实施例的具体实施方式。

附图说明

通过阅读下文优选实施方式的详细描述，各种其他的优点和益处对于本领域普通技术人员将变得清楚明了。附图仅用于示出优选实施方式的目的，而并不认为是对本申请实施例的限制。而且在整个附图中，用相同的参考符号表示相同的部件。在附图中：

图1示出了本申请实施例提供的一种评论处理方法的流程示意图；

图2示出了本申请实施例提供的又一种评论处理方法的流程示意图；

图3示出了本申请实施例提供的一种审核界面的示意图；

图4示出了本申请实施例提供的再一种评论处理方法的流程示意图；

图5示出了本申请实施例提供的另一种评论处理方法的流程示意图；

图6示出了本申请实施例提供的一种弹幕处理方法的流程示意图；

图7示出了本申请实施例提供的一种评论处理装置的结构示意图；

图8示出了本申请实施例提供的一种评论处理系统的结构示意图；

图9示出了本申请实施例提供的一种评论处理的架构示意图；

图10示出了本申请实施例提供的一种计算设备的结构示意图。

具体实施方式

下面将参照附图更详细地描述本申请实施例的示例性实施例。虽然附图中显示了本申请实施例的示例性实施例，然而应当理解，可以以各种形式实现本申请实施例而不应被这里阐述的实施例所限制。相反，提供这些实施例是为了能够更透彻地理解本申请实施例，并且能够将本申请实施例的范围完整的传达给本领域的技术人员。

图1示出了本申请实施例提供的一种评论处理方法的流程示意图。其中，本实施例所提供的评论处理方法具体用于即时评论的处理。本实施例的执行主体可以为即时评论审核平台中。

具体地，如图1所示，该方法包括如下步骤：

步骤S110，将用户发送的即时评论存储于评论池中，并记录即时评论的评论发送时间。

即时评论是用户在观看视频、音频等电子资源过程中实时针对该电子资源发送的评论性数据。其中，该电子资源可以为直播流，该即时评论可以为直播过程中用户发送的弹幕等等。

本实施例将用户发送的即时评论存储于评论池中，并针对于评论池中的任一即时评论，记录该即时评论的评论发送时间。其中，即时评论的评论发送时间为用户发出该即时评论的时间。

在一种可选的实施方式中，为便于对即时评论的管理以及提升即时评论的处理效率，本实施方式中，将用户发送的针对任一电子资源的即时评论存储于该电子资源对应的评论池中，从而每个评论池中仅存储针对对应电子资源的即时评论，避免不同电子资源的即时评论之间的干扰。例如，直播平台中当前开播的有直播间A及直播间B，则将针对直播间A中直播流的弹幕存储于直播间A对应的评论池M中，将针对直播间B中直播流的弹幕存储于直播间B对应的评论池N中。

步骤S120，按照评论发送时间由晚至早的顺序对评论池中的即时评论进行排序，根据排序结果从评论池中提取出至少一个目标即时评论；其中，目标即时评论的评论发送时间晚于评论池中各个非目标即时评论的评论发送时间。

与现有技术中按照评论发送时间由早至晚的顺序依次对各个即时评论进行审核不同，本实施例是将评论池中的即时评论按照评论发送时间由晚至早的顺序进行排序，评论发送时间越晚，则排序位序越靠前。继而从当前的评论池的即时评论中提取出位序靠前的至少一个即时评论，该提取出的即时评论便是目标即时评论，当前评论池中除目标即时评论以外的即时评论为非目标即时评论。提取出的各个目标即时评论的评论发送时间均晚于当前评论池中非目标即时评论的评论发送时间，从而本实施例每次从评论池中获取的是发送时间晚的即时评论，从而保障后续对最新产生的即时评论进行审核。其中，在提取出目标即时评论后，同步删除评论池中的目标即时评论。

在一种可选的实施方式中，为了提升目标即时评论的提取效率，本实施方式中，评论池具有相应的索引表，则步骤S110针对于任一用户发送的即时评论，将该即时评论存储于评论池中，并在评论池对应的索引表中添加该即时评论的索引记录，其中，索引记录包括评论标识以及评论发送时间。并在评论池对应的索引表中添加该即时评论的索引记录之后，根据索引记录中评论发送时间由晚至早的顺序对索引记录进行排序，以更新该索引表。则本步骤在确定目标即时评论时，查找索引表中前N个索引记录，将前N个索引记录中评论标识对应的即时评论确定为目标即时评论，其中，N为大于或等于1的正整数。从评论池中提取出目标即时评论以及删除索引表中目标即时评论的索引记录。本实施方式中，在即时评论存储至评论池后及时更新索引表，并且索引表中索引记录是按照评论发送时间由晚至早的顺序有序排列的，从而在需要从评论池中提取目标即时评论时，通过查找该索引记录即可快速地确定出需要提取的目标即时评论，提升目标即时评论的提取效率。而且，每当有新的即时评论存入评论池或者每当有目标即时评论被提取后，及时更新该索引表，保障后续目标即时评论的提取精度。

步骤S130，在审核界面中展示目标即时评论，以供对目标即时评论进行审核。

在即时评论审核平台的审核界面中展示提取出的目标即时评论，审核人员可以对最新的即时评论进行审核，审核通过的目标即时评论将及时展示给播放电子资源的用户终端。

由此可见，本申请实施例将即时评论存储于评论池中，并按照评论发送时间由晚至早的顺序对评论池中的即时评论进行排序，提取评论发送时间晚的目标即时评论进行展示，从而能够对最新的即时评论进行审核，减小即时评论的展示延迟，提升展示的即时评论与播放的电子资源的匹配度，提升用户体验。

图2示出了本申请实施例提供的又一种评论处理方法的流程示意图。其中，本实施例所提供的评论处理方法具体用于即时评论的处理。本实施例的执行主体可以为即时评论审核平台中。

具体地，如图2所示，该方法包括如下步骤：

步骤S210，将用户发送的即时评论存储于评论池中，并记录即时评论的评论发送时间，按照评论发送时间由晚至早的顺序对评论池中的即时评论进行排序。

步骤S220，根据排序结果从评论池中提取出预设数量的目标即时评论。

该预设数量可以根据每个审核界面每次展示的即时评论的数量和/或审核界面的数量确定。例如，本实施例中可以由P个审核端并发地对目标即时评论进行审核，每个审核端中包含有一个审核界面，每个审核界面一次能够展示Q个即时评论，则预设数量可以为P*Q。

在一种可选的实施方式中，在确定目标即时评论时，除了根据即时评论的排序结果之外，还可以进一步结合评论池中即时评论的发送时间与当前时间的时间差来确定目标即时评论，即根据排序结果以及即时评论的发送时间与当前时间的时间差，从评论池中提取出至少一个目标即时评论；其中，目标即时评论的发送时间与当前时间的时间差小于第二预设时长，从而避免将与当前时间距离较远的发送时间发送的即时评论展示于用户界面中。在具体的实施过程中，在根据排序结果筛选出候选目标即时评论后，将评论发送时间与当前时间的时间差小于第二预设时长的候选目标即时评论作为最终的目标即时评论。具体地，判断评论发送时间最晚的候选目标即时评论与当前时间的时间差是否小于第二预设时长，若是，则将当前所有的候选目标即时评论作为目标即时评论；若否，则剔除该候选目标即时评论，并判断下一个评论发送时间最晚的候选目标即时评论与当前时间的时间差是否小于第二预设时长。依次类推，确定出最终的目标即时评论。

步骤S230，在审核界面中展示目标即时评论。

若审核端为单个，则将获取到的目标即时评论展示于该审核端的审核界面中；若审核端为多个，则将获取到的目标即时评论拆分为多组，每组包含至少一个目标即时评论，每组包含的目标即时评论数量可以相同，也可以不同，拆分的组的数目与审核端数目相匹配，继而分别将各组目标即时评论发送给相应的审核端，在审核端的审核界面中展示接收到的目标即时评论。

在一种可选的实施方式中，目标即时评论是针对某电子资源的评论，则在审核界面中展示目标即时评论以及目标即时评论对应的电子资源的播放画面，从而便于审核人员准确地对即时评论进行审核。例如，目标即时评论是针对直播间A中直播流的弹幕，则审核界面中除了展示从评论池中提取出的弹幕外，还展示直播间A中直播流当前的播放画面。

在又一种可选的实施方式中，审核界面中还包含有针对展示的目标即时评论的审核操作项，审核人员可以通过触发该审核操作项实现对相应目标即时评论的审核。其中，该审核操作项包括：推送和/或标记。当触发推送这一审核操作项后，确定对应的目标即时评论审核通过，将该目标即时评论及时地推送到播放电子资源的用户终端，以供用户终端界面中展示该即时评论。当触发标记这一审核操作项后，则确定对应的目标即时评论审核未通过，则将该目标即时评论放置于标记集合中，以供在空闲时对该目标即时评论进行进一步审核，又或者直接舍弃该目标即时评论等。例如，若审核人员触发弹幕1旁边的推送控件时，则将弹幕1展示于直播流的用户终端的播放界面中；若审核人员触发弹幕1旁边的标记控件时，可以将该目标即时评论放置于标记集合中，待后续在审核空闲时，对该目标即时评论进行再次审核，等等。

步骤S240，判断目标即时评论的展示时长是否达到第一预设时长；若是，则执行步骤S220。

为了进一步减小即时评论的展示延时，在审核界面中展示目标即时评论后，检测当前展示的目标即时评论的展示时长是否达到第一预设时长。若是，则及时执行步骤S220-S230，以重新获取新的目标即时评论展示于审核界面，实现审核界面的更新，从而便于审核人员及时审核最新的即时评论。

其中，该第一预设时长可以为固定值，如5秒等等；又或者，该第一预设时长可以动态确定，以使审核页面更新速度与实际的审核场景相匹配。在第一预设时长为动态值时，其具体可以采用如下方式中的一种或多种确定：

确定方式一：根据审核速度确定第一预设时长，具体是使目标即时评论的获取速度与审核速度相适配，例如可以使目标即时评论的获取速度与该审核速度一致或目标即时评论的获取速度略大于该审核速度。具体地，获取在第一历史时间窗口内通过审核界面审核过的目标即时评论的第一数量，根据第一历史时间窗口的第一窗口长度以及第一数量确定第一预设时长。其中，第一历史时间窗口为本步骤执行前的一个历史时间段，该第一历史时间窗口的窗口长度为第一窗口长度，即该历史时间段的时间长度为第一窗口长度。本确定方式统计在第一历史时间窗口内，审核人员审核过的目标即时评论的数量，该数量为第一数量。则在第一历史时间窗口内的审核速度为第一数量与第一窗口长度的比值。目标即时评论的获取速度为预设数量与第一预设时长的比值，该预设数量为每次从评论池提取的目标即时评论的数量。由此，根据第一数量、第一预设时长、该预设数量能够确定出第一预设时长，该第一预设时长≈(预设数量*第一窗口长度)/第一数量。

确定方式二：根据即时评论存储至评论池的速度确定第一预设时长，具体是使目标即时评论的获取速度与即时评论存储至评论池的速度相适配，例如，目标即时评论的获取速度可以等于或略小于即时评论存储至评论池的速度。具体地，获取在第二历史时间窗口内存储至评论池中即时评论的第二数量，根据第二历史时间窗口的第二窗口长度以及第二数量确定第一预设时长。本确定方式中，第二历史时间窗口为本步骤执行前的一个历史时间段，第二历史时间窗口可以与第一历史时间窗口一致或不一致。第二历史时间窗口的长度为第二窗口长度，在第二历史时间窗口内存储至评论池中即时评论的数量为第二数量，则在第二历史时间窗口内即时评论存储至评论池的速度为第二数量与第二窗口长度的比值。又由于目标即时评论的获取速度为预设数量与第一历史时间窗口的比值，由此根据第二数量、第二窗口长度、该预设数量能够确定出第一预设时长，该第一预设时长≈(预设数量*第二窗口长度)/第二数量。

确定方式三：根据审核速度以及即时评论存储至评论池的速度确定第一预设时长，即目标即时评论的获取速度与审核速度以及即时评论存储至评论池的速度相适配。具体地，可以将上述确定方式一确定出的第一预设时长作为第一候选第一预设时长，以及将上述确定方式二确定出的第一预设时长作为第二候选第一预设时长，最终根据第一候选第一预设时长以及第二候选第一预设时长确定出最终的第一预设时长，例如可以将第一候选第一预设时长和第二候选第一预设时长的平均值作为最终的第一预设时长。

在一种可选的实施方式中，若在目标即时评论的展示时长未达到第一预设时长的某一时间，检测到审核界面更新操作，则执行根据排序结果从评论池中提取出至少一个目标即时评论以及在审核界面中展示目标即时评论的步骤，以更新审核界面的操作。即本实施方式中，审核人员可以在未超出第一预设时长的某时间主动触发审核界面的更新，从而满足审核人员的审核需求。

在更新审核界面后，若更新前审核界面中存在尚未审核的目标即时评论，则可以舍弃该尚未审核的目标即时评论；又或者将更新前审核界面中尚未审核的目标即时评论重新存储于评论池中，从而评论池中包含有尚未审核的即时评论。

以图3所示的审核界面为例，图3所示的审核界面中展示有房间号为“111”的直播流的播放画面，以及展示有针对房间号为“111”的直播流的弹幕1、2、3、4、5。当前审核人员已完成对弹幕1及2的审核，弹幕1通过审核，并已推送至观看该房间号为“111”的直播流的用户终端中，从而用户可以在用户终端中查看到弹幕1；弹幕2未通过审核，并将该弹幕2进行标记后发送至相应的标记库中。弹幕3、4、5均未审核，审核人员可以点击弹幕3侧的“推送”控件，从而将弹幕3推送至观看该房间号为“111”的直播流的用户终端中；也可以点击弹幕3侧的“标记”控件，将该弹幕3标记后发送至相应的标记库中。进一步地，审核界面中还包括有进度条“X秒后自动更换一批弹幕”，以提醒审核人员审核界面将在X秒后自动更新。并且，审核人员可以在X秒内点击“换一批”控件，从而触发审核界面的更新。

此外，作为本申请实施例一种可选的实施方式，若即时评论为针对直播流的即时评论，则本申请实施例在直播流开播过程中可采用上述实施方式来减小即时评论的展示延迟，保障展示的即时评论与直播画面的匹配度。即在直播流开播过程中，根据排序结果从评论池中提取出至少一个目标即时评论，在审核界面中展示目标即时评论。

在直播流关播后，评论池中还包含有该直播流对应的尚未审核的即时评论，则本实施方式可以在直播流关播后从评论池中提取即时评论，并将即时评论展示于回放审核界面中，以供对即时评论进行审核，并将审核通过的即时评论展示于直播流的回放界面中。从而在回放直播流时，可以查看到完整的通过审核的用户弹幕。

由此可见，本申请实施例在审核界面中展示目标即时评论后，检测目标即时评论的展示时长是否达到第一预设时长，若是，则重新获取新的目标即时评论进行展示，从而保障审核人员能够及时审核最新的即时评论，进一步提升在用户端展示的即时评论与电子资源画面的匹配度。

图4示出了本申请实施例提供的再一种评论处理方法的流程示意图。其中，本实施例所提供的评论处理方法具体用于即时评论的处理。本实施例的执行主体可以为即时评论审核平台中。

具体地，如图4所示，该方法包括如下步骤：

步骤S410，接收用户发送的即时评论。

步骤S420，从用户发送的即时评论中识别出免审评论，将免审评论以外的即时评论存储于评论池中。

为了进一步减少人工审核的即时评论的数量，本实施例在接收到用户发送的即时评论之后，先进行即时评论的过滤。具体是针对于任一接收到即时评论，确定该即时评论是免审评论还是待审评论。若确定出即时评论为免审评论，则该免审评论无需存储于评论池中，若确定出即时评论为待审评论，则将该即时评论存储于评论池中，以进行后续的人工审核。其中，即时评论中免审评论以外的即时评论为待审评论。

在一种可选的实施方式中，可以采用如下方式中的一种或多种来识别免审评论和/或待审评论。

识别方式一：针对于任一即时评论，确定该即时评论针对的电子资源，将该即时评论的信息与该电子资源对应的白名单中的信息进行匹配，若该即时评论的信息与白名单中的任一信息相匹配，则确定该即时评论作为免审评论。本识别方式中，每个电子资源具有与其相对应的白名单，例如每个开播的直播间具有对应的白名单。白名单中包含有至少一条信息，该信息可以为：至少一个评论字段和/或至少一个用户标识。在将即时评论的信息与该电子资源对应的白名单中的信息进行匹配时，具体是将该即时评论的评论内容与白名单中的各个评论字段进行匹配，若即时评论的评论内容与某个评论字段相匹配，则确定该即时评论为免审评论；和/或，将该即时评论对应用户的用户标识与白名单中的各个用户标识进行匹配，若该即时评论对应用户的用户标识与白名单中的某个用户标识相匹配，则确定该即时评论为免审评论。本识别方式确定出的免审评论无需进行人工审核，该类免审评论可发送给播放电子资源的用户终端，以供该用户终端展示该类免审评论。

识别方式二：针对于任一即时评论，确定该即时评论针对的电子资源，将该即时评论的信息与该电子资源对应的黑名单中的信息进行匹配，若该即时评论的信息与黑名单中的任一信息相匹配，则确定该即时评论作为免审评论。本识别方式中，每个电子资源具有与其相对应的黑名单，例如每个开播的直播间具有对应的黑名单。黑名单中包含有至少一条信息，该信息可以为：至少一个评论字段和/或至少一个用户标识。在将即时评论的信息与该电子资源对应的黑名单中的信息进行匹配时，具体是将该即时评论的评论内容与黑名单中的各个评论字段进行匹配，若即时评论的评论内容与某个评论字段相匹配，则确定该即时评论为免审评论；和/或，将该即时评论对应用户的用户标识与黑名单中的各个用户标识进行匹配，若该即时评论对应用户的用户标识与黑名单中的某个用户标识相匹配，则确定该即时评论为免审评论。本识别方式确定出免审评论无需进行人工审核，该类免审评论可直接舍弃。

进一步可选的，为了提升识别精度，上述白名单以及黑名单可以通过如下方式更新：获取在第三历史时段内通过审核界面已审核过的针对电子资源的目标即时评论的审核结果，根据审核结果更新该电子资源对应的白名单和/或黑名单。

具体地，获取在第三历史时段内审核通过的针对电子资源的第一类目标即时评论，在第三历史时段内审核通过的针对电子资源的目标即时评论为第一类目标即时评论，获取第一类目标即时评论的评论内容，对评论内容进行频次统计，若某评论内容的出现频次大于第一频次阈值，则将该评论内容加入该电子资源的白名单中；和/或，获取第一类目标即时评论对应的用户标识，对用户标识进行频次统计，若某用户标识的出现频次大于第二频次阈值，则将该用户标识加入该电子资源的白名单中。

相应地，获取在第三历史时段内审核未通过的针对电子资源的第二类目标即时评论，第三历史时段内审核未通过的针对电子资源的目标即时评论为第二类目标即时评论，获取第二类目标即时评论的评论内容，对评论内容进行频次统计，若某评论内容的出现频次大于第三频次阈值，则将该评论内容加入该电子资源的黑名单中；和/或，获取第二类目标即时评论对应的用户标识，对用户标识进行频次统计，若某用户标识的出现频次大于第四频次阈值，则将该用户标识加入该电子资源的黑名单中。

例如，在最近半小时内审核人员通过审核界面推送了11条针对直播间A的弹幕X，则表明在最近半小时内审核通过的评论内容X的出现频次超过第一频次阈值，则将X加入直播间A对应的白名单中，从而后续再接收到X弹幕时，将该弹幕确定为免审弹幕，并推送给直播客户端展示该弹幕。又或者，在最近半小时内审核人员通过审核界面推送了用户U1发送的12条针对直播间A的弹幕，则表明在最近半小时内审核通过的即时评论对应的用户标识U1的出现频次超过第二频次阈值，则将用户U1的用户标识加入直播间A对应的白名单中，从而后续再接收到用户U1发送的针对直播间A的弹幕时，将接收到弹幕确定为免审弹幕，并推送给直播客户端展示该弹幕。

相应地，在最近半小时内审核人员通过审核界面标记了11条针对直播间A的弹幕Y，则表明在最近半小时内审核未通过的评论内容Y的出现频次超过第三频次阈值，则将弹幕Y加入直播间A对应的黑名单中，从而后续再接收到弹幕Y时，将该弹幕确定为免审弹幕，并舍弃该弹幕。又或者，在最近半小时内审核人员通过审核界面标记了用户U2发送的12条针对直播间A的弹幕，则表明在最近半小时内审核未通过的即时评论对应的用户标识U2的出现频次超过第四频次阈值，则将用户U2的用户标识加入直播间A对应的黑名单中，从而后续再接收到用户U2发送的针对直播间A的弹幕时，将接收到弹幕确定为免审弹幕，并舍弃该弹幕。

识别方式三：针对于任一即时评论，将该即时评论输入至预先构建的情感分析模型中，并获取情感分析模型输出的情感预测结果，根据情感预测结果确定该即时评论为免审评论或待审评论。其中，情感分析模型可以基于机器学习算法构建，如可以采用深度学习算法构建以及训练机器学习算法，本申请对具体的情感分析模型的结构以及训练方式不作限定。情感分析模型能够输出即时评论的情感预测结果，若情况预测结果为负向情感，则将该即时评论确定为免审评论，并舍弃该即时评论。具体地，该情感分析模型可以为负向情感分析模型，若负向情感分析模型输出结果为是，则将该即时评论确定为免审评论；该情感分析模型可以为正向情感分析模型，若正向情感分析模型输出结果为否，则将该即时评论确定为免审评论。

识别方式四：构建敏感词库，针对于任一即时评论，通过NLP(Natural LanguageProcessing，自然语言处理)算法判断该即时评论是否存在敏感词，若是，则将该即时评论确定为免审评论，并舍弃该即时评论。

步骤S430，按照评论发送时间由晚至早的顺序对评论池中的即时评论进行排序，根据排序结果从评论池中提取出至少一个目标即时评论。

步骤S440，在审核界面中展示目标即时评论，以供对目标即时评论进行审核。

由此可见，本申请实施例在接收到用户发送的即时评论后，从用户发送的即时评论中识别出免审评论和/或待审评论，并将待审评论存储于评论池中，从而审核界面中仅需展示部分待审评论，减少需要审核的评论量，节约审核资源以及进一步提升用户端中展示的即时评论与电子资源画面的匹配度。

图5示出了本申请实施例提供的另一种评论处理方法的流程示意图。其中，本实施例所提供的评论处理方法具体用于即时评论的处理。

具体地，如图5所示，该方法包括如下步骤：

步骤S510，获取用户发送的任一即时评论。

在一种可选的实施方式中，在获取用户发送的任一即时评论之后，可以先采用预设免审规则，判断该即时评论是否为免审评论；若该即时评论不是免审评论，则利用负向评论模型判断该即时评论是否为负向评论；若该即时评论是免审评论，则将该即时评论作为向观众用户展示的即时评论。从而提升即时评论的审核效率。

具体地，在判断该即时评论是否为免审评论过程中：确定该即时评论针对的电子资源，将该即时评论的信息与该电子资源对应的白名单中的信息进行匹配，若该即时评论的信息与该白名单中的任一信息相匹配，则确定该即时评论为免审评论。本识别方式中，每个电子资源具有与其相对应的白名单，例如每个开播的直播间具有对应的白名单。白名单中包含有至少一条信息，该信息可以为：至少一个评论字段和/或至少一个用户标识。在将即时评论的信息与该电子资源对应的白名单中的信息进行匹配时，具体是将该即时评论的评论内容与白名单中的各个评论字段进行匹配，若即时评论的评论内容与某个评论字段相匹配，则确定该即时评论为免审评论；和/或，将该即时评论对应用户的用户标识与白名单中的各个用户标识进行匹配，若该即时评论对应用户的用户标识与白名单中的某个用户标识相匹配，则确定该即时评论为免审评论。

在又一种可选的实施方式中，在获取用户发送的任一即时评论之后，采用预设过滤规则，判断该即时评论是否为过滤评论；若即时评论不是过滤评论，则利用负向评论模型判断该即时评论是否为负向评论；若即时评论是过滤评论，则舍弃该即时评论。从而提升即时评论的审核效率。

具体地，在判断该即时评论是否为过程评论过程中：确定该即时评论针对的电子资源，将该即时评论的信息与该电子资源对应的黑名单中的信息进行匹配，若该即时评论的信息与该黑名单中的任一信息相匹配，则确定该即时评论为过滤评论。本识别方式中，每个电子资源具有与其相对应的黑名单，例如每个开播的直播间具有对应的黑名单。黑名单中包含有至少一条信息，该信息可以为：至少一个评论字段和/或至少一个用户标识。在将即时评论的信息与该电子资源对应的黑名单中的信息进行匹配时，具体是将该即时评论的评论内容与黑名单中的各个评论字段进行匹配，若即时评论的评论内容与某个评论字段相匹配，则确定该即时评论为过滤评论；和/或，将该即时评论对应用户的用户标识与黑名单中的各个用户标识进行匹配，若该即时评论对应用户的用户标识与黑名单中的某个用户标识相匹配，则确定该即时评论为过滤评论。

进一步可选的，为了提升免审评论和/或过滤评论的识别精度，本申请还进一步获取人工审核平台已审核过的针对该电子资源的即时评论审核结果，根据该审核结果更新预设免审规则和/或预设过滤规则。其中，具体是根据即时评论审核结果更新上述白名单和/或黑名单。具体地，获取在历史时段内审核通过的针对电子资源的第一类目标即时评论，在历史时段内审核通过的针对电子资源的目标即时评论为第一类目标即时评论，获取第一类目标即时评论的评论内容，对评论内容进行频次统计，若某评论内容的出现频次大于第一频次阈值，则将该评论内容加入该电子资源的白名单中；和/或，获取第一类目标即时评论对应的用户标识，对用户标识进行频次统计，若某用户标识的出现频次大于第二频次阈值，则将该用户标识加入该电子资源的白名单中。

相应地，获取在历史时段内审核未通过的针对电子资源的第二类目标即时评论，历史时段内审核未通过的针对电子资源的目标即时评论为第二类目标即时评论，获取第二类目标即时评论的评论内容，对评论内容进行频次统计，若某评论内容的出现频次大于第三频次阈值，则将该评论内容加入该电子资源的黑名单中；和/或，获取第二类目标即时评论对应的用户标识，对用户标识进行频次统计，若某用户标识的出现频次大于第四频次阈值，则将该用户标识加入该电子资源的黑名单中。

例如，在最近半小时内审核人员通过人工审核平台推送了11条针对直播间A的弹幕X，则表明在最近半小时内审核通过的评论内容X的出现频次超过第一频次阈值，则将X加入直播间A对应的白名单中，从而后续再接收到X弹幕时，将该弹幕确定为免审弹幕，并推送给直播客户端展示该弹幕。又或者，在最近半小时内审核人员通过审核界面推送了用户U1发送的12条针对直播间A的弹幕，则表明在最近半小时内审核通过的即时评论对应的用户标识U1的出现频次超过第二频次阈值，则将用户U1的用户标识加入直播间A对应的白名单中，从而后续再接收到用户U1发送的针对直播间A的弹幕时，将接收到弹幕确定为免审弹幕，并推送给直播客户端展示该弹幕。

相应地，在最近半小时内审核人员通过审核界面标记了11条针对直播间A的弹幕Y，则表明在最近半小时内审核未通过的评论内容Y的出现频次超过第三频次阈值，则将弹幕Y加入直播间A对应的黑名单中，从而后续再接收到弹幕Y时，将该弹幕确定为过滤弹幕，并舍弃该弹幕。又或者，在最近半小时内审核人员通过审核界面标记了用户U2发送的12条针对直播间A的弹幕，则表明在最近半小时内审核未通过的即时评论对应的用户标识U2的出现频次超过第四频次阈值，则将用户U2的用户标识加入直播间A对应的黑名单中，从而后续再接收到用户U2发送的针对直播间A的弹幕时，将接收到弹幕确定为过滤弹幕，并舍弃该弹幕。

步骤S520，利用负向评论模型判断该即时评论是否为负向评论；若否，则执行步骤S530。

本申请实施例为减少人工审核平台的审核量，以及提升评论审核效率，预先构建有负向评论模型，该负向评论模型能够识别出负向评论。具体地，利用负向评论模型对获取到的任一即时评论进行识别，若负向评论模型判定出该即时评论为负向评论，则舍弃该即时评论，从而后续不再对该负向评论进行审核以及展示；若负向评论模型判定出该即时评论不是负向评论，则执行步骤S530以进行下一步地审核。

在一种可选的实施方式中，负向评论模型的判断方式可采用如下方式中的一种或多种：

方式一：负向评论模型中包含有敏感词识别规则，则利用负向评论模型判断该即时评论是否为负向评论具体为：利用敏感词识别规则判断即时评论中是否存在敏感词；若是，则判定该即时评论为负向评论；若否，则判定该即时评论不是负向评论。具体地，构建包含有至少一个敏感词的敏感词库，采用相应的自然语言识别算法确定即时评论中是否存在敏感词。若是，则判定该即时评论为负向评论；若否，则判定该即时评论不是负向评论。

方式二：负向评论模型为基于机器学习算法生成的负向情感分析模型，则利用负向评论模型判断该即时评论是否为负向评论具体为：将该即时评论输入至负向评论模型中，并获取负向评论模型输出的该即时评论的情感分析结果；若情感分析结果为负向情感，则判定该即时评论为负向评论；若否，则判定该即时评论不是负向评论。其中，本申请对具体的情感分析模型的结构以及训练方式等不作限定。

步骤S530，利用正向评论模型判断该即时评论是否为正向评论；若是，则执行步骤S540。

若负向评论模型判定该即时评论不是负向评论，则进一步利用正向评论模型判断该即时评论是否为正向评论。若是，则进入步骤S540以进行下一步审核，若否，则舍弃该即时评论。

在一种可选的实施方式中，正向评论模型的判断方式可采用如下方式中的一种或多种：

方式一，正向评论模型中包含有正向词识别规则，则利用正向评论模型判断该即时评论是否为正向评论具体为：利用正向词识别规则判断该即时评论中是否存在正向词；若是，则判定该即时评论为正向评论；若否，则判定该即时评论不是正向评论。

方式二，正向评论模型为基于机器学习算法生成的正向情感分析模型，则利用正向评论模型判断该即时评论是否为正向评论具体为：将该即时评论输入至正向评论模型中，并获取正向评论模型输出的该即时评论的情感分析结果；若情感分析结果为正向情感，则判定该即时评论为正向评论；若否，则判定该即时评论不是正向评论。

步骤S540，将该即时评论发送至人工审核平台。

若正向评论模型判定该即时评论为正向评论，则进一步将该即时评论发送至人工审核平台，由审核人员对该即时评论进行进一步审核。

在一种可选的实施方式中，在向人工审核平台发送即时评论时，可以采用后进先出的顺序发送。具体地，将即时评论存储于评论池中，并记录即时评论的评论发送时间；按照评论发送时间由晚至早的顺序对评论池中的即时评论进行排序，根据排序结果从评论池中提取出至少一个目标即时评论；其中，目标即时评论的评论发送时间晚于评论池中各个非目标即时评论的评论发送时间；将目标即时评论发送给人工审核平台，以供在人工审核平台的审核界面中展示目标即时评论。从而每次向人工审核平台发送最新的即时评论。

以下以图6为例来详细阐明本申请实施例的实施过程：

在某场直播中，用户发送弹幕之后，本申请先进行本场重复规则过滤，以确定出适用于本场直播的免审规则以及过滤规则，并剔除掉重复出现的规则。进一步进行场次规则筛选，若弹幕命中免审规则，则该弹幕发送成功，从而直播用户可以及时看到该弹幕；若该弹幕命中过滤规则，则发送不成功，从而直播用户无法看到该弹幕；如该弹幕即未命中免审规则又未命中过滤规则，则进一步进入负向模型过滤，由负向评论模型来确定该弹幕是否为负向评论。若该弹幕命中负向模型，即该弹幕为负向评论，则该弹幕发送不成功；若该弹幕未命中负向模型，即该弹幕不是负向评论，则该弹幕进入正向模型识别，由正向评论模型来判断该弹幕是否未正向评论。若该弹幕未命中正向模型，则表明该弹幕不是正向评论，则该弹幕发送不成功；若该弹幕命中正向模型，则表明该弹幕是正向评论，则该弹幕进入人工审核平台。审核人员在人工审核平台进行人工审核，若审核人员推送该弹幕，则该弹幕发送成功；若审核人员标记该弹幕或忽略该弹幕，则该弹幕发送不成功。此外，还进一步根据人工审核平台中弹幕的审核结果来实时更新规则。

由此可见，本申请实施例依次采用负向评论模型、正向评论模型以及人工审核平台来对即时评论进行审核，从而能够减少进入人工审核平台的即时评论的数量，简化人工审核过程，提升审核效率。

图7示出了本申请实施例提供的一种评论处理装置的结构示意图。该装置位于即时评论审核平台中。如图7所示，该装置700包括：评论处理模块710、评论提取模块720及展示模块730。

评论处理模块710，用于将用户发送的即时评论存储于评论池中，并记录即时评论的评论发送时间；按照评论发送时间由晚至早的顺序对所述评论池中的即时评论进行排序；

评论提取模块720，用于根据排序结果从所述评论池中提取出至少一个目标即时评论；其中，所述目标即时评论的评论发送时间晚于所述评论池中各个非目标即时评论的评论发送时间；

展示模块730，用于在审核界面中展示所述目标即时评论，以供对所述目标即时评论进行审核。

在一种可选的实施方式中，该装置还包括：判断模块，用于在所述在审核界面中展示所述目标即时评论之后，判断所述目标即时评论在所述审核界面的展示时长是否达到第一预设时长；若是，则执行所述根据排序结果从所述评论池中提取出至少一个目标即时评论以及在审核界面中展示所述目标即时评论的步骤，以更新所述审核界面。

在一种可选的实施方式中，该装置还包括：时长确定模块，用于获取在第一历史时间窗口内通过所述审核界面审核过的目标即时评论的第一数量；

根据所述第一历史时间窗口的第一窗口长度以及所述第一数量确定所述第一预设时长。

在一种可选的实施方式中，该装置还包括：时长确定模块，用于获取在第二历史时间窗口内存储至评论池中即时评论的第二数量；

根据所述第二历史时间窗口的第二窗口长度以及所述第二数量确定所述第一预设时长。

在一种可选的实施方式中，该装置还包括:检测模块，用于检测到审核界面更新操作，执行所述根据排序结果从所述评论池中提取出至少一个目标即时评论以及在审核界面中展示所述目标即时评论的步骤，以更新所述审核界面。

在一种可选的实施方式中，评论处理模块用于：将更新前审核界面中尚未审核的目标即时评论重新存储于评论池中。

在一种可选的实施方式中，评论提取模块用于：根据排序结果以及即时评论的发送时间与当前时间的时间差，从所述评论池中提取出至少一个目标即时评论；其中，所述目标即时评论的发送时间与当前时间的时间差小于第二预设时长。

在一种可选的实施方式中，评论处理模块用于：针对于任一发送的即时评论，将该即时评论存储于评论池中，并在所述评论池对应的索引表中添加该即时评论的索引记录；其中，所述索引记录包括评论标识以及评论发送时间；在所述评论池对应的索引表中添加该即时评论的索引记录之后，根据索引记录中评论发送时间由晚至早的顺序对索引记录进行排序，以更新所述索引表；

评论提取模块，用于查找索引表中前N个索引记录，将所述前N个索引记录中评论标识对应的即时评论确定为目标即时评论，并从评论池中提取出所述目标即时评论以及删除所述索引表中目标即时评论的索引记录；其中，所述N为大于或等于1的正整数。

在一种可选的实施方式中，评论处理模块用于：将用户发送的针对任一电子资源的即时评论存储于该电子资源对应的评论池中；

展示模块用于：在审核界面中展示所述目标即时评论以及所述目标即时评论对应的电子资源的播放画面。

在一种可选的实施方式中，所述即时评论为针对直播流的即时评论；

则评论提取模块用于：在直播流开播过程中，根据排序结果从所述评论池中提取出至少一个目标即时评论；

该装置还包括：回放审核模块，用于在所述直播流关播后，从所述评论池中提取即时评论，并将提取出的即时评论展示于回放审核界面中，以供对所述即时评论进行审核，并将审核通过的即时评论展示于所述直播流的回放界面中。

在一种可选的实施方式中，评论处理模块用于：接收用户发送的即时评论；

从用户发送的即时评论中识别出免审评论，将免审评论以外的即时评论存储于评论池中。

在一种可选的实施方式中，评论处理模块用于：针对于任一即时评论，确定该即时评论针对的电子资源，将该即时评论的信息与该电子资源对应的白名单中的信息进行匹配，若该即时评论的信息与所述白名单中的任一信息相匹配，则确定该即时评论为免审评论；

和/或，针对于任一即时评论，确定该即时评论针对的电子资源，将该即时评论的信息与该电子资源对应的黑名单中的信息进行匹配，若该即时评论的信息与所述黑名单中的任一信息相匹配，则确定该即时评论为免审评论。

在一种可选的实施方式中，该装置还包括：名单更新模块，用于获取在第三历史时段内通过所述审核界面已审核过的针对电子资源的目标即时评论的审核结果，根据所述审核结果更新该电子资源对应的白名单和/或黑名单。

在一种可选的实施方式中，评论处理模块用于：针对于任一即时评论，将该即时评论输入至预先构建的情感分析模型中，并获取所述情感分析模型输出的情感预测结果，根据所述情感预测结果识别免审评论。

由此可见，本申请实施例将即时评论存储于评论池中，并按照评论发送时间由晚至早的顺序对评论池中的即时评论进行排序，提取评论发送时间晚的目标即时评论进行展示，从而能够对最新的即时评论进行审核，减小即时评论的展示延迟，提升展示的即时评论与播放的电子资源的匹配度，提升用户体验。

图8示出了本申请实施例提供的一种评论处理系统的结构示意图。如图8所示，该系统800包括：获取模块810、负向评论模型820、正向评论模型830、发送模块840、以及人工审核平台850。

获取模块810，用于获取用户发送的任一即时评论；

负向评论模型820，用于判断该即时评论是否为负向评论；

正向评论模型830，用于若所述负向评论模型判定该即时评论不是负向评论，则判断该即时评论是否为正向评论；

发送模块840，用于若所述正向评论模型判定该即时评论为正向评论，则将所述即时评论发送至人工审核平台；

人工审核平台850，用于对即时评论进行人工审核。

在一种可选的实施方式中，负向评论模型中包含有敏感词识别规则，负向评论模型用于：利用所述敏感词识别规则判断该即时评论中是否存在敏感词；若是，则判定该即时评论为负向评论；若否，则判定该即时评论不是负向评论；

和/或，所述负向评论模型为基于机器学习算法生成的负向情感分析模型，则负向评论模型用于：将该即时评论输入至所述负向评论模型中，并获取所述负向评论模型输出的该即时评论的情感分析结果；若所述情感分析结果为负向情感，则判定该即时评论为负向评论；若否，则判定该即时评论不是负向评论。

在一种可选的实施方式中，所述正向评论模型中包含有正向词识别规则，则正向评论模型用于：利用所述正向词识别规则判断该即时评论中是否存在正向词；若是，则判定该即时评论为正向评论；若否，则判定该即时评论不是正向评论；

和/或，所述正向评论模型为基于机器学习算法生成的正向情感分析模型，则正向评论模型用于：将该即时评论输入至所述正向评论模型中，并获取所述正向评论模型输出的该即时评论的情感分析结果；若所述情感分析结果为正向情感，则判定该即时评论为正向评论；若否，则判定该即时评论不是正向评论。

在一种可选的实施方式中，该系统还包括：场次规则模块，用于在所述获取用户发送的任一即时评论之后，采用预设免审规则，判断该即时评论是否为免审评论；

负向评论模型用于：若该即时评论不是免审评论，则利用负向评论模型判断该即时评论是否为负向评论。

在一种可选的实施方式中，场次规则模块用于：确定该即时评论针对的电子资源，将该即时评论的信息与所述电子资源对应的白名单中的信息进行匹配，若该即时评论的信息与所述白名单中的任一信息相匹配，则确定该即时评论为免审评论。

在一种可选的实施方式中，该系统还包括：场次规则模块，用于采用预设过滤规则，判断该即时评论是否为过滤评论；

负向评论模型用于：若该即时评论不是过滤评论，则利用负向评论模型判断该即时评论是否为负向评论。

在一种可选的实施方式中，场次规则模块用于：确定该即时评论针对的电子资源，将该即时评论的信息与所述电子资源对应的黑名单中的信息进行匹配，若该即时评论的信息与所述黑名单中的任一信息相匹配，则确定该即时评论为过滤评论。

在一种可选的实施方式中，该系统还包括：规则更新模块，用于获取所述人工审核平台已审核过的针对所述电子资源的即时评论审核结果，根据所述审核结果更新预设免审规则和/或预设过滤规则。

在一种可选的实施方式中，发送模块用于：将所述即时评论存储于评论池中，并记录所述即时评论的评论发送时间；

按照评论发送时间由晚至早的顺序对所述评论池中的即时评论进行排序，根据排序结果从所述评论池中提取出至少一个目标即时评论；其中，所述目标即时评论的评论发送时间晚于所述评论池中各个非目标即时评论的评论发送时间；

将目标即时评论发送给人工审核平台，以供在人工审核平台的审核界面中展示所述目标即时评论。

由此可见，本申请实施例依次采用负向评论模型、正向评论模型以及人工审核平台来对即时评论进行审核，从而能够减少进入人工审核平台的即时评论的数量，简化人工审核过程，提升审核效率。

图9示出了本申请实施例提供的一种评论处理的架构示意图。如图9所示，该架构包括端层、业务层、以及数据层。

端层中包含有至少一个用户端，该用户端可以为PC、Web、IOS和/或Android，等等。端层中的用户端可以发送弹幕。

业务层接收端层发送的弹幕，业务层中包含有弹幕服务、内部后台以及弹幕推送Job。其中，弹幕服务中包含有负向规则、正向规则、以及场次规则，其中负向规则用于确定弹幕是否为负向评论，正向规则用户确定弹幕是否为正向评论，场次规则包含免审规则和/或过滤规则。通过弹幕服务中的规则能够过滤掉部分弹幕，从而减少进入精选工作台的弹幕量。内部后台进一步包括精选工作台(又可以称为人工审核平台)以及精选配置，其中精选工作台可以向审核人员呈现审核页面供审核人员审核弹幕，精选配置中包含有精选工作台的相关配置数据，如每页展示的弹幕量，页面刷新频率等。弹幕推送Job用于推送出弹幕至端层，从而在用户端中展示出审核通过的弹幕。此外，精选工作台的操作反馈至弹幕服务，从而可以更新弹幕服务中的规则。

数据层中包含有待审队列、通过队列、推送统计以及标记统计模块。其中，弹幕经过业务层中的弹幕服务进行过滤后，将需要由精选工作台审核的弹幕加入待审池的待审队列中；审核人员可以通过精选工作台从数据层中获取待审队列中的弹幕进行审核，并根据审核操作确定出通过审核的弹幕，进而将通过审核的弹幕加入通过队列中，进一步获取通过弹幕生成该通过的弹幕的弹幕推送Job，继而将通过的弹幕推送给端层的用户端。此外，数据层中的推送统计中统计有推送出的弹幕的相关信息(如推送弹幕个数、推送弹幕ID等)，以及统计有标记的弹幕的相关信息(如标记弹幕个数、标记弹幕ID等)。

图10示出了本申请实施例提供的一种计算设备的结构示意图。本申请实施例具体实施例并不对计算设备的具体实现做限定。

如图10所示，该计算设备可以包括：处理器(processor)1002、通信接口(Communications Interface)1004、存储器(memory)1006、以及通信总线1008。

其中：处理器1002、通信接口1004、以及存储器1006通过通信总线1008完成相互间的通信。通信接口1004，用于与其它设备比如客户端或其它服务器等的网元通信。处理器1002，用于执行程序1010，具体可以执行上述用于评论处理方法实施例中的相关步骤。

具体地，程序1010可以包括程序代码，该程序代码包括计算机操作指令。

处理器1002可能是中央处理器CPU，或者是特定集成电路ASIC(ApplicationSpecific Integrated Circuit)，或者是被配置成实施本申请实施例的一个或多个集成电路。计算设备包括的一个或多个处理器，可以是同一类型的处理器，如一个或多个CPU；也可以是不同类型的处理器，如一个或多个CPU以及一个或多个ASIC。

存储器1006，用于存放程序1010。存储器1006可能包含高速RAM存储器，也可能还包括非易失性存储器(non-volatile memory)，例如至少一个磁盘存储器。程序1010具体可以用于使得处理器1002执行上述任一方法实施例中的方法。

本申请实施例提供了一种非易失性计算机存储介质，所述计算机存储介质存储有至少一可执行指令，该计算机可执行指令可执行上述任意方法实施例中的评论处理方法。

在此提供的算法或显示不与任何特定计算机、虚拟系统或者其它设备固有相关。各种通用系统也可以与基于在此的示教一起使用。根据上面的描述，构造这类系统所要求的结构是显而易见的。此外，本申请实施例也不针对任何特定编程语言。应当明白，可以利用各种编程语言实现在此描述的本申请实施例的内容，并且上面对特定语言所做的描述是为了披露本申请实施例的最佳实施方式。

在此处所提供的说明书中，说明了大量具体细节。然而，能够理解，本申请实施例的实施例可以在没有这些具体细节的情况下实践。在一些实例中，并未详细示出公知的方法、结构和技术，以便不模糊对本说明书的理解。

类似地，应当理解，为了精简本申请实施例并帮助理解各个申请方面中的一个或多个，在上面对本申请实施例的示例性实施例的描述中，本申请实施例的各个特征有时被一起分组到单个实施例、图、或者对其的描述中。然而，并不应将该公开的方法解释成反映如下意图：即所要求保护的本申请实施例要求比在每个权利要求中所明确记载的特征更多的特征。更确切地说，如下面的权利要求书所反映的那样，申请方面在于少于前面公开的单个实施例的所有特征。因此，遵循具体实施方式的权利要求书由此明确地并入该具体实施方式，其中每个权利要求本身都作为本申请实施例的单独实施例。

本领域那些技术人员可以理解，可以对实施例中的设备中的模块进行自适应性地改变并且把它们设置在与该实施例不同的一个或多个设备中。可以把实施例中的模块或单元或组件组合成一个模块或单元或组件，以及此外可以把它们分成多个子模块或子单元或子组件。除了这样的特征和/或过程或者单元中的至少一些是相互排斥之外，可以采用任何组合对本说明书(包括伴随的权利要求、摘要和附图)中公开的所有特征以及如此公开的任何方法或者设备的所有过程或单元进行组合。除非另外明确陈述，本说明书(包括伴随的权利要求、摘要和附图)中公开的每个特征可以由提供相同、等同或相似目的的替代特征来代替。

此外，本领域的技术人员能够理解，尽管在此的一些实施例包括其它实施例中所包括的某些特征而不是其它特征，但是不同实施例的特征的组合意味着处于本申请实施例的范围之内并且形成不同的实施例。例如，在下面的权利要求书中，所要求保护的实施例的任意之一都可以以任意的组合方式来使用。

本申请实施例的各个部件实施例可以以硬件实现，或者以在一个或者多个处理器上运行的软件模块实现，或者以它们的组合实现。本领域的技术人员应当理解，可以在实践中使用微处理器或者数字信号处理器(DSP)来实现根据本申请实施例的一些或者全部部件的一些或者全部功能。本申请实施例还可以实现为用于执行这里所描述的方法的一部分或者全部的设备或者装置程序(例如，计算机程序和计算机程序产品)。这样的实现本申请实施例的程序可以存储在计算机可读介质上，或者可以具有一个或者多个信号的形式。这样的信号可以从因特网网站上下载得到，或者在载体信号上提供，或者以任何其他形式提供。

应该注意的是上述实施例对本申请实施例进行说明而不是对本申请实施例进行限制，并且本领域技术人员在不脱离所附权利要求的范围的情况下可设计出替换实施例。在权利要求中，不应将位于括号之间的任何参考符号构造成对权利要求的限制。单词“包含”不排除存在未列在权利要求中的元件或步骤。位于元件之前的单词“一”或“一个”不排除存在多个这样的元件。本申请实施例可以借助于包括有若干不同元件的硬件以及借助于适当编程的计算机来实现。在列举了若干装置的单元权利要求中，这些装置中的若干个可以是通过同一个硬件项来具体体现。单词第一、第二、以及第三等的使用不表示任何顺序。可将这些单词解释为名称。上述实施例中的步骤，除有特殊说明外，不应理解为对执行顺序的限定。