一种基于区块链的可解释性人工智能存证方法及系统

技术领域

本发明涉及区块链和人工智能技术领域，具体涉及一种基于区块链的可解释性人工智能存证方法及系统。

背景技术

人工智能(AI)目前对许多领域和行业产生革命性的影响，经过长久的研究和开发已经产生了复杂的AI系统，同时开始面临从安全到道德等复杂的外部问题，如：人工智能系统在一个数据子集上正确执行决策，但在整个群集中表现不佳时，对偏见的易感性就会增加；当一些恶意行为者试图操纵数据，从而导致错误决策时，就会发生对AI系统的对抗性攻击；人工智能系统的内部数据表示和决策缺乏解释。

区块链是一个在分布式环境中公开可验证并且由一组实体共同维护的数字账本，它由包含了一定数量交易的区块串联组成。区块的产生时间由所有实体通过既定的共识机制而确定，实体通过竞争成为新区块的创建者而获得一定的奖励，该奖励也是实体参与维护区块链活动的动机。近些年，区块链技术快速发展，与其他行业技术的结合也更加密切，如“区块链+人工智能”、“区块链+物联网”、“区块链+金融”等等，基于这些技术产业的融合不断涌现，区块链技术已被广泛应用于安全、数字取证、医疗保健、金融机构等领域并取得了极好的效果。

发明内容

本发明提供一种基于区块链的可解释性人工智能存证方法及系统，其利用区块链的人工智能技术可以提供去中心化学习，促进知识和决策结果在大量自主代理之间的信任和安全共享，这些代理可以进一步对决策做出贡献、协调和投票，并且实现一个开源并且可访问的数字账本，该账本通过点对点网络分布在AI代理之间，使AI代理能够协同执行共识。区块链为网络上所有参与的AI代理提供了AI决策的透明度和可见性，因此AI代理很难更改或拒绝决策。

为了达到上述目的，本发明提供如下技术方案：一种基于区块链的可解释性人工智能存证方法，其包括以下步骤：

S1、建立并轮询运行人工智能AI计算模型的预测器，为AI结果提供解释，对每个预测器建立声誉，并且通过区块链进行数据存储；

S2、通过区块链上的智能合约SC与预测器进行交互，并且以不可更改的方式记录在账本上；

S3、建立一个用于运行可解释和可信任的AI应用程序的去中心化应用程序DApp。

优选的，还包括搭建AI和XAI预测器的生态系统，定义节点预测器ID为具有相同前缀长度的联盟链，其联盟链成员包括预测器、数据访问者和证书授权中心CA。

优选的，所述联盟链使用改进的委托权益证明DPOS共识算法，预测器为全节点参与共识，根据预测器声誉投票选出21个预测器参与出块。

优选的，所述AI和XAI预测器通过CA注册，每个预测器都有一个声誉，当人工智能系统诚实计算进行奖励，AI和XAI预测器直接或通过其他不可知论模型解释系统提供其预测的解释，对解释合理的预测有助于所做决定的可靠性。

优选的，区块链中使用Swarm存储平台，将AI和XAI预测器的决策结果数据存储在Swarm平台中；Swarm平台中的信息包含存证的数据上传时间、节点预测器ID、当前声誉状态、决策结果、签名字段基础信息。

优选的，一种基于区块链的可解释性人工智能存证系统，DApp后端组件主要包括四个模块：AI接入层、AI层、服务层及区块链平台；其中：所述AI接入层实现了各种数据传输协议的接口；Web3接口用于DApp与区块链平台之间的直接通信；使用JSON-RPC API，利于使用远程过程调用RPC在支持网络的应用程序和区块链网络之间传输数据；所述AI层为框架的主要层，所有数据处理和知识发现操作都在此执行，以产生可信的、协作的和一致的决策；AI层由预测器组成，根据从前端Dapp接收到的配置，AI和XAI预测器在原始数据上运行并执行所有优先操作或通过输入学习模型并生成相应的决策，直接对已经处理过的数据执行决策；所述服务层提供两类支持服务：注册服务和声誉服务；注册服务能够注册和管理系统中的参与者；声誉服务计算和维护AI和XAI预测器的声誉；用户通过Dapp选择声誉良好的预测节点，负责在预测器上运行AI应用程序的SC设置为在运行每个AI任务时自动向声誉SC报告声誉评分；所述区块链平台包括：运行SC的区块链网络，以及去中心化的存储器来存储AI和XAI预测器报告的结果；这些SC有不同的类型，注册SC支持在区块链网络上分散注册和识别AI/XAI预测器；AI工作SC负责从聚合SC收集最终决策结果，并将结果报告给前端DApp；聚合SC负责接收来自预测器的输出，并向声誉SC报告每个预测者的声誉评分。

本发明有益效果为：利用区块链的人工智能技术可以提供去中心化学习，促进知识和决策结果在大量自主代理之间的信任和安全共享，这些代理可以进一步对决策做出贡献、协调和投票，并且实现一个开源并且可访问的数字账本，该账本通过点对点网络分布在AI代理之间，使AI代理能够协同执行共识。区块链为网络上所有参与的AI代理提供了AI决策的透明度和可见性，因此AI代理很难更改或拒绝决策。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1为本发明的流程示意图；

图2为本发明中区块链共识过程示意图；

图3为本发明中存储证据数据结构示意图；

图4为本发明后端服务和平台框架基本操作流程示意图。

具体实施方式

下面将结合本发明的附图，对本发明的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

根据图1、图2、图3、图4所示，一种基于区块链的可解释性人工智能存证方法，包括以下步骤：

S1、建立并轮询运行AI计算模型的预测器，为AI结果提供解释，对每个预测器建立声誉，并且通过区块链进行数据存证。

具体地，在本实施例中，搭建AI和XAI(Explainable AI)预测器的生态系统，定义节点预测器ID为具有相同前缀长度的联盟链。

所述联盟链中使用改进的DPOS共识算法，预测器为全节点参与共识。共识过程如图2所示，根据预测器声誉投票选出21个预测器参与出块，1个预测器节点为主节点，即：预测器i，剩余20个预测器为预测器j节点进行区块的打包。例如：21个区块生产者被投票选出，出块者100％在线的特性，保证了共识节点在1.5s内必知晓一笔交易，使区块链网络达成一致性，因此只有在全网节点共识通过后，区块链才能有效。

所述AI和XAI预测器直接或通过其他不可知论模型解释系统提供其预测的解释，对解释合理的预测有助于所做决定的可靠性。在使用之前，这些预测器必须在CA那里注册。

S2、通过区块链上的SC与预测器进行交互，并且以不可更改的方式记录在账本上。

具体地，AI和XAI预测器执行计算并与区块链SC交互，在区块链不可变的账本中记录并且记录执行结果和决策。

进一步地，AI预测器将决策结果的数据存证在Swarm平台中，如图3所示，Swarm平台中的信息包含存证的数据上传时间、节点预测器ID、当前声誉状态、决策结果、签名字段基础信息。这些决策结果包括决策的类型、评价指标的值、置信度值、关于决策的解释和解释的类型。

所述预测器声誉通过使用区块链的SC逐渐建立并变化。

S3、建立一个用于运行可解释和可信任的AI应用程序的去中心化应用程序(DApp)。

一种应用上述方法的系统，其DApp后端组件主要包括四个模块：AI接入层、AI层、服务层及区块链平台，框架的基本操作流程如图4所示。

所述AI接入层实现了各种数据传输协议的接口。Web3接口用于DApp与区块链平台之间的直接通信。它使用JSON-RPC API，这有利于使用远程过程调用(RPC)在支持网络的应用程序和区块链网络之间传输数据。

所述AI层为框架的主要层，所有数据处理和知识发现操作都在此执行，以产生可信的、协作的和一致的决策。该层由预测器组成，根据从前端Dapp接收到的配置，AI和XAI预测器在原始数据上运行并执行所有优先操作或通过输入学习模型并生成相应的决策，直接对已经处理过的数据执行决策。

所述服务层提供两类支持服务：注册服务和声誉服务。注册服务能够注册和管理系统中的参与者。声誉服务计算和维护AI和XAI预测器的声誉。运行AI应用程序之前，用户通过Dapp选择声誉良好的预测节点。负责在预测器上运行AI应用程序的SC可以设置为在运行每个AI任务时自动向声誉SC报告声誉评分。AI和XAI预测器如果不能报告与大多数预测器匹配的决策结果，将得到负值，并在支付奖励方面受到惩罚。

所述区块链平台主要包括：运行SC的区块链网络，以及去中心化的存储器来存储AI和XAI预测器报告的结果。这些SC有不同的类型，注册SC支持在区块链网络上分散注册和识别AI/XAI预测器。AI工作SC负责从聚合SC收集最终决策结果，并将结果报告给前端DApp。聚合SC负责接收来自预测器的输出，并向声誉SC报告每个预测者的声誉评分，不诚实的预测者将受到支付奖励和声誉评分方面的惩罚。

以上所述，仅为本发明的具体实施方式，但本发明的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本发明揭露的技术范围内，可轻易想到变化或替换，都应涵盖在本发明的保护范围之内。因此，本发明的保护范围应所述以权利要求的保护范围为准。