人工智能 (AI) 正在通过增强数据处理和决策能力（超越人类极限）来彻底改变各个领域。然而，随着人工智能系统变得越来越复杂，它们变得越来越不透明，引发了人们对透明度、信任和公平性的担忧。

大多数人工智能系统都具有“黑匣子”的性质，这常常使利益相关者对人工智能生成的输出的来源和可靠性产生疑问。为了应对这种情况，可解释人工智能 (XAI) 等技术应运而生，旨在揭开人工智能操作的神秘面纱，尽管它们往往无法完全阐明其复杂性。

随着人工智能的复杂性不断演变，对强大机制的需求也在不断增加，以确保这些系统不仅有效，而且值得信赖和公平。区块链技术以其通过分散记录保存在增强安全性和透明度方面发挥的关键作用而闻名。

区块链不仅可以确保金融交易的安全，还可以为人工智能操作注入一层以前难以实现的可验证性。它有可能解决人工智能面临的一些最持久的挑战，例如数据完整性和决策的可追溯性，使其成为实现透明可靠的人工智能系统的关键组成部分。

Chainbase 首席运营官 Chris Feng 在接受 crypto.news 采访时就此问题发表了自己的看法。Feng 表示，虽然区块链集成可能无法直接解决 AI 透明度的各个方面，但它增强了几个关键领域。

区块链技术真的可以增强人工智能系统的透明度吗？

区块链技术并没有解决人工智能模型可解释性的核心问题。区分可解释性和透明度至关重要。人工智能模型缺乏可解释性的主要原因在于深度神经网络的黑箱性质。虽然我们理解推理过程，但我们并不掌握其中涉及的每个参数的逻辑意义。

那么，区块链技术如何以不同于 IBM 的可解释人工智能 (XAI) 等技术提供的可解释性改进的方式增强透明度？

在可解释人工智能（XAI）的背景下，人们采用各种方法来理解其功能，例如不确定性统计或分析模型的输出和梯度。然而，集成区块链技术不会改变人工智能模型的内部推理和训练方法，因此不会增强其可解释性。尽管如此，区块链可以提高训练数据、程序和因果推理的透明度。例如，区块链技术可以跟踪用于模型训练的数据，并将社区输入纳入决策过程。所有这些数据和程序都可以安全地记录在区块链上，从而提高人工智能模型的构建和推理过程的透明度。

考虑到人工智能算法中普遍存在的偏见问题，区块链在确保整个人工智能生命周期内的数据来源和完整性方面有多有效？

当前的区块链方法在安全存储和提供 AI 模型训练数据方面表现出巨大潜力。利用分布式节点可增强机密性和安全性。例如，Bittensor 采用分布式训练方法，将数据分布在多个节点上，并实施算法以防止节点之间的欺骗，从而提高分布式 AI 模型训练的弹性。此外，在推理过程中保护用户数据至关重要。例如，Ritual 在将数据分发到链下节点进行推理计算之前对其进行加密。

你可能还喜欢：Elliptic 称人工智能可以为加密犯罪增添新的维度

这种方法有什么局限性吗？

一个显著的限制是忽视了源自训练数据的模型偏差。具体而言，识别与性别或种族相关的模型预测偏差往往被忽视，而这些偏差是由训练数据引起的。目前，无论是区块链技术还是 AI 模型去偏差方法都无法通过可解释性或去偏差技术有效地定位和消除偏差。

您认为区块链可以增强人工智能模型验证和测试阶段的透明度吗？

Bittensor、Ritual 和 Santiment 等公司正在利用区块链技术将链上智能合约与链下计算能力连接起来。这种集成实现了链上推理，确保了数据、模型和计算能力的透明度，从而提高了整个过程的整体透明度。

您认为哪种共识机制最适合区块链网络来验证 AI 决策？

我个人主张将权益证明（PoS）和权威证明（PoA）机制结合起来。与传统的分布式计算不同，AI训练和推理过程需要长时间一致且稳定的GPU资源。因此，验证这些节点的有效性和可靠性至关重要。目前，可靠的计算资源主要位于不同规模的数据中心，因为消费级GPU可能不足以支持区块链上的AI服务。

展望未来，您认为区块链技术的哪些创新方法或进步对于克服当前人工智能的透明度挑战至关重要，以及这些方法或进步将如何重塑人工智能信任和问责的格局？

我发现当前基于区块链的人工智能应用存在一些挑战，例如解决模型去偏与数据之间的关系，以及利用区块链技术检测和缓解黑盒攻击。我正在积极探索激励社区进行模型可解释性实验和提高人工智能模型透明度的方法。此外，我正在思考区块链如何促进人工智能转变为真正的公共产品。公共产品的定义是透明、社会效益和服务于公共利益。然而，当前的人工智能技术通常存在于实验项目和商业产品之间。通过采用激励和分配价值的区块链网络，我们可以促进人工智能的民主化、可访问性和去中心化。这种方法有可能实现可执行的透明度，并在人工智能系统中提高可信度。

阅读更多：币安利用人工智能（AI）加强 web3 教育