披露：此处表达的观点和意见仅属于作者，不代表 crypto.news 编辑部的观点和意见。
人工智能发展速度超出监管范围，对数据、身份和声誉验证构成风险，如果不加以控制，可能会增加错误信息的泛滥，并减缓科学创新的进程。向超级智能人工智能迈进，被最热心的领导者视为向科学黄金时代的推动。然而，这种推动增加了我们社会陷入退化技术平台期的生存风险的可能性，在这种情况下，不成熟的人工智能技术的大规模采用会限制并随着时间的推移削弱人类的创造力和创新能力。
你可能也会喜欢：ZKP投票承诺解锁数学上安全的民主 | 评论
这是与大多数加速主义者相矛盾的看法。人工智能应该提高我们更快地工作和合成更多信息的能力。然而，人工智能不能替代归纳推理或实验过程。今天，任何人都可以使用人工智能制造科学假设，并将其作为输入生成科学论文。像Aithor这样的产品的结果在表面上常常显得权威，甚至可能通过同行评审。这是一个大问题，因为人工智能生成的文本已经被策划为合法的科学发现，并且通常包含虚假的伪造数据来支持其主张。年轻研究者有很大的动力利用他们可用的任何手段来竞争有限的学术职位和资助机会。当前的学术激励体系奖励那些能够发表最多论文的人，无论这些论文是否描述了合法的发现——它们只需通过同行评审并获得足够的引用即可。
未经验证的作者身份的学术内容也将对依赖基础科学推动其研究和开发的行业构成重大问题，这正是维持我们的社会运作并维护全球日益增长的人口的生活质量的研发。因此，资金充足的研发只能信任他们能够自行进行和复制的研究，从而提升商业秘密的价值，并对开放科学和获取有意义信息造成毁灭性打击。
昂贵的复制努力可以单独处理虚假信息，然而，问题远比这大得多。今天，我们面临着对知识基础的信任侵蚀，在这里，无法验证的主张和模糊的归属削弱了科学进步，给科学界带来了威胁。迫切需要建立一个基于真相的经济，以可靠地验证内容和数据。
人工智能系统的强大程度取决于其训练的数据
大型语言模型是生成令人信服内容的优秀工具；然而，它们的有效性仅取决于其训练的数据。它们在训练集之外进行推断的能力仍然有限。科学的角色不仅仅是合成现有知识，而是创造增加人类积累的集体知识熵的新信息制品。随着越来越多的人使用人工智能生成内容，而越来越少的人生成原创内容，我们将面临一种“低熵膨胀”，这并不会向世界引入新信息，而只是重新组合过去的知识。除非我们为用于严肃研究的人工智能工具建立一个弹性来源和经过验证的归属层，否则主要来源将会丢失，因为新的“知识”将基于自我引用的人工智能生成内容。
这种对集体人类知识深度的“脑叶切除”将对医学、经济和学术研究以及艺术和创意活动产生持久影响。未经验证的数据可能会影响研究，扭曲结果，导致重要政策或技术失败，削弱科学研究的权威。人工智能生成的“科学”的风险是多方面的。正常科学的日常运作将在作者身份争论、抄袭指控和受损的同行评审上停滞。我们将需要投入更多时间和精力来应对科学研究质量和准确性下降的诸多后果。
人工智能是一个激发创意、构建思维和自动化重复任务的有用工具；它必须始终作为人类创造内容的补充，而不是替代。它不应被用于撰写提出原创发现的科学论文而不进行实际工作，而应作为一种帮助，提高人类主导工作的效率和准确性。例如，人工智能可以在已知方法的现有数据上运行模拟，并自动化这项工作，以帮助发现新的研究方向。然而，科学探究所需的实验协议和人类创造力是无法轻易替代的。
建立基于真相的经济
基于真相的经济建立了一个框架，具有系统和标准，以确保信息和数据的真实性、完整性、透明度和可追溯性。它解决了在技术社会中建立信任和可验证性的需求，使个人和组织能够依赖共享知识的准确性。价值根植于主张的真实性和观察及原始来源的真实性。基于真相的经济将使数字知识变得“硬”，就像比特币使法币变得“硬”一样。这是去中心化科学运动的承诺。
我们如何到达那里？我们需要从科学世界中最重要的元素，即个人研究者及其工作开始。当前科学身份的网络标准未能验证身份和工作证明的主张。当前的做法使得制造一个声誉过得去的个人资料变得非常容易；同行评审也因偏见和勾结而面临风险。没有对伴随科学主张的元数据进行验证，就无法建立科学的基于真相的经济。
改善学术身份标准可以从简单的跨平台登录开始，利用保护隐私的身份验证技术。用户应能够使用他们的凭证登录任何网站，证明身份，并选择性地披露有关其声誉、数据或其他代理人或用户的事实。
一个以可验证的研究者声誉为基础的身份层是去中心化科学（DeSci）的基础。一个完整的链上科学经济将允许公共和匿名参与大规模在线协调的研究活动。研究实验室和去中心化自治组织可以创建无许可系统和赏金计划，这些系统无法被欺诈性声誉或身份声明所操控。一个基于区块链的通用科学登记处，结合身份声明，将为旨在聚集可验证科学知识和测试可证伪假设的自治组织提供参考框架。
保护人类进步的未来
我们需要通过信息透明和严格的验证建立真相的基础，以避免在专业研究领域内信任的崩溃。我们的集体进步在未来几百年内能否继续，开启材料科学、生物技术、神经科学和复杂性科学的连续科学革命，将取决于优质研究和可靠数据的策划。这将是一个未来社会与我们现在社会之间的区别。否则，我们将不得不期待这就是我们作为一个物种所能达到的聪明程度，我们只会变得更愚蠢。目前尚不清楚去中心化科学是否会拯救我们，但我们必须在有限的时间内正确处理事情。
阅读更多：去中心化科学正在现代化过时的系统 | 评论
作者：Shady El Damaty
Shady El Damaty是Holonym基金会的联合创始人，寻求通过建立在零知识证明魔法上的去中心化身份协议来解决普遍人权和安全数字访问问题。在2020年，他建立了OpSci，这是第一个去中心化科学组织，简称DeSci。在进入加密货币职业生涯之前，Shady在美国华盛顿特区的乔治城大学获得神经科学博士学位。