作者：Bjørn V. Hauge, Veriton创始人
随着人工智能系统变得越来越自主和互联，我们面临着一个很少有人解决的关键挑战：人工智能系统如何验证它们从其他人工智能系统接收到的信息？这就是我所说的“验证差距”。
今天的人工智能系统在生成内容、回答问题和做出决策方面能力非凡。但它们有一个共同的根本弱点：它们无法可靠地验证所接收信息的准确性。当一个人工智能系统与另一个人工智能系统通信时，没有内置机制来确保信息是准确的、最新的或来自可信赖的来源。
考虑一下这个场景：一个人工智能助手通过咨询另一个人工智能系统进行市场分析来帮助您做出投资决策。第一个人工智能如何知道市场数据是准确的？它如何验证分析不是基于过时或被操纵的信息？目前，它不能。
人工智能幻觉——系统以高置信度生成虚假或捏造的信息——已有充分的记录。但是当人工智能系统相互通信时，问题就变得更加复杂。来自一个系统的幻觉可以通过整个人工智能代理网络传播，造成一连串的错误信息，变得越来越难以追踪或纠正。
在Veriton，我们正在开发可信可验证参考框架（TVRF）来解决这一差距。TVRF提供：
随着我们迈向一个人工智能系统在医疗保健、金融、法律体系和关键基础设施中做出越来越重要决策的世界，验证人工智能到人工智能通信的能力变得至关重要。没有它，我们就是在未经证实的假设基础上建立我们的人工智能未来。
欧盟人工智能法案和全球类似的法规开始解决人工智能的问责制问题。但仅靠监管框架无法解决验证问题。我们需要能够实现验证的技术基础设施。
验证差距是当今人工智能发展面临的最重大挑战之一。解决这个问题需要一种新的方法来处理人工智能系统如何共享和验证信息。在Veriton，我们相信TVRF是朝着能够可靠地满足人类需求的值得信赖的人工智能系统迈出的关键一步。
'''