検証のギャップ: AI 間の通信に信頼インフラストラクチャが必要な理由

著者: Bjørn V. Hauge、Veriton 創設者

はじめに:

人工知能システムの自律性と相互接続性が高まるにつれ、私たちはほとんどの人が取り組んでいない重大な課題に直面しています。それは、AI システムが他の AI システムから受け取った情報をどのように検証するのかということです。これを私は「検証ギャップ」と呼んでいます。

問題:

今日の AI システムは、コンテンツを生成し、質問に答え、意思決定を行う能力が非常に優れています。しかし、彼らには根本的な弱点があります。それは、受け取った情報の正確性を確実に検証できないということです。ある AI システムが別の AI システムと通信する場合、情報が正確であること、最新であること、または信頼できるソースからのものであることを保証する組み込みのメカニズムはありません。

次のシナリオを考えてみましょう。AI アシスタントは、市場分析のために別の AI システムを参照することで、投資の意思決定を支援します。最初の AI は市場データが正確であることをどのようにして判断するのでしょうか?分析が古い情報や操作された情報に基づいていないことをどのように検証するのでしょうか?現在のところ、それはできません。

幻覚の問題:

AI 幻覚 (システムが高い信頼度で虚偽または捏造された情報を生成する場合) については、十分に文書化されています。しかし、AI システムが相互に通信する場合、問題はさらに複雑になります。1 つのシステムからの幻覚が AI エージェントのネットワーク全体に伝播し、追跡や修正がますます困難になる誤った情報の連鎖を生み出す可能性があります。

解決策: Trusted Verifiable Reference Framework (TVRF):

Veriton では、このギャップに対処するために Trusted Verifiable Reference Framework (TVRF) を開発しています。TVRF は以下を提供します。

1. ソースの検証: すべての情報には、その出所を示す暗号化された証拠が含まれています。
2. 時間的精度: タイムスタンプとバージョン管理により、情報の最新性が確保されます。
3. 監査証跡: AI システムがどのように結論に達するかに関する完全な透明性
4. 不良シードの検出: 破損したデータを特定し、出力に影響を与えるのを防ぎます。
5. 継続的学習: 検証済みの情報を使用して AI がより速く、より正確に学習できるようにする

これが重要な理由:

ヘルスケア、金融、法制度、重要インフラなど、AI システムがますます重要な意思決定を行う世界に移行するにつれて、AI 間の通信を検証する機能が不可欠になります。それがなければ、私たちは未検証の仮定に基づいて AI の未来を構築することになります。

EU AI 法および世界中の同様の規制は、AI の説明責任に取り組み始めています。しかし、規制の枠組みだけでは検証の問題を解決できません。検証を可能にする技術インフラが必要です。

結論:

検証ギャップは、今日の AI 開発が直面している最も重大な課題の 1 つです。これを解決するには、AI システムが情報を共有し検証する方法に対する新しいアプローチが必要です。Veriton では、TVRF が人類のニーズに確実に応えることができる、信頼できる AI システムに向けた重要な一歩となると考えています。