저자: Bjørn V. Hauge, Veriton 설립자
인공지능 시스템이 점점 더 자율화되고 상호 연결됨에 따라, 우리는 거의 아무도 다루지 않는 중요한 도전에 직면해 있습니다. 즉, AI 시스템이 다른 AI 시스템으로부터 받은 정보를 어떻게 검증하는가 하는 문제입니다. 이것이 제가 "검증의 격차"라고 부르는 것입니다.
오늘날의 AI 시스템은 콘텐츠 생성, 질문 답변, 의사 결정에 있어 놀라운 능력을 보여줍니다. 하지만 이들은 정보를 받은 정보의 정확성을 신뢰성 있게 검증할 수 없다는 근본적인 약점을 공유합니다. 한 AI 시스템이 다른 시스템과 통신할 때, 정보가 정확하고 최신이며 신뢰할 수 있는 출처에서 온 것임을 보장하는 내장된 메커_니즘이 없습니다.
다음 시나리오를 생각해 보십시오. AI 비서가 시장 분석을 위해 다른 AI 시스템과 상의하여 투자 결정을 내리는 데 도움을 줍니다. 첫 번째 AI는 시장 데이터가 정확하다는 것을 어떻게 알 수 있을까요? 분석이 오래되거나 조작된 정보에 기반하지 않았다는 것을 어떻게 검증할 수 있을까요? 현재로서는 불가능합니다.
AI 환각(시스템이 높은 확신을 가지고 거짓 또는 조작된 정보를 생성하는 현상)은 잘 알려져 있습니다. 하지만 AI 시스템이 서로 통신할 때 문제는 더욱 복잡해집니다. 한 시스템의 환각이 전체 AI 에이전트 네트워크를 통해 전파되어, 추적하거나 수정하기가 점점 더 어려워지는 잘못된 정보의 폭포를 만들 수 있습니다.
Veriton에서는 이 격차를 해소하기 위해 신뢰할 수 있는 검증 가능한 참조 프레임워크(TVRF)를 개발하고 있습니다. TVRF는 다음을 제공합니다.
AI 시스템이 의료, 금융, 법률 시스템 및 중요 인프라에서 점점 더 중요한 결정을 내리는 세상으로 나아감에 따라, AI 간의 통신을 검증하는 능력은 필수적이 됩니다. 이것 없이는, 우리는 검증되지 않은 가정의 기반 위에 AI 미래를 구축하고 있는 것입니다.
EU AI 법 및 전 세계의 유사한 규제들은 AI 책임성을 다루기 시작했습니다. 하지만 규제 프레임워크만으로는 검증 문제를 해결할 수 없습니다. 우리는 검증을 가능하게 하는 기술적 인프라가 필요합니다.
검증의 격차는 오늘날 AI 개발이 직면한 가장 중요한 과제 중 하나입니다. 이를 해결하려면 AI 시스템이 정보를 공유하고 검증하는 방식에 대한 새로운 접근 방식이 필요합니다. Veriton에서는 TVRF가 인류의 요구를 안정적으로 충족시킬 수 있는 신뢰할 수 있는 AI 시스템을 향한 중요한 단계라고 믿습니다.