Пробел в проверке: почему для связи между искусственным интеллектом нужна инфраструктура доверия

Автор: Bjørn V. Hauge, основатель Veriton

Введение:
Поскольку системы искусственного интеллекта становятся все более автономными и взаимосвязанными, мы сталкиваемся с критической проблемой, которую мало кто решает: как системы ИИ проверяют информацию, которую они получают от других систем ИИ?Это то, что я называю «Пробелом в проверке».

Проблема:
Сегодняшние системы искусственного интеллекта удивительно способны генерировать контент, отвечать на вопросы и принимать решения.Но у них есть одна фундаментальная слабость: они не могут надежно проверить точность получаемой информации.Когда одна система ИИ взаимодействует с другой, не существует встроенного механизма, гарантирующего точность, актуальность и достоверность информации.

Рассмотрим такой сценарий: помощник ИИ помогает вам принять инвестиционное решение, консультируясь с другой системой ИИ для анализа рынка.Откуда первый ИИ узнает, что рыночные данные точны?Как он проверяет, что анализ не был основан на устаревшей или подтасованной информации?В настоящее время это невозможно.

Проблема галлюцинаций:
Галлюцинации ИИ, когда системы с высокой степенью достоверности генерируют ложную или сфабрикованную информацию, хорошо документированы.Но проблема усугубляется, когда системы ИИ взаимодействуют друг с другом.Галлюцинация одной системы может распространиться по всей сети агентов ИИ, создавая каскад дезинформации, которую становится все труднее отследить или исправить.

Решение: надежная проверяемая эталонная структура (TVRF):
В Veriton мы разрабатываем Trusted Verifying Reference Framework (TVRF), чтобы устранить этот пробел.ТВРФ обеспечивает:

1. Проверка источника: каждая часть информации содержит криптографическое доказательство ее происхождения.
2. Временная точность: временные метки и контроль версий обеспечивают актуальность информации.
3. Журналы аудита: полная прозрачность в том, как системы ИИ приходят к выводам.
4. Обнаружение плохих исходных данных: выявление и предотвращение влияния поврежденных данных на выходные данные.
5. Непрерывное обучение: предоставление ИИ возможности учиться быстрее и точнее на основе проверенной информации.

Почему это важно:
По мере того, как мы приближаемся к миру, где системы ИИ принимают все более важные решения — в здравоохранении, финансах, юридических системах и критической инфраструктуре — способность проверять связь между ИИ становится важной.Без этого мы строим наше будущее ИИ на основе непроверенных предположений.

Закон ЕС об искусственном интеллекте и аналогичные правила во всем мире начинают решать вопросы подотчетности в области искусственного интеллекта.Однако нормативно-правовая база сама по себе не может решить проблему проверки.Нам нужна техническая инфраструктура, которая сделает возможной проверку.

Вывод:
Пробел в проверке — одна из наиболее серьезных проблем, стоящих сегодня перед развитием ИИ.Решение этой проблемы требует нового подхода к тому, как системы ИИ обмениваются и проверяют информацию.В Veriton мы считаем, что TVRF представляет собой решающий шаг на пути к надежным системам искусственного интеллекта, которые могут надежно удовлетворять потребности человечества.