Invenções
Invenções
Passo os meus dias a tentar tornar a aprendizagem automática verificável. A ideia é simples de dizer e difícil de concretizar: um resultado deveria conseguir transportar a sua própria prova, para que alguém que não estava na sala possa ainda assim confirmá-lo mais tarde.
O problema com que me deparo repetidamente não é que os modelos errem por vezes. É que quase ninguém consegue perceber quando isso acontece. Verificabilidade, auditabilidade e fiabilidade não são funcionalidades que se acrescentam depois; têm de fazer parte de como o sistema funciona desde o início.
- 1
Um sistema é executado
- 2
Produz evidência do que fez
- 3
Qualquer pessoa pode verificar essa evidência mais tarde
- Computação verificável para IA
- Proveniência e auditoria que terceiros podem executar por conta própria
- Prova criptográfica que sobrevive à execução
Patentes
Nos bastidores, esse trabalho tornou-se um portefólio de patentes em crescimento: quase 76 pedidos em curso para infraestrutura de IA verificável, vinte deles já submetidos, e mais a caminho.