Invenzioni
Invenzioni
Passo le mie giornate cercando di rendere l'apprendimento automatico verificabile. L'idea è semplice da dire e difficile da realizzare: un risultato dovrebbe poter portare la propria prova, così che qualcuno che non era nella stanza possa comunque confermarlo in seguito.
Il problema in cui mi imbatto continuamente non è che i modelli sbaglino a volte. È che quasi nessuno riesce a capire quando lo fanno. Verificabilità, auditabilità e affidabilità non sono funzionalità che si aggiungono dopo; devono far parte del modo in cui il sistema funziona fin dall'inizio.
- 1
Un sistema viene eseguito
- 2
Produce la prova di ciò che ha fatto
- 3
Chiunque può verificare quella prova in seguito
- Calcolo verificabile per l'IA
- Provenienza e audit che una terza parte può eseguire da sola
- Prova crittografica che sopravvive all'esecuzione
Brevetti
Dietro le quinte, quel lavoro è diventato un portafoglio brevetti in crescita: quasi 76 domande in corso per infrastrutture di IA verificabile, venti delle quali già depositate, e altre in arrivo.