Uppfinningar

Jag ägnar mina dagar åt att försöka göra maskininlärning verifierbar. Idén är enkel att säga och svår att genomföra: ett resultat borde kunna bära sitt eget bevis, så att någon som inte var i rummet ändå kan bekräfta det senare.

Problemet jag ständigt stöter på är inte att modeller ibland har fel. Det är att nästan ingen kan se när de har det. Verifierbarhet, granskningsbarhet och tillförlitlighet är inte funktioner man skruvar på i efterhand; de måste vara en del av hur systemet fungerar från början.

1
Ett system körs
2
Det producerar bevis för vad det gjorde
3
Vem som helst kan kontrollera det beviset senare

Verifierbar beräkning för AI
Proveniens och granskning som en tredje part kan köra själv
Kryptografiskt bevis som överlever körningen

Patent

Bakom kulisserna har det arbetet blivit en växande patentportfölj: nära 76 ansökningar på gång för verifierbar AI-infrastruktur, tjugo av dem redan inlämnade, och fler är på väg.