Opfindelser
Opfindelser
Jeg bruger mine dage på at forsøge at gøre maskinlæring verificerbar. Ideen er enkel at sige og svær at gennemføre: et resultat bør kunne bære sit eget bevis, så nogen, der ikke var i rummet, alligevel kan bekræfte det senere.
Det problem, jeg konstant støder på, er ikke, at modeller nogle gange tager fejl. Det er, at næsten ingen kan se, hvornår de gør. Verificerbarhed, revisionsmulighed og pålidelighed er ikke funktioner, man skruer på bagefter; de skal være en del af, hvordan systemet kører fra begyndelsen.
- 1
Et system kører
- 2
Det producerer bevis for, hvad det gjorde
- 3
Alle kan tjekke det bevis senere
- Verificerbar beregning til AI
- Herkomst og revision, som en tredjepart selv kan udføre
- Kryptografisk bevis, der overlever kørslen
Patenter
Bag kulisserne er det arbejde blevet til en voksende patentportefølje: næsten 76 ansøgninger undervejs for verificerbar AI-infrastruktur, tyve af dem allerede indleveret, og flere er på vej.