Uitvindingen

Ik breng mijn dagen door met proberen machine learning verifieerbaar te maken. Het idee is eenvoudig te zeggen en moeilijk te realiseren: een resultaat zou zijn eigen bewijs moeten kunnen dragen, zodat iemand die niet in de kamer was het later alsnog kan bevestigen.

Het probleem waar ik steeds weer tegenaan loop, is niet dat modellen soms fout zitten. Het is dat bijna niemand kan zien wanneer dat het geval is. Verifieerbaarheid, controleerbaarheid en betrouwbaarheid zijn geen functies die je achteraf toevoegt; ze moeten deel uitmaken van hoe het systeem vanaf het begin werkt.

1
Een systeem draait
2
Het produceert bewijs van wat het heeft gedaan
3
Iedereen kan dat bewijs later controleren

Verifieerbare berekening voor AI
Herkomst en audit die een derde partij zelf kan uitvoeren
Cryptografisch bewijs dat de uitvoering overleeft

Octrooien

Achter de schermen is dat werk uitgegroeid tot een groeiende octrooiportefeuille: bijna 76 aanvragen in behandeling voor verifieerbare AI-infrastructuur, twintig daarvan al ingediend, en er komen er meer aan.