Erfindungen
Erfindungen
Ich verbringe meine Tage damit, maschinelles Lernen überprüfbar zu machen. Die Idee ist einfach zu sagen und schwer umzusetzen: Ein Ergebnis sollte seinen eigenen Beweis mit sich tragen können, sodass jemand, der nicht im Raum war, es später trotzdem bestätigen kann.
Das Problem, auf das ich immer wieder stoße, ist nicht, dass Modelle manchmal falschliegen. Es ist, dass fast niemand erkennen kann, wann das der Fall ist. Überprüfbarkeit, Auditierbarkeit und Zuverlässigkeit sind keine Funktionen, die man nachträglich anschraubt; sie müssen von Anfang an Teil davon sein, wie das System läuft.
- 1
Ein System läuft
- 2
Es erzeugt einen Nachweis dessen, was es getan hat
- 3
Jeder kann diesen Nachweis später prüfen
- Überprüfbare Berechnung für KI
- Herkunftsnachweis und Audit, den ein Dritter selbst ausführen kann
- Kryptografischer Nachweis, der den Lauf überdauert
Patente
Hinter den Kulissen ist daraus ein wachsendes Patentportfolio geworden: fast 76 Anmeldungen für überprüfbare KI-Infrastruktur sind in Vorbereitung, zwanzig davon bereits eingereicht, und weitere sind unterwegs.