Inventions
Inventions
Je passe mes journées à essayer de rendre l'apprentissage automatique vérifiable. L'idée est simple à énoncer et difficile à réaliser : un résultat devrait pouvoir porter sa propre preuve, afin que quelqu'un qui n'était pas dans la pièce puisse tout de même le confirmer plus tard.
Le problème auquel je me heurte sans cesse n'est pas que les modèles se trompent parfois. C'est que presque personne ne peut dire quand c'est le cas. La vérifiabilité, l'auditabilité et la fiabilité ne sont pas des fonctionnalités qu'on ajoute après coup ; elles doivent faire partie de la façon dont le système fonctionne dès le départ.
- 1
Un système s'exécute
- 2
Il produit une preuve de ce qu'il a fait
- 3
N'importe qui peut vérifier cette preuve plus tard
- Calcul vérifiable pour l'IA
- Provenance et audit qu'un tiers peut exécuter lui-même
- Preuve cryptographique qui survit à l'exécution
Brevets
En coulisses, ce travail est devenu un portefeuille de brevets grandissant : près de 76 dépôts en cours pour une infrastructure d'IA vérifiable, vingt déjà déposés, et d'autres en préparation.