Invenciones
Invenciones
Paso mis días intentando hacer que el aprendizaje automático sea verificable. La idea es sencilla de enunciar y difícil de lograr: un resultado debería poder llevar su propia prueba, para que alguien que no estuvo en la sala pueda confirmarlo más tarde.
El problema con el que me encuentro una y otra vez no es que los modelos se equivoquen a veces. Es que casi nadie puede saber cuándo lo hacen. La verificabilidad, la auditabilidad y la fiabilidad no son funciones que se añaden después; deben formar parte de cómo funciona el sistema desde el principio.
- 1
Un sistema se ejecuta
- 2
Produce evidencia de lo que hizo
- 3
Cualquiera puede comprobar esa evidencia después
- Computación verificable para IA
- Procedencia y auditoría que un tercero puede ejecutar por sí mismo
- Evidencia criptográfica que perdura más allá de la ejecución
Patentes
Entre bastidores, ese trabajo se ha convertido en una cartera de patentes en crecimiento: cerca de 76 solicitudes en trámite para infraestructura de IA verificable, veinte de ellas ya presentadas, y más en camino.