¿Cómo sabés que la IA que te contesta es la que contrataste y no una versión más barata? Anthropic publicó el 3 de noviembre FlashProve, un sistema de código abierto para demostrar criptográficamente que un modelo específico generó una respuesta, sin exponer sus pesos.
Cómo funciona
El proveedor publica primero un "compromiso" criptográfico de los pesos del modelo, que funciona como una huella digital. Después, por cada pedido, puede generar una prueba de que ese modelo produjo esos tokens. Cualquiera con el compromiso, el prompt y la respuesta puede verificarla. Usa una técnica llamada zkSNARK, de conocimiento cero.
Qué se logró y qué no
Según Interesting Engineering, Anthropic lo probó con Llama 4 Maverick (400.000 millones de parámetros): unos 110 tokens por segundo en una GPU H100, con pruebas de unos 19 MB para un pedido de 1.024 tokens, que se verifican en unos 17 segundos en un CPU de 24 núcleos. Pero hay límites importantes:
- Es un prototipo de investigación, no está listo para producción.
- Generar la prueba cuesta entre 70 y 95 veces más tiempo de GPU que una inferencia normal con vLLM.
- Soporta contextos de hasta 1.024 tokens y decodificación greedy.
- Oculta los pesos, pero no la arquitectura del modelo.
Por qué te importa
Cada vez más apps usan intermediarios y routers que eligen el modelo por vos. Con algo como FlashProve, en el futuro se podría detectar sustitución de modelos o manipulación de respuestas, y hasta permitir que reguladores verifiquen qué modelos sirve un proveedor. Todo el código, el informe técnico y las pruebas formales salieron con licencia Apache 2.0. Para el usuario común todavía no cambia nada, pero marca una dirección: IA que se puede auditar.
Fuente: Interesting Engineering.