← Volver a noticias
Noticias del sector

Anthropic trabaja en un sistema para demostrar la identidad de los modelos de IA

Publicado

El sistema, llamado FlashProve, permitiría comprobar que una respuesta de IA procede realmente del modelo que afirma haberla generado.

Fuente: TechCrunch AI

Fecha de recopilación: 2026-11-04 08:00

FlashProve también podría servir para verificar las afirmaciones de terceros de que una tarea concreta fue realizada por un modelo avanzado. «Un desarrollador podría afirmar que un modelo puntero de ciberseguridad analizó su biblioteca de software en busca de vulnerabilidades, o una empresa podría asegurar que un modelo adecuado dio el visto bueno a su plan de negocio», escriben los investigadores. «¿Cómo puede un usuario verificar estas afirmaciones?».

Para funcionar, el sistema exige que los laboratorios de IA publiquen una «huella» de cada modelo que lancen, que después pueda asociarse a resultados concretos y verificarse criptográficamente. Lo importante es que estas huellas no revelan los pesos del modelo, los valores internos que definen su comportamiento y que los fabricantes de modelos cerrados como Anthropic y OpenAI mantienen privados. Así, los laboratorios podrían publicar las huellas sin renunciar a su activo más valioso, lo que permitiría utilizar el sistema también con modelos comerciales. Además, está diseñado para ser ligero, de modo que la verificación pueda realizarse en un dispositivo local.

«Esta publicación de investigación pretende compartir avances intermedios, no una agenda de investigación completada», explican los investigadores en el anuncio. «La compartimos expresamente para que otros examinen lo que hemos hecho, lo aprovechen y lo mejoren».


Join the technical discussion

Comments are published after review. Edited comments are reviewed again.