🌐 Anthropic desarrolla FlashProve para verificar la identidad de modelos de IA
Anthropic is working on a system to prove AI models’ identity
Anthropic ha anunciat el desenvolupament d'un sistema de codi obert anomenat FlashProve, dissenyat per verificar quin model d'intel·ligència artificial (IA) ha produït un resultat específic. Segons una publicació al seu blog, FlashProve ofereix una "inferencia demostrable", una prova criptogràfica que garanteix matemàticament que un resultat prové d'un model específic. Això permet als usuaris confirmar que la resposta que reben realment prové del model que creuen estar utilitzant.
FlashProve és similar a les signatures criptogràfiques de correu electrònic, que permeten als receptors confirmar que un missatge prové realment de qui diu ser. Aquest sistema és robust contra impostors que intentin disfressar un model com un altre, fins i tot si l'impostor és el propi laboratori que ha creat i opera el model. Els investigadors destaquen que el sistema podria evitar que una empresa d'IA substitueixi secretament un model per un altre més barat per reduir costos o per un de més car per inflar els seus resultats de rendiment.
El sistema també podria usar-se per verificar afirmacions de tercers sobre tasques realitzades per models avançats. Per exemple, un desenvolupador podria afirmar que la seva biblioteca de programari va ser escanejada a la recerca de vulnerabilitats per un model de ciberseguretat d'avantguarda, o una empresa podria assegurar que el seu pla de negocis va ser aprovat per un model adequat. "Com pot un usuari verificar aquestes afirmacions?", es pregunten els investigadors.
Per funcionar, el sistema requereix que els laboratoris d'IA publiquin una "empremta digital" de cada model que llancin, la qual pot ser emparellada posteriorment amb resultats específics i verificada criptogràficament. És crucial que aquestes empremtes digitals no revelin els pesos del model, els números interns que defineixen el seu comportament i que empreses com Anthropic i OpenAI mantenen en secret. Això permet que els laboratoris publiquin les empremtes digitals sense renunciar al seu actiu més valuós, possibilitant que el sistema funcioni també amb models comercials. A més, el sistema està dissenyat per ser lleuger, de manera que la verificació pugui realitzar-se en un dispositiu local.
Com a part de l'anunci, els investigadors han publicat una especificació tècnica detallada i el codi de treball per a diversos elements del sistema, disponible públicament sota una llicència de codi obert a GitHub. La recerca en el sistema continua, i no hi ha plans per implementar-lo a Anthropic o en qualsevol altre laboratori. "Aquesta publicació de recerca està destinada a compartir un progrés intermedi, i no una agenda de recerca completa", expliquen els investigadors en l'anunci. "Estem compartint això explícitament amb l'objectiu que altres vegin el que hem fet, ho prenguin i ho millorin".
Font: https://techcrunch.com/2026/11/03/anthropic-is-working-on-a-system-to-prove-ai-models-identity/
Anthropic is working on a system to prove AI models’ identity
Anthropic ha anunciado el desarrollo de un sistema de código abierto llamado FlashProve, diseñado para verificar qué modelo de inteligencia artificial (IA) ha producido un resultado específico. Según una publicación en su blog, FlashProve ofrece una «inferencia demostrable», una prueba criptográfica que garantiza matemáticamente que un resultado proviene de un modelo específico. Esto permite a los usuarios confirmar que la respuesta que reciben realmente proviene del modelo que creen estar utilizando.
FlashProve es similar a las firmas criptográficas de correo electrónico, que permiten a los receptores confirmar que un mensaje proviene realmente de quien dice ser. Este sistema es robusto contra impostores que intenten disfrazar un modelo como otro, incluso si el impostor es el propio laboratorio que ha creado y opera el modelo. Los investigadores destacan que el sistema podría evitar que una empresa de IA sustituya secretamente un modelo por otro más barato para reducir costos o por uno más caro para inflar sus resultados de rendimiento.
El sistema también podría usarse para verificar afirmaciones de terceros sobre tareas realizadas por modelos avanzados. Por ejemplo, un desarrollador podría afirmar que su biblioteca de software fue escaneada en busca de vulnerabilidades por un modelo de ciberseguridad de vanguardia, o una empresa podría asegurar que su plan de negocios fue aprobado por un modelo adecuado. «¿Cómo puede un usuario verificar estas afirmaciones?», se preguntan los investigadores.
Para funcionar, el sistema requiere que los laboratorios de IA publiquen una «huella digital» de cada modelo que lancen, la cual puede ser emparejada posteriormente con resultados específicos y verificada criptográficamente. Es crucial que estas huellas digitales no revelen los pesos del modelo, los números internos que definen su comportamiento y que las empresas como Anthropic y OpenAI mantienen en secreto. Esto permite que los laboratorios publiquen las huellas digitales sin renunciar a su activo más valioso, posibilitando que el sistema funcione también con modelos comerciales. Además, el sistema está diseñado para ser liviano, de modo que la verificación pueda realizarse en un dispositivo local.
Como parte del anuncio, los investigadores han publicado una especificación técnica detallada y el código de trabajo para varios elementos del sistema, disponible públicamente bajo una licencia de código abierto en GitHub. La investigación en el sistema continúa, y no hay planes para implementarlo en Anthropic o en cualquier otro laboratorio. «Esta publicación de investigación está destinada a compartir un progreso intermedio, y no una agenda de investigación completa», explican los investigadores en el anuncio. «Estamos compartiendo esto explícitamente con el objetivo de que otros vean lo que hemos hecho, lo tomen y lo mejoren».
Fuente: https://techcrunch.com/2026/11/03/anthropic-is-working-on-a-system-to-prove-ai-models-identity/
Anthropic is working on a system to prove AI models’ identity
Anthropic has announced the development of an open-source system called FlashProve, designed to verify which artificial intelligence (AI) model has produced a specific result. According to a blog post, FlashProve offers "provable inference," a cryptographic proof that mathematically guarantees that a result comes from a specific model. This allows users to confirm that the response they receive truly comes from the model they believe they are using.
FlashProve is similar to email cryptographic signatures, which allow recipients to confirm that a message truly comes from who it claims to be. This system is robust against impostors attempting to disguise one model as another, even if the impostor is the very lab that created and operates the model. Researchers highlight that the system could prevent an AI company from secretly substituting one model for a cheaper one to cut costs or for a more expensive one to inflate its performance results.
The system could also be used to verify third-party claims about tasks performed by advanced models. For example, a developer might claim that their software library was scanned for vulnerabilities by a cutting-edge cybersecurity model, or a company might assert that its business plan was approved by a suitable model. "How can a user verify these claims?" the researchers ask.
To function, the system requires AI labs to publish a "fingerprint" of each model they release, which can later be matched with specific results and verified cryptographically. It is crucial that these fingerprints do not reveal the model's weights, the internal numbers that define its behaviour and which companies like Anthropic and OpenAI keep secret. This allows labs to publish the fingerprints without giving up their most valuable asset, enabling the system to work with commercial models as well. Additionally, the system is designed to be lightweight, so that verification can be performed on a local device.
As part of the announcement, the researchers have published a detailed technical specification and working code for various elements of the system, publicly available under an open-source licence on GitHub. Research on the system continues, and there are no plans to implement it at Anthropic or any other lab. "This research publication is intended to share intermediate progress, not a complete research agenda," the researchers explain in the announcement. "We are sharing this explicitly with the aim that others see what we have done, take it, and improve it."
Source: https://techcrunch.com/2026/11/03/anthropic-is-working-on-a-system-to-prove-ai-models-identity/
¿Te ha interesado esta noticia?
Recibe cada mañana el resumen de IA y sociedad directo en tu email.
Suscríbete gratis →