La marca de agua de Anthropic: una solución fallida para detectar trampas en la educación
El profesorado se las prometía muy felices con la marca de agua de Anthropic. En un día ya la habían hackeado (y no hacía falta)
La semana pasada, Anthropic anunció con gran entusiasmo la llegada de su marca de agua para los textos generados con Claude, con el objetivo de cumplir con la legislación europea. Sin embargo, apenas 24 horas después, ya se había hackeado, poniendo en duda su efectividad. Esta marca de agua, diseñada para identificar el uso de inteligencia artificial en textos, no ha cumplido con las expectativas del sector educativo, que la veía como una herramienta potencialmente revolucionaria para detectar trampas.
En el ámbito educativo, donde el uso de inteligencia artificial es cada vez más común, la necesidad de herramientas fiables para detectar su uso es crucial. Una encuesta reciente en el Reino Unido reveló que el 95% de los estudiantes de grado utiliza IA, y un 94% la emplea específicamente para sus evaluaciones. En Australia, un informe de Turnitin mostró que más del 53% de los trabajos universitarios habían utilizado algún tipo de IA, lo que subraya la magnitud del desafío.
La marca de agua de Anthropic, en teoría, ofrecía una solución innovadora: un marcado oculto que no añadía caracteres ni tokens, sino que sesgaba la elección de ciertas palabras para crear un patrón estadístico detectable. Sin embargo, este sistema no es capaz de afirmar si un texto fue escrito por un humano o por IA, y su efectividad se ve limitada en textos cortos o en código.
A pesar de que Anthropic explicó el funcionamiento de su marca de agua, no cuenta con un detector propio, lo que significa que actualmente ningún tercero puede verificar si un texto lleva dicha marca. Además, la aparición de herramientas en GitHub que prometen eliminar estas marcas de agua ha socavado aún más su credibilidad.
Ante este panorama, expertos como Jason Lodge, de la Universidad de Queensland, sugieren que el enfoque debería cambiar. En lugar de centrarse en detectar trampas, se debería buscar evidencia de aprendizaje real. El sector educativo se enfrenta a la necesidad de un cambio de paradigma, dejando atrás la dependencia de herramientas de detección y replanteando el sistema de evaluación.
¿Te ha interesado esta noticia?
Recibe cada mañana el resumen de IA y sociedad directo en tu email.
Suscríbete gratis →