La IA lleva a un abogado a recibir una multa por citar sentencias falsas

El Tribunal Superior de Justicia de Canarias multa a un abogado por citar hasta 48 sentencias falsas. Se las había sugerido la IA

En un sorprendente giro de los acontecimientos, el Tribunal Superior de Justicia de Canarias ha impuesto una multa a un abogado por citar 48 sentencias falsas en un recurso de apelación. Estas sentencias, que fueron generadas por ChatGPT, una herramienta de inteligencia artificial no especializada en el ámbito jurídico, resultaron ser completamente ficticias. El abogado no verificó la existencia de dichas sentencias en el Cendoj, la base de datos de jurisprudencia de acceso universal, lo que llevó a una sanción de 450 euros, una cantidad simbólica que representa la mitad del coste de una suscripción anual a una IA jurídica fiable.

Este caso no es aislado. En Nueva York, el abogado Steven Schwartz fue sancionado con 5.000 dólares en 2023 por un incidente similar, mientras que en Alabama, tres abogados fueron apartados de un caso tras incluir citas falsas en sus argumentos. En España, el Tribunal Constitucional también ha tenido que reprender a abogados por citar sentencias inexistentes. En Galicia, el TSXG impuso una multa de 1.800 euros por 24 referencias inventadas, destacando la falta de «control humano consciente y efectivo».

El fenómeno de las «alucinaciones» de la IA es preocupante en el ámbito legal. Un estudio de Stanford RegLab encontró tasas de error de hasta el 88% al solicitar datos concretos sobre casos judiciales. Incluso las herramientas jurídicas premium, como Lexis+ AI y Westlaw AI-Assisted Research, presentan fallos significativos.

La confianza ciega en la IA no es exclusiva del ámbito legal. Un estudio del MIT reveló que las personas tienden a confiar más en las respuestas de una IA que en las de profesionales humanos, incluso cuando saben que una de cada cuatro respuestas es incorrecta. Este «sesgo de automatización» refleja una preferencia por respuestas rápidas sobre la verificación exhaustiva.

Fuente: https://www.xataka.com/magnet/tribunal-superior-justicia-canarias-multa-a-abogado-citar-48-sentencias-falsas-se-habia-sugerido-ia