Riesgo inaceptable: Los usos prohibidos de la IA según el Reglamento europeo
Riesgo inaceptable: los usos de la IA más peligrosos y prohibidos por el Reglamento de inteligencia artificial (AI Act)
El Reglamento europeo de Inteligencia Artificial (IA) establece una serie de usos prohibidos para la IA, definidos en su artículo 5 como de «riesgo inaceptable». Las infracciones a estas normas pueden acarrear multas de hasta 35 millones de euros o el 7% de la facturación mundial anual de la empresa infractora.
Entre las prácticas consideradas inaceptables se encuentra la manipulación mediante IA, que incluye sistemas que utilizan técnicas subliminales o engañosas para alterar el comportamiento de una persona, afectando su capacidad de decisión y causándole perjuicio. También están prohibidos los sistemas que explotan vulnerabilidades de personas debido a su edad, discapacidad o situación social o económica.
Otro uso prohibido es la puntuación ciudadana, que evalúa a las personas por su comportamiento social para darles un trato desfavorable en contextos no relacionados con los datos originales. Sin embargo, esto no aplica al software de selección de personal, siempre que haya supervisión humana.
Además, se prohíben las bases de datos de reconocimiento facial y la inferencia de emociones en el trabajo y en centros educativos, salvo por motivos médicos o de seguridad. La identificación biométrica remota en tiempo real en espacios públicos queda reservada a las fuerzas de seguridad.
Desde el 2 de diciembre de 2026, el Ómnibus digital añade dos vetos: los sistemas que generan o manipulan material íntimo no consentido de personas identificables y los que generan material de abuso sexual de menores.
Las empresas deben ser cautelosas, ya que el artículo 5 no solo se refiere a herramientas complejas. Por ejemplo, el software que analiza microexpresiones en entrevistas laborales es una forma de inferencia de emociones prohibida. Asimismo, el marketing con IA generativa puede cruzar la línea si explota vulnerabilidades económicas para ofrecer préstamos a personas sobreendeudadas.
Los fraudes con IA representan el 23,3% de los ataques globales, con pérdidas medias de 280.000 dólares por ataque exitoso con deepfakes. Estos fraudes crecieron un 1.200% en 2025, según estudios de ciberseguridad.
Para evitar sanciones, se recomienda a las empresas contratar soporte de legaltechs especializadas. Herramientas como Atico34 AI Governance y Daiki ayudan a detectar comportamientos prohibidos en sistemas de IA antes de su integración.
Las empresas deben inventariar sus herramientas de IA, revisar la finalidad de cada una y definir excepciones, como el análisis de emociones por motivos de seguridad. Es crucial no esperar a las fechas límite, ya que estas prohibiciones llevan año y medio en vigor.
