🌐 AI Congress Barcelona 2026 aborda riesgos y control de la IA agéntica
L’AI Congress Barcelona alerta dels riscos de la IA agèntica: més automatització, però sense perdre el control humà
El AI Congress Barcelona 2026 ha puesto de relieve los desafíos que plantea la inteligencia artificial agéntica, una tecnología que permite a los sistemas ejecutar tareas de manera autónoma y que ha sido el foco central del evento. Este congreso, organizado por el Centre of Innovation for Data tech and Artificial Intelligence (CIDAI) y el centro tecnológico Eurecat, se ha celebrado en el Auditori L’illa de Barcelona, reuniendo a más de 2.200 inscritos y medio centenar de ponentes para discutir los retos tecnológicos, empresariales, jurídicos y sociales de la IA.
La inteligencia artificial agéntica, que va más allá de responder preguntas o generar textos, ahora puede asumir tareas complejas, consultar sistemas corporativos y coordinar herramientas con un alto grado de autonomía. Esta evolución abre nuevas posibilidades para la automatización de procesos, pero también plantea una cuestión crucial: ¿cómo pueden las empresas aprovechar esta capacidad sin perder el control sobre las decisiones y los resultados?
Ariadna Font, cofundadora y CEO de Alinia AI, destacó en el congreso que la IA agéntica no solo multiplica la productividad, sino también el volumen y la velocidad de los errores. «Una persona se equivoca una vez, pero un agente repite el error mil veces antes de que nadie se dé cuenta», advirtió Font, subrayando la necesidad de establecer «marcos y sistemas robustos de control y gobernanza» para utilizar estos avances de manera segura y responsable.
Joan Mas-Albaigès, director del AI Congress y director científico del Área Digital de Eurecat, comparó el potencial de los agentes con el papel que desempeñaron los robots en la automatización industrial, pero trasladado al ámbito digital. Según Mas-Albaigès, los agentes pueden ser adaptados a las necesidades específicas de cada organización, lo que les confiere flexibilidad y un gran atractivo para mejorar la productividad y eficiencia.
Sin embargo, para que esta flexibilidad se traduzca en mejoras reales, las empresas deben definir claramente qué pueden hacer los sistemas, qué datos pueden consultar y qué operaciones requieren autorización humana. La gobernanza de estos agentes fue un tema destacado en el congreso, con expertos como Laura Aparicio y Víctor García de Conversia, quienes enfatizaron la importancia de establecer reglas claras para sistemas que pueden actuar sobre aplicaciones y datos corporativos.
El AI Congress Barcelona 2026 concluyó con un consenso entre los expertos sobre la necesidad de una gobernanza efectiva que evite que los agentes actúen fuera del control humano, asegurando que la tecnología se despliegue de manera segura y responsable.
El AI Congress Barcelona alerta de los riesgos de la IA agéntica: más automatización, pero sin perder el control humano
El AI Congress Barcelona 2026 ha puesto de relieve los desafíos que plantea la inteligencia artificial agéntica, una tecnología que permite a los sistemas ejecutar tareas de manera autónoma y que ha sido el foco central del evento. Este congreso, organizado por el Centre of Innovation for Data tech and Artificial Intelligence (CIDAI) y el centro tecnológico Eurecat, se ha celebrado en el Auditori L'illa de Barcelona, reuniendo a más de 2.200 inscritos y medio centenar de ponentes para discutir los retos tecnológicos, empresariales, jurídicos y sociales de la IA.
La inteligencia artificial agéntica, que va más allá de responder preguntas o generar textos, ahora puede asumir tareas complejas, consultar sistemas corporativos y coordinar herramientas con un alto grado de autonomía. Esta evolución abre nuevas posibilidades para la automatización de procesos, pero también plantea una cuestión crucial: ¿cómo pueden las empresas aprovechar esta capacidad sin perder el control sobre las decisiones y los resultados?
Ariadna Font, cofundadora y CEO de Alinia AI, destacó en el congreso que la IA agéntica no solo multiplica la productividad, sino también el volumen y la velocidad de los errores. "Una persona se equivoca una vez, pero un agente repite el error mil veces antes de que nadie se dé cuenta", advirtió Font, subrayando la necesidad de establecer "marcos y sistemas robustos de control y gobernanza" para utilizar estos avances de manera segura y responsable.
Joan Mas-Albaigès, director del AI Congress y director científico del Área Digital de Eurecat, comparó el potencial de los agentes con el papel que desempeñaron los robots en la automatización industrial, pero trasladado al ámbito digital. Según Mas-Albaigès, los agentes pueden ser adaptados a las necesidades específicas de cada organización, lo que les confiere flexibilidad y un gran atractivo para mejorar la productividad y eficiencia.
Sin embargo, para que esta flexibilidad se traduzca en mejoras reales, las empresas deben definir claramente qué pueden hacer los sistemas, qué datos pueden consultar y qué operaciones requieren autorización humana. La gobernanza de estos agentes fue un tema destacado en el congreso, con expertos como Laura Aparicio y Víctor García de Conversia, quienes enfatizaron la importancia de establecer reglas claras para sistemas que pueden actuar sobre aplicaciones y datos corporativos.
El AI Congress Barcelona 2026 concluyó con un consenso entre los expertos sobre la necesidad de una gobernanza efectiva que evite que los agentes actúen fuera del control humano, asegurando que la tecnología se despliegue de manera segura y responsable.
The AI Congress Barcelona warns of the risks of agentic AI: more automation, but without losing human control
The AI Congress Barcelona 2026 has highlighted the challenges posed by agentic artificial intelligence, a technology that allows systems to execute tasks autonomously and has been the central focus of the event. This congress, organised by the Centre of Innovation for Data tech and Artificial Intelligence (CIDAI) and the technology centre Eurecat, was held at the Auditori L'illa in Barcelona, bringing together over 2,200 registrants and half a hundred speakers to discuss the technological, business, legal, and social challenges of AI.
Agentic artificial intelligence, which goes beyond answering questions or generating texts, can now undertake complex tasks, consult corporate systems, and coordinate tools with a high degree of autonomy. This evolution opens up new possibilities for process automation, but also raises a crucial question: how can companies leverage this capability without losing control over decisions and outcomes?
Ariadna Font, co-founder and CEO of Alinia AI, highlighted at the congress that agentic AI not only multiplies productivity but also the volume and speed of errors. "A person makes a mistake once, but an agent repeats the error a thousand times before anyone notices," warned Font, emphasising the need to establish "robust frameworks and governance systems" to use these advances safely and responsibly.
Joan Mas-Albaigès, director of the AI Congress and scientific director of the Digital Area at Eurecat, compared the potential of agents to the role played by robots in industrial automation, but transferred to the digital realm. According to Mas-Albaigès, agents can be adapted to the specific needs of each organisation, which gives them flexibility and great appeal for improving productivity and efficiency.
However, for this flexibility to translate into real improvements, companies must clearly define what systems can do, what data they can consult, and what operations require human authorisation. The governance of these agents was a highlighted topic at the congress, with experts like Laura Aparicio and Víctor García from Conversia, who stressed the importance of establishing clear rules for systems that can act on corporate applications and data.
The AI Congress Barcelona 2026 concluded with a consensus among experts on the need for effective governance to prevent agents from acting outside human control, ensuring that the technology is deployed safely and responsibly.
¿Te ha interesado esta noticia?
Recibe cada mañana el resumen de IA y sociedad directo en tu email.
Suscríbete gratis →