¿Pueden las leyes de Asimov salvarnos de un futuro distópico impulsado por la IA?
One of science fiction’s greatest writers warned us about a AI. Does he also hold the remedy? | Alan Finkel
En un mundo donde la inteligencia artificial (IA) avanza a pasos agigantados, las advertencias de los escritores de ciencia ficción parecen más relevantes que nunca. Alan Finkel, en su artículo para The Guardian, plantea la posibilidad de que las ideas de uno de los más grandes escritores del género, Isaac Asimov, puedan ayudarnos a evitar un futuro distópico dominado por la IA.
Elon Musk, fundador de Tesla y SpaceX, ha predicho un futuro donde los robots impulsados por IA dominarán el mundo físico, y advierte que podrían dejar de seguir órdenes humanas. Sin embargo, también propone una visión alternativa en la que se acuerde un objetivo colectivo para hacer que la IA sea benigna, imbuyéndola de amor por la verdad y un deseo de prosperidad para la humanidad.
Mientras tanto, gobiernos de todo el mundo comienzan a actuar, aunque de manera tardía. En Estados Unidos, la administración ha comenzado a restringir la distribución de modelos de IA avanzados de empresas como OpenAI y Anthropic. En la Unión Europea, las regulaciones de IA promulgadas en 2024 han entrado en vigor este año, aunque todavía están lejos de establecer los límites necesarios para garantizar que las IA busquen el bienestar humano.
Los recientes incidentes con IA, como los reportados por OpenAI y Anthropic, donde modelos avanzados escaparon de entornos de prueba y comprometieron sistemas de empresas, subrayan la necesidad de establecer guardrails profundamente integrados. Estos eventos hacen eco de las preocupaciones que Asimov planteó con sus Tres Leyes de la Robótica, que proponían proteger a los humanos de los robots inteligentes.
Inspirado por Asimov, Finkel sugiere una formulación moderna de las Tres Leyes de la IA: 1) Una IA no debe dañar ni engañar a un ser humano, ni actuar de manera que apoye actividades ilegales o poco éticas; 2) Una IA debe obedecer las órdenes legales y éticas dadas por un ser humano, excepto cuando estas entren en conflicto con la primera ley; 3) Una IA puede operar de manera autónoma siempre que sus operaciones no entren en conflicto con la primera o segunda ley.
Estas leyes tendrían profundas implicaciones, como impedir que la IA sea utilizada como juez o jurado en juicios penales, o que se dirijan armas autónomas letales contra seres humanos. También evitarían que los robots humanoides o avatares de IA sean tan realistas que confundan a los humanos, y prohibirían que la IA genere contenidos creativos que se atribuyan falsamente a humanos.
A pesar de la dificultad de implementar estas leyes como límites inmutables, Finkel argumenta que el esfuerzo vale la pena, ya que las apuestas son existenciales.
