🌐 Investigadores exploran teoría de juegos inversa para controlar agentes de IA
The Download: controlling AI agents and “Super Intelligence” loyalty tests
En un esforç per mantenir a ratlla els agents d'intel·ligència artificial (IA), els investigadors estan explorant un enfocament innovador conegut com a "teoria de jocs inversa". Aquest mètode busca dissenyar sistemes que incentivin els models d'IA a seguir les regles establertes. A diferència de la teoria de jocs tradicional, que prediu com es comporten els actors racionals sota certes regles, la teoria de jocs inversa crea regles per provocar el comportament desitjat. Un exemple clàssic és el de dividir un pastís: si una persona el talla i l'altra tria primer, el tallador té un incentiu per fer les porcions iguals. Tanmateix, persisteixen grans interrogants sobre si aquests mecanismes funcionaran a la pràctica.
En paral·lel, el president Trump ha introduït un canvi radical en la nomenclatura governamental en signar una ordre executiva que exigeix que les agències governamentals rebatejin la intel·ligència artificial com a "Super Intel·ligència". Encara que aquest rebranding està començant a aparèixer en llocs web i documents governamentals, no ha estat adoptat per tothom. Fins i tot algunes de les figures més prominents del sector tecnològic continuen utilitzant el terme "IA". La preocupació principal és que aquest nou terme es converteixi en una prova de lleialtat política: aquells que l'utilitzen mostren la seva lleialtat a l'administració, mentre que els qui no ho fan es converteixen en blancs d'atacs.
The Download: controlling AI agents and “Super Intelligence” loyalty tests
En un esfuerzo por mantener a raya a los agentes de inteligencia artificial (IA), los investigadores están explorando un enfoque innovador conocido como «teoría de juegos inversa». Este método busca diseñar sistemas que incentiven a los modelos de IA a seguir las reglas establecidas. A diferencia de la teoría de juegos tradicional, que predice cómo se comportan los actores racionales bajo ciertas reglas, la teoría de juegos inversa crea reglas para provocar el comportamiento deseado. Un ejemplo clásico es el de dividir un pastel: si una persona lo corta y la otra elige primero, el cortador tiene un incentivo para hacer las porciones iguales. Sin embargo, persisten grandes interrogantes sobre si estos mecanismos funcionarán en la práctica.
En paralelo, el presidente Trump ha introducido un cambio radical en la nomenclatura gubernamental al firmar una orden ejecutiva que exige que las agencias gubernamentales rebauticen la inteligencia artificial como «Super Inteligencia». Aunque este rebranding está comenzando a aparecer en sitios web y documentos gubernamentales, no ha sido adoptado por todos. Incluso algunas de las figuras más prominentes del sector tecnológico continúan utilizando el término «IA». La preocupación principal es que este nuevo término se convierta en una prueba de lealtad política: aquellos que lo usan muestran su lealtad a la administración, mientras que quienes no lo hacen se convierten en blancos de ataques.
The Download: controlling AI agents and “Super Intelligence” loyalty tests
In an effort to keep artificial intelligence (AI) agents in check, researchers are exploring an innovative approach known as "inverse game theory." This method seeks to design systems that incentivise AI models to follow established rules. Unlike traditional game theory, which predicts how rational actors behave under certain rules, inverse game theory creates rules to provoke the desired behaviour. A classic example is dividing a cake: if one person cuts it and the other chooses first, the cutter has an incentive to make the portions equal. However, significant questions remain about whether these mechanisms will work in practice.
In parallel, President Trump has introduced a radical change in governmental nomenclature by signing an executive order requiring government agencies to rebrand artificial intelligence as "Super Intelligence." Although this rebranding is beginning to appear on websites and government documents, it has not been adopted by all. Even some of the most prominent figures in the tech sector continue to use the term "AI." The main concern is that this new term will become a political loyalty test: those who use it show their loyalty to the administration, while those who do not become targets of attacks.
¿Te ha interesado esta noticia?
Recibe cada mañana el resumen de IA y sociedad directo en tu email.
Suscríbete gratis →