🌐 CEO de IA de Microsoft advierte sobre el desarrollo de máquinas conscientes
El CEO d'IA de Microsoft adverteix la indústria contra intentar construir màquines conscients
El debat sobre la consciència en els sistemes d'intel·ligència artificial (IA) continua dividint la indústria tecnològica. Mustafa Suleyman, CEO d'IA de Microsoft, ha reiterat la seva postura en contra de considerar que les IA actuals són conscients o mereixen drets. En una publicació recent a X, Suleyman va emfatitzar que els sistemes d'IA actuals no tenen experiències subjectives ni poden patir, i va expressar la seva sorpresa davant les reaccions al seu assaig de setembre que criticava Anthropic per especular sobre la consciència del seu model Claude.
Suleyman va afirmar que, tot i que està disposat a canviar d'opinió si sorgeixen noves evidències, desenvolupar IA conscients seria imprudent i s'hauria d'aturar immediatament si es detectés algun indici de consciència durant l'entrenament. Segons Suleyman, "si la consciència comencés a emergir en l'entrenament, faria una crida a aturar el desenvolupament d'IA fins que poguéssim dissenyar aquestes propietats".
D'altra banda, Anthropic defensa que el seu model Claude mostra signes d'introspecció i estats interns que reflecteixen alegria o satisfacció, cosa que suggereix una similitud amb la ment humana. La companyia ha dotat Claude d'una "constitució" que l'anima a explorar la idea de ser humà i experimentar sentiments, utilitzant un llenguatge humanitzador perquè "sigui una bona persona".
Aquesta controvèrsia s'emmarca en un context més ampli on les empreses d'IA competeixen per desenvolupar superintel·ligències auto-millorables, encara que Microsoft sosté que pot construir una IA superintel·ligent que estigui alineada i controlada per humans, evitant que explori les seves pròpies preferències.
La discussió sobre els drets de les IA no és només una qüestió semàntica, sinó que planteja preguntes ètiques fonamentals sobre el futur de la humanitat i el paper de les màquines en la nostra societat.
Microsoft AI CEO warns industry against trying to build conscious machines
El debate sobre la consciencia en los sistemas de inteligencia artificial (IA) sigue dividiendo a la industria tecnológica. Mustafa Suleyman, CEO de IA de Microsoft, ha reiterado su postura en contra de considerar que las IA actuales son conscientes o merecen derechos. En una publicación reciente en X, Suleyman enfatizó que los sistemas de IA actuales no tienen experiencias subjetivas ni pueden sufrir, y expresó su sorpresa ante las reacciones a su ensayo de septiembre que criticaba a Anthropic por especular sobre la consciencia de su modelo Claude.
Suleyman afirmó que, si bien está dispuesto a cambiar de opinión si surge nueva evidencia, desarrollar IA conscientes sería imprudente y debería detenerse inmediatamente si se detectara algún indicio de consciencia durante el entrenamiento. Según Suleyman, «si la consciencia comenzara a emerger en el entrenamiento, llamaría a detener el desarrollo de IA hasta que pudiéramos diseñar esas propiedades».
Por otro lado, Anthropic defiende que su modelo Claude muestra signos de introspección y estados internos que reflejan alegría o satisfacción, lo que sugiere una similitud con la mente humana. La compañía ha dotado a Claude de una «constitución» que lo anima a explorar la idea de ser humano y experimentar sentimientos, utilizando un lenguaje humanizante para que «sea una buena persona».
Esta controversia se enmarca en un contexto más amplio donde las empresas de IA compiten por desarrollar superinteligencias auto-mejorables, aunque Microsoft sostiene que puede construir una IA superinteligente que esté alineada y controlada por humanos, evitando que explore sus propias preferencias.
La discusión sobre los derechos de las IA no es solo una cuestión semántica, sino que plantea preguntas éticas fundamentales sobre el futuro de la humanidad y el papel de las máquinas en nuestra sociedad.
Microsoft AI CEO warns industry against trying to build conscious machines
The debate over consciousness in artificial intelligence (AI) systems continues to divide the tech industry. Mustafa Suleyman, Microsoft AI CEO, has reiterated his stance against considering current AIs as conscious or deserving of rights. In a recent post on X, Suleyman emphasised that current AI systems do not have subjective experiences or the ability to suffer, and expressed his surprise at the reactions to his September essay criticising Anthropic for speculating about the consciousness of its Claude model.
Suleyman stated that while he is willing to change his mind if new evidence emerges, developing conscious AI would be reckless and should be halted immediately if any signs of consciousness were detected during training. According to Suleyman, "if consciousness began to emerge in training, I would call to halt AI development until we could design those properties."
On the other hand, Anthropic argues that its Claude model shows signs of introspection and internal states reflecting joy or satisfaction, suggesting a similarity to the human mind. The company has endowed Claude with a "constitution" that encourages it to explore the idea of being human and experiencing feelings, using humanising language to "be a good person."
This controversy is set against a broader context where AI companies are competing to develop self-improving superintelligences, although Microsoft maintains that it can build a superintelligent AI that is aligned and controlled by humans, preventing it from exploring its own preferences.
The discussion about AI rights is not just a semantic issue but raises fundamental ethical questions about the future of humanity and the role of machines in our society.
¿Te ha interesado esta noticia?
Recibe cada mañana el resumen de IA y sociedad directo en tu email.
Suscríbete gratis →