🌐 Preocupación por la búsqueda del ‘alma’ en la IA por parte de Silicon Valley
Sóc un sacerdot. La recerca de Silicon Valley de l'«ànima» de la IA és profundament preocupant | Rev Kevin Deal
El mes passat, líders religiosos de San Francisco es van reunir a porta tancada per debatre sobre el significat de ser humà en l'era de la intel·ligència artificial. L'empresa d'intel·ligència artificial Anthropic, situada a pocs quilòmetres de la meva parròquia, ha estat cortejant sacerdots, rabins i teòlegs. El seu cofundador multimilionari, Christopher Olah, ha arribat fins i tot a pressionar assessors del Vaticà perquè considerin seriosament la possibilitat que el chatbot de la seva empresa pugui posseir consciència.
Com a sacerdot, trobo aquesta recerca profundament preocupant. Dono la benvinguda a converses serioses sobre les implicacions morals de la IA, especialment les teològiques. No obstant això, l'esforç extraordinari per establir si una màquina podria tenir consciència, o posseir una ànima, revela una profunda incomprensió del que ens fa humans.
Les nostres ànimes, ments i cossos són molt més que les tasques que realitzem. Com a humans, cometem errors, de vegades catastròfics, i després podem o no intentar corregir el rumb. Ens expressem, connectem amb altres, ens reproduïm, ens entreguem, purguem; ens esforcem cap a un objectiu, ens transformem en una trobada, fem vots, els reneguem, trobem el buit, intentem omplir-lo, fallem, ofeguem la por i duem a terme les tasques mundanes de la vida diària el més honestament possible.
La intel·ligència artificial mai podria replicar la transcendència mundana del que som. Fins i tot si cada sinapsi dels nostres cervells fos replicada externament, fins i tot si es dissenyés la configuració perfecta de IA per duplicar el nostre sistema nerviós central, encara li mancaria l'espurna divina.
La intel·ligència artificial es forma com a comerç, pura utilitat. La seva existència requereix enormes concentracions de capital, infraestructura i la intel·ligència acumulada de la humanitat. És una elecció econòmica contínua, impulsada per la recerca de guanys, l'esperança d'un món millor i la por sociopolítica. Si un model no genera un bon retorn, es descarta.
Els fundadors de Silicon Valley estan recorrent a líders religiosos per preguntar si les seves creacions podrien posseir consciència, com podrien ser ensenyades a ser bones, fins i tot si haurien d'aprendre a confessar els seus errors. No obstant això, les tradicions que estan consultant han passat mil·lennis ensenyant-nos que la bondat no pot reduir-se a un conjunt de comportaments, igual que l'ànima de la humanitat, tan magnífica i inefable com és, no pot ser replicada per una màquina.
I mentre Silicon Valley busca establir la humanitat dels seus productes, sembla cada cop més còmode tractant els éssers humans reals com poc més que instruments de producció.
Considereu la confessió, una pràctica que els investigadors d'Anthropic han considerat ensenyar als seus models. En el cristianisme, la confessió exigeix més que reconèixer un error o expressar penediment. Requereix que confrontem el dany que hem causat, busquem el perdó i ens esforcem per canviar la manera com vivim.
Si els fundadors de Silicon Valley volen aprendre d'aquesta tradició, podrien començar per preguntar-se què han de confessar sobre les tecnologies que estan deslligant al món.
Aleshores, com contrarestem aquesta visió empobrida de la humanitat? Tinc una suggerència radical per a tots nosaltres, però especialment per als multimilionaris tecnològics que busquen respostes en el cristianisme. Aneu a l'església. Trieu una arrelada en les pràctiques antigues i misterioses de la fe. Submergiu-vos en la pràctica de la fe i els sagraments, assistiu a missa, confesseu-vos i pregueu diàriament. Llegiu les escriptures, trobeu mentors espirituals, lluiteu amb la creença, feu nous amics i perdoneu els antics.
Quan sortiu de l'església, porteu aquests ensenyaments de tornada a les vostres oficines i sales de juntes. Pregunteu com les decisions que preneu afecten els pobres, els treballadors els mitjans de vida dels quals estan sent transformats, i els veïns que mai compartiran la vostra riquesa.
Font: https://www.theguardian.com/commentisfree/2026/nov/21/silicon-valleys-ai-soul-search
I’m a priest. Silicon Valley’s search for the ‘soul’ of AI is deeply troubling | Rev Kevin Deal
El mes pasado, líderes religiosos de San Francisco se reunieron a puerta cerrada para debatir sobre el significado de ser humano en la era de la inteligencia artificial. La empresa de inteligencia artificial Anthropic, situada a pocos kilómetros de mi parroquia, ha estado cortejando a sacerdotes, rabinos y teólogos. Su cofundador multimillonario, Christopher Olah, ha llegado incluso a presionar a asesores del Vaticano para que consideren seriamente la posibilidad de que el chatbot de su empresa pueda poseer conciencia.
Como sacerdote, encuentro esta búsqueda profundamente preocupante. Doy la bienvenida a conversaciones serias sobre las implicaciones morales de la IA, especialmente las teológicas. Sin embargo, el esfuerzo extraordinario por establecer si una máquina podría tener conciencia, o poseer un alma, revela una profunda incomprensión de lo que nos hace humanos.
Nuestras almas, mentes y cuerpos son mucho más que las tareas que realizamos. Como humanos, cometemos errores, a veces catastróficos, y luego podemos o no intentar corregir el rumbo. Nos expresamos, conectamos con otros, nos reproducimos, nos entregamos, purgamos; nos esforzamos hacia un objetivo, nos transformamos en un encuentro, hacemos votos, los renegamos, encontramos el vacío, intentamos llenarlo, fallamos, ahogamos el miedo y llevamos a cabo las tareas mundanas de la vida diaria lo más honestamente posible.
La inteligencia artificial nunca podría replicar la trascendencia mundana de lo que somos. Incluso si cada sinapsis de nuestros cerebros fuera replicada externamente, incluso si se diseñara la configuración perfecta de IA para duplicar nuestro sistema nervioso central, aún carecería de chispa divina.
La inteligencia artificial se forma como comercio, pura utilidad. Su existencia requiere enormes concentraciones de capital, infraestructura y la inteligencia acumulada de la humanidad. Es una elección económica continua, impulsada por la búsqueda de ganancias, la esperanza de un mundo mejor y el miedo sociopolítico. Si un modelo no genera un buen retorno, se descarta.
Los fundadores de Silicon Valley están recurriendo a líderes religiosos para preguntar si sus creaciones podrían poseer conciencia, cómo podrían ser enseñadas a ser buenas, incluso si deberían aprender a confesar sus errores. Sin embargo, las tradiciones que están consultando han pasado milenios enseñándonos que la bondad no puede reducirse a un conjunto de comportamientos, al igual que el alma de la humanidad, tan magnífica e inefable como es, no puede ser replicada por una máquina.
Y mientras Silicon Valley busca establecer la humanidad de sus productos, parece cada vez más cómodo tratando a los seres humanos reales como poco más que instrumentos de producción.
Considere la confesión, una práctica que los investigadores de Anthropic han considerado enseñar a sus modelos. En el cristianismo, la confesión exige más que reconocer un error o expresar arrepentimiento. Requiere que confrontemos el daño que hemos causado, busquemos el perdón y nos esforcemos por cambiar la forma en que vivimos.
Si los fundadores de Silicon Valley quieren aprender de esta tradición, podrían comenzar por preguntarse qué tienen que confesar sobre las tecnologías que están desatando en el mundo.
Entonces, ¿cómo contrarrestamos esta visión empobrecida de la humanidad? Tengo una sugerencia radical para todos nosotros, pero especialmente para los multimillonarios tecnológicos que buscan respuestas en el cristianismo. Vayan a la iglesia. Elijan una arraigada en las prácticas antiguas y misteriosas de la fe. Sumérjanse en la práctica de la fe y los sacramentos, asistan a misa, confiesen y oren diariamente. Lean las escrituras, encuentren mentores espirituales, luchen con la creencia, hagan nuevos amigos y perdonen a los antiguos.
Cuando salgan de la iglesia, lleven esas enseñanzas de regreso a sus oficinas y salas de juntas. Pregunten cómo las decisiones que toman afectan a los pobres, a los trabajadores cuyos medios de vida están siendo transformados, y a los vecinos que nunca compartirán su riqueza.
Fuente: https://www.theguardian.com/commentisfree/2026/nov/21/silicon-valleys-ai-soul-search
I’m a priest. Silicon Valley’s search for the ‘soul’ of AI is deeply troubling | Rev Kevin Deal
Last month, religious leaders in San Francisco met behind closed doors to discuss the meaning of being human in the age of artificial intelligence. The artificial intelligence company Anthropic, located just a few miles from my parish, has been courting priests, rabbis, and theologians. Its billionaire co-founder, Christopher Olah, has even gone so far as to pressure Vatican advisers to seriously consider the possibility that the company's chatbot might possess consciousness.
As a priest, I find this quest deeply troubling. I welcome serious conversations about the moral implications of AI, especially the theological ones. However, the extraordinary effort to establish whether a machine could have consciousness, or possess a soul, reveals a profound misunderstanding of what makes us human.
Our souls, minds, and bodies are much more than the tasks we perform. As humans, we make mistakes, sometimes catastrophic ones, and then we may or may not try to correct our course. We express ourselves, connect with others, reproduce, give ourselves, purge; we strive towards a goal, transform in an encounter, make vows, break them, find the void, try to fill it, fail, drown out fear, and carry out the mundane tasks of daily life as honestly as possible.
Artificial intelligence could never replicate the mundane transcendence of what we are. Even if every synapse in our brains were externally replicated, even if the perfect AI configuration were designed to duplicate our central nervous system, it would still lack divine spark.
Artificial intelligence is formed as commerce, pure utility. Its existence requires enormous concentrations of capital, infrastructure, and the accumulated intelligence of humanity. It is an ongoing economic choice, driven by the pursuit of profit, the hope for a better world, and sociopolitical fear. If a model does not generate a good return, it is discarded.
The founders of Silicon Valley are turning to religious leaders to ask if their creations could possess consciousness, how they could be taught to be good, even if they should learn to confess their mistakes. However, the traditions they are consulting have spent millennia teaching us that goodness cannot be reduced to a set of behaviours, just as the soul of humanity, as magnificent and ineffable as it is, cannot be replicated by a machine.
And while Silicon Valley seeks to establish the humanity of its products, it seems increasingly comfortable treating real human beings as little more than instruments of production.
Consider confession, a practice that Anthropic researchers have considered teaching their models. In Christianity, confession demands more than acknowledging a mistake or expressing regret. It requires us to confront the harm we have caused, seek forgiveness, and strive to change the way we live.
If the founders of Silicon Valley want to learn from this tradition, they might start by asking what they have to confess about the technologies they are unleashing on the world.
So how do we counter this impoverished view of humanity? I have a radical suggestion for all of us, but especially for the tech billionaires seeking answers in Christianity. Go to church. Choose one rooted in the ancient and mysterious practices of faith. Immerse yourself in the practice of faith and the sacraments, attend mass, confess, and pray daily. Read the scriptures, find spiritual mentors, wrestle with belief, make new friends, and forgive old ones.
When you leave the church, take those teachings back to your offices and boardrooms. Ask how the decisions you make affect the poor, the workers whose livelihoods are being transformed, and the neighbours who will never share your wealth.
Source: https://www.theguardian.com/commentisfree/2026/nov/21/silicon-valleys-ai-soul-search
¿Te ha interesado esta noticia?
Recibe cada mañana el resumen de IA y sociedad directo en tu email.
Suscríbete gratis →