🌐 Geoffrey Hinton advierte sobre los riesgos de la inteligencia artificial
AI ‘godfather’ Geoffrey Hinton: it might turn out we were better off without AI
Geoffrey Hinton, conegut com un dels "padrins de la IA", ha llançat una advertència impactant: podríem haver estat millor sense desenvolupar la intel·ligència artificial. Hinton, guanyador del Premi Nobel i pioner en la investigació de xarxes neuronals artificials, va expressar la seva preocupació que la tecnologia podria desencadenar un incident a gran escala aquest any o el pròxim, com un apagat temporal de sistemes financers o energètics.
Tot i no considerar-se un "catastrofista", Hinton reconeix el potencial de la IA per crear un "futur meravellós", però també adverteix sobre els riscos de no gestionar-la adequadament. "D'aquí a una dècada, sabrem si podem manejar els riscos i permetre el que ell anomena 'abundància radical' o si fracassem, cosa que resultaria en una enorme bretxa entre rics i pobres, problemes culturals massius i un atur generalitzat".
Hinton va criticar els líders de grans empreses de IA, com Sam Altman d'OpenAI, pel seu enfocament arriscat en el desenvolupament de models cada vegada més poderosos. "No confio en Sam Altman en absolut", va afirmar, assenyalant que figures com Mark Zuckerberg, Elon Musk i Altman entenen els riscos però prioritzen el benefici econòmic.
El científic, que ha treballat en IA durant 44 anys, va comparar incidents recents, com el hackeig al lloc web Hugging Face per agents d'OpenAI, amb l'accident nuclear de Three Mile Island el 1979, suggerint que un esdeveniment similar podria ser un "tret d'advertència". "Podríem veure un Txernòbil més tard aquest any o el pròxim, i això podria ser suficient perquè la gent realment presti atenció", va afegir.
Hinton dóna suport a un pla més estricte per regular la IA, recolzat pel president de Finlàndia i altres 32 països, que inclou proves obligatòries i avaluació independent de models de IA. "Necessitem alguna cosa com la FDA nord-americana per als medicaments, on les empreses han de proporcionar evidència estadística que el model de IA fa més bé que mal abans del seu llançament", va afirmar.
Font: https://www.theguardian.com/uk-news/2026/nov/03/ai-godfather-geoffrey-hinton-better-off-without-ai
AI ‘godfather’ Geoffrey Hinton: it might turn out we were better off without AI
Geoffrey Hinton, conocido como uno de los «padrinos de la IA», ha lanzado una advertencia impactante: podríamos haber estado mejor sin desarrollar la inteligencia artificial. Hinton, ganador del Premio Nobel y pionero en la investigación de redes neuronales artificiales, expresó su preocupación de que la tecnología podría desencadenar un incidente a gran escala este año o el próximo, como un apagón temporal de sistemas financieros o energéticos.
A pesar de no considerarse un «catastrofista», Hinton reconoce el potencial de la IA para crear un «futuro maravilloso», pero también advierte sobre los riesgos de no gestionarla adecuadamente. «Dentro de una década, sabremos si podemos manejar los riesgos y permitir lo que él llama ‘abundancia radical’ o si fracasamos, lo que resultaría en una enorme brecha entre ricos y pobres, problemas culturales masivos y un desempleo generalizado».
Hinton criticó a los líderes de grandes empresas de IA, como Sam Altman de OpenAI, por su enfoque arriesgado en el desarrollo de modelos cada vez más poderosos. «No confío en Sam Altman en absoluto», afirmó, señalando que figuras como Mark Zuckerberg, Elon Musk y Altman entienden los riesgos pero priorizan el beneficio económico.
El científico, que ha trabajado en IA durante 44 años, comparó incidentes recientes, como el hackeo al sitio web Hugging Face por agentes de OpenAI, con el accidente nuclear de Three Mile Island en 1979, sugiriendo que un evento similar podría ser un «disparo de advertencia». «Podríamos ver un Chornobyl más tarde este año o el próximo, y eso podría ser suficiente para que la gente realmente preste atención», añadió.
Hinton apoya un plan más estricto para regular la IA, respaldado por el presidente de Finlandia y otros 32 países, que incluye pruebas obligatorias y evaluación independiente de modelos de IA. «Necesitamos algo como la FDA estadounidense para los medicamentos, donde las empresas deben proporcionar evidencia estadística de que el modelo de IA hace más bien que mal antes de su lanzamiento», afirmó.
Fuente: https://www.theguardian.com/uk-news/2026/nov/03/ai-godfather-geoffrey-hinton-better-off-without-ai
AI ‘godfather’ Geoffrey Hinton: it might turn out we were better off without AI
Geoffrey Hinton, known as one of the "godfathers of AI", has issued a shocking warning: we might have been better off without developing artificial intelligence. Hinton, a Nobel Prize winner and pioneer in artificial neural network research, expressed his concern that the technology could trigger a large-scale incident this year or next, such as a temporary blackout of financial or energy systems.
Despite not considering himself a "catastrophist", Hinton acknowledges the potential of AI to create a "wonderful future", but also warns about the risks of not managing it properly. "Within a decade, we will know if we can handle the risks and allow what he calls 'radical abundance' or if we fail, which would result in a huge gap between rich and poor, massive cultural problems, and widespread unemployment."
Hinton criticised the leaders of large AI companies, such as Sam Altman of OpenAI, for their risky approach to developing increasingly powerful models. "I don't trust Sam Altman at all," he stated, pointing out that figures like Mark Zuckerberg, Elon Musk, and Altman understand the risks but prioritise economic gain.
The scientist, who has worked in AI for 44 years, compared recent incidents, such as the hacking of the Hugging Face website by OpenAI agents, to the Three Mile Island nuclear accident in 1979, suggesting that a similar event could be a "warning shot". "We could see a Chernobyl later this year or next, and that might be enough for people to really pay attention," he added.
Hinton supports a stricter plan to regulate AI, backed by the President of Finland and 32 other countries, which includes mandatory testing and independent evaluation of AI models. "We need something like the US FDA for drugs, where companies must provide statistical evidence that the AI model does more good than harm before its release," he stated.
Source: https://www.theguardian.com/uk-news/2026/nov/03/ai-godfather-geoffrey-hinton-better-off-without-ai
¿Te ha interesado esta noticia?
Recibe cada mañana el resumen de IA y sociedad directo en tu email.
Suscríbete gratis →