Avances en IA desafían la seguridad de sistemas de cifrado, advierten expertos
Els avenços en intel·ligència artificial estan posant en escac la solidesa dels sistemes de xifratge que protegeixen dades, comptes bancaris i comunicacions. Aquests avenços han desencadenat una cursa per garantir la seguretat tant dels mètodes actuals com dels sistemes de protecció de pròxima generació. Les autoritats i diverses institucions estan instant les empreses a planificar la transició cap a nous mètodes de xifratge per protegir la informació confidencial en línia.
Aquestes advertències han cobrat més rellevància després que OpenAI desfermés una polèmica en publicar centenars de documents matemàtics, entre ells suposades "demostracions" de vells problemes que, segons la companyia, incloïen solucions generades pels seus models d'intel·ligència artificial. L'Associació per a les Matemàtiques Humanes va criticar durament l'empresa responsable de ChatGPT i va demanar als matemàtics que deixessin de col·laborar amb ella. Per la seva banda, OpenAI ha defensat les seves accions i ha promès destinar 5 milions de dòlars a una fundació dedicada a les matemàtiques.
Els avenços aconseguits amb l'ajuda de la intel·ligència artificial plantegen dubtes sobre si aquesta tecnologia podria arribar a vulnerar els mètodes que utilitzem avui en dia, com, per exemple, aquells que impedeixen que els pirates informàtics accedeixin a comptes bancaris o a bases de dades en línia. "Suposa una reestructuració completa del que entenem per dificultat, un concepte que constitueix la base de gran part de la criptografia moderna. Hem d'esperar sobresalts importants i realment inquietants en el futur", va assenyalar el matemàtic Geordie Williamson.
Encara que la intel·ligència artificial encara no ha aconseguit vulnerar cap mètode criptogràfic essencial i experts en ciberseguretat es mostren escèptics que arribi a fer-ho, els matemàtics adverteixen que els riscos van en augment. Una de les raons és que les millores en el rendiment de la intel·ligència artificial, aplicades al disseny algorísmic i a la teoria que estudia les propietats dels nombres enters, han incrementat la capacitat per resoldre problemes extremadament complexos.
Un mètode criptogràfic estès es basa a multiplicar dos nombres primers de gran mida. Fins ara, aquest procés ha resultat eficaç, perquè per als ordinadors actuals és senzill realitzar la multiplicació, però resulta molt més difícil dur a terme el procés invers.
Els avenços en la intel·ligència artificial ja estan repercutint en la ciberseguretat. La setmana passada, empreses de tot el món van haver de corregir ràpidament vulnerabilitats en el llenguatge de programació web d'ús generalitzat PHP, les quals van ser detectades, en part, gràcies a models d'intel·ligència artificial desenvolupats per OpenAI i Google.
Els avenços de la intel·ligència artificial en l'àmbit matemàtic han posat en dubte la suposició, fins ara predominant, que l'amenaça més gran per a la criptografia és l'arribada dels ordinadors quàntics dissenyats per aprofitar la física de les partícules subatòmiques i aconseguir resultats que escapen a les capacitats dels ordinadors "clàssics". No obstant això, la majoria dels experts considera que encara falten anys per comptar amb un ordinador quàntic prou potent.
Les amenaces cibernètiques "evolucionen ràpidament a mesura que avancen la intel·ligència artificial i la informàtica quàntica", declara l'Autoritat de Conducta Financera del Regne Unit (FCA).
Els reguladors demanen actuar ja: "Les empreses no haurien d'esperar per actuar. Han de comprendre com estan protegits els seus sistemes i començar a preparar-se des d'ara per a un futur resistent a la informàtica", va afirmar el regulador financer britànic, que té previst publicar una guia pràctica destinada a les més de 35.000 entitats de serveis financers que supervisa al Regne Unit, amb la finalitat d'ajudar-les a abordar els riscos derivats de la intel·ligència artificial i la informàtica quàntica. "La possibilitat que s'aconsegueixi vulnerar els sistemes de xifratge s'ha convertit en un risc significatiu per a les formes de criptografia de caràcter més matemàtic", assenyala Daniel Shiu, professor de criptomatemàtiques de la Universitat de Manchester.
Los avances en inteligencia artificial están poniendo en jaque la solidez de los sistemas de cifrado que protegen datos, cuentas bancarias y comunicaciones. Estos avances han desencadenado una carrera por garantizar la seguridad tanto de los métodos actuales como de los sistemas de protección de próxima generación. Las autoridades y diversas instituciones están instando a las empresas a que planifiquen la transición hacia nuevos métodos de encriptado para proteger la información confidencial online.
Estas advertencias han cobrado mayor relevancia después de que OpenAI desatara una polémica al publicar cientos de documentos matemáticos, entre ellos supuestas “demostraciones” de viejos problemas que, según la compañía, incluían soluciones generadas por sus modelos de inteligencia artificial. La Asociación para las Matemáticas Humanas criticó duramente a la empresa responsable de ChatGPT y pidió a los matemáticos que dejaran de colaborar con ella. Por su parte, OpenAI ha defendido sus acciones y ha prometido destinar 5 millones de dólares a una fundación dedicada a las matemáticas.
Los avances logrados con la ayuda de la inteligencia artificial plantean dudas sobre si esta tecnología podría llegar a vulnerar los métodos que utilizamos hoy en día, como, por ejemplo, aquellos que impiden que los piratas informáticos accedan a cuentas bancarias o a bases de datos online. “Supone una reestructuración completa de lo que entendemos por dificultad, un concepto que constituye la base de gran parte de la criptografía moderna. Debemos esperar sobresaltos importantes y realmente inquietantes en el futuro”, señaló el matemático Geordie Williamson.
Aunque la inteligencia artificial aún no ha logrado vulnerar ningún método criptográfico esencial y expertos en ciberseguridad se muestran escépticos de que llegue a hacerlo, los matemáticos advierten que los riesgos van en aumento. Una de las razones es que las mejoras en el rendimiento de la inteligencia artificial, aplicadas al diseño algorítmico y a la teoría que estudia las propiedades de los números enteros, han incrementado la capacidad para resolver problemas extremadamente complejos.
Un método criptográfico extendido se basa en multiplicar dos números primos de gran tamaño. Hasta ahora, este proceso ha resultado eficaz, porque para los ordenadores actuales es sencillo realizar la multiplicación, pero resulta mucho más difícil llevar a cabo el proceso inverso.
Los avances en la inteligencia artificial ya están repercutiendo en la ciberseguridad. La semana pasada, empresas de todo el mundo tuvieron que corregir rápidamente vulnerabilidades en el lenguaje de programación web de uso generalizado PHP, las cuales fueron detectadas, en parte, gracias a modelos de inteligencia artificial desarrollados por OpenAI y Google.
Los avances de la inteligencia artificial en el ámbito matemático han puesto en tela de juicio la suposición, hasta ahora predominante, de que la mayor amenaza para la criptografía es la llegada de los ordenadores cuánticos diseñados para aprovechar la física de las partículas subatómicas y lograr resultados que escapan a las capacidades de los ordenadores “clásicos”. No obstante, la mayoría de los expertos considera que aún faltan años para contar con un ordenador cuántico lo suficientemente potente.
Las amenazas cibernéticas “evolucionan rápidamente a medida que avanzan la inteligencia artificial y la informática cuántica”, declara la Autoridad de Conducta Financiera de Reino Unido (FCA).
Los reguladores piden actuar ya: “Las empresas no deberían esperar para actuar. Deben comprender cómo están protegidos sus sistemas y empezar a prepararse desde ya para un futuro resistente a la informática”, afirmó el regulador financiero británico, que tiene previsto publicar una guía práctica destinada a las más de 35.000 entidades de servicios financieros que supervisa en Reino Unido, con el fin de ayudarles a abordar los riesgos derivados de la inteligencia artificial y la informática cuántica. “La posibilidad de que se logre vulnerar los sistemas de encriptado se ha convertido en un riesgo significativo para las formas de criptografía de carácter más matemático”, señala Daniel Shiu, profesor de criptomatemáticas de la Universidad de Mánchester.
Advances in artificial intelligence are jeopardising the robustness of encryption systems that protect data, bank accounts, and communications. These developments have triggered a race to ensure the security of both current methods and next-generation protection systems. Authorities and various institutions are urging companies to plan the transition to new encryption methods to protect confidential information online.
These warnings have gained greater relevance after OpenAI sparked controversy by publishing hundreds of mathematical documents, including supposed "proofs" of old problems that, according to the company, included solutions generated by its artificial intelligence models. The Association for Human Mathematics harshly criticised the company responsible for ChatGPT and called on mathematicians to stop collaborating with it. For its part, OpenAI has defended its actions and promised to allocate 5 million dollars to a foundation dedicated to mathematics.
The advances achieved with the help of artificial intelligence raise questions about whether this technology could eventually breach the methods we use today, such as those that prevent hackers from accessing bank accounts or online databases. “It represents a complete restructuring of what we understand by difficulty, a concept that forms the basis of much of modern cryptography. We must expect significant and truly unsettling upheavals in the future,” said mathematician Geordie Williamson.
Although artificial intelligence has not yet managed to breach any essential cryptographic method and cybersecurity experts are sceptical that it will, mathematicians warn that the risks are increasing. One reason is that improvements in the performance of artificial intelligence, applied to algorithmic design and the theory that studies the properties of integers, have increased the capacity to solve extremely complex problems.
A widespread cryptographic method is based on multiplying two large prime numbers. So far, this process has been effective because for current computers it is easy to perform the multiplication, but it is much more difficult to carry out the reverse process.
Advances in artificial intelligence are already impacting cybersecurity. Last week, companies worldwide had to quickly fix vulnerabilities in the widely used web programming language PHP, which were detected, in part, thanks to artificial intelligence models developed by OpenAI and Google.
Advances in artificial intelligence in the mathematical field have called into question the previously predominant assumption that the greatest threat to cryptography is the arrival of quantum computers designed to exploit the physics of subatomic particles and achieve results beyond the capabilities of "classical" computers. However, most experts believe that it will still be years before a sufficiently powerful quantum computer is available.
Cyber threats “evolve rapidly as artificial intelligence and quantum computing advance,” declares the Financial Conduct Authority of the United Kingdom (FCA).
Regulators are calling for action now: “Companies should not wait to act. They must understand how their systems are protected and start preparing now for a future resistant to computing,” stated the British financial regulator, which plans to publish practical guidance for the more than 35,000 financial services entities it supervises in the United Kingdom, to help them address the risks arising from artificial intelligence and quantum computing. “The possibility of encryption systems being breached has become a significant risk for more mathematically based forms of cryptography,” says Daniel Shiu, professor of cryptomathematics at the University of Manchester.
¿Te ha interesado esta noticia?
Recibe cada mañana el resumen de IA y sociedad directo en tu email.
Suscríbete gratis →