Bill Gates insta a regular la IA para evitar usos maliciosos y ciberataques

Bill Gates, el fundador de Microsoft, ha llançat una advertència contundent sobre l'ús de la intel·ligència artificial (IA). En una recent entrevista, Gates va afirmar que "mai no ha existit una arma tan poderosa" com la IA, subratllant la necessitat d'establir límits obligatoris per al seu ús segur. Gates argumenta que la velocitat a la qual avança la IA planteja desafiaments significatius per controlar els seus possibles usos maliciosos.

En la seva intervenció, Gates va emfasitzar que confiar únicament en les empreses tecnològiques per garantir la seguretat de la IA ja no és suficient. Proposa que els governs han d'intervenir per establir mecanismes de vigilància i protecció que les companyies tecnològiques estiguin obligades a incorporar en els seus sistemes. Segons Gates, "ningú pensa que l'autoregulació sigui suficient", i és fonamental que els responsables polítics i les forces de seguretat participin en la definició d'aquestes mesures de protecció.

L'empresari també va advertir sobre els riscos que la tecnologia sigui utilitzada per cometre delictes o desenvolupar atacs informàtics. Gates va destacar que la combinació d'individus amb males intencions i eines avançades de IA podria portar a ciberatacs contra infraestructures crítiques. A més, existeix la preocupació que grups petits adquireixin capacitats que abans estaven reservades a grans Estats.

Malgrat aquests riscos, Gates no advoca per aturar el desenvolupament de la IA. En canvi, suggereix la implementació de sistemes de supervisió que permetin conèixer les accions dels models de IA mentre s'estableixen mesures de seguretat obligatòries. Aquest enfocament, segons Gates, podria suposar un cost addicional per a les empreses, però no frenaria significativament els seus avenços.

El desafiament, segons Gates, rau en aconseguir que governs i companyies adoptin criteris comuns en un context de competència tecnològica internacional. Gates considera que assolir acords globals sobre la regulació de la IA podria ser fins i tot més complex que les negociacions sobre armament nuclear durant la Guerra Freda. La qüestió fonamental és qui ha de supervisar les capacitats de la IA i fins on s'hauria de permetre que actuï sense intervenció humana.

Font: https://www.genbeta.com/inteligencia-artificial/bill-gates-70-anos-fundador-microsoft-advierte-ia-nunca-ha-existido-arma-poderosa-exige-limites-obligatorios-seguridad

Bill Gates, el fundador de Microsoft, ha lanzado una advertencia contundente sobre el uso de la inteligencia artificial (IA). En una reciente entrevista, Gates afirmó que «nunca ha existido un arma tan poderosa» como la IA, subrayando la necesidad de establecer límites obligatorios para su uso seguro. Gates argumenta que la velocidad a la que avanza la IA plantea desafíos significativos para controlar sus posibles usos maliciosos.

En su intervención, Gates enfatizó que confiar únicamente en las empresas tecnológicas para garantizar la seguridad de la IA ya no es suficiente. Propone que los gobiernos deben intervenir para establecer mecanismos de vigilancia y protección que las compañías tecnológicas estén obligadas a incorporar en sus sistemas. Según Gates, «nadie piensa que la autorregulación sea suficiente», y es fundamental que los responsables políticos y las fuerzas de seguridad participen en la definición de estas medidas de protección.

El empresario también advirtió sobre los riesgos de que la tecnología sea utilizada para cometer delitos o desarrollar ataques informáticos. Gates destacó que la combinación de individuos con malas intenciones y herramientas avanzadas de IA podría llevar a ciberataques contra infraestructuras críticas. Además, existe la preocupación de que grupos pequeños adquieran capacidades que antes estaban reservadas a grandes Estados.

A pesar de estos riesgos, Gates no aboga por detener el desarrollo de la IA. En cambio, sugiere la implementación de sistemas de supervisión que permitan conocer las acciones de los modelos de IA mientras se establecen medidas de seguridad obligatorias. Este enfoque, según Gates, podría suponer un coste adicional para las empresas, pero no frenaría significativamente sus avances.

El desafío, según Gates, radica en lograr que gobiernos y compañías adopten criterios comunes en un contexto de competencia tecnológica internacional. Gates considera que alcanzar acuerdos globales sobre la regulación de la IA podría ser incluso más complejo que las negociaciones sobre armamento nuclear durante la Guerra Fría. La cuestión fundamental es quién debe supervisar las capacidades de la IA y hasta dónde debería permitirse que actúe sin intervención humana.

Fuente: https://www.genbeta.com/inteligencia-artificial/bill-gates-70-anos-fundador-microsoft-advierte-ia-nunca-ha-existido-arma-poderosa-exige-limites-obligatorios-seguridad

Bill Gates, the founder of Microsoft, has issued a strong warning about the use of artificial intelligence (AI). In a recent interview, Gates stated that "there has never been a weapon as powerful" as AI, emphasising the need to establish mandatory limits for its safe use. Gates argues that the speed at which AI is advancing poses significant challenges in controlling its potential malicious uses.

In his speech, Gates stressed that relying solely on tech companies to ensure AI safety is no longer sufficient. He proposes that governments should step in to establish oversight and protection mechanisms that tech companies are obliged to incorporate into their systems. According to Gates, "nobody thinks self-regulation is enough," and it is essential for policymakers and security forces to be involved in defining these protective measures.

The entrepreneur also warned about the risks of the technology being used to commit crimes or develop cyberattacks. Gates highlighted that the combination of individuals with malicious intent and advanced AI tools could lead to cyberattacks against critical infrastructure. Moreover, there is concern that small groups could acquire capabilities that were previously reserved for large states.

Despite these risks, Gates does not advocate halting the development of AI. Instead, he suggests implementing monitoring systems that allow for understanding the actions of AI models while establishing mandatory security measures. This approach, according to Gates, could entail an additional cost for companies but would not significantly hinder their progress.

The challenge, according to Gates, lies in getting governments and companies to adopt common criteria in a context of international technological competition. Gates believes that reaching global agreements on AI regulation could be even more complex than the nuclear arms negotiations during the Cold War. The fundamental question is who should oversee AI capabilities and to what extent it should be allowed to operate without human intervention.

Source: https://www.genbeta.com/inteligencia-artificial/bill-gates-70-anos-fundador-microsoft-advierte-ia-nunca-ha-existido-arma-poderosa-exige-limites-obligatorios-seguridad