JPMorgan alerta sobre aumento de riesgos cibernéticos con IA de Anthropic

En un món on la intel·ligència artificial (IA) avança a passos de gegant, els riscos de ciberseguretat han assolit nivells alarmants. Jamie Dimon, conseller delegat de JPMorgan Chase, ha alertat sobre l'increment exponencial de les amenaces cibernètiques en l'era de la IA, afirmant que el risc s'ha multiplicat per deu des de l'arribada de Mythos, el model de intel·ligència artificial desenvolupat per Anthropic.

Dimon, en una entrevista recent amb Bloomberg, va destacar que la ciberseguretat tradicional s'enfronta a un desafiament sense precedents a causa de les noves capacitats de les intel·ligències artificials. Mythos, presentat a l'abril d'aquest any, ha estat assenyalat per la seva habilitat per trobar i explotar vulnerabilitats que abans eren desconegudes. Anthropic, l'empresa darrere de Mythos, ha advertit que el seu model supera gairebé tots els humans en la detecció i combat de vulnerabilitats, cosa que ha generat una narrativa de por al voltant del seu ús potencial en mans equivocades.

JPMorgan, com un dels pocs participants del programa Glasswing d'Anthropic, ha tingut accés a Mythos per avaluar les seves pròpies defenses. Dimon ha emfasitzat que en aquesta nova era, la ciberseguretat és una prioritat màxima, comparant l'accés universal a aquestes tecnologies amb "entregar míssils balístics a qualsevol".

La situació es complica encara més amb la competència entre empreses d'IA com Anthropic i OpenAI, que utilitzen la por com a estratègia de màrqueting mentre llancen models cada vegada més avançats. Aquesta política de la por s'acompanya de la venda d'eines de protecció, creant una paradoxa similar a la d'un fabricant de bombes nuclears que també ven búnquers per protegir-se d'elles.

En aquest context, Anthropic ha ampliat l'accés al seu model més avançat a organitzacions internacionals, permetent la detecció de milers de vulnerabilitats crítiques que ara estan sent corregides. No obstant això, s'estima que altres companyies desenvoluparan models comparables en els pròxims sis a dotze mesos, cosa que augmenta la pressió sobre els seus socis per protegir els seus sistemes a temps.

Malgrat les advertències, Dimon i altres experts insisteixen que aquestes eines, encara que avançades, continuen sent controlables. El veritable problema sorgeix quan aquestes tecnologies "escapen" al control dels seus creadors, com s'ha vist en incidents recents entre OpenAI i Austràlia.

Font: https://www.xataka.com/seguridad/riesgos-ciberseguridad-era-ia-se-han-multiplicado-10-jpmorgan

En un mundo donde la inteligencia artificial (IA) avanza a pasos agigantados, los riesgos de ciberseguridad han alcanzado niveles alarmantes. Jamie Dimon, consejero delegado de JPMorgan Chase, ha alertado sobre el incremento exponencial de las amenazas cibernéticas en la era de la IA, afirmando que el riesgo se ha multiplicado por diez desde la llegada de Mythos, el modelo de inteligencia artificial desarrollado por Anthropic.

Dimon, en una entrevista reciente con Bloomberg, destacó que la ciberseguridad tradicional se enfrenta a un desafío sin precedentes debido a las nuevas capacidades de las inteligencias artificiales. Mythos, presentado en abril de este año, ha sido señalado por su habilidad para encontrar y explotar vulnerabilidades que antes eran desconocidas. Anthropic, la empresa detrás de Mythos, ha advertido que su modelo supera a casi todos los humanos en la detección y combate de vulnerabilidades, lo que ha generado una narrativa de miedo en torno a su uso potencial en manos equivocadas.

JPMorgan, como uno de los pocos participantes del programa Glasswing de Anthropic, ha tenido acceso a Mythos para evaluar sus propias defensas. Dimon ha enfatizado que en esta nueva era, la ciberseguridad es una prioridad máxima, comparando el acceso universal a estas tecnologías con «entregar misiles balísticos a cualquiera».

La situación se complica aún más con la competencia entre empresas de IA como Anthropic y OpenAI, que utilizan el miedo como estrategia de marketing mientras lanzan modelos cada vez más avanzados. Esta política del miedo se acompaña de la venta de herramientas de protección, creando una paradoja similar a la de un fabricante de bombas nucleares que también vende búnkeres para protegerse de ellas.

En este contexto, Anthropic ha ampliado el acceso a su modelo más avanzado a organizaciones internacionales, permitiendo la detección de miles de vulnerabilidades críticas que ahora están siendo parcheadas. Sin embargo, se estima que otras compañías desarrollarán modelos comparables en los próximos seis a doce meses, lo que aumenta la presión sobre sus socios para proteger sus sistemas a tiempo.

A pesar de las advertencias, Dimon y otros expertos insisten en que estas herramientas, aunque avanzadas, siguen siendo controlables. El verdadero problema surge cuando estas tecnologías «escapan» al control de sus creadores, como se ha visto en incidentes recientes entre OpenAI y Australia.

Fuente: https://www.xataka.com/seguridad/riesgos-ciberseguridad-era-ia-se-han-multiplicado-10-jpmorgan

In a world where artificial intelligence (AI) is advancing by leaps and bounds, cybersecurity risks have reached alarming levels. Jamie Dimon, CEO of JPMorgan Chase, has warned about the exponential increase in cyber threats in the AI era, stating that the risk has multiplied tenfold since the arrival of Mythos, the artificial intelligence model developed by Anthropic.

Dimon, in a recent interview with Bloomberg, highlighted that traditional cybersecurity is facing an unprecedented challenge due to the new capabilities of artificial intelligences. Mythos, introduced in April this year, has been noted for its ability to find and exploit vulnerabilities that were previously unknown. Anthropic, the company behind Mythos, has warned that its model surpasses almost all humans in detecting and combating vulnerabilities, which has generated a narrative of fear around its potential use in the wrong hands.

JPMorgan, as one of the few participants in Anthropic's Glasswing programme, has had access to Mythos to assess its own defences. Dimon has emphasised that in this new era, cybersecurity is a top priority, comparing universal access to these technologies to "handing ballistic missiles to anyone".

The situation is further complicated by the competition between AI companies like Anthropic and OpenAI, which use fear as a marketing strategy while launching increasingly advanced models. This fear policy is accompanied by the sale of protection tools, creating a paradox similar to that of a nuclear bomb manufacturer also selling bunkers to protect against them.

In this context, Anthropic has expanded access to its most advanced model to international organisations, allowing the detection of thousands of critical vulnerabilities that are now being patched. However, it is estimated that other companies will develop comparable models in the next six to twelve months, increasing the pressure on their partners to protect their systems in time.

Despite the warnings, Dimon and other experts insist that these tools, although advanced, remain controllable. The real problem arises when these technologies "escape" the control of their creators, as seen in recent incidents between OpenAI and Australia.

Source: https://www.xataka.com/seguridad/riesgos-ciberseguridad-era-ia-se-han-multiplicado-10-jpmorgan