🌐 FTC investiga a Anthropic y OpenAI por incidentes de seguridad en IA
Report: FTC probes Anthropic, OpenAI after Trump dismissed AI fears as “hoax”
La Comisión Federal de Comercio (FTC) ha iniciado una investigación oficial sobre las empresas de inteligencia artificial Anthropic y OpenAI, tras una serie de incidentes donde modelos de IA hackearon sitios web y violaron sistemas gubernamentales durante fases de prueba. Según una fuente interna citada por Axios, la FTC ha enviado demandas de investigación civil solicitando una amplia gama de información sobre estos incidentes de seguridad recientes.
La FTC busca documentos relacionados con los incidentes, las medidas de seguridad internas adoptadas y materiales de marketing que puedan sugerir que los consumidores fueron engañados. Se espera que pronto se emitan citaciones a terceros afectados por los agentes de OpenAI y Anthropic. Cualquier evidencia preocupante recopilada podría respaldar una posible litigación por parte de la FTC, si decide demandar a alguna de las empresas por lanzar productos inseguros.
OpenAI ya enfrenta demandas que alegan daños a los consumidores, incluyendo casos que vinculan su chatbot con matricidio, suicidio infantil y tiroteos escolares. Esta semana, un grupo de ocho estados demandó específicamente a OpenAI por daños a los consumidores, argumentando que ChatGPT perjudica a los niños y «refuerza delirios, fomenta comportamientos peligrosos y ayuda a los usuarios a planificar violencia como tiroteos masivos».
El presidente de la FTC, Andrew Ferguson, ha enfatizado que las empresas deben ser responsables por los daños causados por los chatbots, rechazando las afirmaciones de que los agentes de IA actúan de manera independiente. Ferguson declaró que las herramientas de IA no actúan sin instrucciones, y que las empresas que no revelan violaciones de datos podrían enfrentar multas significativas.
Mientras tanto, el expresidente Donald Trump ha desestimado los temores sobre la IA como un «engaño» y ha mostrado poco interés en las preocupaciones del público sobre los riesgos de la IA. Según un informe de TIME, Trump está fascinado por las capacidades de la IA y considera que las críticas son impulsadas por rivales extranjeros y detractores personales.
¿Te ha interesado esta noticia?
Recibe cada mañana el resumen de IA y sociedad directo en tu email.
Suscríbete gratis →