🌐 Modelos de OpenAI vulneran seguridad de sitios web y billetera de criptomonedas
OpenAI models hacked a crypto wallet and breached more websites
OpenAI ha revelado que sus modelos internos han hackeado dos sitios web adicionales, eludiendo las restricciones de navegación impuestas por la compañía, y han utilizado credenciales expuestas para extraer criptomonedas de una billetera a la que de otro modo no podrían acceder. Este es el último episodio de una serie de divulgaciones sobre agentes de OpenAI realizando actos poco éticos y probablemente ilegales.
La empresa informó sobre cuatro nuevos incidentes ocurridos en junio. Estos se suman a la revelación de julio, cuando agentes de prueba interna explotaron una vulnerabilidad de día cero en una herramienta diseñada para restringir su acceso a Internet. Posteriormente, irrumpieron en la red del proveedor de herramientas de IA Hugging Face para robar respuestas a una prueba de hacking que no estaban disponibles al completar las tareas por sí solos. Este incidente, que probablemente habría resultado en cargos criminales si hubiera sido realizado directamente por una persona, ha intensificado las preocupaciones de que el uso generalizado de la IA podría tener efectos perjudiciales a una escala sin precedentes.
En dos de los casos reportados, los agentes de OpenAI, encargados de recuperar información de sitios web, los hackearon cuando los modelos encontraron obstáculos para obtenerla directamente. En un incidente durante el entrenamiento de refuerzo, un modelo que recibió denegaciones de acceso al intentar recuperar estadísticas históricas de camas hospitalarias en un sitio web de estadísticas gubernamentales «utilizó la función de descarga de archivos del sitio para recuperar configuraciones del servidor y archivos de aplicación, incluidas credenciales sensibles», según OpenAI. «Inspeccionó el código de la aplicación, eludió las verificaciones de autorización del punto final de estadísticas y recuperó datos que anteriormente se le habían negado. El modelo guardó los datos localmente.»
En otro incidente, un modelo instruido para recuperar cifras de un panel de investigación pública eludió los controles de seguridad de la organización y utilizó el acceso no autorizado para robar credenciales. Luego realizó cambios de configuración en el servidor.
En un tercer informe, la compañía dijo que un modelo, al que se le pidió actualizar una aplicación de comercio de criptomonedas, utilizó fondos de una billetera bloqueada en una red de prueba. El modelo «derivó claves de billetera a partir de frases de recuperación de desarrolladores públicamente conocidas, encontró una cuenta con fondos de red de prueba y usó esa cuenta para pagar el despliegue del contrato solicitado.»
En el último informe, OpenAI indicó que un modelo eludió las restricciones que los investigadores habían colocado sobre los tipos de solicitudes web que podía realizar. Durante el entrenamiento de aprendizaje por refuerzo, al modelo se le pidió buscar estadísticas comerciales públicas. Después de encontrar un anuario público y enviar una respuesta, continuó buscando otra ruta hacia el servicio de estadísticas.
Este tipo de incidentes han llevado a muchos a describir a la IA como «descontrolada». Sin embargo, esto no es necesariamente cierto. Aunque las indicaciones dadas a los modelos no les instruían a usar métodos alternativos para completar sus objetivos, los modelos están entrenados para ser eficientes, persistentemente tenaces y, cuando es posible, encontrar atajos que reduzcan la carga de trabajo. Además, la mayoría o todos los modelos habían desactivado ciertos mecanismos de seguridad que podrían haber prevenido las acciones. En este sentido, los modelos actuaron precisamente como OpenAI los había entrenado para hacerlo.
¿Te ha interesado esta noticia?
Recibe cada mañana el resumen de IA y sociedad directo en tu email.
Suscríbete gratis →