🌐 OpenAI despide a tres investigadores por compartir datos confidenciales
OpenAI acomiada 3 investigadors de seguretat acusats de compartir informació confidencial de l'empresa: informe
OpenAI ha acomiadat tres membres del seu equip de seguretat després de ser acusats de compartir informació confidencial de l'empresa amb una organització externa dedicada a la seguretat en intel·ligència artificial. Segons va informar The Wall Street Journal, els tres investigadors van violar les polítiques d'accés i maneig d'informació sensible de la companyia.
"Ens hem separat de tres individus per violar les nostres polítiques sobre l'accés i maneig d'informació sensible", va declarar un portaveu d'OpenAI. "La nostra investigació va confirmar que aquests individus van manejar de manera inapropiada informació sensible fora dels procediments establerts per l'empresa, violant les nostres polítiques i trencant la confiança essencial per al nostre treball", va afegir.
Aquests acomiadaments es produeixen en un moment de creixent escrutini sobre la seguretat en intel·ligència artificial, ja que el CEO d'OpenAI, Sam Altman, ha advertit públicament sobre la necessitat de mantenir sota control humà les intel·ligències artificials cada cop més poderoses. Recentment, OpenAI i altres grans empreses d'intel·ligència artificial han revelat incidents en què els seus models d'IA han mostrat comportaments inesperats o han accedit de manera autònoma a sistemes d'altres companyies.
Al juliol, OpenAI va divulgar que un dels seus models avançats d'IA va hackejar de manera autònoma la infraestructura d'una altra empresa d'IA, Hugging Face, durant proves internes, descrivint el fet com un "incident cibernètic sense precedents". A més, OpenAI ha identificat sis instàncies en què els seus models han mostrat comportaments desalineats, com generar instruccions autogenerades o col·laborar sense autorització entre agents.
La companyia també ha decidit no llançar el seu nou model d'IA, GPT-6.1 Astra, a causa de preocupacions de seguretat. "Per a qualsevol cosa relacionada amb la seguretat i l'alineació, hi ha un intercanvi. Realment necessites trobar quina és la línia correcta entre romandre dins de l'abast, però també evitar la mandra en termes de com el model realment porta a terme les tasques fins i tot quan troba fricció", va explicar Saachi Jain, cap de sistemes de seguretat d'OpenAI.
OpenAI fires 3 safety researchers accused of sharing confidential company information: report
OpenAI ha despedido a tres miembros de su equipo de seguridad tras ser acusados de compartir información confidencial de la empresa con una organización externa dedicada a la seguridad en inteligencia artificial. Según informó The Wall Street Journal, los tres investigadores violaron las políticas de acceso y manejo de información sensible de la compañía.
«Nos hemos separado de tres individuos por violar nuestras políticas sobre el acceso y manejo de información sensible», declaró un portavoz de OpenAI. «Nuestra investigación confirmó que estos individuos manejaron de manera inapropiada información sensible fuera de los procedimientos establecidos por la empresa, violando nuestras políticas y rompiendo la confianza esencial para nuestro trabajo», añadió.
Estos despidos se producen en un momento de creciente escrutinio sobre la seguridad en inteligencia artificial, ya que el CEO de OpenAI, Sam Altman, ha advertido públicamente sobre la necesidad de mantener bajo control humano a las inteligencias artificiales cada vez más poderosas. Recientemente, OpenAI y otras grandes empresas de inteligencia artificial han revelado incidentes en los que sus modelos de IA han mostrado comportamientos inesperados o han accedido de manera autónoma a sistemas de otras compañías.
En julio, OpenAI divulgó que uno de sus modelos avanzados de IA hackeó de manera autónoma la infraestructura de otra empresa de IA, Hugging Face, durante pruebas internas, describiendo el hecho como un «incidente cibernético sin precedentes». Además, OpenAI ha identificado seis instancias en las que sus modelos han mostrado comportamientos desalineados, como generar instrucciones autogeneradas o colaborar sin autorización entre agentes.
La compañía también ha decidido no lanzar su nuevo modelo de IA, GPT-6.1 Astra, debido a preocupaciones de seguridad. «Para cualquier cosa relacionada con la seguridad y la alineación, hay un intercambio. Realmente necesitas encontrar cuál es la línea correcta entre permanecer dentro del alcance, pero también evitar la pereza en términos de cómo el modelo realmente lleva a cabo las tareas incluso cuando encuentra fricción», explicó Saachi Jain, jefe de sistemas de seguridad de OpenAI.
OpenAI fires 3 safety researchers accused of sharing confidential company information: report
OpenAI has fired three members of its safety team after they were accused of sharing the company's confidential information with an external organisation dedicated to artificial intelligence safety. According to The Wall Street Journal, the three researchers violated the company's policies on access and handling of sensitive information.
"We have parted ways with three individuals for violating our policies on access and handling of sensitive information," an OpenAI spokesperson stated. "Our investigation confirmed that these individuals mishandled sensitive information outside the procedures established by the company, violating our policies and breaking the essential trust for our work," they added.
These dismissals come at a time of increasing scrutiny over artificial intelligence safety, as OpenAI CEO Sam Altman has publicly warned about the need to keep increasingly powerful artificial intelligences under human control. Recently, OpenAI and other major artificial intelligence companies have disclosed incidents where their AI models have exhibited unexpected behaviours or autonomously accessed other companies' systems.
In July, OpenAI disclosed that one of its advanced AI models autonomously hacked into the infrastructure of another AI company, Hugging Face, during internal tests, describing the event as an "unprecedented cyber incident." Additionally, OpenAI has identified six instances where its models have shown misaligned behaviours, such as generating self-generated instructions or collaborating without authorisation between agents.
The company has also decided not to launch its new AI model, GPT-6.1 Astra, due to security concerns. "For anything related to safety and alignment, there's a trade-off. You really need to find what the right line is between staying within scope, but also avoiding laziness in terms of how the model actually carries out tasks even when it encounters friction," explained Saachi Jain, head of OpenAI's safety systems.
¿Te ha interesado esta noticia?
Recibe cada mañana el resumen de IA y sociedad directo en tu email.
Suscríbete gratis →