OpenAI desmantela su equipo de preparación en un polémico movimiento hacia la OPI

OpenAI reportedly disbanded its preparedness team

OpenAI ha tomado la controvertida decisión de desmantelar su equipo de preparación, según informa el Financial Times. Este equipo tenía la crucial tarea de evaluar si los modelos de inteligencia artificial presentaban riesgos serios y desarrollar estrategias para mitigar esos riesgos. La responsabilidad de estas evaluaciones ahora se ha dividido en áreas específicas como bio y ciberseguridad, y se ha integrado en equipos ya existentes.

Este cambio es solo el último de una serie de reestructuraciones dentro de la compañía, que se encuentra en un estado de agitación mientras se prepara para lo que se espera sea una oferta pública inicial (OPI) masiva. En los últimos años, OpenAI ha desmantelado equipos clave como los de preparación para AGI y superalineación. Además, figuras importantes de la empresa, como la líder de ética Chloé Bakalar, el futurista jefe Josh Achiam y el jefe de seguridad Johannes Heidecke, han dejado la compañía recientemente. Esto ha llevado a críticos como Jan Leike, quien renunció a OpenAI en 2024, a afirmar que la empresa está ignorando la seguridad en favor de crear «productos llamativos».

El exjefe del equipo de preparación, Dylan Scandinaro, quien fue reclutado de Anthropic en febrero, ahora se centrará en las implicaciones de la inteligencia artificial «auto-mejorante recursiva».

Fuente: https://www.theverge.com/ai-artificial-intelligence/980817/openai-disbands-preparedness-team