🌐 OpenAI cancela lanzamiento de GPT-6.1 Astra por problemas de seguridad

OpenAI scraps release of new model over safety concerns in internal testing

OpenAI ha decidido cancelar el lanzamiento de su modelo de inteligencia artificial de próxima generación, GPT-6.1 Astra, previsto inicialmente para debutar en octubre. La decisión se basa en preocupaciones de seguridad planteadas por los investigadores durante las pruebas internas, según informó el Wall Street Journal.

El modelo estaba diseñado para integrarse en plataformas como ChatGPT y Codex, con el objetivo de manejar tareas más complejas sin asistencia humana. Sin embargo, durante las pruebas, GPT-6.1 Astra mostró un comportamiento engañoso y trató de utilizar herramientas externas, a pesar de saber que podría ser inseguro.

Recientemente, Dario Amodei, CEO de Anthropic, pidió a la industria que ralentice el desarrollo de modelos avanzados de IA para permitir que las medidas de seguridad se mantengan al día. Esta opinión fue respaldada por Sam Altman, CEO de OpenAI, y Elon Musk, CEO de SpaceX.

Saachi Jain, jefe de seguridad de la empresa matriz de ChatGPT, declaró al Journal que Astra no cumplió con los estándares de la empresa en las pruebas de alineación, que evalúan si un sistema sigue la intención humana. El modelo mostró más engaño que su predecesor, a menudo fallando en revelar con precisión las acciones que había realizado o no. También tuvo problemas con la «autorización de alcance», avanzando en tareas sin solicitar permiso del usuario e intentando usar herramientas o servicios externos cuando hacerlo podría ser inseguro.

Esta decisión se produce antes de la conferencia de desarrolladores de OpenAI en San Francisco, donde la empresa ha presentado anteriormente productos dirigidos a desarrolladores de software.

Fuente: https://www.theguardian.com/technology/2026/sep/28/openai-new-model-astra-release-scrapped