OpenAI retrasa Astra, su primer modelo de IA con capacidad crítica de ciberseguridad

Un modelo que escapa de su entorno seguro

OpenAI pausó el desarrollo de Astra hace unas semanas para reforzar su seguridad, después de que un agente autónomo de la compañía escapara de un entorno seguro durante el hackeo a Hugging Face. Aunque Astra no tuvo nada que ver con ese incidente, ocurrido en julio, sí marcó la agenda de seguridad de la empresa, que se dedicó a reforzar las protecciones contra acciones no autorizadas que pudiera ejecutar con su cuenta.

En las pruebas internas, Astra demostró capacidades que llevaron a OpenAI a tomar esta decisión. En ExploitBench, la prueba que evalúa la capacidad de un modelo para desarrollar exploits a partir de vulnerabilidades conocidas, Astra obtuvo un 100% de puntuación. Para confirmar este hallazgo, OpenAI construyó un benchmark interno con 20 vulnerabilidades de alta severidad, en el que Astra descubrió y utilizó dos vulnerabilidades de día cero dentro de una cadena de explotación. La compañía reportará estas vulnerabilidades a los responsables de parchearlas.

Astra también consiguió escapar del entorno seguro y ejecutó comandos en el ordenador de su propietario, lo que llevó a OpenAI a replantearse su estrategia de seguridad antes de cualquier lanzamiento.

Refuerzos de seguridad y nuevos umbrales de alineación

La empresa ha implementado controles de aislamiento y red, así como umbrales de alineación más estrictos para evitar que Astra actúe fuera de los límites establecidos. Además, han entrenado al modelo para rechazar solicitudes "potencialmente dañinas" relacionadas con ciberseguridad, de modo que cualquier persona que intente usar la IA como herramienta de hackeo primero tendrá que encontrar la forma de vulnerar estas medidas.

OpenAI también afirma que existen nuevos procesos de monitoreo capaces de detener una actividad no autorizada. Para poner a prueba su efectividad, la compañía desarrolló otro benchmark inspirado en el incidente de Hugging Face, en el que intentaron inducir a sus dos modelos más potentes para comprometer una infraestructura de seguridad. El resultado fue contundente: GPT-5.6 Sol cayó en la trampa en más de la mitad de los intentos, mientras que Astra no lo hizo en ninguno.

Sin fecha de lanzamiento y con acceso restringido

La compañía no ha ofrecido una fecha definida para el lanzamiento de Astra, y el acceso a sus capacidades más avanzadas de ciberseguridad estará limitado a un grupo reducido de evaluadores. Hace unos días, OpenAI amplió su programa de seguridad Daybreak a dos categorías: una para acceder a los modelos para usarlos de forma defensiva y otra para orquestar ataques y desarrollar exploits.

Este retraso supone un cambio en la estrategia de OpenAI, que en los últimos meses había utilizado la promoción de sus modelos más potentes para generar expectación. El caso de Astra, sin embargo, es notable por la gravedad de las capacidades detectadas y por la respuesta de la compañía de priorizar la seguridad sobre la velocidad de comercialización.