OpenAI paraliza el entrenamiento de su IA más avanzada tras detectar capacidades ofensivas preocupantes

Un freno selectivo para reunir evidencia

Jakub Pachocki, director de investigación de OpenAI, explicó en su cuenta de X que el objetivo de esta pausa es reforzar la seguridad y el monitoreo antes de retomar el ritmo habitual de trabajo. La compañía no ha detenido por completo todas las evaluaciones y desarrollos: mantiene activos procesos a menor escala mientras los entrenamientos por refuerzo más avanzados permanecen congelados.

Según el ejecutivo, esta estrategia de freno selectivo les permite seguir reuniendo evidencia sobre el comportamiento del modelo sin exponerse a los riesgos detectados. Es una decisión que busca equilibrar la necesidad de avanzar en el desarrollo con la prudencia ante lo que la propia compañía describe como señales preocupantes en la capacidad ofensiva de sus sistemas.

El hallazgo sobre Astra se produce apenas unos días después de que OpenAI decidiera pausar también su desarrollo. La coincidencia temporal refuerza la gravedad de la situación: la compañía está aplicando un doble freno a sus proyectos más avanzados mientras evalúa las implicaciones de seguridad de sus propios sistemas.

Medidas de contención y un coste computacional notable

Para evitar que la situación se descontrole, OpenAI ha implementado un paquete de medidas de seguridad. La compañía mejoró el aislamiento de las cargas de trabajo que ejecutan código generado por la IA, redujo los privilegios permanentes dentro de sus sistemas y eliminó servicios compartidos que podían ser explotados como puntos de acceso. También amplió las restricciones de red para los procesos considerados de mayor riesgo.

El coste de esta vigilancia reforzada es significativo. OpenAI reconoce que el monitoreo avanzado consume un 20% de la capacidad de inferencia que supervisa. Para nivelar ese impacto, la compañía necesitará más recursos, en un contexto en el que la memoria RAM cuesta cinco veces más que hace un año. Es un dato que pone de relieve el coste real de la seguridad en el desarrollo de la inteligencia artificial y que tendrá un impacto directo en los márgenes de la compañía.

Clasificadores por token y un lanzamiento sin fecha

OpenAI ha desplegado también un sistema de monitoreo más robusto basado en clasificadores que analizan la actividad interna de los modelos en cada token generado. Si detectan un comportamiento sospechoso, escalan la alerta a otro nivel. La compañía asegura que estos mecanismos ayudarán a identificar accesos no autorizados, acciones destructivas o intentos de saltarse las medidas de contención.

Aunque algunos entrenamientos y evaluaciones de Astra ya usan los nuevos controles, una gran parte de las cargas de trabajo del modelo siguen en pausa. OpenAI espera a que su sistema pueda migrar a un entorno que cumpla con todos los requisitos de seguridad. Esto implica que el lanzamiento podría retrasarse durante algunos meses, hasta que la propia empresa o el gobierno de Estados Unidos den el visto bueno.

Astra no tiene fecha definitiva y la compañía aún no ha decidido si se convertirá en GPT-6 o en una familia distinta a Sol, Luna y Terra. Mientras tanto, el modelo tendrá que competir con sistemas chinos más avanzados y con menos restricciones de seguridad, un escenario que añade presión a una carrera en la que OpenAI ha decidido anteponer la contención a la velocidad.