Las grandes empresas de IA ensayan en privado su respuesta ante un ciberataque catastrófico que prevén para 2027

Simulaciones con escenarios de ataque a infraestructuras críticas

Las quinielas internas de las empresas de inteligencia artificial apuntan a un evento catastrófico en forma de ciberataque que dejaría sin servicios financieros, conexión a internet, electricidad o agua. Según fuentes anónimas citadas por Axios, ese escenario podría materializarse en los próximos 6 a 12 meses, es decir, en 2027.

Ante esa perspectiva, los equipos de Anthropic, OpenAI y otras compañías están planificando escenarios postcatastróficos con un enfoque similar al del Pentágono. Las simulaciones incluyen enjambres de agentes que escapan de un entorno de pruebas o actores maliciosos que encuentran usos inesperados para los modelos disponibles. OpenAI ha confirmado a Axios que ejecuta ejercicios de preparación, aunque no da el desastre por inevitable. Anthropic no ha querido hacer comentarios.

Esta semana, la actualidad ha dado munición a esos temores: OpenAI ha frenado el entrenamiento de sus modelos por haberse salido de control y su consejero delegado, Sam Altman, ha reconocido que algunas consecuencias negativas son inevitables. Un precedente citado en la información es el ataque protagonizado por agentes de OpenAI contra la plataforma Hugging Face, un ejemplo de cómo un entorno de pruebas puede convertirse en una vía de escape.

El reto pendiente: formar al Congreso de EEUU y sembrar el terreno regulatorio

Más allá de los ejercicios técnicos, el gran trabajo pendiente es pedagógico: advertir y formar al Congreso de Estados Unidos. Con las elecciones de mitad de mandato a la vista, las grandes empresas del sector asumen que no habrá una nueva ley a corto plazo, por lo que su objetivo es quedar bien posicionadas cuando llegue la regulación, algo que según sus previsiones ocurrirá antes de las elecciones presidenciales de 2028.

Entre las medidas que se barajan en el debate público están la prohibición de la superinteligencia que promueve el senador Bernie Sanders, la pausa en el desarrollo de la IA avanzada o la imposición de un apagado de emergencia para todos los sistemas. Sin embargo, esa última opción no parece viable. Bill Gates, cofundador de Microsoft, subraya que un kill switch implicaría que ya ha sucedido algo malo y añade que la autorregulación tampoco es suficiente, porque no se fía de que las propias empresas sean capaces de controlar los riesgos.

El contexto regulatorio es complejo. La UE, que fue pionera en legislar la IA, ha ido demorando y suavizando el tono de sus normas para no quedarse descolgada. En EEUU, el Congreso está envejecido y poco familiarizado con la tecnología, y la economía está muy ligada a la infraestructura de la IA, lo que dificulta una regulación firme sin estrangular el sector.

La respuesta de los expertos: combatir la IA con IA

Los expertos en ciberseguridad consultados por Axios apuntan a una solución: usar la inteligencia artificial para luchar contra la IA maliciosa. El problema de fondo, señalan, es que existen muchos modelos de pesos abiertos que cualquiera puede descargar y emplear para causar daño, algo que no tiene vuelta atrás.

Poner una valla a esos modelos abiertos implicaría otro riesgo: concentrar un gran poder, el de la IA, en unas pocas manos. Así lo apunta la información, que subraya que el equilibrio entre seguridad y apertura es uno de los grandes dilemas del sector.

Un ataque de esa envergadura sobre infraestructura crítica se traduciría en más desconfianza hacia la tecnología y en que sus líderes pasaran a ser vistos casi como villanos. También salpicaría a la clase política dirigente por no haber puesto freno a tiempo. Las fuentes citadas por Axios consideran que la sociedad tiene una patata caliente entre las manos: una IA cada vez más capaz y unos mecanismos legislativos insuficientes para minimizar riesgos.

Para las empresas, el objetivo a medio plazo es claro: haber sembrado su semilla para cuando lleguen las nuevas leyes y políticas, algo que según sus quinielas ocurrirá antes de las elecciones presidenciales de 2028. Mientras tanto, la preparación técnica y pedagógica sigue su curso, con el Pentágono como modelo de planificación de escenarios extremos.