El 'AI doom' lleva más de una década alertando de la extinción: de las cartas de 2015 a los libros de 2025

El origen del movimiento 'doomer'

El movimiento por la seguridad de la IA nació antes de que existieran los grandes laboratorios actuales. Sus primeras señales se remontan al año 2000, con la creación del Machine Intelligence Research Institute (MIRI), aunque no fue hasta 2005 cuando esta organización empezó a centrarse en los riesgos existenciales.

En 2009, uno de sus cofundadores, Eliezer Yudkowsky, impulsó LessWrong, una comunidad en la que la amenaza de una singularidad tecnológica se convirtió en una obsesión recurrente. En ese caldo de cultivo convivían el transhumanismo y el altruismo eficaz, dos corrientes de las que nació una visión muy concreta: la IA superaría inevitablemente a los humanos y, si no se construía alineada con nuestros objetivos, sería una amenaza.

Estas ideas pronto llegaron a las élites tecnológicas. En 2015, Elon Musk donó 10 millones de dólares en becas para formar investigadores centrados en construir una IA segura. Ese mismo año, Musk firmó un manifiesto junto a personalidades como Demis Hassabis, Geoffrey Hinton, Yann LeCun, Ilya Sutskever o Steve Wozniak, en el que se pedía que 'nuestros sistemas de inteligencia artificial deben hacer lo que nosotros queramos que hagan'.

El catastrofismo se acelera tras ChatGPT

El discurso catastrofista vivió una etapa tranquila durante varios años, pero en 2023 explotó con fuerza. La publicación de GPT-4 coincidió con la difusión de dos cartas abiertas. La primera, también a través del Future of Life, pedía pausar durante al menos seis meses el entrenamiento de modelos más potentes. La segunda, firmada por la ONG Center for AI Safety, introdujo el término 'extinción'.

La frase exacta de esa segunda carta decía: 'Mitigar el riesgo de extinción por la IA debería ser una prioridad mundial, junto con otros riesgos a escala social como las pandemias y la guerra nuclear'. Entre los firmantes estaban Geoffrey Hinton, Dario Amodei, Demis Hassabis y Sam Altman.

Solo unos meses después, en enero de 2025, se publicó una tercera carta abierta. En esta ocasión no se pedía una pausa, sino una actuación directa para frenar los riesgos de una IA que supere a los humanos. Entre los firmantes se encontraban Sam Altman, Demis Hassabis, Dario Amodei y la directora de operaciones de OpenAI, Brad Lightcap.

El libro de 2025 y las voces que siguen insistiendo

A lo largo de 2025, dos de las figuras más destacadas del movimiento 'doomer', Eliezer Yudkowsky y Nate Soares, fundador y presidente del MIRI respectivamente, publicaron el libro 'If Anyone Builds It, Everyone Dies: Why Superhuman AI Would Kill Us All'. El título es una prueba de cómo el discurso se ha vuelto cada vez más alarmista con el paso de los años.

Yudkowsky y Soares llevan más de una década repitiendo consignas similares: una IA que inevitablemente superará al ser humano, un riesgo existencial que exige acción inmediata y un pequeño grupo que asegura tener un plan para evitar el apocalipsis. El propio Yudkowsky se ha movido en estos círculos desde el inicio.

También ha sido relevante la figura de Evan Hubinger, responsable de seguridad en Anthropic. Hubinger trabajó en el MIRI antes de llegar al Center for AI Safety, la ONG que publicó la carta de 2023. Su posición actual le da cierta autoridad para hablar del tema, pero su trayectoria está íntimamente ligada a este movimiento.

Sin embargo, hay voces que piden prudencia. Incidentes como los de OpenAI y Hugging Face han demostrado que los modelos pueden causar daños y que alinearlos con nuestros objetivos es crucial. Pero de ahí a hablar de extinción en menos de 10 años, hay un trecho. De hecho, este tipo de mensajes apocalípticos atraen mucha atención, pero también pueden desviarla de los riesgos reales y más inmediatos de la tecnología.