Amodei pide frenar la IA y todos asienten, pero nadie se atreve a ser el primero en soltar el acelerador

El respaldo unánime a la prudencia (y sus límites)

La llamada de Amodei a desacelerar el desarrollo de modelos de IA frontera ha sido recogida por las principales voces del sector. Altman y Musk han respaldado la idea; Hassabis y Nadella también se han pronunciado a favor de una reflexión colectiva. El argumento del CEO de Anthropic es que una pausa permitiría estudiar los riesgos antes de que la tecnología alcance niveles potencialmente incontrolables. Un discurso que, en principio, suena razonable.

Pero el propio Amodei reconoce que su propuesta encierra un dilema difícil de resolver: qué hacer con China. Si las empresas estadounidenses ralentizan su ritmo de entrenamiento y los laboratorios chinos siguen avanzando, EE. UU. perdería ventaja en una tecnología cada vez más estratégica, con posibles aplicaciones militares. Un escenario que el presidente de EE. UU., Donald Trump, ha rechazado de plano: según él, frenar no es posible porque 'quien gane la IA, gana'. Trump no descarta diseñar salvaguardas, pero se niega a frenar el desarrollo si eso permite a China recortar distancias o incluso superar a su país.

La respuesta de Pekín no es muy distinta. El presidente chino, Xi Jinping, ha pedido un marco global de gobernanza de la IA 'basado en el consenso', y ha presentado la propuesta a los países BRICS (Brasil, Rusia, India y China). Además, plantea crear una comunidad de IA de código abierto dentro de ese bloque. En la práctica, el discurso chino es similar al estadounidense, aunque ambos evitan decirlo con claridad: ambos quieren reglas, pero también quieren ser los primeros en llegar a la meta.

El dilema del prisionero aplicado a los laboratorios de IA

El problema no es solo geopolítico; también afecta a las propias empresas. Si varias compañías decidieran conjuntamente no competir, podrían surgir preguntas regulatorias antimonopolio. Y si una sola decide frenar, el resto aprovecharía el tiempo para adelantarla. El analista Ben Bajarin apunta que los grandes laboratorios no necesariamente dejarán de desarrollar modelos cada vez más avanzados: simplemente limitarán quién puede utilizarlos. Habrá modelos frontera de ciberseguridad reservados para gobiernos y grandes empresas, mientras que el resto de la industria seguirá su curso.

Esta dinámica convierte la llamada de Amodei en un gesto que el crítico David Sacks considera vacío: si realmente quieren ir más despacio, pueden hacerlo sin esperar una regulación. Anthropic, que podría retrasar su próximo Claude sin que nadie lo impida, tendría que asumir que OpenAI, Google, xAI, Meta o los laboratorios chinos aprovecharían ese margen para alcanzarla y superarla. En otras palabras: todos quieren ser prudentes, pero ninguno está dispuesto a comprometerse en solitario.

El dilema del prisionero clásico: dos personas pueden no cooperar incluso si ello va en contra del interés de ambas. Con la IA, el problema es que controlar el ritmo de entrenamiento es mucho más complicado que verificar misiles o cabezas nucleares. Durante la Guerra Fría, EE. UU. y la Unión Soviética podían establecer mecanismos de inspección. Con la IA, el acceso a chips o energía permite plantear puntos de control, pero el software mejora, los algoritmos son cada vez más eficientes y los modelos pueden entrenarse en sistemas distribuidos. Que EE. UU. confíe sin más en China y viceversa parece realmente difícil.

Un freno que quizá nunca llegue

La propuesta de Amodei ha abierto un debate necesario, pero las posibilidades de que se traduzca en medidas concretas son escasas. El propio discurso del CEO de Anthropic ha sido calificado por un periódico estatal chino de táctica de la Guerra Fría, y otros lo comparan con las técnicas de las instituciones religiosas para controlar a sus fieles. La sospecha es que frenar puede ser, en realidad, una forma de cerrar la puerta a otros.

Mientras tanto, la carrera continúa. Y lo hace con un punto de partida contradictorio: todos los actores reconocen los riesgos, pero ninguno está dispuesto a dar el primer paso si eso supone quedarse atrás. La paradoja es que, en el intento de protegerse mutuamente, la industria puede estar acelerando hacia el escenario que todos dicen querer evitar. Amodei ha puesto el debate sobre la mesa, pero la respuesta de sus colegas demuestra que el consenso verbal está muy lejos de convertirse en un acuerdo real.