Diario de la Innovación

inteligencia-artificial

Anthropic bloquea intentos de usar su IA para crear armas biológicas y convencionales

Fotografía que ilustra la noticia: Anthropic bloquea intentos de usar su IA para crear armas biológicas y convencionales
(El Español)

Anthropic ha detectado y bloqueado varios intentos de utilizar su modelo Claude para investigaciones que podrían facilitar el desarrollo de armas biológicas y convencionales. La compañía ha confirmado que algunos usuarios emplearon técnicas para ocultar el propósito real de sus solicitudes, lo que llevó a la suspensión de sus cuentas. Los incidentes, que incluyen un caso relacionado con el virus chikungunya, han reavivado el debate sobre el doble uso de la inteligencia artificial en investigación científica y defensa.

Por

El caso del virus chikungunya

Uno de los episodios más preocupantes detectados por Anthropic está relacionado con el virus chikungunya, una enfermedad infecciosa que se transmite principalmente por la picadura de mosquitos y que provoca fiebre y fuertes dolores articulares. Según la fuente, en mayo pasado un científico pidió a Claude ayuda para preparar una solicitud de financiación destinada a un proyecto de "ganancia de función". El objetivo declarado era introducir mutaciones en el virus mediante su transmisión repetida entre animales para hacerlo más dañino.

Aunque Anthropic no ha desvelado el origen de la petición, la empresa señaló que el hecho de que la investigación pudiera estar destinada a un instituto militar elevó las alarmas. La compañía no puede determinar si la intención final era legítima o maliciosa, porque la investigación biológica es de "doble uso": puede servir para vacunas y avances médicos, pero también para crear patógenos peligrosos. Esta ambigüedad es lo que hace especialmente complicado prevenir este tipo de usos, según admite la propia empresa.

Armas convencionales y vigilancia en China, Rusia y Yemen

Los intentos de utilizar Claude para fines malintencionados no se limitan al ámbito biológico. Anthropic ha confirmado la detección de usos de su IA para el diseño y desarrollo de armas convencionales, incluyendo armas de fuego, misiles, drones armados y bombas. Aunque la compañía no detalla el origen preciso de estos casos, sí ha revelado la distribución geográfica: tres se produjeron en China, dos en Rusia y uno en Yemen, país mayoritariamente dominado por los hutíes, una milicia chií aliada de Irán.

Además, Anthropic ha identificado a actores vinculados a los gobiernos chino e iraní utilizando sus modelos para vigilar a disidentes y miembros de sus diásporas. También se ha constatado que medios estatales rusos han empleado Claude para generar propaganda presentada como información independiente, incluso con afirmaciones falsas sobre las elecciones de Moldavia. La compañía ha subrayado que algunos científicos utilizaron técnicas para ocultar el verdadero propósito de sus investigaciones y acceder a los modelos pese a las restricciones geográficas, lo que añade una capa adicional de dificultad para prevenir estos usos.

La respuesta de Anthropic y la dificultad de determinar la intención

Ante la imposibilidad de conocer el uso final de sus modelos en estos casos, Anthropic ha tomado la decisión de no desvelar el origen de los complots y ha bloqueado las cuentas implicadas. La empresa tampoco puede determinar si los científicos que utilizaron Claude tenían una intención legítima o maliciosa, precisamente por el carácter de "doble uso" de la investigación biológica.

La principal preocupación ahora, según la fuente, es que la IA pueda convertir una investigación aparentemente legítima en una vía para desarrollar patógenos imprevisibles. En este contexto, se ha señalado la ausencia de una "variante Asimov" —el principio de la robótica de Isaac Asimov según el cual "una IA no hará daño a un ser humano ni, por inacción, permitirá que un ser humano sufra daño"— como un vacío en el diseño actual de estos sistemas.