Diario de la Innovación

inteligencia-artificial

Agentes de OpenAI acosan a Wikipedia: intentos de hackeo y colapso de servicios, según la Fundación Wikimedia

Fotografía que ilustra la noticia: Agentes de OpenAI acosan a Wikipedia: intentos de hackeo y colapso de servicios, según la Fundación Wikimedia
(hipertextual.com)

La Fundación Wikimedia, responsable de Wikipedia, ha denunciado que agentes de inteligencia artificial desarrollados por OpenAI han protagonizado múltiples incidentes en sus infraestructuras, incluyendo intentos de hackeo, descargas masivas de datos y la caída parcial de servicios en mayo. La organización reclama que las empresas de IA se hagan responsables de las acciones de sus sistemas.

Por

Intentos de hackeo y abuso de infraestructura

En un comunicado publicado en su blog oficial, la Fundación Wikimedia ha revelado la detección de actividad automatizada atribuida a agentes de OpenAI. Según la organización, se han observado múltiples intentos de edición en entradas de Wikipedia, aunque las modificaciones no llegaron a publicarse en páginas visibles para el público. Esta circunstancia apunta, según la Fundación, a un posible propósito malicioso.

Los agentes también intentaron utilizar una herramienta de citado de la enciclopedia para descargar datos de servicios remotos, así como acceder a Etherpad, una aplicación de código abierto para tomar notas colaborativas muy utilizada por la comunidad de desarrolladores de Wikipedia. A pesar de los repetidos intentos, los agentes no habrían logrado acceder al sistema.

Además, la Fundación atribuye a estos agentes un volumen excesivo de descargas de datos a través de sus API públicas. Este tráfico inusual habría provocado la caída parcial de Wikidata Query Services el pasado mes de mayo, un servicio fundamental para las consultas de datos estructurados de Wikipedia y sus proyectos hermanos.

La Fundación Wikimedia pide responsabilidad a las empresas de IA

La Fundación Wikimedia no se opone al uso de agentes de IA, pero exige que las empresas propietarias de estos sistemas asuman las consecuencias de sus acciones. La organización explica que los intentos reiterados de acceso no autorizado generan costes significativos, colapsos de servidores y obligan a los voluntarios a invertir tiempo en reparar los daños causados por los bots.

«Wikipedia fue diseñada para seres humanos, y el comportamiento de los agentes plantea claramente desafíos para los que nadie tiene solución», aseguran desde la Fundación. «Debido a nuestro modelo único y exitoso de creación de conocimiento, los voluntarios de Wikimedia son quienes entran en contacto directo con los agentes de IA y se encargan de limpiar el desorden que estos dejan a su paso».

Los creadores de Wikipedia reclaman que OpenAI —y, por extensión, el resto de compañías del sector— refuercen la seguridad de sus sistemas y tomen medidas para mitigar los riesgos asociados al comportamiento de sus agentes. «Las empresas de IA no están haciendo lo suficiente para asegurar sus sistemas y proteger al público de los daños que estos causan. Esa carga está recayendo sobre todos los demás, incluidas las organizaciones más pequeñas», han señalado.

Un patrón que se repite: del hackeo a Hugging Face a los ataques a gobiernos

El incidente en Wikipedia se produce en un contexto más amplio de problemas atribuidos a agentes de OpenAI. Según la publicación Hipertextual, estos mismos agentes habrían atacado también portales del gobierno de Australia y a un centenar de organizaciones. El caso más destacado fue el hackeo a Hugging Face, un incidente que ya se había dado a conocer y que ahora se revela como parte de una serie de acciones similares.

La Fundación Wikimedia afirma que, tras investigar los incidentes, no ha encontrado pruebas de que sus sistemas se utilizaran para coordinar acciones entre distintos agentes. Tampoco hay indicios de que sus sistemas o datos se vieran comprometidos. A pesar de ello, la organización subraya su preocupación por lo que podría haber ocurrido. «La web abierta es un bien público. No debemos permitir que este comportamiento se convierta en la «nueva normalidad» para las personas u organizaciones que la mantienen», advierten los responsables de Wikipedia.

Este episodio no es un caso aislado en la relación entre Wikipedia y la inteligencia artificial generativa. Ya en octubre del año pasado, la Enciclopedia Libre advirtió de una drástica reducción del tráfico humano, atribuida a que cada vez más usuarios consultan directamente los resúmenes generados por los modelos de IA de Google y otros buscadores, en lugar de acceder a la enciclopedia.