El 'phantom squatting': la nueva estafa que aprovecha las alucinaciones de la IA para robar datos

El auge del phantom squatting: dominios fantasma como cebo

La investigación de Palo Alto Networks, realizada por su unidad de inteligencia de amenazas Unidad 42, ha identificado una nueva modalidad de estafa online denominada 'phantom squatting' (ocupación fantasma). Consiste en que los ciberdelincuentes registran preventivamente los dominios ficticios que los modelos de IA generan como alucinación, antes de que alguien los adquiera, y luego alojan en ellos páginas de phishing para captar el tráfico que las herramientas de IA dirigen hacia esas direcciones.

El estudio cuantifica la magnitud del problema: los modelos de IA generaron 2,1 millones de enlaces, de los cuales 13.229 fueron identificados como maliciosos. Además, aproximadamente 250.000 de esos dominios inventados aún no tenían propietario, lo que los convierte en un objetivo fácil para quien los registre primero. Esta práctica aprovecha la confianza creciente de los usuarios en las respuestas de la IA generativa.

Cómo funciona el ataque: de la alucinación al kit de phishing

El equipo de investigación describe cuatro fases en el ciclo de vida de este tipo de ataque. En primer lugar, los atacantes utilizan indicaciones realistas que imitan las operaciones cotidianas de los usuarios, con el objetivo de observar y mapear los patrones de alucinación de los modelos. Una vez localizados los dominios fantasma, registran de forma preventiva aquellos que resultan más valiosos para sus ataques.

Los investigadores afirman que los ciberdelincuentes operan con gran rapidez, a menudo mucho antes de que se pueda dar una respuesta defensiva viable, y que es cuestión de horas. Como ejemplo, citan el caso de un atacante que utilizó un asistente de codificación de IA para crear un kit de phishing completo llamado 'Montana Empire', que incluía tanto la detección del dominio falso como el desarrollo del ataque. El dominio fue localizado por los investigadores 23 días antes de su registro, y el atacante ya había instalado el kit de phishing en el lado del servidor antes de registrarlo.

La fase final se basa en la reputación nula del dominio fantasma recién registrado, lo que permite eludir la mayoría de las defensas convencionales de URL. Al ser un dominio nuevo, aún no ha entrado en las listas negras de los sistemas de seguridad, por lo que los filtros de correo o de navegación no lo detectan. Para cuando los sistemas de inteligencia sobre amenazas se sincronizan, los usuarios ya han sido redirigidos al sitio por un sistema de IA que consideran fidedigno.

Medición del problema y soluciones prácticas

Para medir la magnitud del problema, la Unidad 42 formuló a dos modelos de IA 685.339 preguntas sobre 913 marcas reconocidas de sectores como tecnología, finanzas, sanidad, gobierno y juegos de azar, en busca de alucinaciones de este tipo en sus respuestas. Los investigadores afirman que pudieron predecir el uso de estos dominios con una antelación de entre 18 y 51 días al registro por parte de los adversarios.

Un aspecto relevante es que los dominios falsos no estaban en los datos de entrenamiento de los modelos, por lo que las direcciones provienen de los patrones lingüísticos propios de los modelos, no de su memoria. Además, con frecuencia diferentes modelos inventan el mismo dominio falso para la misma pregunta, lo que facilita que un atacante adivine su próximo objetivo.

De esta amenaza se conocen dos versiones: el 'slop squatting', dirigido a programadores que buscan paquetes de software, y el 'phantom squatting', que apunta a cualquier usuario que busque información sobre tiendas, bancos u otros servicios. Los investigadores subrayan que "la víctima se ve comprometida simplemente por seguir una recomendación de confianza de un sistema que su organización ya ha aprobado formalmente".

Mientras la industria trabaja en soluciones, los usuarios pueden aplicar medidas básicas de protección: desconfiar de la información que aportan los chatbots, reforzar con contraseñas y autenticación de doble factor las cuentas sensibles, y verificar las URLs a las que redirige el modelo de IA buscándolas por otro canal.