La UE limita los chatbots de IA y los videojuegos online en la EU Kids Act, que exige verificación de edad en todos los servicios

Chatbots de IA: sin prohibición, pero con restricciones al diseño

El texto final de la EU Kids Act, adelantado por la presidenta de la Comisión Europea, Ursula von der Leyen durante el discurso sobre el estado de la Unión, no prohíbe los chatbots de IA para menores de edad, a diferencia de lo que se había filtrado anteriormente. La única limitación de acceso es que los menores de 13 años solo podrán crear una cuenta si está gestionada y controlada por un tutor con herramientas dedicadas.

Sin embargo, los servicios de chatbots que permiten conversaciones continuadas, como ChatGPT, o los llamados "compañeros de IA" que simulan relaciones sociales o emocionales, se enfrentan a nuevas obligaciones: la norma prohíbe expresamente que la IA simule relaciones interpersonales o conductas destinadas a crear dependencia emocional en usuarios menores de edad.

Además, la memoria de la IA deberá estar deshabilitada por defecto en estos casos, de modo que no pueda almacenar datos de las interacciones con el menor para sesiones posteriores. La única excepción es el almacenamiento de datos necesarios para proteger la seguridad del menor. Si el chatbot está integrado en otra plataforma, como Grok en X, deberá estar desactivado por defecto y no se podrá incentivar su uso.

Videojuegos online: límites a los 'diseños adictivos' y a las cajas de botín

La EU Kids Act dedica una sección completa a los videojuegos online, tanto a los multijugador masivos como a los títulos de un jugador con modos online opcionales. Los desarrolladores tendrán que modificar el diseño de sus juegos para eliminar los "diseños adictivos" que fomenten el uso compulsivo, incluyendo mecánicas de recompensa por conectarse a ciertas horas o intervalos regulares, como monedas u objetos.

Los menores de edad no podrán comprar loot boxes, cajas de botín con recompensas aleatorias, y las monedas virtuales que se obtengan deberán ir asociadas a su valor real en euros. En juegos con comunicación entre jugadores, se exigirán salvaguardas contra el ciberacoso, el grooming y la violencia. Además, los juegos tendrán que incluir límites de tiempo estrictos que no coincidan con horas lectivas ni con el horario de sueño.

Aunque la normativa no prohíbe el acceso a videojuegos para menores de 13 años como sí hace con las redes sociales, sus cuentas solo podrán ser habilitadas y controladas por los tutores.

Verificación de edad obligatoria con tecnologías que no rastreen al usuario

Con la nueva ley, todos los chatbots y videojuegos online tendrán que verificar la edad del usuario para ofrecer una experiencia adaptada. En los chatbots, la verificación se realizará al abrir una cuenta en el servicio; en los videojuegos, se hará en la tienda antes de permitir la descarga.

El texto especifica que ya no basta con la autodeclaración de edad: la verificación debe hacerse con tecnologías que no rastreen ni perfilen al usuario, como las pruebas de conocimiento cero. La Comisión Europea ya ha lanzado el código para una app que usa el smartphone para verificar la edad del usuario con un documento, como el DNI. La verificación se guarda de forma cifrada en el dispositivo y el servicio puede preguntar a la app si el usuario es mayor de edad.