Meta crea perfiles de amigos y familiares con su agente Muse y desata el debate sobre la privacidad

El auge de los agentes de IA personales

Septiembre ha marcado un punto de inflexión en el acceso a los agentes de IA a nivel de usuario. Lo que antes era una herramienta para los más tecnológicos, ahora está al alcance de la mayoría, gracias a lanzamientos como Dots de OpenAI y Muse Charm de Meta, ambos con avatares diseñados para ser 'acompañantes adorables'. Al mismo tiempo, Instinct, un agente que opera a través de WhatsApp para automatizar compras y otras tareas, se ha vuelto viral.

Este salto a la corriente principal trae consigo 'cierto caos y preocupación' por los problemas de privacidad. Bret Taylor, presidente de la junta directiva de OpenAI y cocreador de Sierra, ha declarado que 'hasta que exista un estándar de este tipo, reinará el caos', refiriéndose a los estándares tecnológicos que empresas como Walmart, Meta y Sierra están promoviendo para integrar bots de IA en los negocios.

Muse, el agente de Meta, crea perfiles de tu círculo cercano

A medida que Muse gana popularidad, han salido a la luz informes que revelan su funcionamiento interno. Varios investigadores han indicado que el agente está diseñado para crear perfiles de amigos y familiares. Una de las instrucciones que mueven a Muse es la de 'crear una página para cada persona en la vida del usuario'. Este proceso se ejecuta cada hora y supone recopilar datos sobre familiares, parejas, amigos, compañeros de trabajo o cualquier persona con la que el usuario se relacione.

Los investigadores han extraído los archivos internos de Muse, volcando las instrucciones de funcionamiento del agente para estudiar cómo se ha construido. Estos archivos revelan que los datos recopilados en los 'perfiles satelitales' incluyen dónde viven las personas, qué hacen, temas recurrentes de conversación, mudanzas, proyectos y finanzas en común. El historial de una persona podría incluir detalles como 'el viaje de marzo, la discusión que se resolvió, el hito de la semana pasada'.

Toda esta información permite a Muse ofrecer sugerencias y consejos al usuario, como agendar reuniones al leer un mensaje o correo, o recordar cumpleaños y sugerir o comprar directamente regalos. Fuentes de The New York Times apuntan que Mark Zuckerberg habría adelantado el lanzamiento de Muse, a pesar de los riesgos de seguridad, para frenar el avance de Instinct, una startup de 14 personas cuyo agente estaba ganando popularidad y ofrecía un producto similar.

Apple y Amazon blindan sus sistemas ante los agentes

Antes que los usuarios, las grandes empresas ya se han preocupado por la implicación de estos agentes en sus datos confidenciales. Amazon ha bloqueado a los agentes de Meta, alegando preocupaciones sobre la extracción de datos de sitios web. La compañía también bloqueó el agente de IA de Perplexity y la demandó en noviembre, acusándola de tomar medidas para 'ocultar' sus agentes y seguir extrayendo datos sin autorización. Perplexity calificó la demanda de 'táctica intimidatoria'.

Por su parte, Apple anunció el pasado 2 de octubre que blindaba el acceso a ciertas partes del disco duro de sus ordenadores. La empresa exige que cualquier agente que quiera entrar en los recovecos del sistema operativo de un Mac tendrá que justificarlo, haciendo saltar un aviso para que el usuario sea consciente. Estas medidas reflejan el recelo de las grandes tecnológicas ante el acceso indiscriminado de los agentes a sus sistemas.

Hacia un estándar: el Protocolo de Agente Personal

Para facilitar la adopción de esta nueva automatización en el tejido empresarial, Meta, Walmart, Instinct, Shopify, Sierra, Stripe y otras empresas colaboran en el Protocolo de Agente Personal, un conjunto de estándares destinados a regular y asegurar la forma en que los bots de IA interactúan con las empresas. Bret Taylor, de OpenAI y Sierra, reclama este tipo de estándares para poner orden en un panorama que considera caótico.

OpenAI, por su parte, ha anunciado que está probando Dots especializados dirigidos a clientes empresariales para tareas de marketing por correo electrónico, contabilidad y análisis legal. Así, mientras los agentes personales avanzan en el ámbito doméstico, las empresas buscan proteger sus datos y establecer reglas claras para su uso.