Zuckerberg defiende una IA superinteligente distribuida y rechaza el control centralizado

Tres pilares para una IA distribuida

En la misiva, publicada en la web de Meta, Zuckerberg sostiene que la superinteligencia es una de las tecnologías más determinantes de la historia por su capacidad transformadora. Frente a quienes apuestan por concentrar su control, el directivo defiende que empoderar a los individuos, y no automatizar tareas, será la contribución más valiosa de esta IA.

El primer pilar de su planteamiento afirma que poner herramientas poderosas en manos de las personas ha sido históricamente el motor del progreso. El segundo se centra en la invención como propósito principal de la inteligencia artificial: mientras que las preguntas que una persona puede hacer en un día son limitadas, las cosas que la superinteligencia puede inventar para alcanzar metas no tienen límite.

El tercer pilar es, según el propio Zuckerberg, el más relevante. Plantea el equilibrio de poder como base de la seguridad y rechaza la idea de que una superinteligencia centralizada y benevolente sea la solución más segura. En su lugar, defiende que distribuir ampliamente el acceso entre empresas, gobiernos y personas genera controles naturales que evitan abusos, algo similar a lo que ocurre en los sistemas democráticos.

Un asistente con cifrado tipo WhatsApp e infraestructura sostenible

Para materializar esta filosofía, Zuckerberg detalla varias iniciativas en desarrollo en Meta. La compañía busca ofrecer un agente que comprenda los objetivos del usuario y trabaje para mejorar aspectos como relaciones, salud, desarrollo profesional y gestión del hogar. Ese asistente usará un cifrado similar al de WhatsApp para garantizar la privacidad de los datos, de modo que ni Meta pueda acceder a la información personal.

En cuanto a la infraestructura necesaria, el directivo se refiere a mejorar las comunidades donde Meta construye centros de datos, un punto de fricción en los últimos años por la disrupción que causa su expansión. Zuckerberg se compromete a ofrecer beneficios a la comunidad, mantener estables los precios de la luz y lograr un balance hídrico positivo para 2030 en las zonas donde opera.

Impacto laboral, seguridad y la pugna con China

Zuckerberg también aborda el impacto económico de la superinteligencia, especialmente en el ámbito laboral. Según el CEO, no existe ninguna regla que obligue a que la automatización avance más rápido que la capacidad de las personas para adaptarse y adquirir nuevas habilidades. La llegada de una IA capaz de hacer más cosas generará empleos que hoy no existen, tal y como ocurrió con la Revolución Industrial.

Uno de los apartados más extensos de la carta se centra en cómo prevenir el uso de la IA para hackear o desarrollar armas biológicas. A diferencia de lo que hacen Anthropic y OpenAI, Meta cree que los sistemas de código abierto tienden a ser más seguros porque permiten identificar y corregir vulnerabilidades. Zuckerberg propone que los laboratorios compartan con el gobierno de Estados Unidos puntos de control intermedio de sus modelos.

El directivo insiste en que Estados Unidos debe mantener la ventaja sobre China y propone mantener el veto al país asiático para que no acceda a los chips que le permitan avanzar en nuevos modelos. Al mismo tiempo, pide evitar cualquier medida que retrase el lanzamiento de modelos estadounidenses. Ante la posibilidad de que un sistema se mejore a sí mismo de forma autónoma, Zuckerberg advierte que no se debe limitar la automejora y propone que la mayoría del cómputo disponible se dirija a objetivos de las personas, dejando un porcentaje bajo a la automejora recursiva.

"Meta se compromete a construir basándose en los principios del empoderamiento individual como fuente de prosperidad, la invención como propósito de la IA y un equilibrio de poder favorable a las personas como fundamento para abordar los riesgos de seguridad", concluye la carta.