Diario de la Innovación

inteligencia-artificial

Zuckerberg publica su visión de la superinteligencia: código abierto, equilibrio de poder y veto de chips a China

Fotografía que ilustra la noticia: Zuckerberg publica su visión de la superinteligencia: código abierto, equilibrio de poder y veto de chips a China
(hipertextual.com)

Mark Zuckerberg ha publicado una carta en la web de Meta en la que expone su visión sobre el futuro de la superinteligencia artificial. El consejero delegado defiende que esta tecnología debe distribuirse entre todas las personas y no concentrarse en pocas manos, y propone tres ejes para guiar su desarrollo. La carta incluye además posiciones concretas sobre la seguridad de los modelos de código abierto, la compartición de puntos de control con el gobierno de Estados Unidos y el mantenimiento del veto de chips a China.

Por

Tres ejes: empoderamiento individual, invención y equilibrio de poder

La carta, publicada en la web de Meta, plantea que la superinteligencia es una de las tecnologías más determinantes en la historia humana por su capacidad transformadora. El primer eje sostiene que poner herramientas poderosas en manos de las personas ha sido históricamente el motor del progreso. El segundo se centra en la invención como propósito principal de la IA: mientras que las preguntas que una persona puede hacer en un día son limitadas, las cosas que la superinteligencia puede inventar para alcanzar metas no tienen límite.

El tercer pilar es el más relevante. Zuckerberg rechaza la idea de que una superinteligencia centralizada y benevolente sea la solución más segura y plantea el equilibrio de poder como base de la seguridad. Defiende que distribuir ampliamente el acceso entre empresas, gobiernos y personas genera controles naturales que evitan abusos, algo así como ocurre en los sistemas democráticos.

Un asistente con cifrado tipo WhatsApp y compromisos comunitarios

Para materializar esta filosofía, Meta trabaja en un agente que comprenda los objetivos del usuario y mejore aspectos como relaciones, salud, desarrollo profesional y gestión del hogar. Según Zuckerberg, ese asistente usará un cifrado similar al de WhatsApp para garantizar la privacidad de los datos, de modo que ni Meta pueda acceder a la información personal.

En cuanto a la infraestructura, Zuckerberg aborda la construcción de centros de datos y su impacto en las comunidades donde se instalan, un punto de discordia por la disrupción que causa en la vida de miles de personas. El directivo se compromete a ofrecer beneficios a la comunidad, mantener estables los precios de la luz y lograr un balance hídrico positivo para 2030 en las zonas donde opera.

Impacto laboral y la apuesta por el código abierto frente a Anthropic y OpenAI

Zuckerberg sostiene que no existe ninguna regla que obligue a que la automatización avance más rápido que la capacidad de las personas para adaptarse y adquirir nuevas habilidades. La llegada de una IA capaz de hacer más cosas generará empleos que no existen, tal y como ocurrió con la Revolución Industrial.

Sobre los riesgos de mal uso, la carta dedica un apartado extenso a prevenir el uso de la IA para hackear o desarrollar armas biológicas. A diferencia de Anthropic y OpenAI, Meta cree que los sistemas de código abierto tienden a ser más seguros, ya que permiten que las personas identifiquen sus vulnerabilidades y las corrijan. Zuckerberg propone además que los laboratorios de IA compartan puntos de control intermedio de sus modelos con el gobierno de Estados Unidos.

Ventaja sobre China, automejora limitada y cómputo para las personas

La carta insiste en que Estados Unidos debe mantener la ventaja sobre China. Zuckerberg propone que se mantenga el veto al país asiático para que no pueda acceder a los chips que le permitan avanzar en el desarrollo de nuevos modelos. Al mismo tiempo, pide evitar cualquier medida que retrase el lanzamiento de nuevos modelos estadounidenses.

Ante la idea de que un sistema pueda mejorarse a sí mismo de forma autónoma, Zuckerberg advierte que no se puede limitar la automejora. Propone que la mayoría del cómputo disponible se dirija hacia objetivos de las personas, dejando un porcentaje bajo a la automejora recursiva. "Meta se compromete a construir basándose en los principios del empoderamiento individual como fuente de prosperidad, la invención como propósito de la IA y un equilibrio de poder favorable a las personas como fundamento para abordar los riesgos de seguridad", concluye la carta.