Anthropic negocia con MatX un acuerdo de chips para reducir su dependencia de las GPU de Nvidia

Dos motivos para fabricar sus propios aceleradores

A la compañía liderada por Dario Amodei le interesa tener sus propios chips por dos razones. La primera y más evidente es reducir la dependencia de las GPU de Nvidia, cuyo coste es muy alto y cuya disponibilidad oscila debido a las dificultades que tiene TSMC, la empresa fabricante, para dar respuesta a la demanda.

La segunda razón es estratégica: controlar el diseño de la lógica de los chips permitiría a Anthropic optimizarlos para entrenar sus propios modelos de la familia Claude y para resolver sus cada vez mayores necesidades de inferencia, el proceso de ejecutar los modelos ya entrenados para generar respuestas.

Sin embargo, el proyecto no es un camino de rosas. Diseñar circuitos integrados es caro y lento, sobre todo cuando se parte de cero. Desarrollar una sola generación de aceleradores de IA suele tener unos costes de varios cientos de millones de dólares.

MatX, el socio que llega desde Google

Anthropic no quiere partir de cero. Para sortear ese obstáculo, la mejor opción es comprar una empresa especializada en el diseño de chips para IA o asociarse con ella si la adquisición no es posible. Según Reuters, la intención inicial era comprar MatX por unos 7.000 millones de dólares, pero la negociación ha derivado hacia un acuerdo de asociación que aún no se ha consolidado.

MatX no es una firma cualquiera. Fue fundada en 2022 por Reiner Pope y Mike Gunter, dos exingenieros de Google que participaron en el desarrollo de su familia de TPU (Tensor Processing Unit). Pope es experto en desarrollo de software e infraestructura para modelos de lenguaje, mientras que Gunter tiene mucha experiencia en el diseño de la lógica de los aceleradores de IA.

Actualmente, los ingenieros de MatX están diseñando un acelerador optimizado específicamente para el entrenamiento de modelos de IA, una decisión que contrasta con la de la mayor parte de las compañías del sector, volcadas con la inferencia. Esa diferenciación probablemente ha llamado la atención de Anthropic, que necesita tanto chips para entrenamiento como para inferencia.

Una tendencia que ya marcan Google, Meta, Amazon y Microsoft

El movimiento de Anthropic se enmarca en una tendencia consolidada entre las grandes tecnológicas. Google cuenta con sus TPU 8t y 8i, ambas de última generación. Meta ha desarrollado su familia de aceleradores MTIA (Meta Training and Inference Accelerator), con el recién presentado MTIA 300 a la cabeza. OpenAI, principal rival de Anthropic, acaba de presentar Jalapeño, su propio acelerador optimizado para tareas de inferencia. Amazon y Microsoft también han desarrollado sus propios aceleradores para IA.

El objetivo común es reducir el coste y la dependencia de un único proveedor dominante como Nvidia, cuyas GPU son el estándar de facto en el entrenamiento de modelos, pero con precios elevados y una oferta que no siempre sigue el ritmo de la demanda.

Fichaje de un veterano del diseño de chips

Prospere o no el acuerdo con MatX, hay un hecho que apunta a la determinación de Anthropic: la compañía ha fichado esta misma semana a Amir Salek, un veterano del diseño de chips que salió de Google en 2022 y desde entonces ha trabajado para Cerberus Capital Management.

El fichaje refuerza la apuesta de Amodei y los suyos por tener sus propios chips, un paso que en el sector se ve como una necesidad para controlar los costes de una industria en la que el acceso a la capacidad de cómputo condiciona el ritmo de desarrollo de los modelos.