En otro desarrollo salvaje para los chips de IA, Meta firmó un acuerdo con millones de CPU de IA de Amazon

Amazon acaba de hacer un gran avance con Meta, nuevamente gracias a los propios chips de Amazon. Meta ha firmado un acuerdo para utilizar millones Gravedad AWS chips para satisfacer las crecientes necesidades de IA, anunció Amazon el viernes.

Tenga en cuenta que AWS Graviton es una CPU basada en ARM (unidad de procesamiento central, un chip que maneja tareas informáticas generales), no una GPU (unidad de procesamiento de gráficos).

Si bien las GPU siguen siendo el chip elegido para entrenar modelos grandes, una vez que se entrena el modelo, los agentes de IA integrados en él provocan cambios en el tipo de chip requerido. Los agentes crean cargas de trabajo computacionalmente intensivas, como razonamiento en tiempo real, escritura de código, búsqueda y coordinación involucradas en la gestión de agentes a través de tareas de varios pasos. La última versión de Graviton de AWS está diseñada específicamente para abordar las necesidades informáticas relacionadas con la IA, dijo la compañía.

Este acuerdo devuelve más dinero de Meta a AWS que competidores como Google Cloud. agosto pasado, Meta firma un acuerdo de seis años y 10 mil millones de dólares con Google Cloudaunque Meta, hasta ese momento, había sido en gran medida un cliente de AWS que también usaba Microsoft Azure.

No pudimos evitar notar que AWS programó el anuncio de este acuerdo justo cuando la conferencia Google Cloud Next estaba terminando, como una sonrisa virtual a sus competidores en la nube. Google, por supuesto, también fabrica sus propios chips de IA personalizados y anunció su nueva versión en el evento.

Así es, Amazon también fabrica su propia GPU de IA: Trainium, que, a pesar de su nombre, se utiliza para entrenamiento e inferencia: las etapas que ocurren después de entrenar el modelo, cuando el modelo está procesando comandos activamente.

Pero Anthropic se hizo cargo de un acuerdo anunciado a principios de este mes que le quitará muchos de esos chips en los próximos años. El creador de Claude acordó gastar 100 mil millones de dólares durante 10 años para ejecutar sus cargas de trabajo en AWS, con un enfoque particular en Trainium, mientras que Amazon acordó invertir otros 5 mil millones de dólares (lo que eleva su inversión total a 13 mil millones de dólares) en Anthropic a cambio.

En última instancia, el acuerdo Meta permite a Amazon mostrar a sus grandes clientes de IA como un punto de prueba para sus CPU. Es un chip que compite con la nueva CPU Vera de Nvidia, que también está basada en ARM y diseñada para manejar cargas de trabajo de agentes de IA. La diferencia, por supuesto, es que Nvidia vende sus chips y sistemas de inteligencia artificial a empresas y proveedores de nube (incluido AWS). AWS sólo vende acceso a sus chips a través de sus servicios en la nube.

A principios de este mes, el director ejecutivo de Amazon, Andy Jassy, ​​apuntó a Nvidia e Intel en su carta anual a los accionistas, diciendo que la compañía quería una mejor relación precio-rendimiento para la IA y que tenía la intención de ganar el acuerdo sobre esa base. Esto también significa una enorme presión sobre el equipo interno de fabricación de chips de Amazon para que esto suceda, un equipo que visitamos el mes pasado en un recorrido exclusivo por su laboratorio.