- Meta apuesta por millones de núcleos Graviton alojados
- El contrato incluye capas de infraestructura, redes, energía y gestión.
- Graviton5 está diseñado para procesamiento sostenido y ejecución de varios pasos
Meta ha firmado un acuerdo para implementar varios millones de núcleos AWS Graviton Arm, lo que lo convierte en uno de los clientes de Graviton más grandes del mundo.
El acuerdo marca una importante expansión de la asociación de larga data entre Meta y AWS, pero con una diferencia importante: Meta no solo compra chips; Está comprando toda la infraestructura que los rodea. Este es un trato mayorista, no una compra de hardware.
“A medida que escalamos la infraestructura detrás de las ambiciones de IA de Mater, diversificar nuestros recursos informáticos es un imperativo estratégico”, dijo Santosh Janardhan, jefe de infraestructura de Mater.
El artículo continúa a continuación.
Por qué la IA agente está impulsando una demanda masiva de CPU
Si bien las GPU son esenciales para entrenar grandes modelos de IA, el auge de la IA agente está creando una demanda masiva de cargas de trabajo con uso intensivo de CPU.
Los sistemas agentes realizan razonamiento en tiempo real, generación de código, operaciones de búsqueda y orquestación de tareas de varios pasos, todo lo cual depende de la potencia de la CPU.
Graviton5 ofrece un procesamiento de datos más rápido y más ancho de banda que las alternativas de uso general diseñadas específicamente para estas cargas de trabajo.
El chip tiene un núcleo 192 ARM Neoverse V3, 600 MB de caché total y soporte para memoria DDR5 8800 y PCIe Gen6.
Meta utilizará estos chips para respaldar sus herramientas de inteligencia artificial que requieren manejar miles de millones de interacciones mientras coordinan flujos de trabajo de agentes complejos y de varios pasos.
El acuerdo podría verse como un duro golpe para AMD e Intel, dos empresas que tradicionalmente han dominado el mercado de CPU para infraestructura a gran escala.
Meta no solo está comprando millones de núcleos Graviton, sino también la energía, el espacio del centro de datos, las redes y las herramientas de administración de AWS en torno a esos núcleos.
Esto significa que Meta está eligiendo la infraestructura integrada verticalmente de AWS para comprar chips disponibles en el mercado e integrarlos en sus propios centros de datos.
Cómo funciona la infraestructura Graviton
El Graviton5 se basa en tecnología de chip de 3 nm, un proceso de fabricación que produce procesadores más pequeños y eficientes.
Tiene un sistema Nitro que permite instancias bare metal al mismo tiempo que proporciona dispositivos de almacenamiento y redes familiares.
Esto permite a Meta ejecutar su propia máquina virtual sin comprometer el rendimiento.
AWS diseña sus chips desde cero y controla todo el proceso, desde el diseño del chip hasta la arquitectura del servidor.
Por lo tanto, puede optimizar el rendimiento y la eficiencia de una manera que los procesadores normales no pueden igualar.
Meta aprecia estas capacidades porque significa que los chips se pueden ajustar para alcanzar niveles de rendimiento específicos.
A medida que crezcan las capacidades de IA de Mater, es probable que la implementación se expanda más allá de los pocos millones de núcleos iniciales.
El acuerdo entre Meta y AWS es claramente importante, pero es importante distinguir entre comprar infraestructura y comprar chips.
Meta no acepta entregas de procesadores Graviton para instalar en sus propios centros de datos; Está alquilando capacidad informática alojada en AWS a gran escala.
“No se trata sólo de chips; se trata de brindar a los clientes la base de infraestructura, así como datos y servicios predictivos, para construir IA que pueda comprender, anticipar y escalar eficientemente a miles de millones de personas en todo el mundo”, dijo Nafia Bishara, vicepresidenta e ingeniera principal de Amazon.
Siga TechRadar en Google News Y Agréganos como fuente preferida Recibe noticias, reseñas y opiniones de nuestros expertos en tu feed.
