NVIDIA aprovechó el OCP Global Summit, el encuentro del Open Compute Project realizado en San José (California), para anunciar el 12 de octubre que aporta los diseños de sus racks y bandejas de cómputo Vera Rubin al proyecto, mediante su arquitectura abierta MGX. La idea es que los fabricantes de servidores cuenten con una base común para construir las llamadas “fábricas de IA”, los centros de datos dedicados a entrenar y ejecutar modelos.
Qué significa “abrir” el diseño
La especificación MGX 1.2 incorpora, entre otras cosas, refrigeración líquida a escala de rack, interconexión interoperable entre equipos y soporte para racks de hasta 250 kW. NVIDIA también publicó como código abierto herramientas de su sistema DSX para configurar switches a gran escala, someter clústeres de GPU a pruebas de estrés antes de entrenar y administrar racks completos como una sola unidad.
Junto a AMD, Google y Meta, la compañía publicó además la Open Data Center Specification v0.7, una guía sobre energía, refrigeración y distribución física de instalaciones de IA. Con Google, Meta y Microsoft firmó también una especificación sobre cómo deben comportarse estos centros ante perturbaciones de la red eléctrica, que exige recuperar casi toda la carga en menos de dos segundos.
Meta, Google y Cisco
- Meta usará los switches Ethernet Spectrum-6 de 102,4 Tb/s en sus fábricas de IA Vera Rubin más grandes. NVIDIA afirma que duplican la capacidad de conmutación de Spectrum-4. Meta desarrolló su propio switch basado en ese chip, N-IceCube, que corre su sistema operativo de red de código abierto FBOSS.
- Google y NVIDIA anunciaron soporte para Falcon, un protocolo de transporte de datos sobre Ethernet, en futuras tarjetas ConnectX-10 y BlueField.
- Cisco y NVIDIA presentaron planes para USFP, un nuevo formato de transceptor óptico que apunta a 400 Gb/s por canal.
Según Omar Baldonado, director sénior de redes de centros de datos e IA en Meta, la alianza con NVIDIA busca que las redes de múltiples planos sean escalables y de alto rendimiento en la operación diaria. Estas redes reparten el tráfico de las GPU en hasta ocho planos independientes y permiten fábricas de más de 100.000 GPU.
El movimiento ocurre la misma semana en que Microsoft presentó su chip Maia 300. Mientras sus grandes clientes desarrollan silicio propio, NVIDIA apuesta por convertir sus diseños en el estándar abierto sobre el que se construye la infraestructura.
Imagen: NVIDIA.