NVIDIA burla las sanciones de EE.UU. al lanzar 3 innovadoras GPU de inteligencia artificial exclusivamente para China

Biden no puede detener a NVIDIA. Jensen Huang maneja hábilmente cada sanción y restricción impuesta por Estados Unidos al país de Xi Jinping. A menos que bloqueen explícitamente a su empresa, el titán de la inteligencia artificial continuará vendiendo GPU a China, sin importar las limitaciones de hardware del gobierno estadounidense. Esto resultará ser un gran desafío para Biden, ya que una de las nuevas GPU es incluso más rápida que la H100 en un aspecto específico. Entonces, eso es lo que serán las HGX H20, L20 PCIe y L2 PCIe.

Basadas en la arquitectura Hopper (dos de ellas en Ada Lovelace), las restricciones impuestas por Biden apenas han tardado un par de semanas en generar tres nuevos productos que, aunque no sean lo que China quiere, cambiarán el juego nuevamente.

La NVIDIA HGX H20 será un gran problema para Biden. Para entender por qué, debemos hablar de las especificaciones filtradas. La HGX H20 tendrá 96 GB con HBM3 y un ancho de banda de 4 TB/s, con un rendimiento bastante bajo que sigue el guion de Biden:

INT8 y FP8 a través de Tensor Core con 296 TFLOPS

BF16 y FP16 a través de Tensor Core con 148 TFLOPS

TF32 a través de Tensor Core con 74 TFLOPS

FP32 con 44 TFLOPS

FP64 con solo 1 TFLOP

La GPU también incluirá 60 MB de L2 y un consumo de 400W. Sorprendentemente, NVIDIA incluyó un NVLink completo que funciona a 900 GB/s, incluso cuando teóricamente no debería ser posible debido a las restricciones. Entonces, ¿dónde está la controversia con esta GPU? Resulta que la NVIDIA HGX H20 tiene algunas mejoras del próximo chip insignia de la marca, el B100, y por eso, su ancho de banda es de 4 Tbps, lo que es 17,64% más rápido que el de la actual H100.

Esto implica que el rendimiento en Inferencia LLM es superior, no inferior al mejor chip de la generación actual. Por lo tanto, China y NVIDIA han burlado habilmente a Biden, al menos en parte.

En cuanto a la NVIDIA L20 PCIe, esta ya está basada en la arquitectura Ada Lovelace y tiene características distintas del chip RTX 4090, el AD102. Tendrá 48 GB de GDDR6 con un ancho de banda de 864 GB/s, 239 TFLOPS en INT8 y FP8, y 119,5 TFLOPS en BF16 y FP16. A pesar de ser una versión reducida de la L40, incluirá RT Cores y 96 MB de L2, pero tendrá limitaciones en los Media Engines NVENC y NVDEC. Esta GPU consume solo 275W y será PCIe Gen 4.

La NVIDIA L2 PCIe es la más pequeña de las tres hermanas y comparte filosofía con la L20. Tendrá menor rendimiento, comenzando por sus 24 GB de VRAM GDDR6 con un ancho de banda de 300 GB/s. Su rendimiento es aceptable, con 193 TFLOPS, 96,5 TFLOPS y 48,3 TFLOPS en INT8/FP8, BF16/FP16 y TF32, respectivamente. También tendrá menos RT Cores con 36 MB de L2 y menos NVENC y NVDEC. Curiosamente, no se reveló su consumo.

Las HGX H20 y L20 PCIe estarán disponibles entre finales de noviembre y principios de diciembre, lo que indica que NVIDIA se adelantó a las sanciones que Estados Unidos impondría a China. La L2 PCIe, en cambio, se retrasará hasta finales de diciembre o principios de 2024. Aún no se han anunciado los precios.

Un dato más en la guerra tecnológica entre China y Estados Unidos, con NVIDIA en el medio: solo la HGX H20 usará CoWoS, mientras que las L20 PCIe y L2 PCIe utilizarán un interposer común. Esto significa que el cuello de botella de TSMC con CoWoS solo afectará a la primera, pero no a las otras dos, que podrán llegar en un alto volumen para las empresas que necesiten entrenar LLM de menor calado.

En resumen, la estrategia de NVIDIA es muy inteligente. China pierde potencia de cómputo global pero gana en inferencia LLM, pudiendo obtener GPU en cantidades igualmente grandes. Esto demuestra que Estados Unidos quiere presionar a China, pero no sofocarla por completo, ya que necesita vender hardware y lo saben.