Si hablamos de tarjetas gráficas tanto para uso doméstico como empresarial, tenemos que hablar NVIDIA, la compañía que, en base a las prestaciones de sus GPUs, está marcando el ritmo de evolución de la Inteligencia Artificial. Si bien es cierto que el equipo rojo que dirige Lisa Su está avanzando en mercado de las aceleradoras de IA con la gama AMD Instint Mi350 Series, NVIDIA sigue siendo la opción preferida.
La última prueba de NVIDIA es la referencia a seguir la encontramos en el Blackwell Ultra GB300, el sucesor del GB200 que no llegará al mercado hasta poco antes de acabar 2025.
NVIDIA Blackwell Ultra GB300: más consumo, más rendimiento y compatible con PCIe 6.0
Si hablamos de la Blackwell Ultra GB300, hablamos de una bestia en cuanto a rendimiento en comparación con la generación anterior diseñada para tareas de IA y computación de alto rendimiento, siendo la última GPU que utilizará la arquitectura Blackwell que dará a paso a Rubin.
Utiliza un proceso de fabricación de 4NP de TSMC para ofrecer 208.000 millones de transistores a través de dos troqueles unidos por la interfaz NV-HBI que ofrece un ancho de banda de 10 TB/s. La interconexión entre GPU-GPU es de 1.8 TB /s vía NVLink Gen 5 mientras que la interconexión GPU-CPU es de 900 GB/s vía NVLink-C2C.
Cuenta con un total de 160 unidades SM (la GPU GB200 cuenta con 144 unidades SM), con 128 núcleos cada una para sumar un total de 20.480 núcleos CUDA y 640 núcleos tensor de quinta generación.
En cuanto a la memoria, la GB300 cuenta 8 bloques de memoria HBM3E de 12 Hi para sumar un total de 288 GB de memoria, lo que supone un importante salto en comparación con la generación anterior (la GB200 que cuenta con 192 GB) con un ancho de banda de 8 TB/s. Esto implica un aumento en el consumo de energía que pasa de los 1200W de la generación anterior a un máximo de 1.400W.
Esta GPU es la primera que todos los modelos GPU que NVIDIA ha lanzado al mercado que ofrece soporte para PICe 6.0 con un ancho bidireccional de 256 GB/s, de ahí el incremento no solo en la cantidad total de memoria sino también en el ancho de banda.
El rendimiento en formato NVFP4 mejora el rendimiento en un 50% a 15 PFlops manteniéndose prácticamente sin cambios a 20 PFlops. Lo mismo sucede con el rendimiento con los formatos FP8, FP16 y TF16.
Los 15 PFlops en formato NVFP4 y los 288 GB de memoria HBM3e no son solo números. En la práctica, permiten entrenar modelos de lenguaje grandes (LLM) como GPT-4 o superiores con más de 300.000 millones de parámetros sin necesidad de particionar el modelo, lo que según benchmarks de NVIDIA podría reducir los tiempos de entrenamiento en hasta un 40%
Esta nueva GPU estará disponible en servidores GB300 NV72 y contará, como no podía ser de otra forma, con refrigeración líquida para controlar de la forma más efectiva posible el calor que generan y contará con 72 GPU B300 y 32 CPU Grace con arquitectura ARM (2 GPU B300 y una CPU Grace por cada nodo).
De momento desconocemos si los planes de NVIDIA pasan por lanzar la GB300 de forma independiente o si únicamente estará disponible en servidor NV72. Si tenemos en cuenta que el principal cliente de NVIDIA son las grandes empresas de IA, es poco probable que quiera abarcar el segmento que se sitúa medio camino entre el doméstico y el empresarial, es decir, las workstation.
Preguntas clave sobre la NVIDIA Blackwell Ultra GB300
¿Qué es la NVIDIA Blackwell Ultra GB300?
Es la última y más potente GPU de la arquitectura Blackwell de NVIDIA, diseñada específicamente para tareas de Inteligencia Artificial y computación de alto rendimiento (HPC) en entornos de servidores.
¿Cuáles son las principales mejoras de la GB300 frente a la GB200?
La GB300 aumenta la memoria de 192 GB a 288 GB de HBM3E, incrementa los núcleos CUDA a 20.480 y eleva el consumo máximo de 1200W a 1.400W. Además, es la primera en incorporar soporte para el estándar PCIe 6.0.
¿Se podrá comprar esta tarjeta gráfica para un ordenador personal?
Es muy poco probable. La GB300 está diseñada para integrarse en sistemas de servidores como el NVIDIA GB300 NV72 y no se espera que se lance una versión independiente para estaciones de trabajo o el mercado de consumo.