Aceleración de Inteligencia Artificial en Windows 11 se quintuplica para las tarjetas RTX 40 y RTX 30 de NVIDIA

Cuando las tarjetas gráficas NVIDIA RTX llegaron al mercado, revolucionaron el sector. Las RTX 20 ofrecían Tensor Cores, que potenciaban el rendimiento en procesos como el Ray Tracing y DLSS. Comparativamente, las GTX 10 y modelos inferiores no pudieron competir al mismo nivel, lo que llevó a la segmentación del mercado. Hoy en día, más de 100 millones de PC utilizan las NVIDIA RTX 30 y RTX 40, lo que les permite beneficiarse de un rendimiento significativamente superior en inteligencia artificial (IA) gracias a TensorRT-LLM.

La elección entre una GPU de AMD, Intel o NVIDIA depende tanto del presupuesto como de las preferencias personales. A pesar de un lanzamiento problemático, Intel ha mejorado su rendimiento gracias a actualizaciones de controladores, y las recientes rebajas han generado un mayor interés en sus productos.

Por otro lado, AMD ha experimentado un éxito moderado con sus RX 7000, pero a nivel global, NVIDIA domina el mercado en gran parte debido a las características adicionales de sus GPU. Las tarjetas gráficas de NVIDIA ofrecen el mejor rendimiento en Ray Tracing y son compatibles con DLSS 3.5 y Frame Generation.

El rendimiento superior en IA de NVIDIA se debe principalmente a sus núcleos Tensor, pero eso no es todo. La empresa asegura que multiplicará por cinco la aceleración de IA en PC con Windows 11 y sus tarjetas RTX 30 y 40 al agregar Tensor RT-LLM al sistema operativo. Más de 100 millones de usuarios de RTX podrán aprovechar esta biblioteca para acelerar la IA a partir del 21 de noviembre con la llegada de TensorRT-LLM v0.6.0 y los controladores de NVIDIA.

NVIDIA y Microsoft están colaborando para integrar una interfaz de ChatAPI en OpenAI, una API de chat basada en IA que facilita tareas como resumir documentos, redactar correos electrónicos y analizar datos. Esta colaboración permitirá que ChatAPI interactúe con datos a nivel local sin depender de la nube. También serán compatibles con LLM, como Llama 2 de Meta y NV LLM.

Si está interesado en probar TensorRT-LLM de NVIDIA, puede encontrarlo en GitHub, donde se lanzó la primera versión oficial (0.5.0). La versión 0.6.0, que promete un rendimiento de IA cinco veces superior, se lanzará el próximo 21 de noviembre.

Este artículo fue publicado originalmente en El Chapuzas Informático con el título “NVIDIA multiplica por 5 la aceleración de IA en Windows 11 para las RTX 40 y RTX 30”.