Todas las novedades de Nvidia fueron anunciadas por Jensen Huang en Computex

Jensen Huang quiere Para llevar la IA generativa a todos los centros de datos, el nvidia dijo el cofundador y CEO durante Computex en Taipei hoy. Durante el discurso, el primer discurso público de Hwang en casi cuatro años, dijo que hizo una serie de anuncios, incluidas las fechas de lanzamiento del chip, la supercomputadora DGX GH200 y asociaciones con empresas importantes. Aquí están todas las noticias del discurso de apertura de dos horas.

1. La GPU GForce RTX 4080 Ti de Nvidia para jugadores ahora está en plena producción y se produce «en masa» con socios en Taiwán.

2. Huang anunció Nvidia Avatar Cloud Engine (ACE) para juegos, un servicio de fundición de modelos de IA personalizable con modelos preentrenados para desarrolladores de juegos. A los NPC se les dará más personalidad a través de interacciones lingüísticas impulsadas por IA.

3. El modelo informático Nvidia Cuda ahora sirve a cuatro millones de desarrolladores y más de 3000 aplicaciones. Cuda ha visto 40 millones de descargas, incluidos 25 millones solo en el último año.

4. La producción completa de la GPU de servidor HGX H100 ha comenzado y está siendo fabricada por «compañías en todo Taiwán», dijo Huang. Agregó que es la primera computadora del mundo con motor de transformador.

5. Huang se refirió a la adquisición por parte de Nvidia del gigante de chips de computadora Mellanox en 2019 por $ 6.9 mil millones como «una de las decisiones estratégicas más importantes» que jamás haya tomado.

6. La producción de la próxima generación de GPU Hopper comenzará en agosto de 2024, exactamente dos años después del inicio de la fabricación de la primera generación.

7. La GH200 Grace Hopper de Nvidia ya está en plena producción. El superchip cuenta con 4 PetaFIOPS TE, 72 CPU ARM conectadas a través de un enlace de chip a chip, 96 GB de memoria HBM3 y 576 GPU. Huang lo describió como el primer procesador informático acelerado del mundo que también tiene una memoria gigante: «Esto es una computadora, no un chip». Está diseñado para aplicaciones de centros de datos altamente flexibles.

8. Si la memoria de Grace Hopper no es suficiente, Nvidia tiene la solución: la DGX GH200. Se creó conectando primero ocho Grace Hoppers con tres adaptadores NVLINK y luego conectando los dos módulos de 900 GB. Finalmente, se unieron 32, con otra capa de llaves, para conectar un total de 256 chips Grace Hopper. El transformador ExaFLOPS resultante tiene 144 TB de memoria GPU y actúa como una GPU gigante. Huang dijo que Grace Hopper es tan rápido que puede ejecutar la pila 5G en el software. Google Cloud, Meta y Microsoft serán las primeras empresas en tener acceso al DGX GH200 y realizarán una investigación sobre sus capacidades.

9. Nvidia y SoftBank se asociaron para entregar el súper chip Grace Hopper a los nuevos centros de datos distribuidos de SoftBank en Japón. Podrán alojar aplicaciones inalámbricas y de inteligencia artificial generativa en un sistema de servidor compartido de múltiples inquilinos, lo que reducirá los costos y la energía.

10. La asociación SoftBank-Nvidia se basará en la arquitectura de referencia Nvidia MGX, que actualmente se utiliza en asociación con empresas en Taiwán. Brinda a los fabricantes de sistemas una arquitectura de referencia estándar para ayudarlos a crear más de 100 variaciones de servidor para IA, computación acelerada y utilidades ubicuas. Las empresas que participan en la asociación incluyen ASRock Rack, Asus, Gigabyte, Pegatron, QCT y Supermicro.

11. Huang anuncia la plataforma de red acelerada Spectrum-X para overclocking de nubes basadas en Ethernet. Incluye un switch Spectrum 4, que cuenta con 128 puertos de 400Gbps y 51.2Tbps. El conmutador está diseñado para habilitar un nuevo tipo de Ethernet, dijo Huang, y está diseñado de extremo a extremo para realizar enrutamiento adaptativo, aislamiento de rendimiento y computación dentro de la estructura. También incluye un Bluefield 3 Smart Nic, que se conecta a un interruptor Spectrum 4 para realizar el control de multitudes.

12. WPP, la agencia de publicidad más grande del mundo, se asoció con Nvidia para desarrollar un motor de contenido basado en Nvidia Omniverse. Podrá producir contenido de fotos y videos para su uso en publicidad.

13. La plataforma robótica Nvidia Isaac ARM ahora está disponible para cualquiera que quiera construir robots, y es todo en uno, desde chips hasta sensores. Huang dijo que Isaac ARM está comenzando con un chip llamado Nova Orin, que es el primer ensamblaje completo de referencia de robótica.

Gracias a su importancia en la informática de IA, las acciones de Nvidia se han disparado durante el último año y su capitalización de mercado actualmente ronda los 960.000 millones de dólares, lo que la convierte en una de las empresas más valiosas del mundo (solo Apple, Microsoft, Saudi Aramco, Alphabet y clasificación de Amazon más alta).

Negocios en China en el limbo

No hay duda de que las empresas de IA en China están siguiendo de cerca la última tecnología de silicio que Nvidia está poniendo sobre la mesa. Mientras tanto, pueden temer otra ronda de prohibiciones de chips en EE. UU. que amenaza con socavar su progreso en la IA generativa, que requiere mucha más energía y datos que las generaciones anteriores de IA.

El año pasado, el gobierno de EE. UU. prohibió a Nvidia vender GPU A100 y H100 a China. Ambos chips se utilizan para entrenar modelos de lenguaje grandes como GPT-4 de OpenAI. El H100, su conjunto de chips de última generación basado en la arquitectura de computación GPU Nvidia Hopper con Transformer Engine integrado, está experimentando una demanda particularmente fuerte. en comparación con el A100H100 es capaz de ofrecer un entrenamiento de IA 9 veces más rápido y una inferencia de IA hasta 30 veces más rápida en LLM.

Claramente, China es un mercado demasiado grande para perderse. La prohibición de exportación de chips le costaría a Nvidia un estimado de $ 400 millones en ventas potenciales solo en el tercer trimestre del año pasado. Así que Nvidia recurrió a venderle a China un chip más lento que cumplía con las normas de control de exportación de EE. UU. Pero a largo plazo, es probable que China busque alternativas más poderosas, y la prohibición sirve como un recordatorio conmovedor para que China logre la autosuficiencia en sectores tecnológicos clave.

Como dijo Huang recientemente en entrevista Con el Financial Times: “Si [China] No pueden comprar en… los EE. UU., lo construirán ellos mismos. Así que Estados Unidos debería tener cuidado. China es un mercado muy importante para la industria tecnológica”.