NVIDIA AI Cloud se expande globalmente para satisfacer la demanda de IA

¿Qué ha ocurrido?

NVIDIA ha anunciado la expansión de su ecosistema AI Cloud a seis continentes, incorporando nuevos socios regionales como Cassava (África) y Claro (América del Sur). Este ecosistema, que combina aceleración de cómputo, redes y software de IA, está diseñado para satisfacer la creciente demanda de inferencia, entrenamiento y aplicaciones de IA agente. Según el blog oficial de NVIDIA, los socios existentes como CoreWeave, Firmus, IREN, Nebius y Nscale también están ampliando su capacidad para atender a empresas, startups, naciones, laboratorios de IA y desarrolladores. La expansión geográfica incluye ahora socios en Norteamérica, Sudamérica, Europa, África, Asia y Oceanía, lo que representa un hito en la descentralización de la infraestructura de IA.

¿Por qué es importante?

La expansión responde a la necesidad crítica de infraestructura de IA cercana a los usuarios y datos, reduciendo la latencia y cumpliendo con requisitos de soberanía digital. Jensen Huang, CEO de NVIDIA, destacó que “cada empresa y cada país necesita infraestructura de fábrica de IA para convertir datos en inteligencia”. Este movimiento acelera la adopción de IA en regiones emergentes, donde el acceso a capacidad de cómputo era limitado. Por ejemplo, en África, Cassava traerá clústeres de GPU NVIDIA H100 y H200, permitiendo a startups locales entrenar modelos sin depender de centros de datos en el extranjero. En América del Sur, Claro ofrecerá servicios de inferencia de baja latencia para aplicaciones en tiempo real, como chatbots y análisis de video. Comparado con eventos anteriores, como la expansión de AWS a regiones locales en 2016, NVIDIA apuesta por un modelo de socios especializados en lugar de construir su propia nube, lo que reduce costos y acelera el despliegue.

Según el blog, los AI Clouds de NVIDIA están “co-diseñados con la infraestructura de IA de pila completa de NVIDIA” para satisfacer la demanda explosiva de tokens detrás de las aplicaciones de IA más populares. La combinación de aceleración de cómputo, redes (como NVLink y Spectrum-X) y software (como NeMo y Triton Inference Server) permite a los socios ofrecer el mejor rendimiento por vatio y el costo por token más bajo. Esto es crucial para aplicaciones de IA agente, que requieren inferencia en tiempo real con baja latencia. Además, la expansión fortalece la posición de NVIDIA frente a competidores como AMD e Intel, que aún no cuentan con un ecosistema tan amplio y diverso geográficamente.

Consecuencias y perspectivas

La expansión tendrá varias consecuencias de largo alcance:

• Mayor acceso a capacidad de cómputo: Startups y empresas locales en regiones como África y Sudamérica podrán entrenar y ejecutar modelos de IA sin necesidad de importar servicios de nubes extranjeras. Esto impulsará la innovación regional, especialmente en sectores como agricultura, salud y finanzas.
• Reducción de la dependencia de centros de datos concentrados: Actualmente, más del 60% de la capacidad de cómputo de IA se encuentra en EE.UU. y Europa. Con esta expansión, se descentraliza la infraestructura, reduciendo riesgos geopolíticos y de latencia. Por ejemplo, un usuario en Nairobi podrá obtener inferencia con menos de 10 ms de latencia, en lugar de los 100+ ms que tomaría conectarse a un centro en Virginia.
• Fortalecimiento de los programas de IA soberana: Países como India, Japón y Singapur ya tienen iniciativas de IA soberana. NVIDIA ahora puede apoyar a gobiernos en África y Sudamérica para construir sus propias fábricas de IA, garantizando que los datos sensibles no salgan del país. Esto es clave para sectores como defensa, salud pública y administración gubernamental.
• Aumento de la competencia en el mercado cloud: Los hyperscalers (AWS, Azure, GCP) dominan actualmente el mercado de infraestructura de IA. Sin embargo, los AI Clouds de NVIDIA ofrecen una alternativa especializada con mejor rendimiento para cargas de trabajo de IA. Esto podría presionar a los hyperscalers a reducir precios o mejorar sus ofertas de GPU. Según analistas, el costo por hora de una GPU H100 en un AI Cloud de NVIDIA puede ser hasta un 20% menor que en AWS.
• Desafíos regulatorios y de sostenibilidad: La instalación de centros de datos de alto consumo energético en regiones con infraestructura eléctrica débil podría generar tensiones. Por ejemplo, en Sudáfrica, donde los cortes de luz son frecuentes, Cassava deberá invertir en generación renovable y almacenamiento. Además, la regulación de datos en África varía por país, lo que requerirá cumplimiento local. NVIDIA y sus socios deberán abordar estos retos para evitar retrasos.

En comparación con la expansión de la nube de Google a regiones como Chile en 2021, NVIDIA no ofrece servicios directos, sino que habilita a socios locales. Esto reduce la inversión de capital de NVIDIA, pero también limita su control sobre la calidad del servicio. Sin embargo, el modelo de socios ha demostrado ser exitoso en otros segmentos, como el gaming con las GPUs personalizadas de ASUS y MSI.

Lo que deben saber los lectores

El ecosistema NVIDIA AI Cloud no es un servicio directo de NVIDIA, sino una red de socios que utilizan su tecnología. Los usuarios finales deben evaluar a los proveedores según su workload específico: entrenamiento, fine-tuning, inferencia o IA agente. Por ejemplo, para entrenamiento de modelos grandes, se recomienda un socio con clústeres de H100 interconectados con NVLink, como CoreWeave. Para inferencia en tiempo real, un socio con servidores de baja latencia como Claro en Brasil es más adecuado. La expansión geográfica ofrece alternativas a los hyperscalers, especialmente para aplicaciones que requieren baja latencia (como vehículos autónomos o asistentes de voz) o cumplimiento normativo local (como GDPR en Europa o la Ley de Protección de Datos en Sudáfrica).

Además, NVIDIA ha detallado que los AI Clouds están optimizados para “la mejor economía: el costo de token más bajo y el mejor rendimiento por vatio”, lo que los hace atractivos para startups con presupuestos ajustados. Sin embargo, los usuarios deben considerar que no todos los socios ofrecen el mismo nivel de servicio; algunos se centran en entrenamiento, otros en inferencia. Por ello, es recomendable probar múltiples proveedores antes de comprometerse. Finalmente, la expansión de NVIDIA podría acelerar la adopción de IA en sectores como salud (diagnóstico por imagen en África) y agricultura (optimización de cultivos en Sudamérica), donde la baja latencia y la soberanía de datos son críticas.

“Cada empresa y cada país necesita infraestructura de fábrica de IA para convertir datos en inteligencia”, dijo Jensen Huang.