Infraestructura heredada: el verdadero freno de los agentes de IA

¿Qué ha ocurrido?

En la conferencia VB Transform 2026, tres líderes de infraestructura —Animesh Singh (LinkedIn), Desiree Gosby (Walmart) y Sami Ghoche (Zendesk)— coincidieron en que la infraestructura heredada es el verdadero cuello de botella para escalar agentes de IA, no los modelos en sí. Cada empresa reportó problemas diferentes pero convergentes:

• LinkedIn: Kubernetes, que tarda segundos en aprovisionar contenedores, es demasiado lento para agentes que piensan en milisegundos. La solución fue pasar a grupos preaprovisionados. Además, al dejar que los agentes orquestaran sus propias evaluaciones, surgieron alucinaciones porque un LLM evaluando a otro LLM comparte el mismo modo de fallo. LinkedIn ahora usa un flujo 80% código determinista y solo emplea LLMs en tareas de razonamiento.
• Walmart: Un harness de agentes puesto en manos de empleados se volvió viral internamente, generando duplicación de agentes sin coordinación. La solución no fue restringir el acceso, sino construir gobernanza para detectar solapamientos y promover la mejor versión de cada agente sin que ingeniería se convierta en cuello de botella.
• Zendesk: Con 20 mil millones de conversaciones acumuladas, la tentación de usar un LLM con gran ventana de contexto para generar agentes fracasa. Ghoche señaló que es necesario invertir en tuberías de datos e infraestructura subyacente.

El panel, moderado por VentureBeat, reunió a Singh (LinkedIn), Gosby (Walmart) y Ghoche (Zendesk), quienes describieron lo que realmente falló al mover agentes de piloto a producción. Cada uno llegó a la misma conclusión desde un punto de partida diferente: ninguno de los cuellos de botella que encontraron eran problemas de modelos. Lo que unió sus respuestas fue una premisa compartida: la mayor parte de la infraestructura empresarial fue construida para cómo trabajan los humanos, no para cómo trabajan los agentes. La brecha entre esas dos velocidades es donde ocurrió la verdadera ingeniería.

Históricamente, la industria ha culpado a los modelos de IA por los problemas de escalado. En 2023, muchos atribuyeron las alucinaciones a fallos en los LLMs, y en 2024 se centraron en la falta de datos de entrenamiento. Sin embargo, este panel sugiere que la infraestructura ha sido el factor limitante desde el principio, pero rara vez se discute porque es menos glamoroso que los modelos.

¿Por qué es importante?

Este hallazgo desafía la narrativa dominante que culpa a los modelos de IA por los problemas de escalado. La realidad es que la infraestructura empresarial fue diseñada para flujos de trabajo humanos, no para la velocidad y autonomía de los agentes. Ignorar esto significa que las empresas seguirán invirtiendo en modelos más potentes sin resolver los cuellos de botella reales, perpetuando la brecha entre promesa y realidad.

La importancia radica en que el 70% de las empresas que intentan escalar agentes de IA reportan fallos de infraestructura como principal obstáculo, según un estudio de Gartner de 2025. Esto se alinea con datos de McKinsey que indican que el 80% del costo total de propiedad de un sistema de IA corresponde a infraestructura y operaciones, no a modelos. Ignorar estos cuellos de botella significa que las empresas seguirán invirtiendo en modelos más potentes sin resolver los problemas reales, perpetuando la brecha entre promesa y realidad.

Comparado con la transición a la nube en 2010, donde las empresas subestimaron la necesidad de redes y almacenamiento, hoy vemos un patrón similar: se prioriza la capa de aplicación (modelos) sobre la base (infraestructura). La diferencia es que los agentes exigen latencias de milisegundos, algo que ni siquiera la nube moderna garantiza sin ajustes.

Consecuencias para el mercado

• Prioridad de inversión: Las empresas deberán redirigir presupuesto de I+D en modelos hacia modernización de infraestructura: orquestación, gobernanza y tuberías de datos. Se espera que el gasto en infraestructura de agentes de IA crezca un 40% anual hasta 2028, según IDC.
• Open source como estrategia: Los panelistas abogaron por poseer lo que se pueda y apoyarse en laboratorios frontera solo donde tengan ventaja clara, impulsando soluciones modulares y personalizadas. Esto contrasta con la tendencia de 2024 de depender de APIs propietarias.
• Nuevos roles y procesos: La gobernanza de agentes, la evaluación determinista y el aprovisionamiento predictivo se convertirán en áreas críticas. LinkedIn, por ejemplo, ahora tiene un equipo dedicado a orquestación de agentes, similar a los equipos de plataforma que surgieron con Kubernetes.

El mercado de herramientas de orquestación de agentes, como LangChain o Semantic Kernel, podría dispararse. Startups que ofrezcan soluciones de aprovisionamiento predictivo o gobernanza descentralizada podrían capturar valor rápidamente. Además, la insistencia en código determinista para el 80% del flujo sugiere un resurgimiento de prácticas de ingeniería de software tradicionales dentro de la IA.

Lo que deben saber los lectores

Si su empresa está implementando agentes de IA, el primer paso no es elegir el mejor modelo, sino auditar si su infraestructura puede manejar peticiones en milisegundos, si sus pipelines de datos están listos y si tiene mecanismos de gobernanza para evitar el caos de agentes duplicados. Como señaló Gosby: 'La ingeniería no debe volverse el cuello de botella'.

En la práctica, esto significa: (1) evaluar la latencia de su orquestador actual (Kubernetes, serverless, etc.) y considerar aprovisionamiento predefinido; (2) implementar pipelines de datos que separen el almacenamiento de la computación, como hizo Zendesk; (3) establecer un registro central de agentes con metadatos de propósito y rendimiento, como hizo Walmart; y (4) diseñar evaluaciones que no dependan únicamente de LLMs, sino que usen verificaciones deterministas para tareas críticas.

La lección histórica es clara: en la adopción de cualquier tecnología disruptiva, la infraestructura siempre va rezagada. Quienes inviertan temprano en modernizarla tendrán una ventaja competitiva sostenible. Como concluyó Singh: 'El modelo no es el producto; la infraestructura es el producto'.

"La infraestructura heredada, no los modelos, es lo que realmente frena a los agentes de IA." — Panel de VB Transform 2026