Cómo construir agentes de IA fiables en SRE: de la desconfianza a la autonomía segura

¿Qué ha ocurrido?

La ingeniería de fiabilidad de sitios (SRE) está adoptando agentes de IA para tareas como triaje de alertas, análisis de causa raíz, ejecución de runbooks y planificación de mitigación. Sin embargo, en producción la pregunta clave no es si un agente puede actuar, sino si los equipos confían en que lo haga de forma segura, consistente y transparente bajo estrés. Según un artículo de InfoWorld, la confianza es un resultado de ingeniería, no una promesa de marketing. Este movimiento no es repentino: desde 2016, Google ha publicado investigaciones sobre el uso de IA en SRE, pero solo recientemente la madurez de los grandes modelos de lenguaje (LLMs) ha permitido agentes con capacidad de razonamiento contextual. A diferencia de los sistemas de automatización tradicionales basados en reglas fijas, los agentes pueden adaptarse a incidentes imprevistos, pero también introducen riesgos de comportamiento impredecible.

¿Por qué es importante?

La automatización tradicional funciona cuando el mundo es predecible, pero los incidentes de SRE son caóticos, parciales y urgentes. Un agente de IA fluido pero sin contexto puede sonar convincente mientras hace recomendaciones peligrosas. La confianza en SRE se gana durante fallos, no en demos. Por eso es crítico diseñar sistemas que sepan fallar de forma segura y que demuestren su valía en incidentes reales. En la práctica, un incidente típico de SRE involucra decenas de alertas, cambios de configuración, logs dispersos y presión de tiempo. Un agente mal diseñado podría, por ejemplo, escalar un servicio basándose en una correlación espuria, empeorando una situación ya crítica. De ahí que el concepto de “humano en el bucle” sea central en las implementaciones actuales. Empresas como Datadog y New Relic ya están integrando agentes de IA en sus plataformas de observabilidad, pero advierten que la supervisión humana sigue siendo necesaria. El impacto en el mercado es significativo: se espera que el mercado de IA en operaciones de TI crezca de 23.000 millones de dólares en 2023 a más de 80.000 millones en 2028, según IDC.

Los cinco pilares de la confianza

Un modelo práctico para agentes de IA en SRE se organiza en cinco pilares:

• Observabilidad fundamentada: El agente razona sobre métricas, logs, trazas, cambios, topología e historial de incidentes correlacionados. Sin esta base, el agente puede generar hipótesis plausibles pero incorrectas. Por ejemplo, si no tiene acceso a la topología de servicios, podría atribuir una latencia alta a un nodo equivocado.
• Guardarraíles claros: Permisos, listas blancas, puertas de aprobación, rutas de reversión y límites de tasa restringen la acción. Estos límites deben ser deterministas y no depender del juicio del agente. En la práctica, esto significa que incluso si el agente decide reiniciar un servicio, la capa de seguridad debe verificar que la acción está permitida, que no excede un límite de tasa y que existe un plan de reversión.
• Humano en el bucle: Los humanos aprueban o supervisan acciones de alto riesgo. Esto no implica que el agente sea inútil: puede preparar un análisis detallado y una recomendación, pero la ejecución queda sujeta a aprobación. Google, en su modelo de autonomía para SRE, distingue entre autonomía asistida (el agente sugiere, el humano decide), autonomía parcial (el agente actúa en acciones de bajo riesgo) y autonomía total (solo tras éxito sostenido).
• Explicabilidad: El agente muestra evidencia, hipótesis, confianza y razonamiento. No basta con dar una respuesta; debe detallar qué datos usó, qué pasos siguió y qué nivel de confianza tiene. Esto permite a los ingenieros auditar sus decisiones y aprender de errores. Herramientas como LangChain y LlamaIndex ya ofrecen capacidades de trazabilidad de razonamiento.
• Evaluación con incidentes reales: El agente se puntúa contra incidentes históricos o reproducidos. Esto implica tener un conjunto de pruebas (benchmarks) que midan precisión, tiempo de respuesta, tasa de falsos positivos y capacidad de recuperación ante errores. Por ejemplo, un agente podría evaluarse en un caos engineering experiment donde se inyectan fallos controlados.

Google, en su modelo de autonomía para SRE, refleja esta progresión: desde monitoreo asistido e investigación hasta autonomía parcial con aprobación humana, y solo autonomía total tras éxito sostenido y pruebas de seguridad. Un caso documentado es el uso de agentes en Google Cloud para diagnosticar interrupciones de red, donde el agente redujo el tiempo medio de detección en un 40% sin causar incidentes adicionales.

Patrón arquitectónico recomendado

Un sistema fiable debe separar el razonamiento de la actuación. El agente puede investigar, resumir, proponer e incluso planificar, pero la ejecución real pasa por una capa de seguridad determinista que valida permisos, riesgo, estado actual de producción y radio de explosión antes de cualquier cambio. Este patrón evita que un error del agente se convierta en un incidente mayor. Por ejemplo, si el agente decide eliminar un pod, la capa de seguridad verifica que el pod no sea crítico, que no haya dependencias aguas abajo, y que la eliminación no exceda un umbral de réplicas mínimas. Además, se recomienda que el agente opere en un entorno de simulación (sandbox) antes de tocar producción, y que todas las acciones queden registradas en un registro inmutable para auditoría posterior. Este enfoque es similar al que usan empresas como PagerDuty en su plataforma de respuesta a incidentes, donde los runbooks automatizados se ejecutan solo tras validación de condiciones predefinidas.

Consecuencias y recomendaciones

La adopción de agentes de IA en SRE promete acelerar la respuesta a incidentes, pero sin los pilares de confianza, el riesgo de fallos catastróficos es alto. Las organizaciones deben priorizar la observabilidad, los guardarraíles y la evaluación continua. Los ingenieros SRE deben exigir transparencia y capacidad de auditoría en las herramientas que adopten. A largo plazo, la confianza permitirá una autonomía progresiva, liberando a los equipos para tareas más estratégicas como la optimización de costos y la mejora de la resiliencia. Sin embargo, la transición no será uniforme: sectores regulados como finanzas o salud requerirán una supervisión más estricta, mientras que startups tecnológicas podrían adoptar autonomía total más rápido. El futuro de SRE no es sin humanos, sino con humanos aumentados por agentes fiables. Como señala InfoWorld, “la confianza en SRE se gana durante fallos, no en demos”. Por ello, la inversión en ingeniería de confianza es tan importante como la inversión en el agente mismo.

“La confianza en SRE se gana durante fallos, no en demos.”