RAG vs. Agentic RAG: ¿cuándo usar cada arquitectura?

¿Qué ha ocurrido?

La generación aumentada por recuperación (RAG) se ha consolidado como la técnica estándar para grounding de modelos de lenguaje en datos externos, especialmente desde la explosión de los chatbots empresariales en 2023. Sin embargo, la RAG clásica —un pipeline lineal de recuperación y generación— muestra limitaciones ante consultas complejas que requieren múltiples pasos de razonamiento o fuentes heterogéneas. Surge así la RAG agentica, donde un agente LLM decide qué herramientas usar, reformula consultas, evalúa la suficiencia de la evidencia y ejecuta múltiples pasos de recuperación, siguiendo el patrón ReAct (razonar, actuar, observar, repetir) popularizado por Yao et al. en 2022. La discusión entre RAG vs. Agentic RAG no es solo técnica: implica decidir entre simplicidad y control, latencia predecible y capacidad adaptativa, y tiene implicaciones directas en costos operativos y precisión en producción.

¿Por qué es importante?

Elegir la arquitectura incorrecta puede traducirse en alucinaciones, respuestas incompletas o costos operativos innecesarios. Según un estudio de 2024 de Nvidia, las empresas que implementan RAG reportan una reducción de alucinaciones del 40% en promedio, pero la tasa de error en consultas multi-salto sigue siendo superior al 30% en sistemas clásicos. La RAG clásica es ideal para casos de uso estables y consultas directas, como FAQs de productos o búsqueda documental simple, pero se rompe con preguntas que requieren múltiples fuentes o donde el vocabulario del usuario no coincide con el del corpus. La RAG agentica, por su parte, ofrece robustez y precisión a costa de mayor latencia y complejidad de implementación. Por ejemplo, en un chatbot de soporte técnico, una consulta como "¿Qué pasos debo seguir si el error 503 persiste después de reiniciar el servidor?" puede requerir recuperar primero la documentación del error, luego la guía de reinicio y finalmente las notas de la versión. Un pipeline clásico fallaría en el primer intento, mientras que un agente puede iterar. Entender estas compensaciones es crítico para equipos que despliegan chatbots, asistentes de soporte o sistemas de búsqueda empresarial, donde el costo por consulta puede variar de 0.01 USD en RAG clásica a 0.10 USD en RAG agentica debido al mayor consumo de tokens.

Arquitecturas en detalle

RAG clásica

Funciona como un pipeline fijo: el usuario envía una consulta, se recuperan fragmentos relevantes (por similitud vectorial, búsqueda por palabras clave o híbrida) y el LLM genera una respuesta. Es stateless: cada consulta se procesa de forma independiente. Ventajas: latencia predecible (típicamente 1-3 segundos), baja sobrecarga de infraestructura (un solo índice vectorial y un embedding model) y depuración sencilla. Desventajas: falla en preguntas multi-salto, sufre de desajuste de vocabulario (por ejemplo, si el usuario dice "coche" y el corpus usa "automóvil") y los límites de los fragmentos pueden dividir la evidencia necesaria. Un caso típico es un FAQ donde todas las respuestas están en un solo documento; aquí RAG clásica es óptima.

RAG agentica

Un agente LLM con acceso a herramientas decide cómo responder. Sigue el patrón ReAct (razonar, actuar, observar, repetir). Puede reformular consultas, cambiar de fuente (de vector store a SQL database o API REST), llamar a APIs externas o detenerse cuando tiene suficiente información. Con memoria, mantiene contexto entre iteraciones, lo que permite manejar diálogos multi-turno. Ventajas: maneja consultas complejas (multi-hop, comparativas, condicionales), reduce alucinaciones al verificar evidencia en cada paso y es más robusto ante variaciones de vocabulario. Desventajas: mayor latencia (5-15 segundos o más), más tokens consumidos (puede multiplicar por 3-5 el costo) y depuración más compleja, ya que el flujo de decisiones es no determinista. Herramientas como n8n permiten orquestar estos agentes con nodos de decisión, pero requieren un diseño cuidadoso de los límites de iteración y la gestión de errores.

¿Cuándo elegir cada uno?

• RAG clásica: cuando el corpus es estable (ej. documentación de producto versionada), las consultas son directas (FAQ, preguntas factuales simples como "¿Cuál es la política de devoluciones?") y se prioriza la velocidad y el bajo costo. También es adecuada para prototipos rápidos o cuando el equipo no tiene experiencia en agentes.
• RAG agentica: cuando las consultas son multi-salto (ej. "¿Qué empleados fueron contratados después de la ronda de financiación Serie B y tienen más de 5 años de experiencia?"), el vocabulario es impredecible (usuarios usan sinónimos, jerga o errores ortográficos), se requiere integración con múltiples fuentes (bases de datos, APIs, documentos) o la tolerancia a errores es baja (soporte al cliente, diagnóstico técnico, cumplimiento regulatorio).

Consecuencias y recomendaciones

La tendencia es hacia sistemas híbridos que combinen RAG clásica para consultas simples y agentes para las complejas, como sugiere el blog de n8n. Por ejemplo, un clasificador inicial (un LLM pequeño o un modelo de intención) puede enrutar la consulta al pipeline adecuado. Los equipos deben instrumentar sus pipelines con métricas de precisión, latencia y costo por consulta. Herramientas como n8n permiten orquestar ambos flujos sin código complejo, usando nodos de decisión y bucles controlados. La clave está en no sobredimensionar: un agente para cada consulta es derrochador; pero un pipeline fijo para preguntas que requieren razonamiento multi-paso es insuficiente. Como analogía, la RAG clásica es como un cajero automático: rápido y predecible para operaciones estándar. La RAG agentica es como un banquero: tarda más pero resuelve casos complejos. En producción, se recomienda empezar con RAG clásica, medir la tasa de fallos en consultas reales, y luego introducir agentes solo para los casos donde la precisión sea crítica. Además, considerar el uso de modelos de embedding especializados y técnicas de chunking adaptativo para mejorar la recuperación en RAG clásica antes de saltar a la complejidad agéntica.

“La RAG clásica es como un cajero automático: rápido y predecible para operaciones estándar. La RAG agentica es como un banquero: tarda más pero resuelve casos complejos.”