GraphRAG vs vector RAG: cuándo usar cada uno

Durante los últimos dos años, la generación aumentada por recuperación (RAG) se ha convertido en una herramienta esencial para quienes construyen aplicaciones con modelos de lenguaje de gran tamaño (LLM). Sin embargo, su principal limitación es conocida: al fragmentar documentos en trozos y recuperar solo los más similares a la pregunta, falla cuando la respuesta requiere conectar información dispersa o entender el panorama completo. Por ejemplo, preguntas como '¿Cuáles son los temas recurrentes en dos años de quejas de clientes?' no obtienen respuesta porque ningún fragmento individual contiene la respuesta.

La solución de moda es GraphRAG, presentada por Microsoft Research. En lugar de alimentar al modelo con fragmentos aislados, primero construye un grafo de conocimiento con las entidades y relaciones del corpus, y luego usa esa estructura como contexto. Aunque la idea es atractiva, ¿realmente mejora las respuestas? Para responder, analizamos el estudio original de Microsoft y cuatro evaluaciones independientes publicadas en arXiv.

¿Qué ha ocurrido?

El auge de GraphRAG comenzó con el artículo de Microsoft (arxiv.org/abs/2404.16130), que proponía un método para construir grafos de conocimiento a partir de documentos y usarlos para responder preguntas globales. Desde entonces, han surgido variantes como HippoRAG, que combina grafos con PageRank personalizado para mejorar la recuperación. Sin embargo, la adopción se ha adelantado a la evidencia: muchas empresas implementan GraphRAG sin saber si realmente supera al vector RAG en su caso de uso.

¿Por qué es importante?

La elección entre GraphRAG y vector RAG tiene implicaciones directas en costos, latencia y calidad de las respuestas. El vector RAG es simple, rápido y económico, pero tiene tres puntos ciegos estructurales: no conecta información dispersa, es ciego a preguntas globales y pierde contexto en los límites de los fragmentos. GraphRAG aborda estos problemas mediante un índice más sofisticado que extrae entidades, relaciones y comunidades (usando el algoritmo de Leiden), y genera resúmenes por comunidad que se usan en la consulta.

La evidencia: cuatro estudios, un patrón

1. Preguntas globales y de sentido común: la gran victoria

Los estudios coinciden en que GraphRAG brilla en preguntas que requieren una visión holística del corpus, como '¿Cuáles son los temas principales?' o '¿Qué patrones se repiten?'. En estos casos, el vector RAG falla porque solo recupera fragmentos superficialmente similares. GraphRAG, al usar resúmenes de comunidades, logra respuestas más completas y precisas.

2. Preguntas locales y específicas: empate o ligera ventaja para vector RAG

Cuando la pregunta es concreta y la respuesta está en un solo fragmento, como '¿Cuál fue nuestra política de reembolsos en el tercer trimestre?', el vector RAG es tan bueno como GraphRAG, pero con una fracción del costo y la latencia. GraphRAG añade una complejidad innecesaria para estos casos.

3. Costo y complejidad: el precio de la sofisticación

GraphRAG requiere un proceso de indexación mucho más costoso, ya que involucra múltiples llamadas al LLM para extraer entidades y relaciones. Además, la consulta implica pasos de 'map' y 'reduce' que aumentan la latencia. Los estudios muestran que, para la mayoría de las aplicaciones empresariales, el vector RAG es suficiente y más rentable.

¿Qué consecuencias tendrá?

La principal consecuencia es que las empresas deben evaluar cuidadosamente sus casos de uso antes de adoptar GraphRAG. No es una bala de plata. Para aplicaciones que manejan grandes volúmenes de datos no estructurados y necesitan responder preguntas globales (por ejemplo, análisis de quejas, investigación de mercado, informes financieros), GraphRAG puede ser una ventaja competitiva. Pero para chatbots de atención al cliente o búsquedas internas, el vector RAG sigue siendo la opción más eficiente.

¿Qué deben saber los lectores?

Si estás considerando GraphRAG, ten en cuenta estos puntos:

• No todo necesita GraphRAG: Si tus preguntas son principalmente locales, quédate con vector RAG.
• Mide el costo: GraphRAG puede multiplicar los costos de indexación y consulta por 10 o más.
• Evalúa con datos propios: Los benchmarks son útiles, pero cada corpus es diferente. Prueba ambos enfoques con tus datos.
• Considera híbridos: Algunas implementaciones combinan ambos, usando vector RAG para preguntas locales y GraphRAG para globales.

GraphRAG no es una bala de plata; es una herramienta más en el arsenal de RAG. La clave está en saber cuándo usarla.

En resumen, GraphRAG supera al vector RAG en preguntas globales y de conexión de información, pero a un costo mayor. La decisión debe basarse en el tipo de preguntas que necesitas responder y en tu presupuesto. La evidencia actual sugiere que la mayoría de las aplicaciones no necesitan GraphRAG, pero para aquellas que sí, puede marcar una diferencia significativa.