RAG explicado sin mentiras: lo que nadie te dice antes de implementarlo

RAG aparece en todas las presentaciones de IA empresarial. Los proveedores lo describen como "tu propio ChatGPT sobre tus documentos". Los equipos técnicos lo proponen como solución a casi cualquier problema de información. Los directivos aprueban presupuestos basados en demos que funcionan perfectamente con documentos limpios y preguntas fáciles.

La realidad es más matizada. RAG es una herramienta poderosa pero con condiciones de funcionamiento muy específicas. Esta guía explica qué es, cuándo funciona de verdad y cuándo es overkill o simplemente la solución equivocada.

Qué es RAG en una frase

RAG significa Retrieval-Augmented Generation — generación aumentada por recuperación. En términos simples: cuando le haces una pregunta al sistema, primero busca los fragmentos de tus documentos más relevantes para esa pregunta y luego usa ese contexto para generar la respuesta. En vez de responder desde su entrenamiento general, el modelo responde desde tus documentos específicos.

La diferencia con un buscador tradicional: un buscador te devuelve el documento donde está la respuesta. RAG te devuelve la respuesta directamente, citando el documento. Como la diferencia entre buscar en Google y preguntarle a alguien que ya leyó todos los resultados.

Para qué sirve RAG de verdad

Consulta sobre corpus de documentos propios: "¿En cuál de mis 500 contratos hay una cláusula de exclusividad?" o "¿Qué dice el manual de procedimientos sobre devoluciones de más de 30 días?" Preguntas donde la respuesta existe en tus documentos y necesitas encontrarla sin leerlos todos.

Asistente de conocimiento institucional: una entidad pública con cientos de resoluciones, circulares y manuales puede tener un sistema que responde preguntas de sus funcionarios citando la norma exacta.

Apoyo en investigación documental: un abogado que necesita saber si alguno de sus expedientes tiene precedentes similares a un caso nuevo.

Para qué NO sirve RAG — lo que nadie dice en la demo

No sirve si tus documentos tienen mala calidad: PDFs escaneados sin OCR, documentos con estructura inconsistente o texto que mezcla idiomas y formatos. El sistema busca bien solo si el texto está bien. Basura entra, basura sale.

No sirve para análisis cuantitativo: si necesitas saber cuántos de tus 500 contratos tienen cláusula de exclusividad, RAG no es la herramienta — eso es Labs Extractor. RAG es para preguntas cualitativas, no para conteos ni estadísticas.

No sirve si las preguntas son demasiado vagas: "¿Qué dice la normativa sobre empleados?" devuelve resultados inútiles porque la pregunta no tiene suficiente contexto. RAG requiere preguntas específicas para dar respuestas útiles.

No reemplaza al experto: RAG puede encontrar la cláusula relevante, pero interpretar si esa cláusula aplica a tu situación específica sigue requiriendo un abogado, un médico o el experto de turno.

Las tres preguntas que debes hacerle a quien te lo vende

Primera: ¿con qué calidad de documentos probaron la demo? Si la demo usó documentos Word perfectamente formateados y tus documentos son PDFs escaneados de los años 90, los resultados serán radicalmente diferentes.

Segunda: ¿qué pasa cuando el sistema no sabe la respuesta? Un RAG bien implementado dice "no encontré información sobre esto en tus documentos". Uno mal implementado inventa una respuesta con mucha confianza — lo que en un contexto legal o médico es peligroso.

Tercera: ¿cómo se actualiza cuando llegan documentos nuevos? Los documentos de una organización cambian constantemente. El sistema necesita reindexar periódicamente o los resultados quedan desactualizados.

Cuándo tiene sentido implementarlo en Colombia

Tiene sentido cuando tienes más de 200 documentos que tu equipo consulta regularmente y las búsquedas actuales (por nombre de archivo, por carpeta) ya no son suficientes. También cuando el conocimiento institucional está disperso en documentos que nadie lee completos pero todo el mundo necesita consultar parcialmente.

No tiene sentido como primer proyecto de IA. Antes de RAG necesitas que tus documentos estén digitalizados, en formato texto (no imagen) y con alguna organización mínima. Si aún no tienes eso, el primer proyecto debería ser Labs Extractor — que además te genera los datos estructurados que luego hacen que RAG funcione mejor.