RAG: cómo hacer que la IA responda con la documentación de tu empresa

Un modelo de lenguaje sabe mucho de todo y nada de tu empresa: no conoce tus procedimientos, tus contratos ni tu catálogo. Si le preguntas por ellos, puede contestar con algo genérico o, peor, inventarlo con mucha seguridad. La generación aumentada por recuperación (RAG, por sus siglas en inglés) resuelve ese problema sin tener que entrenar un modelo propio.

La idea en una frase

Antes de responder, el sistema busca en tu documentación los fragmentos relevantes para la pregunta y se los da al modelo junto con la instrucción de contestar solo con esa información y citar de dónde sale.

Cuándo tiene sentido

RAG funciona bien cuando:

• La respuesta está escrita en algún sitio: manuales, políticas, fichas de producto, contratos, actas o el historial de incidencias.
• La información cambia a menudo y reentrenar un modelo cada vez sería caro y lento.
• Necesitas trazabilidad: saber de qué documento sale cada respuesta.

No es la herramienta adecuada si la respuesta exige cálculos sobre datos vivos (para eso, mejor una consulta a la base de datos o una herramienta que la haga) o si la documentación no existe o está muy desordenada.

Cómo se construye, paso a paso

1. Ingesta. Se conectan las fuentes (SharePoint, gestores documentales, bases de datos, el ERP o el CRM) y se extrae el texto, incluido el de PDF escaneados.
2. Limpieza y fragmentación. Se quitan duplicados y ruido, y el texto se divide en fragmentos con sentido propio, conservando título, sección y fecha.
3. Indexado. Cada fragmento se convierte en un vector que representa su significado y se guarda en un índice que permite buscar por significado, no solo por palabras exactas.
4. Recuperación. Ante una pregunta, se buscan los fragmentos más relevantes, normalmente combinando búsqueda semántica y por palabras clave, y respetando los permisos de cada usuario.
5. Generación con cita. El modelo redacta la respuesta solo con esos fragmentos y enlaza las fuentes. Si no encuentra la información, debe decirlo.
6. Actualización. Cuando un documento cambia, se vuelve a indexar automáticamente para que la respuesta use siempre la versión vigente.

Los errores más habituales

• Fragmentos mal cortados. Un párrafo separado de su título pierde el contexto y la búsqueda deja de encontrarlo.
• Ignorar los permisos. Si el índice no respeta quién puede ver qué, el asistente acaba mostrando a cualquiera información restringida.
• No medir. Sin un conjunto de preguntas de prueba con su respuesta correcta, no hay forma de saber si un cambio mejora o empeora el sistema.
• No permitir «no lo sé». Un asistente que siempre responde acaba inventando. Es mejor que reconozca cuándo la documentación no cubre la pregunta.
• Olvidar la privacidad. Los documentos y las preguntas deben quedarse en un entorno controlado y no usarse para entrenar modelos de terceros.

Cómo lo abordamos

En Valvia empezamos por un proceso concreto y un conjunto de preguntas reales del equipo que lo va a usar, y medimos las respuestas antes de ampliar. Trabajamos en entornos corporativos (por ejemplo, Azure) en los que la documentación no sale de tu perímetro. Si quieres ver cómo encajaría con tu documentación, hablemos de tu caso. También puedes ver un ejemplo en RAG sobre documentación corporativa.