RAG · Generación aumentada por recuperación
Retrieval-Augmented Generation
¿Qué es RAG?
- Busca primero conocimiento externo antes de responder
- Genera la respuesta sobre la base de evidencias
- Reduce alucinaciones y refleja conocimiento actualizado e interno
Al incorporar RAG, cambia la responsabilidad por las respuestas de la IA. Antes, la conclusión era «el modelo no lo sabe»; ahora la causa pasa a ser «ese documento no estaba en el repositorio» o «se recuperó una versión antigua». Así, lo que determina la calidad deja de ser el rendimiento del modelo y pasa a ser la capacidad de gestión documental interna. Por eso, más de la mitad de los proyectos de implantación no se dedica al desarrollo, sino a reunir normativas y manuales dispersos y ordenar sus versiones.
Se diferencia de el ajuste fino y del contexto largo en su uso. El ajuste fino sirve para cambiar el tono y el formato de salida; el contexto largo, que consiste en pegar el documento completo, es adecuado para análisis puntuales de decenas de páginas. En cambio, si hay que extraer unos pocos fragmentos de respaldo entre miles o decenas de miles de documentos, no hay otra alternativa que RAG. Los detalles de configuración también determinan el resultado. Los documentos suelen dividirse en fragmentos de 300 a 800 tokens, con un solapamiento de 10 a 20 % entre fragmentos contiguos, y por cada pregunta se recuperan, por defecto, de 3 a 5 fragmentos. La búsqueda semántica sola pierde identificadores exactos, como «Formulario 3-2», por lo que muchos equipos optan por una configuración híbrida que combina búsqueda por palabras clave y añade una etapa de reordenamiento (reranker).
Una vez en operación, se necesitan indicadores de seguimiento propios. Con 30 a 50 preguntas que los usuarios realmente harían, se arma un conjunto de evaluación y se revisan por separado dos cosas: si el documento necesario llegó a los resultados de búsqueda (acierto de búsqueda) y si la respuesta coincide con esa evidencia. Separar estos dos indicadores muestra dónde intervenir. Si la búsqueda falló, hay que corregir la forma en que se dividieron los documentos o la organización de los títulos; si la búsqueda acertó pero la respuesta salió enredada, el problema está en el prompt y en el modelo. Revisar cada semana el registro de preguntas sin respuesta es, en la práctica, todo el mantenimiento.
La confusión más común es pensar que «basta con subir todos los documentos y la IA responde sola». Si en el mismo lugar están el reglamento interno de trabajo de 2019 y el de 2024, la IA presenta cláusulas derogadas citando incluso la fuente, y el empleado, al ver el respaldo, confía y actúa en consecuencia. Si se omite el diseño de permisos, el daño es todavía mayor. En cuanto una evaluación de desempeño o una tabla salarial entra en el mismo repositorio, una sola búsqueda permite que todos los empleados la consulten. Como mínimo, hay que configurar el sistema para que responda «no hay información en los documentos» cuando no encuentre respaldo, y etiquetar cada documento con su fecha de vigencia y sus permisos de acceso para filtrarlo en la etapa de búsqueda.
John KimAutor de «Diseño de marketing B2B» y CEO de Nanum Consultoría
Ara LimEspecialista en liderazgo global, IA y comunicación empresarialFue propuesta por primera vez en 2020, en un artículo del equipo de Patrick Lewis y del laboratorio de IA de Facebook (hoy Meta AI). La idea central es combinar un buscador con un modelo generativo.
Veamos un caso hipotético. A, un fabricante de autopartes con 520 colaboradores, tenía un equipo de Recursos Humanos de 3 personas que recibía más de 700 consultas internas al mes. Las preguntas sobre vacaciones, gastos por eventos familiares y viáticos representaban el 60% del total, y el responsable tenía que revisar el manual de normas en PDF para confirmar cada respuesta, lo que le tomaba de dos a tres horas diarias. En el primer semestre de 2024, decidieron crear con RAG un chatbot de consulta sobre las normas.
- Lo primero que hizo el responsable de Recursos Humanos fue ordenar documentos, no desarrollar. Revisó unos 180 archivos de normativas dispersos en la unidad compartida, conservó solo 42 versiones vigentes y trasladó el resto a una carpeta de descarte.
- Un integrante del equipo de sistemas de información dividió 42 documentos por artículo, los cargó en la base de datos vectorial y etiquetó su fecha de vigencia y su nivel de acceso. Además, separó 7 documentos, como las tablas salariales, para que solo se pudieran buscar desde las cuentas de Recursos Humanos.
- En la primera prueba, a la pregunta «¿desde cuándo se puede usar el día de vacaciones?», el sistema respondió con una cláusula de 2019 ya derogada. El jefe de Recursos Humanos, al ver que el sistema incluía la fuente y que los empleados le creerían sin más, pidió excluir los documentos vencidos.
- Con 40 preguntas frecuentes de las áreas operativas creamos un conjunto de evaluación, que ejecutamos cada semana. Al anteponer el título de cada artículo al texto y mezclar la búsqueda por palabras clave, la precisión de búsqueda subió de 61% a 89% en tres semanas.
- Tres meses después, las consultas simples a Recursos Humanos bajaron de 700 a 240 al mes, y las respuestas que antes tardaban 4 horas en promedio ahora son inmediatas. Como cuando no hay respaldo el sistema responde «no está confirmado en el reglamento», las denuncias de respuestas incorrectas son de 3 al mes o menos.
- Cuando hay que responder con base en documentos internos y actualizados
- Cuando los datos cambian con frecuencia
- Cuando hay que reducir las alucinaciones
- Cuando hay que cambiar el tono o el formato en sí (ajuste fino)
- Creación pura, sin documentos de referencia
- Latencia ultrabaja, cuando la actualidad en tiempo real es crítica