Grounding · Fundamentación
Grounding
¿Qué es el grounding?
- Responder con base en evidencia real
- Reducir la invención (alucinaciones)
- Objetivo de RAG
Al incorporar el grounding, cambia la pregunta que la organización le hace a la IA. Ya no se pregunta «¿este modelo es inteligente?», sino «¿en qué documento y en qué artículo se basó esta respuesta?». Por eso el efecto real del grounding aparece primero en la velocidad para encontrar respuestas incorrectas, más que en la tasa de aciertos. Cuando la fuente está visible, el responsable verifica una respuesta en segundos y no en minutos, y cuando hay un error, lo que hay que corregir se identifica como el documento, no el modelo.
El grounding no es una sola tecnología, sino un conjunto de enfoques que se usan juntos. Está el RAG, que busca documentos y los incorpora a la respuesta; adjuntar archivos directamente al hacer la pregunta; y consultar, mediante la API de los sistemas internos, valores que cambian con frecuencia, como inventarios o cuentas por cobrar. El fine-tuning, que suele confundirse con esto, es distinto. El fine-tuning moldea el tono y el formato; el grounding crea las fuentes. En los ámbitos que cambian seguido, como cifras y reglamentos, no conviene entrenar al modelo, sino resolverlo con consultas.
El resultado real depende menos del modelo que del estado de las fuentes. Si las versiones vigentes y derogadas de un mismo reglamento están en una misma carpeta, la búsqueda trae ambas. Hay que asignar a cada documento su fecha de vigencia y su versión, hacer que la respuesta muestre el nombre del documento, el artículo y la fecha de vigencia, y establecer una regla de rechazo: si no se encuentra la fuente, no inventar y terminar con 'no se pudo confirmar'. Más de la mitad del esfuerzo de implementación no está en la configuración del modelo, sino en ordenar el repositorio de documentos.
El malentendido más común es creer que 'con RAG, las alucinaciones se acabaron'. Si la búsqueda trae un documento equivocado, la IA responde con fidelidad a ese documento y, además, le pone la fuente: da una respuesta incorrecta con apariencia de respaldo. Cuando la respuesta tiene una fuente citada, los colaboradores confían todavía más. Si en el índice sigue la política de viáticos derogada hace tres años, se cita tal cual; y si se incorpora toda la carpeta de Recursos Humanos sin separar permisos, la tabla de salarios puede consultarse desde el chatbot de cualquier colaborador. En el momento en que se conecta una fuente, nace también la responsabilidad de administrarla.
John KimAutor de «Diseño de marketing B2B» y CEO de Nanum Consultoría, instructor John Kim
Sungil KimExalumno de KAIST y ex Samsung Electronics; experto en pitch global que formó al equipo ganador del concurso de pitch de inversión de Select USA y de la Organización Mundial del Turismo (ONU)Es el concepto de vincular las respuestas de la IA con hechos y evidencias externas. Con la expansión de RAG, se destaca como un principio clave para reducir las alucinaciones.
Veamos un caso hipotético. A, un fabricante de autopartes con 1,200 colaboradores, recibía más de 900 consultas mensuales de administración y de recursos humanos, así que abrió un chatbot interno. Sin embargo, a los tres meses se acumularon quejas por haber procesado algo «según el chatbot» que luego fue rechazado. El equipo de estrategia de información reunió durante tres semanas 32 reportes de respuestas erróneas y analizó las causas.
- El subgerente Kim, del equipo de estrategia de información, clasificó las 32 respuestas erróneas y encontró que 24 se basaban en el reglamento de viáticos de 2021, ya derogado. La causa fue que en la carpeta compartida seguían conviviendo la versión vigente y la derogada.
- Junto con Park, de Recursos Humanos, revisamos durante dos días 726 documentos de reglamentos, dejamos solo las 214 versiones vigentes y etiquetamos cada archivo con 'fecha de vigencia, versión y área responsable'. Los demás se excluyeron por completo de la búsqueda.
- También cambiamos las reglas de respuesta. Si no se encuentra un párrafo que sirva de fuente, el sistema no adivina: se fijó una frase de rechazo que solo dice: 'No se pudo confirmar en el reglamento vigente. Consulte con Recursos Humanos en la extensión 3120'.
- Al pie de cada respuesta se muestran el nombre del documento, el artículo y la fecha de vigencia. El líder del equipo incluyó en el aviso de apertura una línea que decía: «Si una respuesta no tiene fuente, repórtela como error».
- Las tablas salariales y las evaluaciones de desempeño se separaron en índices aparte, y solo se abrieron a cuentas de jefes de equipo o de nivel superior. La verificación de permisos la realiza el sistema de autenticación interno, no el chatbot.
- Ocho semanas después, los reportes de respuestas incorrectas bajaron de 32 al mes a 5, y las consultas simples a Recursos Humanos bajaron de 900 al mes a 510. La tasa de respuestas con indicación de fuente fue de 97%.