Embeddings · Base de datos vectorial
Embedding / Vector Database
¿Qué es un embedding?
- El significado convertido en vectores numéricos (embedding)
- Base de datos vectorial para encontrar rápidamente lo similar
- Componente clave del RAG
Al añadir embeddings, lo que cambia no es la pantalla de resultados sino el tipo de trabajo que hacía el responsable de operación. En la búsqueda por palabras clave, un documento solo aparecía si contenía realmente la palabra «vacaciones», así que el responsable tenía que construir durante años reglas de sinónimos a mano, como «vacaciones = días libres = licencia pagada». Ahora basta con escribir la pregunta tal como la formula el colaborador. A cambio, se vuelve difícil explicar por qué un documento quedó en primer lugar, porque el criterio de orden es la distancia entre coordenadas y no una regla escrita por personas.
Con cifras, la idea es esta: la dimensión de los embeddings suele estar entre 768 y 3,072, y los documentos se dividen en bloques de 300 a 800 caracteres con un solapamiento del 10 al 15 % entre ellos, para evitar que una oración quede cortada y pierda sentido. En la práctica, pocas veces se usa solo la búsqueda vectorial. Lo habitual es la búsqueda híbrida, que ejecuta también una búsqueda por palabras clave (BM25) y luego combina ambos resultados. Esto se debe a que la búsqueda vectorial es menos precisa con valores que deben coincidir letra por letra, como códigos de producto, números de contrato o números de artículo. Además, es común aplicar filtros de metadatos, como departamento o año, y pasar a la IA solo los 5 mejores de los 20 primeros resultados, tras un reordenamiento con reranker.
El malentendido más común es pensar que 'con solo instalar una base de datos vectorial, la búsqueda se vuelve inteligente'. Una base vectorial está diseñada para devolver siempre lo más cercano, aunque no tenga relación con la pregunta, así que una puntuación de similitud como 0.82 no garantiza que la respuesta sea correcta. Si no se establece un umbral mínimo, fragmentos irrelevantes se incorporan como evidencia y producen respuestas plausibles pero incorrectas. Además, al cambiar el modelo de embeddings, los vectores anteriores quedan en un sistema de coordenadas distinto y todo el índice debe reconstruirse; es frecuente cambiar solo el modelo sin saberlo, y entonces la calidad de la búsqueda se derrumba por completo. No eliminar los vectores de documentos revisados o derogados es igual de grave: una norma eliminada el año pasado puede seguir citándose como fundamento de la respuesta de hoy, y si no se aplica un filtro de permisos, fragmentos de documentos a los que el usuario no tiene acceso aparecen mezclados en las respuestas.
John KimAutor de «Diseño del marketing B2B» y CEO de Nanum Consultoría. Instructor.
Seolyeong ParkEspecialista en IA generativa y AX, con 17 años de experiencia práctica y más de 200 sesiones de enseñanza, que logra que personas sin formación técnica la usen de inmediatoLa técnica de embeddings, que convierte las palabras en vectores con significado, se popularizó en 2013 con word2vec, publicado por Google. Luego evolucionó hacia los embeddings de oraciones y las bases de datos vectoriales, y hoy es la base del RAG.
Tomemos un caso hipotético. La empresa A, que fabrica válvulas industriales, tiene 420 colaboradores y una facturación anual de KRW 98,000,000,000 (≈ US$73,350,000). Para responder las consultas de sus clientes, el equipo de ventas técnicas tenía que revisar 3,800 PDF de especificaciones y casos de obra de 15 años, y cada consulta tomaba en promedio 40 minutos. Como la búsqueda solo funcionaba si se conocía el código exacto del producto, los nuevos colaboradores preferían preguntarle directamente a un compañero con más experiencia.
- El equipo de ventas técnicas, encabezado por el subgerente Kim, revisó 200 registros de búsquedas fallidas de los últimos seis meses: el 78% eran preguntas coloquiales como «¿qué junta se usa en una línea de alta temperatura?», y la mayoría de ellas devolvía 0 resultados.
- El jefe de sección Park, del equipo de sistemas de información, dividió 3,800 PDF en fragmentos de 600 caracteres con un solapamiento de 100, generó embeddings de unos 42,000 fragmentos y los cargó en la base de datos vectorial.
- En la primera prueba, un catálogo de 2016 ya descontinuado apareció entre los primeros resultados, y el director de ventas lo señaló: «Este producto ya ni siquiera lo vendemos». Por eso se añadieron filtros de metadatos por año de documento y por familia de productos.
- Como búsquedas de códigos como 'V-40S' seguían quedando relegadas, cambiamos a un enfoque híbrido que ejecuta también la búsqueda por palabras clave, y los 20 resultados principales se redujeron a 5 con un reranker, que se pasaron como base para la respuesta.
- Tras asignar a un responsable que reindexa las modificaciones del reglamento una vez por semana, al tercer mes el tiempo de búsqueda por consulta bajó de 40 minutos a 7 minutos, y las consultas internas para volver a preguntar a un compañero bajaron de 60 al mes a 18.