Ajuste fino (fine-tuning)
Fine-tuning
¿Qué es el ajuste fino?
- Entrenamiento adicional de un modelo ya entrenado para una tarea específica
- Adaptado al tono y al ámbito
- Especialización con pocos datos
Con el ajuste fino, las instrucciones que antes se enviaban en cada prompt pasan a formar parte del modelo. Reglas como «primera línea una disculpa, cuerpo en tres párrafos y, al final, el contacto del responsable», que antes se enviaban junto con diez ejemplos en cada llamada, se graban una sola vez en la fase de entrenamiento. Por eso lo que cambia no es el conocimiento del modelo, sino su forma de comportarse al responder. Como el prompt es más corto, se reducen los tokens por llamada y el tiempo de respuesta, y también se corrige la variación en las respuestas que surgía cuando cada responsable ajustaba el prompt a su manera.
Hay tres formas principales. El ajuste fino completo, que actualiza todos los pesos del modelo, exige mucho equipo y presupuesto. Los métodos PEFT, como LoRA o los adaptadores, que agregan solo una parte de los parámetros, pueden ejecutarse incluso con una sola GPU, por eso son los más usados en la práctica. Si usa la función de ajuste de un proveedor de API comercial, basta con subir un archivo de datos, pero los datos de entrenamiento salen de la empresa. La cantidad necesaria es menor cuanto más acotada sea la tarea: para clasificar documentos o fijar un formato de salida se ven efectos desde unos cientos de casos; para transferir tono o estilo de escritura, normalmente desde 1,000 a 3,000 pares de «entrada y respuesta correcta». Como criterio general, suele funcionar así: los hechos que cambian con frecuencia (precios, normas, inventarios) van con RAG, y los formatos, tonos y criterios de juicio que no cambian mucho van con ajuste fino.
En la práctica, el punto que más suele fallar es la expectativa de que “si entrenamos el modelo con nuestros documentos, va a memorizar ese contenido”. Si se ajusta el modelo metiendo un manual completo en PDF, el modelo no memoriza el contenido: imita el tono del documento, e inventa cifras o artículos con apariencia verosímil. Cuando cambia una norma, con RAG basta con reemplazar un documento, mientras que con el ajuste fino hay que corregir los datos y volver a entrenar; además, al subir el modelo base a una versión superior, los resultados del ajuste se pierden también. Tampoco es raro olvidar que, si los datos de entrenamiento contienen expresiones torpes de antiguos responsables o nombres de clientes sin enmascarar, eso se reproducirá tal cual. Si no se separan unas 200 preguntas de evaluación desde el principio, al final la conclusión será solo la sensación de que “parece que mejoró”.
John KimAutor de «Diseño de marketing B2B» y CEO de Nanum Consultoría
Ara LimEspecialista en liderazgo global, IA y comunicación empresarialConcepto que consiste en entrenar adicionalmente un modelo preentrenado para una tarea o unos datos específicos. Surgió en la línea de investigación de la transferencia de aprendizaje (transfer learning) y se popularizó en la práctica con la expansión de los modelos de lenguaje de gran escala.
Veamos un caso hipotético. Se trata del servicio de atención al cliente de A, empresa de fabricación y distribución de muebles con 240 colaboradores y ventas anuales de unos KRW 90,000,000,000 (≈ US$67,362,200). Cada día, 11 agentes atienden un promedio de 400 correos de consulta. Aunque ya usaban IA generativa para preparar borradores, los agentes seguían reescribiendo casi por completo los textos. A continuación, el proceso de evaluación de la adopción del ajuste fino durante tres meses.
- El jefe de equipo Kim, de CX, revisó 100 borradores y 62 necesitaban correcciones antes de poder enviarse. Además, se repitió la opinión de los agentes de que “las disculpas suenan demasiado a inglés estadounidense y, para nuestros clientes, resultan arrogantes”.
- Durante tres semanas se probó agregar a los prompts 12 ejemplos de respuestas modelo, pero cada llamada consumió 4 veces más tokens y la respuesta se retrasó hasta 4.2 segundos en promedio, por lo que se concluyó que no era viable en horarios de alta demanda.
- De unos 30,000 correos de consulta de los últimos dos años, seleccionamos 1,800 respuestas de calidad que no generaron nuevas consultas. Dos integrantes del equipo de operaciones trabajaron durante dos semanas enmascarando nombres de clientes, números de pedido y teléfonos, y las organizaron en pares de pregunta y respuesta.
- El gerente Park, responsable de la adopción de IA, entrenó en tres rondas un modelo pequeño de código abierto con el método LoRA, y el costo total de entrenamiento se quedó en el rango de KRW 600,000 (≈ US$450). En cambio, la información que cambia cada trimestre, como las políticas de envío y las reglas de regalos, no se tocó y se mantuvo en RAG.
- Antes del lanzamiento se calificaron por separado, con 200 preguntas de evaluación, la adecuación del tono y la precisión normativa. El primer modelo entrenado aprobó en tono, pero inventó cifras normativas en 9 casos, así que todos los casos de ese tipo se derivaron a RAG.
- Dos meses después de la implementación, la tasa de corrección de borradores bajó de 62% a 21%, y el tiempo promedio para redactar un correo pasó de 11 minutos a 4. Además, al acortarse los prompts, el costo mensual de la API bajó 38%.