Modelo fundacional
Foundation Model
¿Qué es un modelo fundacional?
- Un modelo de uso general, entrenado a gran escala una sola vez
- Uso versátil: traducción, resumen, programación y más
- Base de la IA moderna
Lo que cambió el modelo base no es el rendimiento sino el punto de partida de los proyectos de IA. Antes, para crear siquiera un clasificador de consultas se requerían medio año y personal dedicado a recopilar y etiquetar datos, entrenar y validar, y si cambiaban los criterios del negocio había que empezar de nuevo. Hoy se llama a un modelo ya entrenado mediante una API, por lo que la pregunta de la empresa pasa de «¿cómo lo entrenamos?» a qué modelo elegir y cómo conectarlo a nuestros datos. El costo también cambia: de un desarrollo que se paga de una vez pasa a una tarifa de uso mensual, y las habilidades del equipo se desplazan de crear modelos a seleccionarlos, integrarlos y validarlos.
No todos los modelos fundacionales son iguales. Están los cerrados, que solo se ofrecen por API sin publicar sus pesos, y los de pesos abiertos, que se pueden descargar y montar en un servidor propio. También se distinguen por recibir solo texto o también imágenes y voz, es decir, multimodal. Para aplicarlos al trabajo hay tres capas, prompt, RAG y ajuste fino, en orden creciente de costo y dificultad. Contrario a lo que se cree, incorporar el conocimiento interno de la empresa es tarea de RAG, no del ajuste fino; el ajuste fino sirve para fijar «la forma de resolver», como el tono, el formato de salida o los criterios de clasificación. Si no se distingue esto, se puede terminar con un costoso ajuste fino y, aun así, con un modelo que no lee la lista de precios actualizada ayer.
En la práctica, el punto que más se rompe es la idea de «una vez implantado, listo». Los modelos cambian de versión cada pocos meses y las versiones anteriores reciben aviso de fin de servicio. Al cambiar de versión, un prompt que funcionaba puede alterar sin aviso el formato de salida y detener por completo el sistema que lo recibe; esto ocurre de verdad. Solo los equipos que fijan la versión del modelo y cuentan con un conjunto de pruebas de regresión pasan estos cambios sin incidentes. Otra expectativa frecuente es «es de propósito general, así que también hará nuestro trabajo». Pero los reglamentos internos, el código del producto y la lista de precios revisada ayer no están en sus datos de entrenamiento, por lo que devuelve respuestas plausibles pero incorrectas. Un modelo fundacional que no está conectado a tu información es solo un extraño inteligente.
John KimAutor de «Diseño de marketing B2B» y CEO de Nanum Consultoría, instructor John Kim
Sungil KimExalumno de KAIST y ex Samsung Electronics; experto en pitch global que formó al equipo ganador del concurso de pitch de inversión de Select USA y de la Organización Mundial del Turismo (ONU)En 2021, el Instituto de IA Centrada en el Ser Humano (HAI) de la Universidad de Stanford dio el nombre de «foundation model» a estos grandes modelos de propósito general y definió el concepto.
Veamos un caso hipotético: la empresa A, fabricante de válvulas industriales, con 520 colaboradores y ventas anuales de KRW 18,000,000,000 (≈ US$13,472,400). Recibe unas 700 consultas técnicas al mes de clientes extranjeros, y responder revisando planos y especificaciones le tomaba en promedio 2.5 días en la primera respuesta. Se propuso crear un modelo de IA dedicado, pero la cotización era de KRW 800,000,000 (≈ US$598,800) y 12 meses de desarrollo.
- El CTO, Kim (director ejecutivo), devolvió la cotización y preguntó: «¿Pueden garantizar que dentro de un año esto será mejor que los modelos comerciales?». En su lugar, ordenó hacer primero una prueba comparativa de modelos de dos semanas.
- El líder del equipo de ventas técnicas tomó 200 consultas del extranjero de los últimos doce meses y las pasó por tres modelos con el mismo prompt. Según la evaluación del equipo práctico, la tasa de acierto fue del 71%, 64% y 58%, respectivamente.
- El equipo de estrategia de información conectó el modelo de primer lugar con especificaciones de planos y 14,000 historiales de cotizaciones mediante RAG y postergó el ajuste fino. Fue una decisión basada en la idea de «incorporar el conocimiento mediante búsqueda y fijar solo el tono con el prompt».
- El área legal fijó por contrato la cláusula de no uso de los datos de entrada para entrenamiento y la región de procesamiento, y el equipo de desarrollo fijó la versión del modelo y creó 120 preguntas de prueba de regresión que se ejecutan con cada actualización.
- Tres meses después, el tiempo de primera respuesta bajó de un promedio de 2.5 días a 4 horas. Con un gasto mensual en tokens de KRW 2,400,000, (≈ US$1,800) menos de una vigésima parte de la cotización inicial, las consultas sin atender bajaron un 60%.