Hiperparámetros
Hyperparameter
¿Qué es un hiperparámetro?
- Valor de configuración que se define antes del entrenamiento
- Tasa de aprendizaje, número de capas, etc.
- Influye mucho en el rendimiento
Los hiperparámetros son valores que deben quedar fijados en el momento en que se pulsa el botón de entrenamiento, así que en la práctica no cambian solo el código del modelo, sino todo el diseño del experimento. Sin tocar una sola línea de la estructura, basta con multiplicar por 10 la tasa de aprendizaje para que la pérdida diverja y el entrenamiento se interrumpa; si se divide entre 10, un entrenamiento de tres días pasa a durar tres semanas. Es decir, las horas de GPU que usará el equipo, el costo de la nube y la fecha de entrega se deciden aquí primero.
Los valores se dividen en tres grupos. Los que definen la forma de aprender son la tasa de aprendizaje, el tamaño de lote y el número de épocas; los que definen la estructura del modelo son el número de capas, el número de nodos ocultos y el rango de LoRA; y los que controlan el sobreajuste son la tasa de dropout y el coeficiente de decaimiento de pesos. Por lo general, la tasa de aprendizaje se recorre entre 1e-3 y 1e-5 en escala logarítmica, y cuando las combinaciones pasan de unas decenas se cambia la búsqueda en cuadrícula por búsqueda aleatoria u optimización bayesiana. Los valores que se actualizan solos mediante la retropropagación son parámetros, y los que fija una persona son hiperparámetros; trazar esa línea es lo básico. La temperatura o el top-p de los LLM son configuraciones de la fase de inferencia, no del aprendizaje, por lo que se gestionan por separado.
El ajuste no es una tarea que se pueda ejecutar sin límite, sino una que hay que cortar dentro del presupuesto. Divida los datos en entrenamiento, validación y prueba en proporción 6:2:2 y compare solo según el rendimiento de validación; si los datos son pocos, de unos miles de registros, confirme el promedio con validación cruzada de 5 particiones. Agrupe el número de pruebas en 20 a 30 y defina por escrito de antemano un criterio de detención, por ejemplo, abandonar una dirección si durante diez pruebas seguidas la métrica de validación no sube ni 0.5 puntos porcentuales. Así, quién probó qué configuración y qué obtuvo podrá reproducirse más adelante.
En la práctica, el error que más se repite es ajustar el modelo con datos de prueba. Si no se distinguen el conjunto de validación y el de prueba, y se comparan decenas de combinaciones con los mismos datos, esa cifra es una nota obtenida después de ver las respuestas, y el rendimiento se desploma en cuanto pasa a operación. « Usamos los valores del paper tal cual » es otro malentendido común: si cambian el volumen de datos o el tamaño de lote, la misma tasa de aprendizaje funciona de forma muy distinta. Si se duplica el lote sin revisar también la tasa de aprendizaje, y la causa se busca en la estructura del modelo, se pierden semanas enteras.
Sungil KimEgresado de KAIST y exintegrante de Samsung Electronics. Experto global en pitching, creó el equipo ganador del concurso de pitch para inversionistas de Select USA y del concurso de la Organización Mundial del Turismo (ONU).
Jaryong KooDoctor en marketing y referente en IA, análisis de datos y marca personal.Se consolidó como concepto que designa los «valores que no se aprenden, sino que se especifican» en el diseño y el entrenamiento de modelos de aprendizaje automático.
Veamos un caso hipotético. La empresa A, fabricante de autopartes con 240 colaboradores e ingresos anuales de alrededor de KRW 90,000,000,000, (≈ US$67,362,200) seguía sin resolver desde hacía tres meses un modelo de detección de anomalías para sus prensas. En el informe, la precisión de validación era del 92 %, pero en planta se activaban más de 30 falsas alarmas al día, así que los jefes de turno tenían las alarmas apagadas mientras trabajaban.
- Al revisar los 47 registros de experimentos de seis semanas, el jefe Kim, del equipo de análisis de datos, comprobó que todas las combinaciones se comparaban solo con la puntuación del mismo conjunto de prueba, y que el conjunto de validación ni siquiera había sido separado.
- El consultor externo señaló: « Este 92% es una puntuación obtenida después de ver las respuestas », y empezó por volver a dividir los 80,000 registros de logs de equipos en una proporción 6:2:2 de entrenamiento, validación y prueba.
- El jefe del equipo de tecnología de producción exigió « terminar en dos semanas con una sola GPU », así que limitó las combinaciones a 24 y ordenó una búsqueda aleatoria solo en los rangos de tasa de aprendizaje de 1e-3 a 1e-5 y de tamaño de lote de 32, 64 y 128.
- Cuando la pérdida divergió en la combinación con lote de 128, el jefe Kim redujo también la tasa de aprendizaje a una cuarta parte y repitió el experimento. Además, subió el dropout de 0.2 a 0.4 y así también contuvo el sobreajuste.
- El modelo reentrenado con la configuración final bajó la precisión en prueba a 89%, es decir, 3 puntos porcentuales menos en la cifra reportada. Sin embargo, los falsos positivos en campo pasaron de 30 a 6 por día, y los jefes de turno volvieron a activar las alarmas en dos semanas.