Conocimiento · Fundamentos de IA

Hiperparámetros

Hyperparameter

📂Fundamentos de IA⏱Lectura de 2 min📊Avanzado🔗Relacionados 4

¿Qué es un hiperparámetro?

Definición en una línea
Configuración que las personas fijan antes de que el modelo aprenda (tasa de aprendizaje, número de capas, etc.). Equivale al «fuego y tiempo» de una receta.
⚡ Resumen en 3 líneas
  • Valor de configuración que se define antes del entrenamiento
  • Tasa de aprendizaje, número de capas, etc.
  • Influye mucho en el rendimiento

Los hiperparámetros son valores que deben quedar fijados en el momento en que se pulsa el botón de entrenamiento, así que en la práctica no cambian solo el código del modelo, sino todo el diseño del experimento. Sin tocar una sola línea de la estructura, basta con multiplicar por 10 la tasa de aprendizaje para que la pérdida diverja y el entrenamiento se interrumpa; si se divide entre 10, un entrenamiento de tres días pasa a durar tres semanas. Es decir, las horas de GPU que usará el equipo, el costo de la nube y la fecha de entrega se deciden aquí primero.

Los valores se dividen en tres grupos. Los que definen la forma de aprender son la tasa de aprendizaje, el tamaño de lote y el número de épocas; los que definen la estructura del modelo son el número de capas, el número de nodos ocultos y el rango de LoRA; y los que controlan el sobreajuste son la tasa de dropout y el coeficiente de decaimiento de pesos. Por lo general, la tasa de aprendizaje se recorre entre 1e-3 y 1e-5 en escala logarítmica, y cuando las combinaciones pasan de unas decenas se cambia la búsqueda en cuadrícula por búsqueda aleatoria u optimización bayesiana. Los valores que se actualizan solos mediante la retropropagación son parámetros, y los que fija una persona son hiperparámetros; trazar esa línea es lo básico. La temperatura o el top-p de los LLM son configuraciones de la fase de inferencia, no del aprendizaje, por lo que se gestionan por separado.

El ajuste no es una tarea que se pueda ejecutar sin límite, sino una que hay que cortar dentro del presupuesto. Divida los datos en entrenamiento, validación y prueba en proporción 6:2:2 y compare solo según el rendimiento de validación; si los datos son pocos, de unos miles de registros, confirme el promedio con validación cruzada de 5 particiones. Agrupe el número de pruebas en 20 a 30 y defina por escrito de antemano un criterio de detención, por ejemplo, abandonar una dirección si durante diez pruebas seguidas la métrica de validación no sube ni 0.5 puntos porcentuales. Así, quién probó qué configuración y qué obtuvo podrá reproducirse más adelante.

En la práctica, el error que más se repite es ajustar el modelo con datos de prueba. Si no se distinguen el conjunto de validación y el de prueba, y se comparan decenas de combinaciones con los mismos datos, esa cifra es una nota obtenida después de ver las respuestas, y el rendimiento se desploma en cuanto pasa a operación. « Usamos los valores del paper tal cual » es otro malentendido común: si cambian el volumen de datos o el tamaño de lote, la misma tasa de aprendizaje funciona de forma muy distinta. Si se duplica el lote sin revisar también la tasa de aprendizaje, y la causa se busca en la estructura del modelo, se pierden semanas enteras.

Capacitaciones en las que aparece este término · IA·DX
Cursos recomendados · Instructores recomendados · Mini cotización
🧮 Mini cotización · Criterio de honorarios
Aprox. KRW 1,200,000 (≈ US$900)Charla especial de 2 horas · hasta 20 personas · en coreano
Solicitar cotización formal con estas condiciones →
💡 Dicho de forma sencilla
El fuego y el tiempo de una receta: aunque los ingredientes (datos) sean los mismos, el resultado cambia según esta configuración.
Por qué es importante en la práctica
Los hiperparámetros determinan el rendimiento del modelo. Con los mismos datos, los resultados pueden variar mucho según la configuración.
Origen y fuentes

Se consolidó como concepto que designa los «valores que no se aprenden, sino que se especifican» en el diseño y el entrenamiento de modelos de aprendizaje automático.

Entender con un caso

Veamos un caso hipotético. La empresa A, fabricante de autopartes con 240 colaboradores e ingresos anuales de alrededor de KRW 90,000,000,000, (≈ US$67,362,200) seguía sin resolver desde hacía tres meses un modelo de detección de anomalías para sus prensas. En el informe, la precisión de validación era del 92 %, pero en planta se activaban más de 30 falsas alarmas al día, así que los jefes de turno tenían las alarmas apagadas mientras trabajaban.

  1. Al revisar los 47 registros de experimentos de seis semanas, el jefe Kim, del equipo de análisis de datos, comprobó que todas las combinaciones se comparaban solo con la puntuación del mismo conjunto de prueba, y que el conjunto de validación ni siquiera había sido separado.
  2. El consultor externo señaló: « Este 92% es una puntuación obtenida después de ver las respuestas », y empezó por volver a dividir los 80,000 registros de logs de equipos en una proporción 6:2:2 de entrenamiento, validación y prueba.
  3. El jefe del equipo de tecnología de producción exigió « terminar en dos semanas con una sola GPU », así que limitó las combinaciones a 24 y ordenó una búsqueda aleatoria solo en los rangos de tasa de aprendizaje de 1e-3 a 1e-5 y de tamaño de lote de 32, 64 y 128.
  4. Cuando la pérdida divergió en la combinación con lote de 128, el jefe Kim redujo también la tasa de aprendizaje a una cuarta parte y repitió el experimento. Además, subió el dropout de 0.2 a 0.4 y así también contuvo el sobreajuste.
  5. El modelo reentrenado con la configuración final bajó la precisión en prueba a 89%, es decir, 3 puntos porcentuales menos en la cifra reportada. Sin embargo, los falsos positivos en campo pasaron de 30 a 6 por día, y los jefes de turno volvieron a activar las alarmas en dos semanas.
Términos relacionados
Capacitaciones relacionadas con este término
📚Introducción práctica a la IA de agentesCapacitación corporativa de Nanum Consultoría · presencial / en líneaVer curso →
¿Necesita capacitación interna sobre este tema?
Reciba de inmediato un currículo y una cotización personalizados para su equipo.
Consultar sobre capacitación
Última modificación 2026-09-13 · Revisado por John Kim

Preguntas frecuentes

Los parámetros (pesos) son los valores que el modelo «aprende», mientras que los hiperparámetros son los valores de configuración que las personas «especifican».
Es difícil saberlo de antemano, así que se prueban (ajustan) varias combinaciones para encontrar los valores con mejor rendimiento de validación.
Los parámetros (pesos) son los valores que el modelo «aprende», mientras que los hiperparámetros son los valores de configuración que las personas «especifican».
Como es difícil saber de antemano, se prueban varias combinaciones (ajuste) para encontrar los valores con mejor rendimiento de validación.