Ingeniería de características
Feature Engineering
¿Qué es la ingeniería de características?
- Transformar los datos originales en variables de entrada útiles
- «La buena preparación de los ingredientes»
- Define el rendimiento del ML tradicional
Lo que realmente cambia la ingeniería de características no es el número de rendimiento del modelo, sino la dificultad misma del problema. Con el mismo algoritmo y la misma tabla, el problema que debe resolver el modelo es totalmente distinto si la columna dice «fecha de alta 2021-03-14» o «412 días desde el alta, 0 pedidos en los últimos 30 días». Porque es un trabajo que acorta la distancia entre la respuesta y la entrada, en muchos casos crear bien una sola variable derivada rinde más que ajustar hiperparámetros para ganar 0.5 puntos porcentuales. En cuanto al orden, debe terminar antes de elegir qué modelo usar.
En la práctica suele dividirse en cuatro grupos: transformaciones que ajustan la escala (logaritmo, normalización); derivación, que combina columnas originales para crear nuevas (suma de los últimos 90 días, variación frente al mes anterior); codificación, que convierte categorías en números (one-hot, codificación por objetivo); y selección, que descarta columnas inútiles. En la codificación, lo clave es la cantidad de valores únicos: si se expande en one-hot una columna con miles de valores, como un código de producto, las columnas se disparan, el entrenamiento se vuelve lento y se llega al sobreajuste. En tablas de datos extraídas de sistemas internos, la idea de que el aprendizaje profundo aprende las características por sí solo no suele funcionar, por lo que la combinación de modelos de boosting con variables derivadas a mano sigue siendo la base. Hay que distinguirlo de los ámbitos donde la señal original es densa, como píxeles o formas de onda.
En el terreno, el accidente que más se repite es la fuga de datos. Si en un modelo de predicción de abandono se incluyen el «código de motivo de cancelación» o el «monto de penalización cobrado», la validación sube a 0.95, pero esos valores solo se llenan después de que el cliente cancela, así que en la operación real siempre están vacíos. Normalizar con el promedio de todos los datos de entrenamiento antes de separar entrenamiento y validación es también el mismo tipo de contaminación. Si no existe un procedimiento que verifique, columna por columna, si el valor realmente se calcula en el momento de la operación, el modelo que funcionaba bien en el piloto se derrumba en la primera semana de despliegue. Otro caso frecuente: creer que cuantas más variables mejor y meter 500 características. Cuando se acumula código de preprocesamiento que no se puede reproducir, en cuanto cambia el responsable se convierte en una carga que nadie se atreve a tocar.
Sungil KimExalumno de KAIST y de Samsung Electronics; experto global en pitching, que formó equipos ganadores en los concursos de pitching de la Organización Mundial del Turismo (ONU) y Select USA IR
Ara LimExperta en liderazgo global, IA y comunicación empresarialPráctica central del aprendizaje automático tradicional, establecida a partir de la importancia de la preparación y representación de los datos.
Veamos un caso hipotético. La empresa A, de suscripción de alimentos, tiene 210 colaboradores y ventas anuales de unos KRW 90,000,000,000 (≈ US$67,362,200). Su tasa mensual de cancelación subió de 6.8% a 9.2% y no logró revertirla durante seis meses. El equipo de datos entrenó dos veces un modelo de predicción de abandono, pero la precisión se quedó en el rango del 60%, y el CEO ordenó: 'Cambien el modelo'. El equipo mantuvo el modelo y eligió dedicar 8 semanas a rediseñar los datos de entrada.
- El gerente Kim desplegó las 42 columnas de la tabla original y empezó preguntando «¿cuáles se llenan después del día de la cancelación?». Entre ellas (fecha de procesamiento del reembolso, código de motivo de cancelación, etc.), descartó 7 columnas como candidatas a fuga.
- Marketing — El líder de equipo Lee contabilizó el número de consultas que contienen «retraso en la entrega» en el registro de atención al cliente, en dos periodos (últimos 30 y 90 días), y diseñó 4 nuevas variables de acumulación de quejas por cliente.
- En lugar de expandir los más de 1,800 códigos de productos de suscripción en columnas one-hot, los agrupamos en 12 categorías y 5 tramos de precio, con lo que el número de columnas de entrada bajó de 1,800 a 17.
- Al convertir el ciclo de compra en «múltiplo del intervalo promedio de recompra», el grupo de clientes que superó 1.8 veces su intervalo habitual mostró una tasa de cancelación tres veces mayor que el resto.
- Justo antes del despliegue, el gerente Kim revisó en el lote nocturno, columna por columna, cuáles generan valores reales, y eliminó 2 más. «No se usa ninguna variable que solo funcione en el piloto» fue el criterio del equipo.
- Sin tocar el modelo y cambiando solo las variables, la precisión de predicción de abandono pasó de 61% a 78%, y la tasa de retención de clientes con cupón dirigido al 10% superior mejoró de 12% a 27%.