Balanceo de carga · distribución de carga
Load Balancing
¿Qué es el balanceo de carga?
- Reparte las solicitudes de manera uniforme entre varios servidores
- Evitar la sobrecarga de un solo servidor
- Base de la escalabilidad y la estabilidad
Al incorporar el balanceo de carga, el servidor deja de ser “un activo único” y pasa a ser una pieza que se puede reemplazar en cualquier momento. Al desplegar, se puede sacar un servidor a la vez, subir la nueva versión y volver a conectarlo sin que el usuario note nada. Se acaba la costumbre de anunciar un mantenimiento de madrugada y detener el servicio, y el equipo pasa a desplegar también en la tarde de un día laborable. El cambio empieza por la forma de trabajar, más que por el equipo de infraestructura.
Hay dos niveles de reparto. L4 decide solo con la IP y el puerto, así que es rápido pero no ve el contenido de la solicitud; L7 lee la URL, los encabezados y las cookies, y puede enviar /api al servidor de API y /img al servidor de imágenes. En cuanto a las reglas, está el round robin, que reparte en orden; la menor cantidad de conexiones, que envía la solicitud al servidor con menos conexiones abiertas; y el hash de IP, que asigna el mismo usuario al mismo servidor. En servicios con tiempos de respuesta muy variables, la menor cantidad de conexiones es más conveniente. Además, la frecuencia de las verificaciones de estado y el umbral de fallos, por ejemplo excluir un servidor tras 3 fallos consecutivos con verificaciones cada 10 segundos, determinan qué tan rápido responde el sistema ante una falla.
Sin embargo, el balanceador de carga por sí solo no agrega servidores. Ajustar la cantidad de servidores de forma automática es el autoescalado; servir imágenes y videos desde un punto cercano al usuario es la CDN; y pasar el sistema a un equipo de respaldo cuando el principal falla por completo es la conmutación por error (failover). Solo cuando los tres funcionan juntos se soporta el tráfico real. Si solo se pone un balanceador delante y detrás hay dos servidores, cuando llega la demanda, los dos caen juntos.
En la práctica, el punto que más se rompe es la sesión. Si guardas la información de inicio de sesión en la memoria del servidor, cada vez que la solicitud llega a otro servidor el inicio de sesión se pierde, y llegan consultas de que el carrito de compras desapareció. Por apuro, muchas veces se recurre a las sesiones fijas (sticky), que atan al usuario a un solo servidor, pero si ese servidor cae, todos sus usuarios se desconectan de golpe. Lo correcto es sacar la sesión a un almacenamiento compartido como Redis. Además, si la verificación de estado solo comprueba que el puerto responde, la aplicación puede perder la conexión con la base de datos y aun así figurar como «normal», y las solicitudes siguen llegando al servidor caído.
Seungtae ParkInstructor práctico de AX que enseña desarrollo de negocios con IA y automatización de marketing, construyéndolos directamente
Seolyeong ParkEspecialista en capacitación en IA generativa y AX, con 17 años de experiencia práctica y más de 200 sesiones, para que también quienes no son de carrera técnica la usen de inmediatoEs una tecnología de red que surgió de la necesidad de procesar el tráfico de los grandes servicios web, y hoy es un elemento básico de la infraestructura en la nube.
Caso hipotético: la empresa A, un comercio electrónico de productos para el hogar con ventas anuales de unos KRW 40,000,000,000 (≈ US$29,938,800) y 180 colaboradores, recibía pedidos masivos en cada evento de descuentos de la primera semana de cada mes. Durante la promoción de marzo, a los diez minutos de abrir, un servidor web se detuvo con la CPU al 98 %, y la página de pago no cargó durante 12 minutos. Ese solo día se acumularon más de 300 cancelaciones y consultas.
- El jefe de equipo Park, del área de Infraestructura, revisó los registros y vio que en realidad ya había 2 servidores, pero como usaban round robin de DNS, las solicitudes seguían yendo también al que se había detenido. «Simplemente no había ningún mecanismo para verificar si seguían vivos».
- Colocamos un balanceador de carga en la nube de capa 7 al frente y ampliamos los servidores web a cuatro. Además, ajustamos la ruta de comprobación de estado para que verifique también la conexión a la base de datos, de modo que, si falla tres veces seguidas con intervalos de 10 segundos, el servidor se retire automáticamente.
- En la primera prueba, el inicio de sesión se cerraba una y otra vez. El líder de desarrollo Kim señaló que «la sesión estaba en la memoria del servidor», y en dos días separó el almacenamiento de sesiones en Redis.
- En una prueba de carga con 8,000 usuarios simultáneos, con round robin la CPU de un servidor llegó a subir hasta 90 %; por eso se cambió el método de reparto a menor cantidad de conexiones y las solicitudes de imágenes se separaron hacia la CDN.
- En la promoción de junio, con 12 mil usuarios simultáneos no hubo interrupciones; el tiempo de respuesta promedio bajó de 1.8 a 0.6 segundos, y las consultas por pagos fallidos bajaron de cerca de 300 a 4.