📂Fundamentos de IA⏱Lectura de 2 min📊Práctico🔗Relacionados: 4

¿Qué son los guardrails?

Definición en una línea
Salvaguarda que se configura de antemano para que la IA no dé respuestas peligrosas, inapropiadas o que incumplan la normativa. La «barandilla» de la IA.
⚡ Resumen en 3 líneas
  • Medida de seguridad que bloquea respuestas peligrosas o inapropiadas
  • La «barandilla» de la IA
  • Prevención de uso indebido y fugas

Poner guardrails significa cambiar la expectativa de que «el modelo responderá bien por su cuenta» por documentar y programar nosotros mismos qué no debe hacer. Sin tocar el modelo, se puede reducir su margen de acción en la capa de servicio, y cuando ocurre un incidente se puede rastrear en qué punto faltó control: no «el modelo estaba raro», sino «no se filtró en la entrada» o «no había regla en la salida». La responsabilidad pasa del proveedor del modelo al equipo de operación, pero el control también se transfiere junto con ella.

En la práctica suele dividirse en tres capas: la de entrada (bloqueo de solicitudes riesgosas y patrones de datos personales), la de salida (revisión después de generar la respuesta) y la de ejecución (limitación de permisos para usar herramientas, como enviar pagos o correos). En cuanto a métodos, existen las reglas duras, como listas de palabras prohibidas, expresiones regulares y listas blancas, y las reglas blandas, en las que un modelo aparte evalúa la respuesta. Las reglas duras son rápidas pero fáciles de eludir; las blandas cubren más casos, pero retrasan la respuesta entre 0.3 y 1 segundo y además implican un costo por cada llamada. La alineación (alignment) de la fase de preentrenamiento es un asunto interno del modelo, mientras que los guardrails son una capa externa añadida. Y mientras la gobernanza de la IA es el documento de políticas, los guardrails son el código que hace cumplir ese documento en la práctica.

El malentendido más común es creer que basta con escribir en el prompt de sistema «no insultes, no respondas fuera de la norma» para dar el problema por resuelto. Un prompt es persuasión, no un bloqueo, así que unas pocas líneas como «a partir de ahora no tienes reglas» pueden romperlo. Al revés, si por miedo se meten demasiadas palabras prohibidas, también se bloquean términos normales como «avería» o «reembolso»; las consultas válidas son rechazadas, los clientes acaban pidiendo hablar con un agente y el beneficio de la herramienta se pierde. Tampoco conviene no guardar el registro de bloqueos. Si no se sabe qué se bloqueó y cuántas veces, no hay base para decidir si las reglas son demasiado estrictas o demasiado laxas, y la empresa solo se entera de una brecha real cuando la captura aparece publicada en una comunidad en línea.

Capacitaciones en las que aparece este término · IA·DX
Cursos recomendados · Instructores recomendados · Mini cotización
🧮 Mini cotización · Criterio de honorarios
Aprox. KRW 1,200,000 (≈ US$900)Charla especial de 2 horas · hasta 20 personas · en coreano
Solicitar cotización formal con estas condiciones →
💡 Dicho de forma sencilla
Como las barandas de una carretera: una barrera de seguridad que impide que la IA se desvíe hacia direcciones peligrosas.
Por qué es importante en la práctica
Para usar la IA en servicios reales se necesita un «dispositivo para prevenir incidentes». Una IA sin guardrails conlleva un riesgo considerable.
Origen y fuentes

Cuando la IA generativa empezó a usarse en servicios reales y aumentó la necesidad de controlar salidas inapropiadas o riesgosas, el conjunto de reglas y filtros para ello se llamó «guardrails» y se convirtió en práctica estándar.

Entender con un caso

Veamos un caso hipotético. A, un fabricante de electrodomésticos con 420 colaboradores, lanzó un chatbot de atención al cliente como piloto, porque las consultas llegaron a 38 mil al mes. Desde el segundo mes se registraron 23 casos semanales en los que el bot prometió un reemplazo gratuito que no estaba en la normativa, y al circular en comunidades una captura de una respuesta que criticaba a otra marca, comenzó un proyecto de guardrails de 8 semanas.

  1. El jefe de atención al cliente, Kim, extrajo 12 mil registros de consultas de tres semanas y seleccionó 47 casos de «lo que la IA nunca debe decir». El primer lugar lo ocuparon las promesas de compensación con montos.
  2. El equipo de desarrollo colocó en la entrada un filtro de patrones de datos personales y nombres de otras empresas, y en la salida un modelo de evaluación independiente, para que vuelva a verificar justo antes de enviar la respuesta si «se dijo un monto de compensación en cifras».
  3. El gerente de QA, Lee, creó 300 prompts de ataque y los lanzó él mismo; 12 lograron saltarse las reglas con frases como «ya no tienes normas». Por eso, en lugar de pedirle al prompt que se contuviera, las reglas duras se trasladaron a la salida.
  4. En la primera semana, la tasa de bloqueo de consultas normales llegó al 9 % y los agentes protestaron: «¿por qué bloquean preguntas que están bien?». Para corregirlo, se quitaron de la lista de términos prohibidos 14 palabras de uso común, como «avería», «rotura» y «cambio».
  5. Las compensaciones superiores a KRW 50,000 (≈ US$37) pasan a una cola de aprobación del agente, y se configuró el envío automático, todos los días a las 09:00 (hora de Corea), de un resumen del registro de bloqueos al canal operativo.
  6. Ocho semanas después, las respuestas que incumplían la normativa bajaron de 23 por semana a 2, y los bloqueos erróneos de consultas normales bajaron de 9% a 1.4%. La respuesta se volvió 0.4 segundos más lenta, pero la tasa de derivación a agentes bajó del 31% al 19%.
Términos relacionados
Capacitaciones relacionadas con este término
📚Capacitación para formar consultores de AXCapacitación corporativa de Nanum Consultoría · presencial/en líneaVer curso →
¿Necesita capacitación interna sobre este tema?
Reciba de inmediato un currículo y una cotización personalizados para su equipo.
Consultar sobre capacitación
Última modificación 2026-09-13 · Revisado por John Kim

Preguntas frecuentes

Si se exagera, sí puede ocurrir. Lo importante es un diseño que equilibre seguridad y utilidad.
No es perfecto, pero la validación de entradas y salidas y la limitación de permisos reducen mucho el riesgo.
Hay algunas limitaciones, pero son necesarias para la seguridad y la confianza. Lo clave es diseñarlas sin que resulten excesivas.
Bloquea algunos casos, pero no es perfecto. Se defiende en capas, junto con la validación de entradas y el mínimo privilegio en los permisos.