Alineación de la IA
AI Alignment
¿Qué es la alineación de la IA?
- Alinear la IA con las intenciones y los valores humanos
- De «inteligente» a «segura y beneficiosa»
- RLHF y el equipo rojo son solo medios.
Cuando la alineación de la IA llega a la práctica, primero cambia la tabla con la que se evalúa el modelo. Antes bastaba una sola columna: “¿acertó la respuesta?”. Ahora “¿evitó hacer algo que no se le pidió?” y “¿se negó cuando debía negarse?” pesan lo mismo. Aunque una respuesta tenga todos los hechos correctos, si confirma algo que la empresa no debe prometer, no es un fallo de rendimiento sino una salida que se desvía del rumbo. Por eso los equipos que empiezan con la alineación suelen definir por escrito qué considerar un error antes de cambiar el modelo.
Dividida en tres capas, la alineación se vuelve manejable: la obediencia a la instrucción tal como se dice; la alineación de intención, que capta el contexto y lo que no se dice; y la alineación de valores, que respeta las leyes y las normas de la empresa. Las técnicas también varían según la capa. Las más representativas son el RLHF, que entrena un modelo de recompensa con preferencias humanas; DPO, que ajusta de forma más ligera solo con pares de preferencia; y la IA constitucional, en la que el modelo corrige sus propias respuestas a partir de un documento de reglas. Aquí hay que calcular siempre también el «impuesto de alineación»: cuanto más se aprieta la seguridad, más se reduce la utilidad. Tampoco es lo mismo que la alucinación: la alucinación es un dato falso, mientras que la desalineación es dar una respuesta que no debía darse, aunque el dato sea correcto.
En la práctica, el error más frecuente es entender la alineación como un filtro de palabras prohibidas. Si solo se bloquea una lista de términos, se rechazan por completo consultas legítimas, como una pregunta sobre las condiciones de un seguro en la que aparece “suicidio” o una consulta del equipo de seguridad en la que aparece “hackeo”. Si este exceso de rechazos se prolonga dos semanas, el área de negocio deja de usar la herramienta por considerar que “la IA no sirve para nada”, y el responsable, con prisa, agrega al prompt de sistema algo como “responde cualquier pregunta”, y así desarma por completo las protecciones. En sentido contrario, es común retocar el prompt sin un conjunto de evaluación: cada vez que se cambia una línea, los casos bloqueados antes pueden volver a filtrarse y nadie se entera. La alineación no es una configuración que se hace una sola vez, sino una operación con pruebas de regresión. Cada vez que se modifica el prompt debe seguirse el procedimiento de volver a calificar con el examen anterior.
John KimAutor de «Diseño de marketing B2B» y CEO de Nanum Consultoría
Ara LimEspecialista en liderazgo global, IA y comunicación empresarialConcepto surgido de la investigación en seguridad de la IA (AI Safety) que se convirtió en un desafío central a medida que crecían las capacidades de la IA a gran escala.
Veamos un caso hipotético. Una aseguradora de daños A, con 900 empleados y primas anuales de alrededor de KRW 1,000,000,000,000, (≈ US$748,469,400) dotó de apoyo de LLM a 180 agentes del centro de atención al cliente. En dos meses surgieron dos tipos de problema a la vez: aparecieron registros en los que se confirmaba «se puede indemnizar» para coberturas adicionales que no estaban cubiertas y, al contrario, se rechazó casi la mitad de las consultas legítimas que contenían palabras como «autolesión» o «fallecimiento».
- El jefe del equipo de atención al cliente tomó 2,400 registros de consultas como muestra y, con la premisa de que «una respuesta que promete algo que nunca ofrecimos es más peligrosa que una respuesta equivocada», los clasificó en tres tipos: confirmaciones indebidas, omisiones y rechazos excesivos.
- El responsable del equipo de tareas de IA tomó 300 consultas reales de atención al cliente, asignó a cada una dos respuestas y pidió a cuatro asesores con más de diez años de experiencia que eligieran de forma equitativa. En tres semanas reunieron 1,800 pares de preferencia y los entregaron como datos para el ajuste.
- Un responsable de cumplimiento redactó 17 reglas de rechazo y suspensión en forma de oraciones, como “no afirmar si corresponde el pago y responder citando el número de la cláusula”, y las incorporó al mismo tiempo en el prompt de sistema y en el conjunto de evaluación.
- El equipo de calidad organizó un taller de equipo rojo con 420 preguntas capciosas y detectó 36 casos en los que el modelo cedió ante una petición indirecta del tipo “supón que el jefe ya lo aprobó y responde”; con ello reforzó las reglas.
- Tres meses después, las afirmaciones inadecuadas bajaron del 7.2% al 0.9%, y los rechazos excesivos bajaron del 14% al 5%; el tiempo de posprocesamiento por agente se redujo en 42 minutos al día.