Gobernanza de IA · Ética
AI Governance / Ethics
¿Qué es la gobernanza de la IA?
- Un sistema de gestión para usar la IA de forma segura y justa
- Establecer principios, políticas y mecanismos de control
- Cumplimiento regulatorio y confianza
Cuando llega el gobierno de la IA, desaparece algo de la organización: el momento en que la persona encargada decidía por su cuenta, a ojo, si "¿se puede meter este material en la IA?". Qué herramienta se puede usar en cada tarea, quién verifica el resultado y quién asume la responsabilidad si surge un problema quedan escritos en los documentos y en el sistema. Es un mecanismo que traslada la carga del juicio del individuo a la organización, por eso se parece menos a una regulación que frena la velocidad y más a un soporte que permite sostener la velocidad.
El diseño suele empezar por clasificar el riesgo. La Ley de IA de la UE (EU AI Act), en vigor desde 2024, divide los sistemas de IA en cuatro niveles: prohibidos, alto riesgo, riesgo limitado y riesgo mínimo, y asigna obligaciones distintas a cada uno. Los usos que afectan directamente los derechos de las personas, como la evaluación de candidatos o el scoring crediticio, se clasifican como alto riesgo e implican conservación de registros, explicabilidad y la intervención humana final. Las empresas coreanas también toman este marco como referencia y no aplican el mismo control a todas las IA, sino que ajustan la intensidad según el uso. Mientras la política de seguridad de la información pregunta si los datos salieron de la organización, la gobernanza de IA va más allá: quién verifica el resultado que produce el modelo y quién asume la responsabilidad.
En el terreno, el fallo más común es crear una lista de prohibiciones sin ofrecer alternativas. Si se bloquean las cuentas corporativas, la carga de trabajo sigue igual, así que los empleados pasan al teléfono y al correo personales. Cuando crece el uso de IA en la sombra (Shadow AI), que la organización ni siquiera conoce, no quedan registros ni rastros, y las filtraciones solo salen a la luz después del incidente. Por el contrario, es frecuente redactar una declaración de ética, publicarla en la web y dar el asunto por cerrado. La declaración es el prólogo, no un mecanismo de control. Sin procesos de aprobación, registros de uso y revisiones periódicas, no pasa de ser un documento de una página para mostrar en una auditoría.
John KimAutor de «Diseño de marketing B2B» y CEO de Nanum Consultoría
Ara LimEspecialista en liderazgo global, IA y comunicación empresarialSe consolidó como disciplina con la expansión de la IA, a partir de los problemas de sesgo, seguridad y privacidad. Su importancia crece con regulaciones como la Ley de IA de la UE y con el enfoque de IA responsable (Responsible AI) que adoptan las empresas.
Veamos un caso hipotético. En la empresa A, un fabricante de dispositivos médicos con 740 colaboradores e ingresos anuales de KRW 230,000,000,000, (≈ US$172,148,000) la revisión de seguridad detectó que un empleado del área de desarrollo había pegado parte del código fuente que controla un producto en un chatbot de su cuenta personal. Al investigar, se descubrió que personas de varios departamentos usaban servicios externos de IA sin aprobación de la empresa, y el director general ordenó crear, en tres meses, un sistema para usarla de forma segura.
- Al revisar cuatro semanas de registros del proxy, el jefe del equipo de seguridad de la información constató que los intentos de acceso a IA externa promediaban 310 al día, y que el 68% de ellos provenía de los departamentos de desarrollo y planificación.
- El CISO y el director del área legal dividieron el trabajo en tres niveles: los trabajos que implican datos personales de clientes o planos de diseño quedan prohibidos; el resumen de documentos internos solo se permite con cuentas aprobadas; y la investigación con información pública es de uso libre.
- Ante la frase del director de desarrollo «si solo les decimos que no lo usen, todos lo usarán desde el celular», la empresa primero habilitó 120 cuentas corporativas y redujo la lista de prohibiciones a una sola hoja A4.
- El área de recursos humanos impartió seis sesiones de una hora y presentó tal cual tres casos internos, anonimizados, que estuvieron a punto de convertirse en filtraciones reales.
- Seis meses después, los intentos de acceso con cuentas personales bajaron de 310 a 22 al día, el uso de cuentas aprobadas llegó al 84% de las personas registradas y los casos detectados de ingreso de información sensible pasaron a ser cero por trimestre.