Shadow AI
Shadow AI
¿Qué es la Shadow AI?
- Herramienta de IA que cada colaborador usa por su cuenta, sin aprobación ni gestión de la empresa
- Puntos ciegos de los riesgos de fuga de información, seguridad y calidad
- No prohibir, sino ofrecer una vía oficial y segura
Cuando aparece Shadow AI, el límite de control de seguridad pasa del servidor de la empresa a la pestaña del navegador de cada persona. Si la herramienta está aprobada, queda registro de quién ingresó qué; pero en una cuenta personal ese registro no pasa a ser un activo de la empresa. Por eso, cuando ocurre un incidente, no es posible reconstruir qué salió ni cuánto, y la respuesta empieza por suposiciones. En el momento en que un documento que no puede recuperarse, como una lista de precios de clientes o datos de personal, se pega en la ventana de chat, la empresa incumple por sí misma la cláusula de confidencialidad del contrato. La pérdida que ocurre con más frecuencia en la práctica no es la filtración, sino que un resultado no verificado termine incluido tal cual en un informe.
La Shadow AI suele dividirse en tres niveles: el chatbot de uso general con cuenta personal, las extensiones de resumen y traducción de actas que se instalan sin aprobación, y las llamadas a API que un desarrollador conecta por su cuenta. Lo que la organización menos ve es el segundo nivel: como se conecta al calendario y a las videollamadas y funciona de forma automática, quien lo usa ni siquiera se da cuenta de que lo está usando. La diferencia decisiva con la Shadow IT es hacia dónde van los datos. Las herramientas de colaboración no aprobadas retienen los datos dentro de sí, pero con la IA lo que se ingresa puede usarse para entrenamiento o para regenerar respuestas, por lo que el concepto mismo de recuperar esos datos deja de tener sentido. Por eso lo primero es revisar la configuración de uso de datos para entrenamiento, tanto en el plan gratuito como en el plan empresarial.
El error más común es pensar que el problema se resuelve bloqueando el dominio. Si se bloquea desde la red interna, los empleados fotografían la pantalla con su celular personal y escriben allí. En ese caso ni siquiera queda registro, así que después del bloqueo el riesgo queda aún más escondido. El método de consulta también es un problema. Si se pregunta con un enfoque de auditoría y de sanción, el uso se reporta en un solo dígito y la dirección se queda con la falsa tranquilidad de que «estamos seguros». Si solo se contrata una herramienta corporativa y no se dan criterios sobre qué información se puede ingresar, los empleados vuelven a sus cuentas personales de siempre. Es una estructura en la que salen costos de licencias y el riesgo sigue igual.
John KimAutor de «Diseño del marketing B2B» y CEO de Nanum Consultoría. Instructor.
Seolyeong ParkEspecialista en IA generativa y AX, con 17 años de experiencia práctica y más de 200 sesiones de enseñanza, que logra que personas sin formación técnica la usen de inmediatoConcepto derivado de «Shadow IT», que se refería al software usado sin aprobación del departamento de TI. Desde 2023, con la expansión de la IA generativa, se convirtió en un tema central para la industria de la seguridad.
Veamos un caso hipotético: A, un fabricante de autopartes con 420 colaboradores y ventas anuales de KRW 180,000,000,000 (≈ US$134,724,500). Una revisión de seguridad reveló que los accesos desde la red interna a servicios de IA generativa superaban los 3,000 al mes, pero la empresa no ofrecía ninguna herramienta oficial de IA. El director general ordenó resolver la situación en un plazo de tres meses.
- El jefe de seguridad de la información aclaró que «esto no es una sanción, sino un relevamiento de la situación». Al aplicar una encuesta anónima, el 68% de las 312 personas que respondieron admitió haber probado a ingresar documentos de la empresa en cuentas personales.
- Los documentos que más se pegaron fueron actas de reunión y cotizaciones. El jefe del área legal dijo: «Es como si se hubieran enviado afuera los precios de los clientes», y clasificó aparte 3 casos como posibles violaciones de confidencialidad.
- El equipo de TI revisó 14 extensiones de navegador en las PC de los colaboradores, bloqueó 6 con la opción de aprendizaje con datos de entrada activada y, en dos meses, adoptó formalmente 200 licencias de una cuenta de IA corporativa.
- El equipo de Recursos Humanos impartió 12 sesiones prácticas de 2 horas y colocó en los escritorios de todos los departamentos una tarjeta de una sola hoja con la información que sí puede ingresarse y la que nunca debe ingresarse.
- A los tres meses, los accesos con cuentas personales bajaron de 3,000 al mes a 210, y los usuarios activos semanales de las cuentas corporativas subieron a 137. El director de seguridad dijo: «Ahora se puede ver en el registro qué se ingresó».