Fuga de datos a través de herramientas de IA generativa

En 2023, Samsung restringió el uso interno de herramientas públicas de IA generativa después de que empleados cargaran información sensible, incluido código fuente, en ChatGPT. El incidente fue sencillo: nadie necesitó vulnerar una base de datos. Un empleado copió información de la empresa a un servicio externo porque la herramienta resultaba útil para resolver una tarea.

Ese patrón sigue siendo una de las formas más fáciles de perder control sobre datos corporativos. El riesgo empieza cuando una persona decide qué información introducir, qué archivo adjuntar, qué aplicación utilizar y bajo qué condiciones puede salir ese contenido del entorno controlado de la organización.

La tesis es práctica: una política que simplemente diga “no comparta información confidencial con IA” es insuficiente. La prevención de fugas necesita una cadena de controles que conecte clasificación de datos, reglas de uso aceptable, plataformas aprobadas, controles técnicos, formación y monitoreo.

La fuga puede ocurrir antes de que la IA responda

La expresión “fuga de datos por IA” suele sugerir que el modelo revela información por sí mismo, pero no es el único escenario.

En la práctica, hay varias rutas de exposición:

Ruta de exposición	Ejemplo	Pregunta de control
Entrada del usuario	Un empleado pega código, datos de clientes o un contrato en una herramienta no aprobada.	¿Ese tipo de información puede salir de la organización?
Tratamiento por el proveedor	El contenido se procesa, retiene o replica fuera de los controles internos de la organización.	¿Se revisaron las condiciones de tratamiento, retención y acceso?
Salida del sistema	El modelo reproduce información sensible, datos personales o contenido derivado de fuentes restringidas.	¿Se monitorean y filtran las salidas cuando el riesgo lo justifica?
Integraciones y agentes	Una aplicación con conectores accede a repositorios, correo, archivos o sistemas empresariales.	¿Los permisos están limitados al mínimo necesario?

El NIST Generative AI Profile define el riesgo de privacidad de forma amplia e incluye la fuga, el uso no autorizado, la divulgación y la reidentificación de datos personales o sensibles. También recomienda establecer listas de tecnologías y proveedores de IA generativa aprobados, actualizar las políticas de uso aceptable y monitorear posibles exposiciones de información sensible.

El incidente de Samsung ilustra la primera ruta: la persona crea la exposición al introducir el dato. El incidente de ChatGPT de marzo de 2023 muestra otra dimensión. OpenAI informó que un error de software permitió a algunos usuarios ver títulos de conversaciones de otras personas y que una fracción de suscriptores activos pudo haber tenido información de pago parcialmente expuesta. El aprendizaje para una organización no es que una plataforma concreta sea siempre insegura; es que el riesgo de terceros sigue existiendo incluso cuando el usuario cumple la política.

Una política sin clasificación ni plataformas aprobadas no es un control suficiente

Para que una regla de uso sea operativa, el empleado debe poder responder dos preguntas antes de abrir una herramienta de IA: “¿qué tipo de dato tengo?” y “¿dónde está permitido procesarlo?”.

Una clasificación sencilla puede traducirse en reglas claras: la información pública podría admitirse en herramientas autorizadas; la interna puede requerir un entorno empresarial aprobado; y la confidencial o restringida puede exigir prohibición, anonimización, autorización expresa o una arquitectura específica.

La clasificación debe conectarse con decisiones concretas. Para cada nivel conviene definir:

qué herramientas o entornos están autorizados;
si se permiten prompts, archivos adjuntos, código, imágenes o grabaciones;
si los datos personales, secretos comerciales o información de clientes requieren condiciones adicionales;
qué conectores o fuentes internas puede consultar la herramienta;
cuánto tiempo puede conservarse la información y quién puede acceder a ella;
qué excepciones requieren aprobación y cómo se documentan.

La herramienta del IIA AI Prompting for Internal Auditors aplica esta lógica a Auditoría Interna: el uso de IA debe alinearse con herramientas aprobadas, requisitos de tratamiento de datos y controles de la organización. Auditoría Interna no puede exigir gobierno sobre IA y utilizar información de auditoría fuera de esas mismas reglas.

Los marcos convergen en una misma arquitectura de control

Los marcos aplicables no tienen la misma autoridad ni propósito, pero apuntan hacia una idea común.

Las Normas Globales de Auditoría Interna son obligatorias para la práctica profesional conforme al IPPF. La Norma 5.2 Protección de la información exige que los auditores internos respeten la confidencialidad, privacidad y titularidad de la información, cumplan los requisitos aplicables y gestionen el riesgo de exposición o divulgación no intencionada. Para Auditoría Interna, por tanto, la protección de datos al utilizar GenAI no es solo una recomendación tecnológica: conecta directamente con un requisito profesional.

El NIST AI RMF: Generative AI Profile es voluntario. Aporta acciones muy operativas: inventariar terceros con acceso al contenido de la organización, mantener listas de tecnologías aprobadas, incorporar privacidad y seguridad en la evaluación de proveedores, actualizar las políticas de uso aceptable y establecer monitoreo e incident response para servicios de IA generativa.

ISO/IEC 42001:2023 es una norma de sistema de gestión certificable. No prescribe una única tecnología, sino un sistema para establecer política, responsabilidades, evaluación y tratamiento de riesgos, controles operativos, monitoreo, auditoría interna y mejora. Sus controles sobre datos y recursos de IA ayudan a conectar el uso de herramientas con aspectos como procedencia, categorías de datos, uso previsto, retención, seguridad y privacidad.

Finalmente, COSO publicó en 2026 Achieving Effective Internal Control Over Generative AI, que adapta los cinco componentes del Internal Control—Integrated Framework a GenAI. La guía insiste en que el entorno de control debe definir límites claros, que la política de uso aceptable debe especificar datos prohibidos y que la adopción de GenAI requiere monitoreo continuo o cada vez más cercano a lo continuo.

La conclusión no es “adopte todos los marcos”. Conviene preguntar: ¿tenemos un diseño de control que conecte política, tecnología y comportamiento real?

Qué debería probar Auditoría Interna

Una auditoría de este riesgo no debería limitarse a revisar si existe una política. Debe comprobar si las reglas pueden aplicarse y si las desviaciones pueden prevenirse o detectarse.

Objetivo de auditoría	Evidencia útil	Prueba posible	Señal de alerta
Conocer qué GenAI se utiliza	Inventario, SSO, registros de proxy, compras, gastos y extensiones	Conciliar inventario con fuentes independientes	Herramientas detectadas fuera del inventario
Validar reglas de tratamiento de datos	Política de IA, clasificación y matriz de uso permitido	Trazar ejemplos de cada clase de datos hasta la regla aplicable	“No compartir datos sensibles” sin definición operativa
Confirmar plataformas aprobadas	Lista de proveedores, evaluaciones de riesgo, contratos y configuraciones	Revisar una muestra de herramientas y su aprobación	Uso extendido de cuentas personales o gratuitas
Evaluar controles preventivos	DLP, bloqueo de dominios, CASB/SSE, permisos y restricciones de subida	Intentar casos de prueba controlados o revisar evidencia técnica	Política que depende solo de la memoria del usuario
Evaluar monitoreo	Logs de uso, alertas, métricas y revisión de excepciones	Comparar alertas con investigación y cierre	No existe visibilidad sobre prompts, cargas o conectores cuando sería proporcional al riesgo
Revisar formación y conducta	Formación por rol, campañas, attestations y casos disciplinarios	Muestrear usuarios y comprobar comprensión	Formación genérica sin ejemplos de datos reales
Evaluar respuesta a incidentes	Procedimiento, tickets, análisis de causa raíz y acciones correctivas	Trazar un incidente desde detección hasta remediación	El incidente se trata como error del usuario sin corregir el control subyacente

Monitorear cada prompt puede ser invasivo o crear un nuevo repositorio sensible. La pregunta es qué visibilidad necesita la organización para detectar usos de alto riesgo sin recopilar datos innecesarios.

El objetivo no es prohibir la IA, sino hacer visible el flujo de datos

Prohibir todas las herramientas públicas puede reducir parte de la exposición, pero rara vez resuelve el problema. Los usuarios buscan productividad, la IA aparece integrada en aplicaciones existentes y nuevos servicios surgen más rápido que los ciclos tradicionales de política.

Un control más sostenible parte de una premisa diferente: la organización debe saber qué datos pueden entrar en qué sistemas, bajo qué condiciones, con qué permisos y con qué evidencia de monitoreo.

Para Auditoría Interna, esa misma disciplina debe aplicarse hacia afuera y hacia adentro. Si el equipo utiliza GenAI para resumir documentos, preparar pruebas, analizar datos o redactar borradores, debe hacerlo dentro de una metodología definida y con herramientas autorizadas. La credibilidad para auditar la gobernanza de IA empieza por demostrarla en la propia función.

La fuga de datos mediante IA generativa es una nueva ruta para riesgos conocidos de confidencialidad, privacidad, terceros, acceso y comportamiento humano. Lo que cambia es la velocidad con la que la información puede pasar a un entorno externo y la facilidad con que puede hacerlo sin ser detectada. El control eficaz está en la cadena completa desde clasificar el dato hasta monitorear su uso.