El fraude habilitado por IA cambia lo que cuenta como evidencia

En enero de 2024, un empleado de una empresa en Hong Kong recibió un correo que parecía provenir de su director financiero. Dudó al principio, pero una videoconferencia grupal pareció confirmar la solicitud: allí estaban, aparentemente, varios colegas y directivos. Después autorizó transferencias por aproximadamente HK$200 millones. La policía concluyó que la reunión había sido fabricada con videos y voces obtenidos de fuentes públicas; las instrucciones de pago continuaron después por mensajería. El caso no solo demuestra lo convincente que puede ser un deepfake. Demuestra algo más importante para auditoría: varias piezas de evidencia pueden parecer independientes y, sin embargo, provenir de una misma fuente manipulada. El Gobierno de Hong Kong describió públicamente el caso y su mecánica.

La inteligencia artificial generativa no invalida los principios tradicionales de evidencia. Los vuelve más exigentes. Cuando una voz, un video, una identificación, una factura, un correo o una captura de pantalla pueden generarse o modificarse con poco costo, la pregunta deja de ser solo “¿parece auténtico?” y pasa a ser: ¿puedo demostrar de dónde proviene, quién lo autorizó, si la fuente es realmente independiente y si el registro puede rastrearse hasta un sistema controlado?

El problema no es solo la evidencia falsa, sino la evidencia correlacionada

Los auditores siempre han sabido que una afirmación de la misma persona no se vuelve más fiable por repetirse. El fraude habilitado por IA amplía ese problema: una sola persona puede producir múltiples formatos que simulan fuentes diferentes. Un correo, una voz clonada, una videollamada y una identificación digital pueden reforzarse mutuamente sin aportar corroboración verdadera.

La Norma 14.1 de las Normas Globales de Auditoría Interna exige recopilar información relevante, fiable y suficiente. Al describir qué aumenta la fiabilidad, las Normas apuntan a tres factores especialmente importantes para este nuevo contexto: obtener información directamente o de una fuente independiente, corroborarla y apoyarse en sistemas con procesos eficaces de gobierno, gestión de riesgos y control. Ninguno de esos principios depende de que un archivo “se vea real”.

Esto cambia la forma de pensar la corroboración. Diversidad de formato no equivale a independencia de fuente. Si un supuesto director confirma una transferencia por correo y luego aparece en video repitiendo la instrucción, ambas señales pueden seguir siendo controladas por el mismo defraudador. La evidencia debe ser independiente en su origen o en su control, no simplemente distinta en su presentación.

Cuatro supuestos que ya no pueden darse por hechos

Evidencia aparente	Riesgo con IA generativa	Respuesta de auditoría más sólida
Voz o video de una persona conocida	Clonación de voz, avatar o deepfake en tiempo real o pregrabado.	Confirmación fuera de banda mediante datos de contacto confiables, registros de identidad corporativa y eventos de autenticación.
Documento profesional o identificación	PDF, factura, carta o identificación sintética o alterada con apariencia consistente.	Verificar el original en el sistema de origen, el emisor, el historial del documento y, cuando proceda, su procedencia y metadatos.
Aprobación en correo, chat o reunión	Suplantación, cuenta comprometida o aprobación fabricada fuera del flujo oficial.	Comprobar la autorización en el flujo de trabajo, la segregación de funciones, la sesión autenticada y la trazabilidad de la transacción.
Varias piezas que cuentan la misma historia	El mismo actor o modelo genera todas las piezas y crea una falsa sensación de corroboración.	Contrastar con fuentes gobernadas por partes distintas y obtener evidencia que no dependa del canal comprometido.

El cambio no significa que un video, un PDF o un correo ya no puedan utilizarse como evidencia. Significa que su capacidad probatoria depende mucho más de su procedencia, del contexto de control y del vínculo con otras fuentes.

Esta distinción también importa para los controles antifraude. El Fraud Risk Management Guide de COSO y ACFE estructura la gestión del riesgo de fraude alrededor de gobierno, evaluación de riesgos, controles preventivos y detectivos, investigación y monitoreo. La IA no sustituye esa lógica. Introduce nuevos escenarios que deben incorporarse a ella: suplantación de ejecutivos, documentos sintéticos, identidades fabricadas y canales de aprobación que antes se consideraban suficientemente confiables.

Un estándar práctico de evidencia: procedencia, independencia, integridad y trazabilidad

Para trabajos en los que el riesgo de manipulación digital sea relevante, una evaluación práctica puede organizarse alrededor de cuatro preguntas.

Procedencia. ¿Sabemos quién o qué creó el artefacto, cuándo se generó y cómo llegó hasta nosotros? El NIST AI RMF Generative AI Profile recomienda prestar atención a la procedencia del contenido, las fuentes, las marcas de tiempo y otros metadatos. ISO/IEC 42001 también incorpora la procedencia y la documentación de datos dentro de su lógica de gestión de recursos y controles relacionados con IA. ISO/IEC 42001:2023 no convierte automáticamente un archivo en auténtico, pero sí refuerza una disciplina de riesgo, documentación, monitoreo y trazabilidad alrededor de los sistemas de IA.

Independencia. ¿La segunda fuente puede verse afectada por el mismo actor, cuenta, dispositivo, canal o proveedor? Una confirmación no es verdaderamente independiente si el defraudador controla ambos extremos de la conversación.

Integridad. ¿Podemos demostrar que el registro que estamos revisando es el original o una copia controlada y que no fue alterado después de su creación? En algunos casos bastará con revisar el sistema de origen y su historial; en otros será necesario conservar archivos originales, metadatos, registros de sesión o evidencia técnica adicional.

Trazabilidad. ¿Podría otra persona competente repetir el procedimiento y entender por qué llegamos a la misma conclusión? Esta pregunta conecta directamente con la suficiencia de la evidencia en las Normas Globales y ayuda a evitar conclusiones basadas en impresiones visuales difíciles de reproducir.

La tecnología de detección puede apoyar este análisis, pero no debería convertirse en un nuevo atajo. El informe de NIST Reducing Risks Posed by Synthetic Content advierte que técnicas como detección, marcas de agua y mecanismos de procedencia tienen limitaciones y no ofrecen una solución completa por sí solas. Para usos de alto riesgo, la respuesta más sólida es una combinación de controles y verificación, no un único “detector de deepfakes”.

La corroboración es más fiable cuando proviene de fuentes realmente independientes

Qué deberían auditar las funciones de fraude y Auditoría Interna

El efecto más importante del fraude habilitado por IA no está en añadir una nueva herramienta a la lista de riesgos tecnológicos. Está en revisar controles empresariales que dependían de supuestos sobre identidad y autenticidad. Algunas pruebas especialmente útiles son:

Actualizar la evaluación de riesgo de fraude para incluir suplantación sintética, identidades fabricadas, documentos generados y manipulación de canales de aprobación, especialmente en pagos, cambios de cuentas bancarias, contratación, tesorería y soporte al cliente.
Identificar decisiones de alta consecuencia en las que la misma vía utilizada para solicitar una acción no debería utilizarse para verificarla. Una transferencia solicitada por videollamada, por ejemplo, puede requerir confirmación por un canal corporativo independiente.
Probar el sistema de autorización, no solo el mensaje de aprobación: quién tenía el derecho de aprobar, cómo se autenticó, qué segregación de funciones existía y qué registro dejó el sistema.
Revisar qué evidencia conserva la organización. Las capturas de pantalla son débiles cuando existe un registro original, historial de versión, log de transacción o evento de autenticación más trazable.
Evaluar controles de terceros utilizados para verificación de identidad o detección de contenido sintético, incluidos sus supuestos, cobertura, tasas de error conocidas, cambios del servicio y mecanismos de escalamiento.
Simular escenarios de fraude habilitado por IA en pruebas de diseño y operación: no solo preguntar si existe un procedimiento, sino comprobar qué haría una persona si recibe una instrucción urgente aparentemente respaldada por voz, video y documentación convincente.

FinCEN ha observado un aumento de reportes de actividad sospechosa relacionados con medios deepfake y ha descrito casos de documentos de identidad fraudulentos utilizados para eludir procesos de verificación. Su alerta de noviembre de 2024 también vincula deepfakes con fraude por correo empresarial, phishing e impersonación de ejecutivos. Para auditoría, la lección es clara: los controles de identidad y autorización deben probarse bajo condiciones adversariales, no solo bajo el supuesto de que los participantes son quienes aparentan ser.

La evidencia del futuro será menos visual y más verificable

Durante años, la transformación digital hizo que los auditores aceptaran cada vez más evidencia en forma de archivos, pantallas, videollamadas y comunicaciones electrónicas. La IA generativa no revierte esa evolución. Obliga a madurarla.

Una evidencia convincente seguirá siendo útil, pero su apariencia tendrá menos peso. Ganarán importancia el sistema de origen, la procedencia, la autenticación, la segregación de funciones, los registros técnicos, la corroboración independiente y la capacidad de reproducir el análisis. En otras palabras, la auditoría debe pasar de confiar en lo que parece auténtico a demostrar lo que es verificable.

La diversidad de formatos no equivale a independencia de fuentes.

Ese principio es aplicable mucho más allá de los deepfakes. A medida que la IA pueda generar documentos, conversaciones, imágenes y decisiones de forma coordinada, la calidad de la auditoría dependerá de que sepamos separar contenido persuasivo de evidencia fiable.