Cuándo una auditoría de IA necesita especialistas técnicos

Una auditoría de inteligencia artificial puede comenzar con preguntas que cualquier auditor interno experimentado reconoce: ¿quién es responsable del sistema?, ¿qué riesgo pretende gestionar?, ¿qué datos utiliza?, ¿quién aprueba los cambios?, ¿cómo se monitorean los resultados? Ninguna de esas preguntas exige, por sí sola, convertir al equipo de auditoría en un grupo de científicos de datos.

El problema aparece cuando la conclusión de auditoría depende de algo distinto: validar una afirmación técnica. Por ejemplo, que un modelo discrimina menos que una alternativa, que una tasa de error es aceptable en producción, que un sistema RAG resiste inyecciones de prompt, o que un modelo no se degrada de manera significativa para determinados grupos de usuarios.

Ese es el punto en el que la conversación deja de ser “¿entendemos la IA?” y pasa a ser “¿tenemos la competencia necesaria para obtener evidencia suficiente y confiable sobre esta afirmación?”.

La señal para incorporar a un especialista no es que el sistema sea complejo. Es que la conclusión de auditoría dependa de una prueba técnica que el equipo no puede evaluar competentemente.

La frontera no está entre auditores y científicos de datos

Las Normas Globales de Auditoría Interna no exigen que cada auditor domine todas las tecnologías que pueda encontrar. La Norma 3.1, Competencia, establece que los auditores internos solo deben participar en servicios para los que tengan o puedan obtener las competencias necesarias. La Norma 10.2, Gestión de los recursos humanos, exige al Director de Auditoría Interna procurar que la combinación de conocimientos, aptitudes y habilidades sea apropiada y suficiente para ejecutar el plan. Y la Norma 13.5, Recursos del trabajo, obliga a identificar los tipos y la cantidad de recursos requeridos para alcanzar los objetivos de cada trabajo.

La consecuencia práctica es importante: la competencia se evalúa contra el objetivo del trabajo, no contra una etiqueta tecnológica.

Un equipo generalista puede revisar con profundidad la gobernanza de IA, el inventario de sistemas, los roles, las políticas, la aprobación de casos de uso, la gestión de terceros, el ciclo de vida, el monitoreo, la gestión de incidentes y la existencia de supervisión humana. También puede comprobar si la organización conserva evidencia de decisiones y si las excepciones se escalan de forma adecuada.

El especialista se vuelve necesario cuando el objetivo cambia de revisar si una disciplina de control existe y opera, a determinar si una afirmación técnica es realmente válida.

Seis señales de que la auditoría debe escalar

Señal de alerta	Pregunta de aseguramiento	Especialidad probable
La organización afirma que el modelo es “preciso” o “justo”, pero la conclusión depende de métricas, umbrales o muestras complejas.	¿Las métricas elegidas miden el riesgo correcto y los resultados pueden reproducirse por población, escenario y periodo?	Ciencia de datos / validación de modelos
El sistema fue entrenado, ajustado o desarrollado internamente.	¿Los datos de entrenamiento, validación y prueba están separados adecuadamente y existen riesgos de fuga de información, sobreajuste o sesgo?	Ciencia de datos / riesgo de modelos
La IA influye en decisiones con consecuencias materiales.	¿La validación es proporcional al impacto y cubre errores, sensibilidad, estabilidad, grupos afectados y uso fuera de contexto?	Riesgo de modelos / especialista de dominio
La aplicación expone herramientas, APIs, datos sensibles o permisos de ejecución.	¿Un atacante puede manipular instrucciones, extraer datos, abusar de herramientas o saltarse controles de autorización?	Ciberseguridad / seguridad de aplicaciones
La evidencia depende de pruebas adversariales o red teaming.	¿Las pruebas cubren escenarios realistas, son repetibles y exploran fallos relevantes para el contexto de uso?	Ciberseguridad / AI red team
El proveedor o el equipo técnico no puede explicar o reproducir resultados relevantes.	¿Auditoría puede obtener evidencia independiente suficiente o necesita construir una prueba técnica alternativa?	Especialista según el punto de incertidumbre

Estas señales no convierten automáticamente todo el trabajo en una auditoría técnica. En muchos casos, basta con añadir una capacidad especializada a una parte concreta del programa de trabajo.

La pregunta correcta es qué afirmación debe probarse

El NIST AI Risk Management Framework trata la gestión del riesgo de IA como una actividad multidisciplinaria y destaca la importancia de procesos de prueba, evaluación, verificación y validación a lo largo del ciclo de vida. Para IA generativa, el NIST AI 600-1 Generative AI Profile lleva esa lógica a pruebas como evaluación en contexto, pruebas adversariales y red teaming.

Eso permite formular una regla sencilla para auditoría:

Si la evidencia puede obtenerse mediante inspección, indagación, observación, walkthroughs, reconciliaciones, revisión de configuraciones y pruebas de controles comprensibles para el equipo, probablemente no se necesita un especialista. Si la conclusión exige diseñar o validar un método técnico que el equipo no puede juzgar, sí.

Por ejemplo, un auditor puede comprobar si existe un proceso de monitoreo de drift, quién revisa las alertas y qué ocurre cuando se supera un umbral. Pero afirmar que el método estadístico de detección de drift es adecuado para ese modelo y que el umbral elegido detectará cambios materialmente relevantes puede requerir un especialista.

Del mismo modo, un auditor puede revisar que una aplicación con IA generativa tenga controles de acceso, una arquitectura documentada y pruebas de seguridad. Pero si el objetivo es concluir sobre su resistencia frente a prompt injection indirecta, extracción de datos o abuso de herramientas conectadas, será difícil sostener esa conclusión sin experiencia de seguridad técnica.

ISO 42001 ayuda a estructurar el sistema, no sustituye la validación técnica

ISO/IEC 42001:2023 proporciona una estructura de sistema de gestión para la IA: gobierno, recursos, competencia, evaluación de riesgos, operación, monitoreo, auditoría interna y mejora. Para un auditor interno, esa estructura es útil para identificar criterios y evidencia.

Sin embargo, una auditoría de conformidad con un sistema de gestión y una validación técnica de un modelo responden a preguntas diferentes. Puede existir una política sólida, un proceso de aprobación claro y un registro completo de pruebas, y aun así ser necesario cuestionar si la metodología de prueba fue adecuada.

La edición vigente de ISO 19011:2026 ofrece una distinción útil para auditorías de sistemas de gestión: un technical expert aporta conocimiento o experiencia específica al equipo, pero no actúa como auditor. Para Auditoría Interna, la idea es valiosa aunque la autoridad profesional principal siga siendo las Normas Globales: el experto puede producir o interpretar evidencia especializada sin asumir la responsabilidad por el juicio global del trabajo.

Cómo incorporar especialistas sin externalizar el juicio de auditoría

El Director de Auditoría Interna puede resolver una brecha de competencia mediante contratación, co-sourcing, un auditor invitado, personal técnico con independencia adecuada o un proveedor especializado. El Marco de Competencias de Auditoría Interna del IIA, que es orientación recomendada y no un requisito adicional, ayuda precisamente a pensar en competencias individuales y colectivas.

Antes de incorporar apoyo técnico, conviene dejar por escrito cinco elementos:

La afirmación que debe validarse. Evite un alcance vago como “revisar el modelo”. Defina si la pregunta es desempeño, sesgo, seguridad, robustez, calidad de datos o estabilidad.
El método y los criterios. Aclare qué métricas, escenarios, poblaciones, umbrales o estándares harán aceptable la evidencia.
La independencia y objetividad del especialista. La persona que construyó o administra el modelo puede explicar su funcionamiento, pero no siempre proporciona una validación independiente.
Los entregables técnicos. Auditoría necesita resultados reproducibles, limitaciones, supuestos, datos utilizados y trazabilidad de las pruebas, no solo una presentación ejecutiva.
La integración con la conclusión. El especialista responde una parte de la pregunta. Auditoría Interna evalúa esa evidencia junto con gobierno, controles, procesos, impacto y respuesta de la dirección.

La Norma 9.5 de las Normas Globales permite coordinarse y considerar confiar en el trabajo de otros proveedores de aseguramiento, pero el Director de Auditoría Interna sigue siendo responsable de las conclusiones comunicadas por su función. Incorporar expertos amplía la capacidad de auditoría; no transfiere su responsabilidad.

Una prueba práctica para el CAE

Antes de aprobar el plan de un trabajo de IA, el Director de Auditoría Interna puede hacer tres preguntas:

¿Qué conclusión queremos emitir? Si la respuesta es “la gobernanza del sistema es adecuada”, probablemente el núcleo del trabajo puede permanecer con auditores generalistas. Si la respuesta es “el modelo es suficientemente preciso, justo, robusto o seguro para este uso”, la exigencia técnica aumenta.

¿Qué evidencia tendría que convencer a un profesional competente que no participó en el trabajo? Si esa evidencia incluye experimentos estadísticos, análisis de código, pruebas de penetración, red teaming o validaciones cuantitativas complejas, la competencia del equipo debe reflejarlo.

¿Podemos defender el método, no solo el resultado? Una cifra de precisión, un dashboard de drift o un informe de red team no son conclusiones por sí mismos. Auditoría debe entender si el método que los produjo es adecuado para el riesgo evaluado.

La madurez de una función de auditoría no consiste en intentar hacer todo con su propio equipo. Consiste en saber con precisión qué puede asegurar, qué necesita aprender y cuándo debe incorporar expertise adicional. En IA, esa frontera bien definida es una forma de debido cuidado profesional, no una limitación.