IA, aprendizaje automático e IA generativa para auditores

Una organización puede afirmar que tiene “cinco soluciones de IA” cuando, en realidad, está hablando de tecnologías muy distintas. Una automatiza una aprobación con reglas fijas. Otra asigna una puntuación de riesgo aprendida de datos históricos. Una tercera redacta texto. Otra consulta políticas internas antes de responder. Y una quinta puede abrir un caso, enviar una solicitud y actualizar un sistema sin esperar a que una persona ejecute cada paso.

Llamarlas a todas simplemente “IA” puede ser suficiente para una presentación ejecutiva. Para una auditoría, no lo es.

La tesis es sencilla: antes de evaluar los controles de un sistema de IA, el auditor necesita entender qué tipo de tecnología está observando y qué cambia en su superficie de riesgo. No hace falta saber entrenar modelos. Sí hace falta distinguir entre lógica determinista, aprendizaje a partir de datos, generación probabilística, recuperación de información y capacidad de actuar.

ISO/IEC 22989:2022 existe precisamente para establecer conceptos y terminología comunes en inteligencia artificial. Para el auditor, esa precisión no es académica: evita diseñar pruebas para el riesgo equivocado.

“IA” es una familia, no una sola tecnología

La primera distinción útil es separar automatización de inteligencia artificial. Una regla que dice “si la factura supera 50.000, requiere una segunda aprobación” puede automatizar una decisión sin aprender nada de datos. Es software determinista: dadas las mismas entradas y la misma configuración, debería seguir la misma lógica.

La inteligencia artificial es un concepto más amplio. Dentro de ella, gran parte de los sistemas que hoy encuentran los auditores utilizan aprendizaje automático (machine learning): modelos que identifican patrones a partir de datos y utilizan esos patrones para clasificar, estimar, recomendar o predecir. Un modelo que prioriza transacciones con mayor probabilidad de fraude es un ejemplo típico.

El aprendizaje profundo (deep learning) es, a su vez, una parte del aprendizaje automático basada en redes neuronales con múltiples capas. Ha permitido grandes avances en visión, voz y lenguaje. Para un auditor generalista, lo importante no es la arquitectura matemática, sino reconocer que cuanto más depende el comportamiento de patrones aprendidos, menos útil resulta revisar únicamente reglas programadas y más importantes se vuelven los datos, la validación, el desempeño y el monitoreo.

Una clasificación práctica es la siguiente:

Término	Qué significa en lenguaje de auditoría	Pregunta que cambia
Automatización basada en reglas	Ejecuta lógica definida explícitamente. Puede no ser IA.	¿La lógica, configuración y gestión de cambios son correctas?
Aprendizaje automático	Aprende patrones de datos para estimar, clasificar o recomendar.	¿Los datos y el desempeño del modelo son adecuados para el uso previsto?
Aprendizaje profundo	Usa redes neuronales complejas para aprender representaciones y patrones.	¿Se entiende y valida suficientemente el comportamiento para el nivel de riesgo?
IA generativa	Produce contenido nuevo, como texto, imágenes, audio o código.	¿Cómo se controlan variabilidad, errores, contenido y uso de datos?
RAG	Añade recuperación de fuentes externas o internas antes de generar una respuesta.	¿Las fuentes son completas, vigentes, autorizadas y recuperadas correctamente?
Agente o flujo agéntico	Puede seleccionar pasos y usar herramientas para avanzar hacia un objetivo.	¿Qué puede hacer, con qué permisos y dónde requiere aprobación humana?

El salto clave: de predecir a generar

Una forma útil de ordenar la conversación es distinguir entre IA predictiva e IA generativa. La taxonomía de NIST de 2025 utiliza precisamente esas dos grandes categorías para estructurar parte de su análisis de seguridad de sistemas de IA.

La IA predictiva suele responder preguntas como: “¿qué transacción parece anómala?”, “¿qué cliente tiene mayor probabilidad de incumplir?” o “¿qué solicitud pertenece a esta categoría?”. El resultado puede ser una puntuación, una clase o una probabilidad. Los riesgos clásicos incluyen calidad y representatividad de datos, sesgo, sobreajuste, desempeño insuficiente, deriva del modelo y uso fuera del contexto para el que fue validado.

La IA generativa (GenAI) cambia la naturaleza del resultado. NIST la describe como una clase de modelos que genera contenido sintético derivado de patrones aprendidos. En la práctica, puede crear texto, imágenes, audio, video o código. Los modelos de lenguaje grandes (LLM) son un tipo de modelo generativo orientado al lenguaje y pueden producir respuestas plausibles a partir del contexto recibido.

Ese cambio importa porque una respuesta lingüísticamente convincente no equivale a una afirmación verificada. La generación es probabilística: pequeñas diferencias en instrucciones, contexto o configuración pueden producir resultados distintos. Por eso aparecen riesgos que no dominaban la automatización tradicional, como contenido inventado o no fundamentado, sensibilidad al prompt, divulgación de información, respuestas inconsistentes y exceso de confianza del usuario. El NIST AI RMF Generative AI Profile fue creado como perfil específico precisamente porque la IA generativa introduce riesgos y consideraciones que necesitan tratamiento adicional.

RAG y agentes no son simplemente “modelos más avanzados”

Aquí aparece una confusión frecuente. RAG y agentes describen normalmente cómo se construye un sistema alrededor de uno o varios modelos, no una nueva categoría equivalente a “machine learning”.

La generación aumentada por recuperación (RAG) conecta una consulta con fuentes seleccionadas —por ejemplo, políticas o contratos—, recupera fragmentos relevantes y los incorpora al contexto del modelo. Así, un asistente puede responder utilizando documentación autorizada en lugar de depender solo de lo aprendido durante el entrenamiento.

Pero RAG no elimina el riesgo. Un sistema puede citar una política obsoleta, omitir el documento relevante, recuperar fragmentos fuera de contexto, exponer información sin autorización o aparentar fundamento sin que la fuente respalde la conclusión. Para el auditor, importan también el corpus consultado, su actualización, los permisos y la calidad de la recuperación.

Los agentes de IA añaden otra capa. Un copiloto puede proponer una acción; un agente puede tener herramientas para ejecutarla. Si el sistema puede consultar una base de datos, crear un ticket, enviar una comunicación o actualizar un registro, el control ya no puede centrarse únicamente en la calidad de la respuesta. Importan también permisos, límites de acción, registros, segregación de funciones, aprobaciones, condiciones de parada y recuperación ante errores.

El riesgo crece de forma distinta cuando un sistema pasa de producir información a producir acciones.

El mismo proceso puede contener varias tecnologías

Considere un proceso de cuentas por pagar. La organización podría utilizar:

reglas para bloquear facturas sin orden de compra;
un modelo de aprendizaje automático para asignar una puntuación de anomalía;
un LLM para redactar una explicación de por qué una factura parece inusual;
RAG para consultar la política de compras y mostrar la sección relevante;
un agente para solicitar documentación al responsable y abrir automáticamente un caso de revisión.

No son cinco grados de “inteligencia” en una misma escala. Son funciones distintas con controles distintos. La regla requiere trazabilidad de configuración y gestión de cambios. El modelo predictivo requiere evidencia sobre datos, validación, métricas y monitoreo. El LLM requiere pruebas de calidad de salida y uso apropiado. RAG añade gobierno de fuentes y accesos. El agente añade gobierno sobre autoridad y acciones.

Esta es una razón por la que el NIST AI Risk Management Framework insiste en gestionar el riesgo a lo largo del diseño, desarrollo, despliegue y uso del sistema, en lugar de tratar “el modelo” como si fuera todo el objeto auditado.

Cuatro preguntas que el auditor puede hacer antes de entrar en detalle

En una reunión de planificación, cuatro preguntas suelen aclarar gran parte del panorama:

¿El comportamiento está definido por reglas o aprendido de datos? Si aprende, el auditor necesita entender datos de entrenamiento o referencia, validación y monitoreo del desempeño.
¿El sistema predice o genera? Una puntuación de riesgo y un texto redactado por un LLM requieren pruebas diferentes.
¿La respuesta depende de información recuperada en tiempo de uso? Si existe RAG o búsqueda, la calidad y los permisos de las fuentes forman parte del control.
¿El sistema solo recomienda o también puede actuar? Cuanto mayor sea la autonomía operativa, más importantes son los límites de autoridad, las aprobaciones y el registro de acciones.

Estas preguntas no sustituyen una evaluación de riesgos. La complementan. Dos sistemas que utilizan el mismo modelo pueden tener perfiles de riesgo muy distintos si uno redacta borradores internos y otro decide sobre clientes, pagos o acceso a recursos.

La taxonomía correcta mejora el alcance de auditoría

Para un auditor no técnico, aprender esta taxonomía tiene un beneficio muy concreto: permite hacer mejores preguntas sin fingir ser especialista en ingeniería de modelos. Un auditor puede evaluar inventario, propiedad, uso previsto, datos, validación, accesos, monitoreo, supervisión humana y gestión de terceros, y reconocer cuándo necesita apoyo especializado para pruebas estadísticas, arquitectura, ciberseguridad avanzada o robustez adversarial.

La tecnología seguirá cambiando y los nombres comerciales cambiarán todavía más rápido. Por eso conviene conservar un modelo mental estable: ¿hay reglas?, ¿aprende de datos?, ¿genera contenido?, ¿recupera información?, ¿usa herramientas?, ¿actúa?

Entender esa secuencia no convierte al auditor en científico de datos. Lo convierte en un auditor capaz de identificar qué evidencia importa y dónde puede fallar el control.