El auditor asistido también necesita controles contra la delegación del juicio
Hechos comprobados
Un preprint publicado el 21 de septiembre de 2026 evaluó HAAC, un flujo en el que agentes generan pruebas adversariales, detectan posibles fallas, redactan informes y sintetizan resultados.
En un estudio cruzado con 71 estudiantes universitarios actuando como auditores:
la tasa media de ataques exitosos aumentó de 4.0% sin asistencia a 14.2% con agentes;
la asistencia amplió las estrategias y categorías exploradas;
las sugerencias también tendieron a orientar —y algunas veces estrechar— las pruebas posteriores;
en 275 casos donde el detector señaló una falla, los participantes conservaron su categoría en 96% y su severidad en 81%;
de 160 informes preparados por el agente, 150 se enviaron sin ninguna edición.
Cuatro profesionales de Responsible AI añadieron que una auditoría accionable requiere conocer la cobertura, conservar la trayectoria completa de las pruebas, reproducirlas después de una corrección y evaluar continuamente a los propios agentes auditores.
Fuentes primarias: paper completo y metodología y registro académico.
Solidez y límites
El diseño dentro de cada participante, los registros de interacción y la diferencia estadísticamente significativa aportan evidencia empírica útil. El estudio también distingue generación, detección, juicio y reporte, permitiendo observar dónde disminuye la intervención humana.
Sus límites son importantes:
es un preprint sin revisión por pares;
los 71 participantes procedían de un solo curso universitario, no eran auditores profesionales;
el sistema evaluado era un agente de compras y las pruebas fueron principalmente de un solo turno;
los cuatro profesionales pertenecían al mismo entorno empresarial;
el “éxito” se determinó mediante el juicio final del participante, no mediante adjudicación experta independiente;
por ello, el aumento puede reflejar tanto mejores ataques como cambios inducidos por el detector en la interpretación de los resultados.
No demuestra que la auditoría asistida produzca mejores decisiones empresariales finales. Sí demuestra que mejora el descubrimiento y crea un riesgo observable de dependencia en las etapas de evaluación y reporte.
Inferencia para EnterpriseThinking
La conclusión relevante es:
Una auditoría no conserva independencia porque una persona firme el informe. Debe demostrar que esa persona evaluó la evidencia y no se limitó a confirmar el diagnóstico redactado por otro modelo.
Esto afecta directamente Evaluación Integrada Independiente ET, Embedded AI Governance, los stress tests, los Activos de Conocimiento Verificable y las propuestas para Grupo México, BanCoppel, Grupo Cler y Notaría 97.
Acción concreta
Agregar un Protocolo de Independencia del Juicio:
definir criterios de falla y severidad antes de mostrar la valoración del agente;
registrar por separado el hallazgo humano y el automático;
exigir justificación propia cuando el auditor acepte la conclusión del modelo;
medir tasas de aceptación, desacuerdo y edición; considerar la ausencia sistemática de cambios como señal de riesgo;
someter hallazgos críticos a un segundo revisor que no vea inicialmente el diagnóstico automático;
conservar pruebas, conversaciones, versiones y decisiones para reproducirlas después de cada mitigación;
evaluar periódicamente los falsos positivos, falsos negativos, diversidad y vigencia del agente auditor;
utilizar la IA para ampliar la búsqueda y estructurar evidencia, pero reservar a humanos la definición contextual de daño y la decisión final.
La tesis operativa queda así:
La IA puede aumentar la cobertura de una auditoría sin aumentar su independencia. Si el humano sólo confirma lo que otro modelo detectó y redactó, existe supervisión nominal, no juicio autónomo.
Comentarios