Aprobar la IA antes de desplegarla ya no basta
La Comisión Nacional para la Regulación de la IA en Salud publicó el 10 de septiembre de 2026 sus recomendaciones para el futuro marco británico.
Hechos comprobados
La Comisión concluye que:
El desempeño depende del contexto real: datos, flujos, personas y organizaciones.
Las pruebas previas al despliegue pueden no predecir el funcionamiento posterior.
Deben vigilarse continuamente degradación, cambios inesperados y diferencias entre entornos.
Los planes de monitoreo posterior deben evaluarse desde la autorización inicial.
Las organizaciones deben definir umbrales que obliguen a reportar deterioros materiales.
Los proveedores deberán revelar dependencias de modelos generales, riesgos asociados y planes de continuidad.
La responsabilidad debe distribuirse entre fabricantes, organizaciones y profesionales, evitando convertir al usuario humano en un simple “sumidero de responsabilidad”.
El ciclo regulado debe abarcar adquisición, implantación, monitoreo, reporte y retiro del sistema.
Solidez y límites
Es un documento primario elaborado por una comisión independiente convocada por la autoridad británica de medicamentos, sustentado en consulta pública, grupos de especialistas y participación de profesionales, pacientes, reguladores e industria.
Todavía no es una regulación obligatoria. El gobierno publicará posteriormente su respuesta y las medidas que adoptará. Además, el documento se concentra en salud, aunque sus principios son trasladables —como inferencia— a otros sistemas empresariales de alto impacto.
Inferencia para EnterpriseThinking
Este desarrollo complementa, pero no repite, las leyes de auditoría de California:
California separa al implementador del auditor. El Reino Unido añade que ni siquiera una buena auditoría inicial garantiza que el sistema seguirá funcionando correctamente después.
También precisa el significado de control humano. Asignar a una persona para “validar” no resuelve la gobernanza si esa persona carece de información, tiempo, autoridad o criterios para rechazar la recomendación.
Afecta directamente el Cerebro de IA, los stress tests, Embedded AI y los proyectos sensibles de Grupo Cler, BanCoppel y Notaría 97.
Acción concreta
Convertir el stress test de EnterpriseThinking en un plan de aseguramiento del ciclo de vida que incluya:
línea base de desempeño, calidad y error antes del despliegue;
métricas y umbrales de deterioro;
monitoreo en condiciones reales;
revalidación después de cada cambio de modelo, datos o proceso;
inventario de modelos y proveedores subyacentes;
responsables diferenciados para operar, supervisar y responder;
procedimiento de pausa, reversión y continuidad manual;
criterios para retirar el sistema.
La tesis para clientes queda así:
Un sistema de IA no se vuelve confiable porque superó una prueba. Conserva esa condición únicamente mientras la organización demuestra, con evidencia continua, que sigue funcionando dentro de sus límites.
Comentarios