La responsabilidad debe seguir al control efectivo
El Comité Conjunto de Derechos Humanos publicó el 14 de septiembre de 2026 su informe Human Rights and the Regulation of AI.
Hechos comprobados
El Comité concluye que el marco británico actual es fragmentado y concentra demasiada responsabilidad en los implementadores, aunque éstos suelen tener menos información, recursos y capacidad para modificar los modelos que los proveedores.
Recomienda una nueva ley que:
distribuya obligaciones entre diseñadores, desarrolladores, modificadores e implementadores;
exija debida diligencia proporcional al control de cada participante y a la gravedad del riesgo;
imponga transparencia durante todo el ciclo de vida;
prohíba determinados usos incompatibles con derechos humanos;
someta los sistemas de alto riesgo a autorización previa;
fortalezca el derecho de las personas a saber cuándo intervino una IA y a impugnar la decisión;
establezca un regulador independiente con facultades de supervisión, sanción y elaboración de códigos;
reconozca expresamente que la mera presencia de una persona en el proceso no constituye una intervención humana significativa.
El informe documenta casos de sistemas que señalaron trabajadores para investigación o medidas disciplinarias sin causa razonable. Informe completo del Parlamento británico y síntesis oficial de sus recomendaciones.
Solidez y límites
Es un informe parlamentario primario basado en más de 70 contribuciones escritas y diez sesiones de evidencia oral, con participación de especialistas, reguladores, empresas tecnológicas y gobierno.
Todavía no es ley. Son recomendaciones y el gobierno dispone de dos meses para responder. El documento tampoco resuelve cómo medir jurídicamente el “control efectivo” cuando un sistema combina modelos, datos, configuraciones y procesos de varias organizaciones.
Inferencia para EnterpriseThinking
El informe aporta una precisión importante a la tesis de gobernanza:
La responsabilidad no debe asignarse sólo a quien presiona el botón ni a quien firma el resultado. Debe distribuirse según quién puede conocer, modificar, limitar y detener cada parte del sistema.
Esto refuerza el Cerebro de IA: la gobernanza no consiste únicamente en nombrar un responsable humano. Exige comprobar si esa persona dispone de información, tiempo, criterio, autoridad y un mecanismo real para rechazar o revertir la decisión.
Afecta directamente Embedded AI, los stress tests, el diseño de agentes y los proyectos de BanCoppel, Notaría 97, Grupo Cler y Grupo México.
Acción concreta
Añadir a cada proyecto una matriz de control y responsabilidad que identifique:
quién selecciona el modelo y puede sustituirlo;
quién controla datos, instrucciones, herramientas y permisos;
quién conoce las limitaciones técnicas;
quién monitorea resultados e incidentes;
quién puede detener o revertir el sistema;
quién debe informar a la persona afectada;
quién recibe y resuelve una impugnación;
qué riesgos permanecen en manos del proveedor y deben quedar establecidos contractualmente.
La tesis operativa queda así:
La responsabilidad humana es ficticia cuando la persona señalada como responsable no tiene control efectivo sobre el sistema ni capacidad real para corregir sus decisiones.
Comentarios