Gobernanza de IA · Cumplimiento
El artículo 14 del Reglamento Europeo de Inteligencia Artificial exige que los sistemas de alto riesgo permitan una supervisión humana efectiva. La mayoría de las organizaciones puede describir su procedimiento de supervisión. Muy pocas pueden mostrar evidencia de que esa supervisión ocurrió. Esta página explica la diferencia y cómo se mide.
Página de referencia mantenida por Humanning Lab · Beatriz López López
El Reglamento (UE) 2024/1689, conocido como EU AI Act, entró en vigor el 1 de agosto de 2024 y sus obligaciones se aplican de forma escalonada. Las que afectan a los sistemas clasificados como de alto riesgo se despliegan entre 2026 y 2027, según la categoría del sistema.
El artículo 14 establece que los sistemas de IA de alto riesgo deben diseñarse y desarrollarse de modo que puedan ser supervisados de manera efectiva por personas físicas durante el período en que estén en uso. No basta con que exista una persona nominalmente responsable: la norma pide que esa persona pueda comprender las capacidades y limitaciones del sistema, detectar anomalías, interpretar correctamente su resultado, decidir no usarlo y, cuando corresponda, interrumpir su funcionamiento.
El texto también nombra explícitamente el sesgo de automatización: la tendencia a confiar de forma automática en la salida de un sistema, especialmente cuando ese sistema produce recomendaciones con apariencia de precisión. La norma pide que la organización sea consciente de ese sesgo y actúe sobre él.
Ahí aparece el problema práctico. El sesgo de automatización no es un procedimiento: es una conducta. Y una conducta no se acredita con un documento de política interna, se acredita observándola.
Cuando una entidad describe su gobernanza de IA, normalmente presenta tres cosas: un organigrama con roles asignados, un procedimiento escrito de revisión y una formación registrada. Los tres son necesarios. Ninguno de los tres demuestra que la supervisión ocurrió.
La supervisión declarada responde a la pregunta: ¿qué debería pasar cuando el sistema emite una recomendación? La supervisión medida responde a otra: ¿qué pasó realmente cuando el sistema emitió la recomendación?
La distancia entre ambas es donde se acumula el riesgo. Una persona que aprueba el 99 % de las recomendaciones del modelo en cuarenta segundos está cumpliendo el procedimiento y, al mismo tiempo, no está supervisando. El expediente estará completo. La supervisión efectiva, no.
Esta distinción es la misma que atraviesa todo el trabajo de Humanning Lab en otros dominios: medimos lo que se vive, no lo que se declara.
La supervisión humana se puede observar porque deja rastro conductual. Se mide sobre las decisiones que ya ocurren en la operación, sin cambiar el modelo ni interferir en el flujo de trabajo.
Lo que se observa son regularidades: en qué proporción de los casos la persona se aparta de la recomendación del sistema y bajo qué condiciones; cuánto varía ese comportamiento entre equipos, turnos y niveles de carga; qué tipos de caso concentran la aceptación automática; qué distingue a las decisiones donde la persona sí intervino; y si esa intervención se sostiene en el tiempo o decae tras la puesta en producción.
El resultado no es una puntuación de madurez ni una autoevaluación. Es un conjunto de indicadores conductuales, fechados y trazables, que describen cómo se está ejerciendo la supervisión en esa organización concreta, con ese sistema concreto.
Ese conjunto es lo que una entidad puede poner delante de un supervisor o de un auditor cuando le pidan demostrar, no afirmar, que la supervisión humana es efectiva.
El instrumento no proviene de la consultoría de cumplimiento, sino de la biología de la cognición y de la biología del conocer desarrolladas por Humberto Maturana y Francisco Varela.
Ese marco aporta una premisa operativa: la conducta de una persona no se explica por la instrucción que recibe, sino por la estructura desde la cual la recibe. Una norma no determina un comportamiento; lo gatilla, y lo que ocurre después depende de la estructura de quien la recibe y del contexto en el que opera.
Aplicado a la gobernanza de IA, esto explica por qué las políticas de supervisión bien redactadas producen resultados tan distintos entre organizaciones, y por qué la única forma seria de saber qué está pasando es observar la conducta en su contexto de operación.
El Reglamento clasifica como de alto riesgo, entre otros, los sistemas que intervienen en decisiones con impacto directo sobre derechos y oportunidades de las personas. Estos son los cuatro contextos donde el instrumento se aplica con más claridad.
Evaluación de solvencia y scoring crediticio
El analista recibe una recomendación del modelo y decide. La pregunta que un supervisor puede formular es cuántas de esas decisiones fueron efectivamente revisadas y qué distingue a las que se apartaron del modelo. Sin medición conductual, la respuesta es una estimación.
Tarificación y evaluación de riesgo en vida y salud
El mismo patrón, con un agravante: los modelos actuariales llevan décadas incorporados a la práctica profesional, de modo que la confianza en su salida está más naturalizada y el sesgo de automatización es más difícil de detectar desde dentro.
Apoyo a la decisión clínica y priorización asistencial
La supervisión humana es aquí particularmente sensible porque el profesional trabaja bajo presión de tiempo. Medir en qué condiciones la revisión se sostiene y en cuáles se degrada es información de seguridad, no solo de cumplimiento.
Cribado de candidaturas y evaluación en procesos de contratación
Es uno de los usos explícitamente listados como de alto riesgo. El volumen de candidaturas empuja hacia la aceptación automática del filtro, justo donde el impacto sobre las personas es directo y donde la trazabilidad de la decisión humana resulta exigible.
Este es un marco de referencia general, no asesoramiento jurídico. La clasificación de un sistema concreto depende de su finalidad y de su encaje en los anexos del Reglamento, y debe determinarla la entidad con su asesoría legal.
Paper de referencia del instrumento. Autora: Beatriz López López.
Fuente normativa primaria, en todas las lenguas oficiales de la Unión Europea.
Instrumento para medir la supervisión humana.
Si su entidad opera sistemas de IA en alguno de estos contextos y necesita demostrar supervisión humana efectiva, el primer paso es una conversación sobre el caso de uso concreto. No vendo un dictamen de cumplimiento: mido conducta de decisión y entrego los indicadores que la describen.
Escribir para proponer un piloto