Gouvernance de l'IA · Conformité
L'article 14 du règlement européen sur l'intelligence artificielle exige que les systèmes à haut risque permettent une surveillance humaine effective. La plupart des organisations savent décrire leur procédure de surveillance. Très peu peuvent montrer la preuve que cette surveillance a eu lieu. Cette page explique la différence et la façon de la mesurer.
Page de référence tenue par Humanning Lab · Beatriz López López
Le règlement classe à haut risque, entre autres, les systèmes qui interviennent dans des décisions ayant un impact direct sur les droits et les opportunités des personnes. Voici les cinq contextes où l'instrument s'applique le plus clairement.
Évaluation de solvabilité et scoring de crédit
L'analyste reçoit une recommandation du modèle et décide. La question qu'un superviseur peut poser est : combien de ces décisions ont été effectivement revues, et qu'est-ce qui distingue celles qui se sont écartées du modèle ? Sans mesure comportementale, la réponse reste une estimation.
Tarification et évaluation du risque en vie et santé
Le même schéma, avec une difficulté supplémentaire : les modèles actuariels sont intégrés à la pratique professionnelle depuis des décennies, si bien que la confiance dans leur sortie est plus naturalisée et le biais d'automatisation plus difficile à détecter de l'intérieur.
Aide à la décision clinique et priorisation des soins
La surveillance humaine y est particulièrement sensible car le professionnel travaille sous pression temporelle. Mesurer dans quelles conditions la revue se maintient et dans lesquelles elle se dégrade relève de la sécurité, pas seulement de la conformité.
Présélection de candidatures et évaluation dans les processus d'embauche
C'est l'un des usages explicitement listés comme à haut risque. Le volume de candidatures pousse à l'acceptation automatique du filtre, précisément là où l'impact sur les personnes est direct et où la traçabilité de la décision humaine est exigible.
Accès aux prestations, aides et services essentiels
Lorsqu'une administration s'appuie sur un système pour accorder ou refuser une prestation, l'exigence de surveillance humaine est maximale : la décision touche à des droits et la personne concernée n'a aucune alternative sur le marché. La preuve comportementale répond ici au règlement, mais aussi à l'obligation de motivation de l'acte administratif.
Il s'agit d'un cadre de référence général, non d'un conseil juridique. La classification d'un système donné dépend de sa finalité et de sa place dans les annexes du règlement, et doit être déterminée par l'entité avec son conseil juridique.
Le règlement (UE) 2024/1689, dit AI Act, est entré en vigueur le 1er août 2024 et ses obligations s'appliquent par étapes. Le règlement (UE) 2026/1744 a reporté les échéances applicables aux systèmes à haut risque : ceux de l'annexe III — recrutement, crédit, éducation, services essentiels — deviennent exigibles le 2 décembre 2027, et ceux intégrés dans les produits réglementés de l'annexe I, le 2 août 2028. D'autres obligations s'appliquent déjà : celles de transparence prévues à l'article 50 depuis le 2 août 2026.
L'article 14 prévoit que les systèmes d'IA à haut risque soient conçus et développés de manière à pouvoir être supervisés efficacement par des personnes physiques pendant leur période d'utilisation. Il ne suffit pas qu'une personne soit nommément responsable : la norme demande que cette personne puisse comprendre les capacités et les limites du système, détecter les anomalies, interpréter correctement le résultat, décider de ne pas l'utiliser et, le cas échéant, interrompre son fonctionnement.
Le texte nomme aussi explicitement le biais d'automatisation : la tendance à se fier automatiquement à la sortie d'un système, surtout lorsque ce système produit des recommandations à l'apparence précise. La norme demande que l'organisation en soit consciente et agisse sur ce point.
C'est là qu'apparaît le problème pratique. Le biais d'automatisation n'est pas une procédure : c'est une conduite. Et une conduite ne s'atteste pas par un document de politique interne, elle s'atteste en l'observant.
Le report a déplacé la date, pas la nature de l'obligation : l'article 14 continue d'exiger un résultat opérationnel, non une déclaration. Et le risque que cette mesure rend visible n'attend pas le calendrier. Mesurer le contrôle humain avant qu'il ne devienne exigible, c'est la différence entre démontrer la conformité et la fabriquer dans l'urgence.
Lorsqu'une entité décrit sa gouvernance de l'IA, elle présente en général trois éléments : un organigramme avec des rôles attribués, une procédure écrite de revue et une formation enregistrée. Les trois sont nécessaires. Aucun des trois ne démontre que la surveillance a eu lieu.
La surveillance déclarée répond à la question : que devrait-il se passer lorsque le système émet une recommandation ? La surveillance mesurée répond à une autre : que s'est-il réellement passé lorsque le système a émis la recommandation ?
L'écart entre les deux est l'endroit où le risque s'accumule. Une personne qui approuve 99 % des recommandations du modèle en quarante secondes respecte la procédure et, en même temps, ne supervise pas. Le dossier sera complet. La surveillance effective, non.
Cette distinction traverse tout le travail de Humanning Lab dans les autres domaines : nous mesurons ce qui se vit, non ce qui se déclare.
La surveillance humaine est observable parce qu'elle laisse une trace comportementale. Elle se mesure sur les décisions qui ont déjà lieu dans l'exploitation, sans modifier le modèle ni interférer avec le flux de travail.
Ce que l'on observe, ce sont des régularités : dans quelle proportion des cas la personne s'écarte de la recommandation du système et dans quelles conditions ; combien ce comportement varie entre équipes, horaires et niveaux de charge ; quels types de dossiers concentrent l'acceptation automatique ; ce qui distingue les décisions où la personne est réellement intervenue ; et si cette intervention se maintient dans le temps ou décline après la mise en production.
Le résultat n'est ni un score de maturité ni une auto-évaluation. C'est un ensemble d'indicateurs comportementaux, datés et traçables, qui décrivent comment la surveillance s'exerce dans cette organisation précise, avec ce système précis.
C'est cet ensemble qu'une entité peut présenter à un superviseur ou à un auditeur lorsqu'on lui demande de démontrer, et non d'affirmer, que la surveillance humaine est effective.
Si vous exploitez des systèmes d'IA à haut risque, vous pouvez proposer votre organisation pour le programme pilote de calibration sur whodecides.io. Je sélectionne trois organisations. L'instrument est conçu pour transformer le principe déclaré en indicateurs vérifiables, sans modifier votre modèle ni altérer le flux de travail.
Ce qui vous attend
Les trois cas de cette cohorte sont sans frais car leur fonction est de calibrer l'instrument.
Vous préférez d'abord échanger ? Écrire à BeatrizL'instrument ne vient pas du conseil en conformité, mais de la biologie de la cognition développée par Humberto Maturana et Francisco Varela.
Ce cadre apporte une prémisse opérationnelle : la conduite d'une personne ne s'explique pas par l'instruction qu'elle reçoit, mais par la structure depuis laquelle elle la reçoit. Une norme ne détermine pas un comportement ; elle le déclenche, et ce qui suit dépend de la structure de celui qui la reçoit et du contexte dans lequel il opère.
Appliqué à la gouvernance de l'IA, cela explique pourquoi des politiques de surveillance bien rédigées produisent des résultats si différents d'une organisation à l'autre, et pourquoi la seule façon sérieuse de savoir ce qui se passe est d'observer la conduite dans son contexte d'exploitation.
Paper de référence de l'instrument. Autrice : Beatriz López López.
Source normative primaire, dans toutes les langues officielles de l'Union européenne.
Modifie les échéances d'applicabilité de l'article 14 et des systèmes à haut risque. JO L du 24 juillet 2026.
Instrument pour mesurer la surveillance humaine.
Prêt à mesurer la surveillance humaine de vos systèmes ?
Commencer sur whodecides.io