Governança de IA · Conformidade
O artigo 14.º do Regulamento Europeu de Inteligência Artificial exige que os sistemas de risco elevado permitam uma supervisão humana efetiva. A maioria das organizações sabe descrever o seu procedimento de supervisão. Muito poucas conseguem mostrar evidência de que essa supervisão aconteceu. Esta página explica a diferença e como se mede.
Página de referência mantida pela Humanning Lab · Beatriz López López
O Regulamento (UE) 2024/1689, conhecido como AI Act, entrou em vigor a 1 de agosto de 2024 e as suas obrigações aplicam-se de forma faseada. As que afetam os sistemas classificados como de risco elevado entram em vigor entre 2026 e 2027, consoante a categoria do sistema.
O artigo 14.º estabelece que os sistemas de IA de risco elevado devem ser concebidos e desenvolvidos de modo a poderem ser efetivamente supervisionados por pessoas singulares durante o período em que estejam em utilização. Não basta existir uma pessoa nominalmente responsável: a norma pede que essa pessoa possa compreender as capacidades e os limites do sistema, detetar anomalias, interpretar corretamente o resultado, decidir não o utilizar e, quando aplicável, interromper o seu funcionamento.
O texto nomeia também explicitamente o enviesamento de automatização: a tendência para confiar automaticamente no resultado de um sistema, sobretudo quando esse sistema produz recomendações com aparência de precisão. A norma pede que a organização esteja consciente disso e atue sobre esse ponto.
É aí que surge o problema prático. O enviesamento de automatização não é um procedimento: é uma conduta. E uma conduta não se comprova com um documento de política interna, comprova-se observando-a.
Quando uma entidade descreve a sua governança de IA, apresenta normalmente três coisas: um organograma com papéis atribuídos, um procedimento escrito de revisão e uma formação registada. As três são necessárias. Nenhuma das três demonstra que a supervisão aconteceu.
A supervisão declarada responde à pergunta: o que deveria acontecer quando o sistema emite uma recomendação? A supervisão medida responde a outra: o que aconteceu realmente quando o sistema emitiu a recomendação?
A distância entre ambas é onde o risco se acumula. Uma pessoa que aprova 99 % das recomendações do modelo em quarenta segundos está a cumprir o procedimento e, ao mesmo tempo, não está a supervisionar. O processo estará completo. A supervisão efetiva, não.
Esta distinção atravessa todo o trabalho da Humanning Lab nos restantes domínios: medimos o que se vive, não o que se declara.
A supervisão humana é observável porque deixa rasto comportamental. Mede-se sobre as decisões que já ocorrem na operação, sem alterar o modelo nem interferir no fluxo de trabalho.
O que se observa são regularidades: em que proporção dos casos a pessoa se afasta da recomendação do sistema e em que condições; quanto varia esse comportamento entre equipas, turnos e níveis de carga; que tipos de caso concentram a aceitação automática; o que distingue as decisões em que a pessoa efetivamente interveio; e se essa intervenção se mantém no tempo ou decai após a entrada em produção.
O resultado não é uma pontuação de maturidade nem uma autoavaliação. É um conjunto de indicadores comportamentais, datados e rastreáveis, que descrevem como a supervisão está a ser exercida naquela organização concreta, com aquele sistema concreto.
É esse conjunto que uma entidade pode apresentar a um supervisor ou a um auditor quando lhe pedirem para demonstrar, e não afirmar, que a supervisão humana é efetiva.
O instrumento não vem da consultoria de conformidade, mas da biologia da cognição desenvolvida por Humberto Maturana e Francisco Varela.
Esse quadro fornece uma premissa operativa: a conduta de uma pessoa não se explica pela instrução que recebe, mas pela estrutura a partir da qual a recebe. Uma norma não determina um comportamento; desencadeia-o, e o que acontece depois depende da estrutura de quem a recebe e do contexto em que opera.
Aplicado à governança de IA, isto explica porque políticas de supervisão bem redigidas produzem resultados tão diferentes entre organizações, e porque a única forma séria de saber o que está a acontecer é observar a conduta no seu contexto de operação.
O Regulamento classifica como de risco elevado, entre outros, os sistemas que intervêm em decisões com impacto direto sobre direitos e oportunidades das pessoas. Estes são os quatro contextos onde o instrumento se aplica com maior clareza.
Avaliação de solvabilidade e scoring de crédito
O analista recebe uma recomendação do modelo e decide. A pergunta que um supervisor pode formular é quantas dessas decisões foram efetivamente revistas e o que distingue as que se afastaram do modelo. Sem medição comportamental, a resposta é uma estimativa.
Tarifação e avaliação de risco em vida e saúde
O mesmo padrão, com um agravante: os modelos atuariais estão incorporados na prática profissional há décadas, pelo que a confiança no seu resultado está mais naturalizada e o enviesamento de automatização é mais difícil de detetar por dentro.
Apoio à decisão clínica e priorização assistencial
A supervisão humana é aqui particularmente sensível porque o profissional trabalha sob pressão de tempo. Medir em que condições a revisão se mantém e em quais se degrada é informação de segurança, não apenas de conformidade.
Triagem de candidaturas e avaliação em processos de contratação
É um dos usos explicitamente listados como de risco elevado. O volume de candidaturas empurra para a aceitação automática do filtro, precisamente onde o impacto sobre as pessoas é direto e onde a rastreabilidade da decisão humana é exigível.
Este é um quadro de referência geral, não aconselhamento jurídico. A classificação de um sistema concreto depende da sua finalidade e do seu enquadramento nos anexos do Regulamento, e deve ser determinada pela entidade com o seu apoio jurídico.
Paper de referência do instrumento. Autora: Beatriz López López.
Fonte normativa primária, em todas as línguas oficiais da União Europeia.
Instrumento para medir a supervisão humana.
Se a sua entidade opera sistemas de IA em algum destes contextos e precisa de demonstrar supervisão humana efetiva, o primeiro passo é uma conversa sobre o caso de uso concreto. Não vendo um parecer de conformidade: meço conduta de decisão e entrego os indicadores que a descrevem.
Escrever para propor um piloto