O que significa supervisão humana num sistema de IA (e os níveis reais que existem)

"Supervisão humana" é uma das frases mais repetidas em qualquer proposta de IA para empresas, e uma das menos explicadas. Às vezes significa que uma pessoa revê cada resultado antes de ser usado. Às vezes significa que alguém "está a par" do sistema em geral, sem qualquer processo escrito por trás. São coisas muito diferentes, e a diferença importa: o Regulamento Europeu de IA não exige "ter alguém por trás", exige um desenho concreto.

Isto é o que significa de verdade, com os níveis que existem na prática e como se decide qual se aplica a cada processo.

Por que é uma obrigação, não uma boa prática

O Regulamento (UE) 2024/1689 (Regulamento Europeu de IA) dedica o seu artigo 14 à supervisão humana nos sistemas de alto risco: exige que estejam desenhados para que uma pessoa física os possa supervisionar de forma efetiva enquanto estão em uso, incluindo a capacidade de decidir não usar o sistema, de interpretar corretamente o seu resultado e de o interromper ou parar. Não é uma recomendação de boas práticas: é um requisito de desenho, exigível antes de colocar o sistema em produção.

Fora dos sistemas de alto risco, o RGPD acrescenta outra obrigação relacionada, mais antiga e já muito consolidada: o seu artigo 22 dá a qualquer pessoa o direito de não ficar sujeita a uma decisão baseada unicamente num tratamento automatizado que produza efeitos jurídicos ou a afete significativamente. Na prática, isto significa que, se uma IA decide algo com consequências reais sobre uma pessoa — conceder ou negar algo, classificar um risco, filtrar um pedido —, tem de haver uma intervenção humana significativa nessa decisão, não um botão de "aprovar" que ninguém olha.

As duas normas coincidem no essencial: a supervisão não é uma caixa que se assinala, é uma capacidade real de entender, corrigir e parar.

Os níveis reais de supervisão humana

No desenho de um sistema, "supervisão humana" não é uma coisa só. São pelo menos quatro decisões distintas, e um mesmo projeto normalmente combina várias:

1. Aprovação prévia à execução. Nada se executa — não se envia um email, não se contabiliza um lançamento, não se apresenta uma peça processual — sem que uma pessoa o confirme antes. É o nível que corresponde a qualquer ação com efeito económico, legal ou de cara ao cliente. Num sistema de leitura de faturas, por exemplo, a IA propõe o lançamento contabilístico, mas a confirmação final é dada por uma pessoa antes de ficar contabilizado.

2. Supervisão por amostragem. O sistema atua dentro de um âmbito delimitado sem pedir aprovação em cada caso, mas uma pessoa revê uma amostra representativa — ou o histórico completo, consoante o volume — com a capacidade real de corrigir o critério do sistema se algo falhar. Encaixa em processos de baixo risco individual e alto volume, como uma primeira classificação de correio recebido.

3. Capacidade de paragem. Tem de existir um mecanismo real para interromper o sistema ou deixar de o usar, e alguém com a responsabilidade e o conhecimento para o ativar. Não é só técnico: se ninguém sabe quando é preciso parar ou ninguém tem permissão para o fazer, a capacidade de paragem não existe na prática, mesmo que o botão exista.

4. Rastreabilidade como condição prévia. Nenhum dos níveis anteriores funciona sem isto. Se o sistema não diz de que documento, dado ou fonte sai cada afirmação, a pessoa que "supervisiona" não tem com que comparar: revê às cegas. Por isso, qualquer sistema bem desenhado cita a fonte de cada dado que usa, não só o resultado final.

O que não é supervisão humana

Três padrões que se vendem como supervisão humana e não o são:

• Uma pessoa "disponível" sem processo escrito. Alguém da equipa poder olhar para o sistema se algo parecer estranho não é supervisão: é sorte. A supervisão real define o que se revê, com que frequência e o que acontece se se encontrar um erro.
• Rever um resultado sem a fonte. Se o sistema entrega uma conclusão sem dizer de onde vem, revê-la é reler a mesma alucinação com mais passos. A supervisão exige poder verificar, não só poder ler.
• Aprovação simbólica. Um botão de "aprovar" que a maioria dos utilizadores carrega sem olhar, porque o volume é demasiado alto para rever a sério, não cumpre o artigo 14: a norma exige capacidade efetiva de supervisão, não uma formalidade.

Como se decide que nível se aplica a cada processo

O critério não é a tecnologia, é o efeito da decisão:

| O que o sistema decide | Nível de supervisão | |---|---| | Efeito legal, económico ou sobre uma pessoa externa (um pagamento, uma peça processual, uma resposta a um cliente) | Aprovação prévia, sempre | | Efeito interno, reversível e de baixo impacto individual (classificar correio, etiquetar documentos) | Supervisão por amostragem, com rastreabilidade | | Qualquer sistema de alto risco segundo o Regulamento Europeu de IA | Aprovação prévia ou supervisão por amostragem intensiva, mais capacidade de paragem documentada |

Como aplicamos isto na Tecnea

Em cada projeto, esta decisão é tomada processo a processo, por escrito, antes da implementação: que nível de supervisão corresponde a cada ação que o sistema pode tomar, quem a exerce e que rastreabilidade a sustenta. É parte da documentação de conformidade que entregamos com cada aplicação, não um anexo escrito no fim.

Perguntas frequentes

Um sistema sem supervisão humana incumpre sempre a lei? Nem sempre: depende do risco e do efeito da decisão. Um sistema de risco mínimo com decisões reversíveis e sem efeito significativo sobre uma pessoa pode operar com supervisão por amostragem. O artigo 14 exige o seu nível mais alto para os sistemas de alto risco; o artigo 22 do RGPD entra em jogo em qualquer decisão automatizada com efeitos jurídicos ou significativos, seja ou não de alto risco.

A supervisão humana torna o processo mais lento? A aprovação prévia acrescenta um passo, sim, mas sobre um rascunho já feito: a pessoa revê e confirma, não começa do zero. Nos processos de baixo risco com supervisão por amostragem, o sistema atua sem esperar aprovação caso a caso, pelo que a velocidade não muda.

Quem deve exercer a supervisão, qualquer pessoa da equipa? Tem de ser alguém com conhecimento suficiente para interpretar o resultado e detetar um erro, e com autoridade real para o parar ou corrigir. Delegá-la em quem não tem nem o conhecimento nem a autoridade é a aprovação simbólica do ponto anterior.

Fontes

1. Regulamento (UE) 2024/1689 (Regulamento Europeu de IA), artigo 14 (supervisão humana): https://eur-lex.europa.eu/legal-content/PT/TXT/HTML/?uri=CELEX:32024R1689
2. Regulamento (UE) 2016/679 (RGPD), artigo 22 (decisões individuais automatizadas): https://eur-lex.europa.eu/legal-content/PT/TXT/HTML/?uri=CELEX:32016R0679

Este artigo é informativo. A Tecnea desenha este nível de supervisão em cada projeto que constrói, pelo que tem um interesse comercial em que as empresas o levem a sério — quer o façam connosco quer com qualquer outro fornecedor.