Que permissões dar a um agente de IA na sua empresa e como vigiar o que faz

Um assistente de IA responde. Um agente, além disso, age: lê o email, cria uma encomenda no ERP, responde a um cliente, muda o estado de um processo. É essa diferença que torna os agentes úteis, e também a que obriga a pensar com cuidado no que se lhes deixa fazer.

O tema passou de teórico a urgente em poucas semanas. No verão de 2026, agentes de vários grandes laboratórios de IA saíram dos seus ambientes de teste durante exercícios de cibersegurança e chegaram a sistemas reais; o caso mais citado foi o de agentes da OpenAI que acederam ao Hugging Face. Em setembro, a Nvidia lançou uma plataforma aberta para conter agentes e isolá-los quando tentam sair dos seus limites, e a MIT Technology Review colocava a pergunta que muitas empresas já fazem: quem responde quando um agente faz o que não devia.

Eram agentes de laboratório levados ao limite, não o assistente que gere as faturas de uma empresa. Mas a lição vale para qualquer agente: o risco não está no que sabe, mas no que pode fazer.

Três formas de dar poder a mais

A OWASP, a organização de referência em segurança de aplicações, tem uma categoria própria para isto na sua lista de riscos dos sistemas com IA: a «agência excessiva». Explica-a com três causas, e servem de guia para qualquer empresa:

• Funções a mais: o agente tem ferramentas de que não precisa para o seu trabalho.
• Permissões a mais: as ferramentas de que precisa podem fazer mais do que o imprescindível.
• Autonomia a mais: faz coisas importantes sem que ninguém as confirme.

As quatro regras seguintes corrigem cada uma.

1. Só as ferramentas de que precisa

Um agente que regista faturas de fornecedores precisa de ler a caixa de faturas e preparar um rascunho de lançamento. Não precisa de enviar emails, apagar documentos nem ver os salários. Cada ferramenta que se lhe dá é mais uma porta.

E há ferramentas que convém evitar quase sempre: as abertas, do tipo «executar qualquer comando» ou «abrir qualquer página web». São cómodas para construir o agente e muito difíceis de controlar depois.

2. Um utilizador próprio, com as permissões mínimas

O agente deve entrar nos seus sistemas com um utilizador próprio, nunca com o de um administrador nem com o de uma pessoa da equipa. Assim as suas permissões podem ser reduzidas ao justo e tudo o que faz fica registado em seu nome.

Dois detalhes fazem a diferença:

• Que atue com as permissões de quem o usa. Se um colaborador não pode ver um documento, o agente também não o deveria ver quando trabalha para esse colaborador.
• Que o controlo esteja no sistema, não no agente. Quem decide se uma operação é permitida é o ERP, o CRM ou o gestor documental, não as instruções dadas ao agente. As instruções podem ser contornadas; as permissões do sistema, não.

3. O que passa sempre por uma pessoa

Nem todas as ações pesam o mesmo. Uma forma prática de as ordenar é em três grupos:

• Pode fazê-lo sozinho: ler, classificar, resumir, pesquisar, preparar rascunhos.
• Propõe e uma pessoa confirma: enviar algo a um cliente, criar uma encomenda, contabilizar, alterar dados de clientes ou fornecedores.
• Nunca o faz: pagamentos e transferências, apagar dados, alterar permissões ou assinar em nome de alguém.

O assistente deste mesmo site segue esse esquema. Pode orientar o visitante e preparar uma reunião, mas a reunião só é criada quando o visitante carrega em «Confirmar». Do calendário só conhece os espaços livres: não vê as reuniões de ninguém.

4. Limites de quantidade

Mesmo o que é permitido deve ter um teto: número de operações por dia, montante máximo, número de mensagens por conversa. Se algo falhar — um erro de desenho, uma tentativa de manipulação —, o limite decide quanto dano pode fazer antes de alguém reparar.

No assistente do site, por exemplo, há um teto diário de chamadas ao modelo, outro por visitante, bloqueio automático perante tentativas de manipulação e um interruptor para o desligar sem mexer no código.

Como vigiar o que faz

Um agente sem registo é uma caixa negra. O mínimo que deve ficar anotado:

• Quem lhe pediu o quê, e quando.
• Que ferramenta usou, com que dados e com que resultado.
• O que uma pessoa confirmou e o que o agente fez por conta própria.

Esse registo deve ser guardado fora do alcance do agente, para que não o possa alterar, e alguém deve revê-lo periodicamente no início. Convém acrescentar alertas para o que for estranho: um volume de operações fora do normal, tentativas repetidas de algo que tem proibido ou acessos a horas invulgares.

O que diz a regulamentação

O Regulamento europeu da IA (AI Act) exige supervisão humana efetiva nos sistemas de risco elevado (artigo 14.º). A maioria dos agentes que uma empresa usa para tarefas administrativas não entra nessa categoria, mas documentar o que o agente faz, com que dados e quem o supervisiona é uma boa prática que, além disso, facilita qualquer revisão futura. Se tratar dados pessoais, aplica-se também o RGPD.

Sobre como se gradua essa supervisão há mais detalhe em O que significa supervisão humana num sistema de IA (em espanhol).

Cinco perguntas para quem lhe instale um agente

1. Que ferramentas exatas terá e o que pode fazer com cada uma?
2. Com que utilizador entra nos nossos sistemas e que permissões tem esse utilizador?
3. Que ações faz sozinho, quais propõe e quais tem proibidas?
4. Que limites de quantidade tem e quem o pode desligar?
5. Onde fica o registo do que faz e quem o revê?

Se quiser ver como o planeamos: IA privada e conforme a lei · Agentes de IA para processos administrativos (em espanhol)

Este artigo é informativo e não constitui aconselhamento jurídico. A Tecnea desenvolve agentes de IA para empresas, pelo que temos interesse comercial no tema. As cinco perguntas servem para avaliar qualquer proposta, incluindo a nossa.

Fontes

• MIT Technology Review, «Who's liable when AI agents go rogue?» (28 de setembro de 2026): technologyreview.com
• TechCrunch, «Nvidia launches new platform for reining in rogue AI agents» (28 de setembro de 2026): techcrunch.com
• OWASP, «LLM06:2025 Excessive Agency»: genai.owasp.org
• Regulamento (UE) 2024/1689 (AI Act), artigo 14.º: eur-lex.europa.eu