Inteligência ArtificialArtigo
Agente de IA na empresa: como limitar permissões, aprovar ações e acompanhar erros
Em resumo
Quando uma IA só redige um texto, o risco é diferente de quando consulta clientes, altera dados ou executa uma tarefa. Use níveis de acesso, aprovação humana, testes e registro para começar com autonomia controlada.
Um agente de IA pode executar etapas de um trabalho, enquanto um chatbot tende a responder e um copiloto costuma sugerir ou preparar algo para uma pessoa. A diferença operacional é o acesso: quanto mais o sistema pode ler ou alterar, maior a consequência de uma resposta errada. Antes de conectar a IA ao e-mail, ao ERP, ao marketplace ou ao CRM, defina o que ela pode fazer, o que precisa de aprovação e como interromper o fluxo.
O NIST organiza o gerenciamento de risco de IA em quatro funções: governar, mapear, medir e gerir. O framework é voluntário e não substitui a lei brasileira, mas oferece uma estrutura clara para pensar em papéis, limites, testes e monitoramento. Este roteiro traduz essas ideias para uma pequena empresa que quer experimentar agentes sem dar acesso irrestrito.
A diferença entre sugerir e agir
Uma ferramenta que recebe uma planilha e devolve um resumo é diferente de um agente conectado que consegue mandar mensagens, editar cadastros ou iniciar pagamentos. O risco depende da tarefa e do que acontece se a IA entender errado uma instrução, receber um dado malicioso ou usar uma integração fora do esperado.
Comece descrevendo a tarefa em uma frase verificável. “Ajudar o atendimento” é amplo demais. “Consultar o status do pedido e preparar uma resposta, sem enviá-la” define entrada, saída e limite. A explicação sobre chatbot, copiloto e agente de IA ajuda a distinguir esses formatos.
Quatro níveis de autonomia
| Nível | O que a IA pode fazer | Exemplo | Controle sugerido |
|---|---|---|---|
| 1. Rascunho | Produzir texto ou classificação sem acessar sistemas | Rascunhar resposta interna | Revisão antes do uso externo |
| 2. Leitura | Consultar dados específicos sem alterá-los | Resumir pedidos atrasados | Acesso somente leitura e campos mínimos |
| 3. Preparação | Montar uma ação que uma pessoa confirma | Preparar resposta ou alteração de pedido | Confirmação visível antes do envio |
| 4. Execução limitada | Executar uma ação reversível dentro de regra definida | Classificar chamado ou atualizar etiqueta | Limite de volume, registro e mecanismo de pausa |
Essa escala é uma proposta editorial, não uma classificação oficial do NIST. Em tarefas que envolvem dinheiro, obrigação fiscal, decisão sobre cliente ou comunicação pública, mantenha uma pessoa na aprovação mesmo que a ferramenta esteja tecnicamente pronta para executar.
Controles básicos antes de conectar sistemas
- Conta separada: use credenciais próprias para a integração, sem compartilhar login pessoal ou senha de administrador.
- Menor permissão: libere só os dados e comandos indispensáveis. Uma IA que responde sobre prazo não precisa alterar preço.
- Dados mínimos: esconda CPF, endereço, telefone e outros identificadores se não forem necessários.
- Confirmação explícita: mostre qual ação será feita, em qual registro e com quais dados antes de executar.
- Registro: guarde data, usuário, instrução, resposta, ação, aprovação e resultado.
- Saída de emergência: documente como revogar o acesso, suspender a automação e voltar ao procedimento manual.
O NIST recomenda definir papéis e responsabilidades para configurações humano-IA, mapear sistemas de terceiros, avaliar riscos e monitorar a operação. A implementação pode ser proporcional: uma planilha de inventário e um responsável já tornam o teste mais controlável do que uma integração sem dono.
Como testar antes de liberar
Crie um conjunto de exemplos com resultado conhecido. Inclua situações comuns, casos incompletos, informação contraditória, um pedido duplicado e um caso fora do escopo. Para cada um, defina previamente a resposta esperada e o que a ferramenta deve fazer quando não souber.
Verifique pelo menos quatro coisas: se os dados certos foram consultados; se a resposta está apoiada nesses dados; se a ferramenta respeitou as permissões; e se a ação foi realmente reversível. Para um agente de atendimento, por exemplo, uma resposta correta sobre rastreio não compensa se ele também expôs dados de outro cliente.
Rode primeiro em modo de observação: a IA produz uma sugestão, mas não envia nem altera nada. Compare as respostas com as da equipe, corrija os casos de erro e só então considere permitir uma ação pequena. O modelo de política de uso de IA para pequenas empresas ajuda a documentar quem pode usar cada ferramenta e para quê.
O que monitorar depois da implantação
Acompanhe taxa de respostas corrigidas, ações recusadas, erros por tipo, tempo poupado, chamados reabertos e incidentes de acesso. Registre também mudança de versão do modelo, atualização da integração e alteração de permissões. Se a qualidade cair ou a tarefa sair do escopo, pause e volte à aprovação humana.
Agentes e integrações mudam com atualizações de fornecedores. Uma configuração que funcionou no piloto não deve ser considerada segura para sempre. Revise os acessos periodicamente, teste novamente alterações relevantes e tenha um responsável com autoridade para desligar o fluxo.
O objetivo é autonomia proporcional ao risco. Para um rascunho, revisão editorial pode bastar. Para alterar cadastro, enviar mensagem ou movimentar dinheiro, a empresa precisa de uma justificativa mais forte, controles adicionais e uma forma concreta de corrigir o erro.
Fonte: NIST — AI Risk Management Framework Core
Perguntas frequentes
Um agente de IA precisa de acesso ao sistema inteiro?
Em geral, não. Comece com o menor acesso compatível com a tarefa. Se o objetivo é resumir pedidos, a ferramenta pode receber uma exportação somente leitura, sem permissão para alterar pedidos, preço ou dados bancários.
Quando a aprovação humana é necessária?
Mantenha aprovação para ações com efeito financeiro, fiscal, jurídico, reputacional ou difícil de desfazer. Para tarefas de baixo risco, como rascunho interno, a revisão pode ser proporcional ao uso e às consequências de um erro.
Como testar um agente antes de colocá-lo em uso?
Use casos reais já resolvidos, casos ambíguos e entradas inválidas. Compare o resultado com a resposta correta, registre falhas e verifique se o agente respeita limites, solicita aprovação e para quando não tem dados.
O NIST AI RMF é uma obrigação legal no Brasil?
O AI Risk Management Framework do NIST é um referencial voluntário, não uma lei brasileira. Ele organiza atividades de governança, mapeamento, medição e gestão de riscos; cada empresa deve verificar suas obrigações legais aplicáveis.
