O problema de pedir aprovação demais
À medida que agentes de IA assumem tarefas mais complexas, uma pergunta se torna central para líderes de segurança: como manter a supervisão humana sem transformar o trabalho em uma sequência interminável de confirmações?
Permissões definem o que um agente pode ou não fazer — mas uma ação permitida ainda pode exigir o julgamento de uma pessoa. A saída mais óbvia seria exigir aprovação em cada etapa. O problema é que tarefas com múltiplos passos geram solicitações repetidas de aprovação, inclusive para ações rotineiras. Pesquisas sobre alertas de segurança mostram que a atenção e a adesão diminuem com a repetição — ou seja, quanto mais aprovações desnecessárias aparecem, menos atenção o usuário dedica a cada uma delas.
O desafio, portanto, não é exigir mais aprovações. É preservar a atenção para as decisões que realmente precisam de revisão humana.
O que é o Smart Approvals
O Amazon Q passou a contar com o Smart Approvals, um recurso que aborda exatamente esse desafio. Ele avalia ações elegíveis dentro dos controles já existentes: analisa cada ação proposta pelo agente em relação à solicitação do usuário e decide se pode aprová-la automaticamente ou se deve devolvê-la para revisão humana.
Tudo isso acontece sem conceder permissões adicionais e sem remover aprovações humanas obrigatórias. Líderes de segurança mantêm o controle sobre quais ações devem sempre passar por uma pessoa, enquanto o Smart Approvals reduz interrupções desnecessárias no trabalho rotineiro.
Como a política define o que é elegível
Antes de qualquer revisão automatizada, o Amazon Q avalia cada ação proposta contra as Permissões Personalizadas (Custom Permissions), os Guardrails do Q, as permissões de ação dos conectores e as configurações do usuário. Ações negadas continuam negadas. Aprovações humanas obrigatórias continuam obrigatórias.
Com o Smart Approvals ativo, uma ação só é elegível para revisão automatizada quando a configuração do usuário está como “Perguntar cada vez” e nenhum outro controle exige aprovação humana. As permissões de ação dos conectores — configuradas na criação do conector — podem exigir aprovação humana para ações específicas, e isso tem prioridade.
Administradores usam as Permissões Personalizadas para definir quem pode usar o Smart Approvals. O recurso vem ativado por padrão, mas perfis com negação por padrão (deny-by-default) precisam habilitá-lo explicitamente. Os próprios usuários também podem desativá-lo individualmente — e essa escolha vale para todas as conversas e execuções agendadas. Quando desativado pelo usuário, nenhuma configuração no nível da conta consegue reativá-lo para aquela pessoa.
Como as ações elegíveis são avaliadas
O Smart Approvals usa um modelo separado — chamado de classificador — para avaliar ações elegíveis em relação à solicitação do usuário e a uma visão delimitada da conversa. O classificador considera o que a ação faz, para onde os dados vão e quem é afetado.
Ele também pode consultar o grafo de conhecimento do usuário, que contém informações sobre pessoas e relações de trabalho extraídas das fontes conectadas. Isso permite entender, por exemplo, se um destinatário faz parte da cadeia hierárquica do usuário. Essa consulta permanece dentro da conta do Amazon Q, e o conteúdo revisado pelo classificador — incluindo dados do grafo de conhecimento — não é usado para treinar modelos ou melhorar o serviço.
Mesmo quando uma ação corresponde à solicitação, ela ainda pode ser encaminhada para revisão humana. Exemplos incluem: enviar conteúdo para fora da organização, enviar para líderes seniores na cadeia hierárquica do usuário, alterar permissões de acesso, excluir registros ou iniciar pagamentos. Essa lista não é exaustiva — o classificador também considera o contexto da conversa.
Avaliar ações em relação à solicitação do usuário também funciona como uma camada de proteção contra injeção indireta de prompt (indirect prompt injection), quando instruções embutidas em conteúdo recuperado tentam redirecionar o agente. O Amazon Q instrui tanto o agente quanto o classificador a tratar esse conteúdo como informação, não como instrução.
Dito isso, revisões por modelo podem cometer erros. Por isso, ações que precisam garantidamente de aprovação humana — especialmente as que movimentam dados sensíveis — devem ter isso configurado diretamente nas permissões de ação dos conectores. O classificador oferece julgamento; o serviço de permissões impõe a autoridade.
Limites de cada aprovação automática
Cada aprovação automática é de uso único: aplica-se apenas à ação exata e aos parâmetros revisados, sem conceder nenhuma permissão contínua. O Amazon Q sinaliza aprovações automáticas na conversa. Ações que o classificador não aprova são devolvidas ao usuário, assim como timeouts e falhas de revisão — que nunca resultam em aprovação automática.
Esses limites de execução restringem o que uma aprovação autoriza. Eles não garantem que o julgamento do classificador foi correto.
Exemplo prático: quando a ação vai além do pedido
Uma gerente de contas pede ao Amazon Q que prepare um relatório de revisão trimestral de negócios usando as notas da equipe e os e-mails do trimestre anterior. Em seguida, pede para enviar o relatório a dois colegas que ela nomeia. Assumindo que o envio seja elegível para revisão automatizada, o Smart Approvals avalia a ação proposta em relação à solicitação e ao contexto disponível na conversa.
Agora suponha que uma nota de conta indique que o relatório também deve ser enviado a uma lista de distribuição de toda a área de vendas — cerca de 2.000 pessoas. Isso alteraria o público além dos destinatários especificados pela usuária. Nesse caso, o Smart Approvals está projetado para devolver a ação proposta para revisão, onde ela pode recusá-la. A aprovação concedida para os destinatários originais não pode ser reutilizada para o público ampliado.
Auditoria e rastreabilidade
O serviço de permissões do Amazon Q registra as atualizações de permissão associadas ao Smart Approvals no AWS CloudTrail na conta do cliente. Cada evento identifica o usuário, o conector, a ação e o horário, e marca a solicitação como associada ao Smart Approvals. Esse marcador não confirma que o serviço de permissões aceitou a concessão ou que a ação foi executada.
O Amazon Q também registra os resultados das verificações de permissão — incluindo negações das permissões de ação dos conectores — e alterações na configuração de Smart Approvals do usuário. Investigadores podem correlacionar esses eventos por usuário e horário com outras atividades do Amazon Q no CloudTrail e nos logs entregues pelo Amazon CloudWatch Logs.
Os logs de chat capturam a solicitação do usuário, a resposta do sistema e o contexto da conversa. Os logs de metadados de agentes registram alterações nos agentes. Registros do sistema de destino — como um e-mail enviado ou um ticket atualizado — confirmam se a ação foi concluída. Juntos, esses dados permitem reconstruir o que aconteceu sem tratar a aprovação como prova de execução.
O histórico de eventos do CloudTrail retém registros por 90 dias, então é recomendado configurar uma trilha para investigações de prazo maior. Como os logs de chat podem conter conteúdo sensível, o acesso deve ser restrito e é válido considerar políticas de proteção de dados do CloudWatch Logs para mascarar informações sensíveis.
Por onde começar
Como o Smart Approvals vem ativado por padrão, o primeiro passo é confirmar que as ações que exigem aprovação humana estão configuradas nas permissões de ação dos conectores. Em seguida, configure uma trilha no CloudTrail e a entrega de logs de chat e metadados de agentes para o CloudWatch Logs — os logs de chat capturam apenas atividades após a configuração da entrega, então aprovações anteriores não terão esse contexto.
Com os requisitos de aprovação e o registro em log configurados, use as Permissões Personalizadas para limitar o Smart Approvals a uma equipe piloto que trabalhe em um fluxo de trabalho definido, antes de expandir para outras equipes. Antes do piloto, defina o que significa sucesso: menos interrupções para ações rotineiras, com ações de alto impacto ainda sendo devolvidas para revisão humana.
Durante o piloto, revise uma amostra de aprovações automáticas e teste casos de alto impacto — como envio de conteúdo para fora da organização ou adição de um destinatário introduzido por um documento. Confirme que esses casos chegam ao usuário para revisão. Confirme que a equipe consegue rastrear cada ação desde a aprovação até a execução. Expanda para mais equipes e fluxos de trabalho apenas quando os resultados atenderem a esses critérios, e reavalie conforme ações e políticas mudem.
A medida de uma supervisão eficaz não é quantas vezes o agente pede aprovação — é se as pessoas mantêm o controle sobre as decisões consequentes. Para líderes de segurança, a decisão de expandir o Smart Approvals deve se basear em evidências do piloto. Menos interrupções têm valor quando preservam a atenção sem enfraquecer a responsabilidade.
Para os passos de configuração, consulte a documentação de Smart Approvals na seção de governança do Guia do Usuário do Amazon Q.
Fonte
Smart Approvals in Amazon Quick: Human oversight where it matters (https://aws.amazon.com/blogs/machine-learning/smart-approvals-in-amazon-quick-human-oversight-where-it-matters/)
Leave a Reply