O problema de segurança que toda empresa enfrenta com IA
Organizações ao redor do mundo estão adotando a Geração Aumentada por Recuperação (RAG) para extrair insights de bases de conhecimento corporativo — Microsoft SharePoint, Google Drive, Atlassian Confluence. O conceito é poderoso: permitir que assistentes de IA respondam perguntas com base em documentos internos da empresa.
Mas existe um desafio crítico que muitas implementações ignoram: essas bases de conhecimento contêm informações sensíveis, governadas por estruturas complexas de permissões. Garantir que as respostas geradas pela IA respeitem essas permissões é um dos problemas mais difíceis da IA corporativa.
A AWS publicou um artigo detalhando como o Amazon Quick e o Amazon Bedrock Knowledge Bases abordam esse desafio por meio de verificação de listas de controle de acesso (ACL) em tempo real — consultando as permissões diretamente na fonte autoritativa no momento da consulta.
Por que as abordagens tradicionais falham
A solução mais comum para controle de acesso em RAG é a chamada abordagem de “replicar e filtrar”. O funcionamento é o seguinte: um conector de dados (como um conector do SharePoint) extrai as ACLs durante um ciclo de sincronização periódica. Essas ACLs são replicadas e armazenadas como atributos no índice. Na hora da consulta, o sistema mapeia o usuário autenticado para os atributos de ACL armazenados e filtra os resultados.
À primeira vista parece razoável. Mas a AWS identifica três fragilidades fundamentais nessa abordagem:
O sistema de IA não é a fonte da verdade
Nesse modelo, o sistema de IA assume sozinho a responsabilidade pela aplicação das permissões, sem ser a fonte autoritativa. Isso exige que os conectores de dados repliquem com precisão lógicas de ACL complexas e específicas de cada fonte — hierarquias de herança, membros de grupos, políticas de acesso condicional e regras de negação. Mapear isso corretamente em dezenas de conectores diferentes é uma tarefa extremamente suscetível a erros.
Permissões desatualizadas criam brechas de segurança
Em geral, os conectores de dados operam com sincronizações periódicas. Isso significa que as ACLs armazenadas no índice são apenas um retrato do momento em que a última sincronização ocorreu. Algumas soluções usam atualizações baseadas em eventos, mas isso não funciona de forma universal. O Confluence, por exemplo, não emite um evento quando a associação a um grupo muda. Entre um ciclo e outro de sincronização, um usuário que teve o acesso revogado pode continuar recebendo respostas da IA com base em documentos que não deveria mais ver.
Fontes de dados evoluem constantemente
Plataformas como SharePoint e Google Drive lançam regularmente novos mecanismos de controle de acesso. Uma nova funcionalidade de permissão pode criar lacunas na lógica de mapeamento do conector — expondo conteúdo indevidamente até que o conector seja atualizado.
A solução da AWS: verificação de ACL em tempo real
Para superar essas limitações, a AWS implementou verificações de ACL em tempo real como uma camada adicional de segurança no Amazon Quick e no Amazon Bedrock Knowledge Bases. O sistema garante que os controles de acesso mais atuais sejam sempre aplicados, consultando as permissões diretamente na fonte autoritativa no momento da consulta — sem depender de dados de ACL potencialmente desatualizados ou mapeados incorretamente.
Como funciona: o exemplo com Google Drive
Quando um usuário envia uma consulta a um agente do Amazon Quick que utiliza uma base de conhecimento do Google Drive, o sistema aplica o controle de acesso em dois estágios:
Estágio 1: Filtragem pré-recuperação
O Amazon Quick realiza uma busca semântica no índice vetorial para encontrar os trechos de documentos mais relevantes. O sistema aplica as listas de controle de acesso já armazenadas no índice, produzindo um conjunto preliminar de documentos candidatos. Esse estágio é necessário porque fazer chamadas de API em tempo real para cada documento do índice seria inviável em termos de custo e desempenho em escala.
Estágio 2: Verificação em tempo real
O Amazon Quick verifica os documentos candidatos em tempo real, chamando as APIs do Google Drive. Utiliza a credencial de conta de serviço fornecida pelo administrador para gerar tokens de acesso específicos para o usuário por meio de impersonação. O Google Drive mantém a fonte de verdade das ACLs associadas a cada documento. Documentos que o usuário não está autorizado a acessar são excluídos do conjunto de resultados. Apenas os trechos verificados e autorizados são enviados ao modelo de linguagem de grande escala (LLM) como contexto para a geração da resposta.
Essa abordagem de dois estágios equilibra desempenho e segurança: usa as ACLs em cache para eficiência, mas garante a correção por meio de verificações em tempo real.
Além da aplicação de ACLs, o Amazon Bedrock oferece controles de IA responsável — incluindo o Amazon Bedrock Guardrails para filtragem de conteúdo, verificações de fundamentação para reduzir alucinações e políticas de segurança configuráveis.
Por que isso importa para as organizações
A AWS destaca três benefícios principais dessa abordagem:
- Permissões sempre atualizadas: sem mais brechas de segurança entre ciclos de sincronização. Se o acesso de um colaborador for revogado, a mudança é refletida nas respostas da IA em instantes — não horas ou dias depois.
- Confiança para escalar: as organizações podem expandir a cobertura de suas bases de conhecimento sabendo que as verificações de ACL em tempo real validam as permissões na fonte autoritativa a cada consulta, independentemente da fonte de dados.
- Menor carga operacional: não é necessário se preocupar com a frequência das sincronizações.
O que os clientes dizem
A Mondelēz International implantou o Amazon Quick para mais de 35.000 colaboradores em quatro regiões. Jamahl Wiggins, especialista sênior em Inovação M365 da empresa, destacou que o controle de acesso em tempo real foi o diferencial decisivo na avaliação da solução — respondendo de forma definitiva à exigência do time de segurança e conformidade de que cada colaborador acesse apenas as informações para as quais está autorizado.
Conclusão
A arquitetura de ACL em duas camadas implementada no Amazon Quick e no Amazon Bedrock Knowledge Bases representa uma evolução importante para o uso seguro de RAG em ambientes corporativos. Ao verificar as permissões diretamente nas fontes autoritativas no momento da consulta, a solução elimina as brechas criadas por dados desatualizados e reduz o risco de exposição indevida de informações sensíveis.
Para começar a explorar, a AWS disponibiliza documentação do Amazon Quick e do Amazon Bedrock Knowledge Bases.
Fonte
Rethinking access control for RAG with Amazon Quick and Amazon Bedrock (https://aws.amazon.com/blogs/machine-learning/rethinking-access-control-for-rag-with-amazon-quick-and-amazon-bedrock/)
Leave a Reply