Permissões em RAG: por que “context assembly” precisa ser a última barreira

Sistemas de RAG podem continuar acessando documentos após mudanças de identidade, como quando alguém sai de um time e ainda assim consegue puxar materiais do índice por horas. Em revisões de segurança, equipes relatam dificuldade em garantir que o modelo não vai resumir informações sensíveis, como revisões de compensação, para pessoas não autorizadas. O ponto central defendido é que permissões não devem funcionar como um filtro aplicado depois que o contexto já foi montado.

A proposta é tratar permissões como uma propriedade do processo de “context assembly”, a etapa final que decide quais partes do conhecimento corporativo serão entregues ao modelo para uma identidade específica, no momento e na pergunta corretos. O texto compara abordagens de fornecedores como AWS Context (ainda sem GA no momento citado), Microsoft com retrieval com identidade e Databricks com Unity Catalog, destacando que a proteção depende de onde a autorização é aplicada e que falhas podem ocorrer quando a autorização chega tarde demais na cadeia.