Pular para o conteúdo
Rota Nacional

Radar ·

Agentes autônomos: limite ferramentas e trate os dados de entrada

Um ambiente isolado controla o que o agente pode fazer. A privacidade exige controlar também o conteúdo que ele envia à IA.

O OpenShell aparece no AgentLog como um runtime voltado a segurança e privacidade de agentes autônomos. O ponto para uma integração é distinguir dois controles: a autoridade para executar ações e os dados disponíveis para raciocinar.

Liste as ferramentas do agente e a permissão de cada uma. Consultar um registro não deve conceder acesso à base inteira; propor uma mensagem não deve autorizar seu envio. Separe leitura, escrita e execução, com limites definidos pelo sistema.

Faça o tratamento de dados antes da chamada ao modelo. Um ambiente de execução restrito não impede que um prompt carregue um cadastro completo. Texto de documento, página ou ferramenta também pode conter ordens hostis: receba esse conteúdo como dado, sem ampliar permissões.

Na avaliação, exercite documentos com instruções adversariais e dados fictícios. Confira a informação que chega à inferência e os efeitos permitidos às ferramentas. A Rota trata o caminho dos dados; o isolamento da execução e a autorização de cada ação continuam sob responsabilidade da aplicação.

Receber novos artigos

Privacidade, engenharia de IA e segurança no seu e-mail.

Rota Nacional

Leve a privacidade para o seu processo.

30 dias, sem cartão, com quota inicial. Depois, crédito por Pix a partir de R$ 5,00.

Testar grátis