HijackRAG explora textos injetados em sistemas RAG

Publicado em 1º de dezembro de 2024, o post descreve o HijackRAG, um ataque que combina textos de recuperação, desvio de atenção e instruções para manipular as saídas de sistemas RAG. Segundo o resumo, são apresentados modos black-box e white-box, com otimização baseada em gradientes.

O texto destaca riscos de conteúdo malicioso em bases de conhecimento RAG e limites das defesas existentes. Consulte a publicação original para verificar métodos e resultados; o material disponível aqui não informa métricas nem detalhes experimentais adicionais. Organizações que usem IA para estudar ou aplicar essas ideias devem evitar enviar dados sensíveis sem autorização.