Radar ·
Agentes de IA trocando KV-cache bruto em vez de resumos em texto
Thread descreve pesquisa atribuída ao MIT CSAIL e à IBM em que agentes de IA compartilham o KV-cache bruto em vez de texto, com ganhos de precisão e velocidade alegados pelo autor.
A thread publicada em 29 de outubro de 2026 descreve uma pesquisa atribuída ao MIT CSAIL e à IBM. Nela, agentes de IA trocam o KV-cache bruto, a memória interna de atenção já calculada pelo modelo, em vez de repassar resumos em texto em inglês entre etapas de um pipeline multiagente. O autor afirma ganhos de 40% em precisão e uma velocidade 4x maior. A fonte não traz métricas detalhadas, benchmarks, modelos ou condições do experimento, então esses números são alegações do autor até serem conferidos no trabalho original.
A relevância está em custo e latência de inferência: repassar texto obriga cada agente a processar novamente o contexto, enquanto reaproveitar o cache pode reduzir esse trabalho. A Rota Nacional não implementa compartilhamento de KV-cache e este texto não descreve nenhum recurso da plataforma. Para consultar a fonte, localize o artigo citado pela thread nos sites dos autores ou em repositórios acadêmicos e confira escopo, conjuntos de dados e comparações. Se usar IA para estudar o material, não cole logs de agentes com dados pessoais ou credenciais; a Rota detecta CPF, CNPJ, e-mail, telefone e nomes antes do modelo e aplica política de marcadores, remoção ou bloqueio.
Fonte original: Compartilhamento de KV-caches entre agentes de IA em vez de resumos em texto