Paper descreve decodificação especulativa autoespeculativa e adaptada ao sistema para rollouts de RL em LLMs. O resumo informa ganhos de até 19,6% na geração; outro número aparece truncado.
Publicado em 5 de julho de 2026, o trabalho apresenta uma abordagem de decodificação especulativa autoespeculativa para gerar rollouts de aprendizado por reforço (RL) em LLMs. Ela combina uma cópia quantizada do modelo, uma regra de ativação baseada em roofline e comprimentos de draft adaptativos. Segundo o resumo disponível, a geração de rollouts ficou até 19,6% mais rápida, sem alterar o modelo em treinamento. O texto também menciona 12,7% em “etapas de…”, mas o trecho termina antes de identificar a métrica; não é possível completar esse resultado com segurança.
O resultado interessa a equipes que avaliam latência e eficiência de treinamento, mas o resumo, por si só, não permite verificar método, condições experimentais ou resultados completos. Consulte o paper original e confira a definição dos rollouts, a configuração de avaliação e as métricas antes de aplicar as conclusões. Se usar IA para estudar ou adaptar o método, evite inserir dados pessoais ou material confidencial; verifique também as políticas da sua organização.