Radar ·
Zyphra apresenta Hierarchical Attention (ZHA) para atenção subquadrática
Briefing sobre o ZHA, método de atenção que busca em uma árvore aprendida de resumos comprimidos, com acelerações projetadas pelo autor sobre a atenção densa e sobre o MSA com 10M de tokens.
A Zyphra anuncia o Zyphra Hierarchical Attention (ZHA), um método de atenção que busca em uma árvore aprendida de resumos comprimidos. Segundo o briefing de 2 de novembro de 2026, o autor projeta acelerações de 35 vezes sobre a atenção densa e de 5 vezes sobre o MSA com 10 milhões de tokens. Esses números são projeções declaradas pelo autor, não resultados verificados de forma independente no texto-fonte.
O material descreve um desenho de atenção subquadrática, direção que engenheiros acompanham para tornar o processamento de contexto longo mais eficiente. Para consultar o original, localize o artigo da Zyphra pelo nome do método e pela data, leia a metodologia, os conjuntos de teste e as condições de comparação antes de citar os ganhos. A Rota Nacional não implementa o ZHA, e a relevância para seus usuários é indireta. Se você usar IA para estudar o tema, não cole documentos sensíveis ou dados pessoais nos prompts.
Fonte original: Zyphra apresenta o Zyphra Hierarchical Attention para atenção subquadrática