Publicado em 23 de setembro de 2026, o relato descreve dois níveis de compartilhamento de KV para reduzir o custo de prefill e o tamanho do cache, além de melhorar o retrieval em contextos extensos.
Anunciado em 23 de setembro de 2026, o Nemotron 3 Diarization identifica quem falou e quando, inclusive em falas sobrepostas, e oferece suporte a até oito interlocutores.
Em 23 de setembro de 2026, um artigo sobre DSec descreveu ambientes elásticos e com estado para treinamento e avaliação de agentes, além de defesas contra agentes que exploram os ambientes de treinamento.
Modelos de ASR e tradução em tempo real podem processar fala com dados pessoais; a barreira da Rota Nacional aplica a política da organização antes de o modelo rodar.
Publicado em 22 de setembro de 2026, iSDFT descreve um método de aprendizagem contínua para LLMs baseado em autodestilação on-policy e proximidade informacional. O repositório reúne código de treinamento, checkpoints e resultados de avaliação.
Publicado em 22 de setembro de 2026, o relato descreve um modelo treinado do zero em notebook com 8 GB de VRAM, batch 1, pesos paginados do disco e ajustes na taxa de aprendizado para reduzir o esquecimento.
Artigo publicado em 22 de setembro de 2026 apresenta um método para Transformers alocarem compute a posições específicas da sequência, respeitando um orçamento por camada.
Publicado em 22 de setembro de 2026, o registro descreve uma ferramenta open source para anotar dados de LLMs e inspecionar modelos, incluindo correções por token e visualização de probabilidades e decodificação.
Publicado em 22 de setembro de 2026, o resumo descreve uma abordagem de treinamento que ensina modelos de linguagem a gerar raciocínio interno antes do texto visível.
Um trabalho investiga se modelos de linguagem usam distinções internas para as quais não há conceitos humanos adequados. O estudo chama essas estruturas de xeno-representações e examina os limites de interpretá-las com conceitos familiares.
Publicado em 21 de setembro de 2026, o relato apresenta o CodeMidas, da Xiaomi: agentes extraem tarefas executáveis de bases de código open source. O sistema gerou 5.545 tarefas em 23 linguagens.
Publicado em 21 de setembro de 2026, o anúncio descreve um pipeline que converte funcionalidades de projetos de código aberto em ambientes executáveis de aprendizado por reforço.
Um post relata que a pontuação do MiMo Pro no DeepSWE passou de 58,41 para 72,57 após execuções de aprendizado por reforço, aproximando-se de resultados comparativos citados no texto.
Publicação de 21 de setembro de 2026 descreve o Trust Region DPO (TR-DPO), que incorpora uma penalidade de divergência KL à loss do DPO para limitar o desvio em relação ao modelo de referência.
Em publicação de 21 de setembro de 2026, a Kyutai Labs afirma que seu modelo raciocina sobre problemas matemáticos falados e responde por voz, sem transcrição intermediária nem LLM de texto. O post relata 77,1% no GSM8K, ante 27,3% do GLM-4-Voice.
Publicado em 20 de setembro de 2026, o relato sobre o método BITCOS, da Intel, informa armazenamento exato de pesos ternários a 1,485 bits por peso e ganhos de throughput de decode de até 18% em CPU e 27% em GPU.
Publicado em 20 de setembro de 2026, o resumo apresenta uma formulação de transformer com atenção linear, gates dependentes dos dados e uma representação equivalente como RNN com estados ocultos matriciais.
Publicado em 20 de setembro de 2026, o resumo descreve Jamba, um modelo de linguagem base com arquitetura híbrida Transformer-Mamba e mixture-of-experts.