Radar ·
Radar: leis de escala com restrição de dados para LLMs subparametrizados
Briefing do Radar sobre um post que afirma que LLMs são muito subparametrizados e propõe leis de escala com restrição de dados, questionando premissas de escala ótima do tipo Chinchilla.
O post, publicado em 2 de novembro de 2026 no Radar, traz como tese central que LLMs são muito subparametrizados em comparação com o número de sinapses do cérebro e com a exposição a tokens. O autor apresenta leis de escala com restrição de dados e algoritmos de aprendizado voltados a transformers muito grandes. Também questiona premissas de escala ótima em computação do tipo Chinchilla e propõe escalar parâmetros e dados de outra forma. A fonte não traz resultados numéricos, experimentos nem link; o escopo declarado é teórico e propositivo.
Para consultar e verificar o original, procure o título exato em repositórios de pré-impressão ou no blog do autor, já que o bookmark não registra endereço. Compare as afirmações sobre sinapses e tokens com as fontes citadas no texto original antes de reutilizá-las. Como o tema é pesquisa de modelos e não envolve dados pessoais, a proteção relevante é de uso: não cole trechos com dados de clientes ou funcionários em prompts ao estudar o material.
Fonte original: Leis de escala com restrição de dados para LLMs subparametrizados