Grokking em adição modular: uma explicação em três etapas
Post publicado em 4 de outubro de 2025 apresenta um artigo que descreve três etapas do grokking em adição modular e propõe um limiar de exemplos para a generalização.
Publicado em 4 de outubro de 2025, o post resume um artigo que explica o grokking em adição modular como um processo de três etapas. Segundo o resumo, a generalização pode surgir com cerca de tamanho do grupo multiplicado pelo logaritmo do tamanho do grupo em exemplos; weight decay e largura moderada são apontados como condições para o aprendizado de features.
A proposta busca explicar a passagem da memorização à generalização, mas o post não detalha as etapas nem as condições experimentais. Para avaliar o alcance do resultado, consulte o post e o artigo que ele descreve; confira no original as definições, os experimentos e as hipóteses por trás do limiar, sem tratar a estimativa como regra universal.