Publicado em 17 de setembro de 2025, o relato apresenta um método para extrair adapters de baixo rank de checkpoints fine-tuned, sem dados de treinamento nem gradientes.
Publicado em 17 de setembro de 2025, o post descreve o PHLoRA, método que usa checkpoints base e fine-tuned para extrair um adapter LoRA de baixo rank por decomposição em valores singulares. Segundo o relato, o processo não exige dados de treinamento nem gradientes.
O post afirma que, nos ranks 32 ou 64, a acurácia fica a cerca de 1% da dos modelos full-rank, e aponta possível redução de custos de carregamento e serving ao converter fine-tunes full-rank existentes. Para conferir o escopo, o método e os resultados, consulte o post original e verifique nele as condições e métricas reportadas.