Catálogo reúne falhas silenciosas em serving de LLMs

Publicado em 28 de julho de 2026, o catálogo reúne problemas de serving de LLMs, entre eles campos de reasoning incompatíveis, chamadas de ferramentas exibidas como texto, rótulos de quantização que não correspondem aos kernels ativos e verificações de saúde enganosas.

Os registros apresentam sintomas, mecanismos, verificações e correções, e podem ajudar engenheiros a investigar configurações que parecem saudáveis, mas produzem respostas incorretas. Consulte o repositório no GitHub e confira cada diagnóstico e correção na documentação e nos testes do sistema em questão; o resumo disponível não informa resultados de validação independente.