RTX 3090: throughput e eficiência em testes de LLM
Briefing publicado em 8 de maio de 2026 compara oito LLMs locais em uma RTX 3090, com limites de potência de 100 W a 450 W. O throughput médio aumentou nos testes em potência mais alta, mas a eficiência energética caiu.
Publicado em 8 de maio de 2026, o briefing relata testes de oito LLMs locais executados em uma única RTX 3090, com limites de potência entre 100 W e 450 W. O foco é comparar throughput e eficiência energética durante inferência local.
O throughput médio informado foi de 90,4 tokens por segundo a 225 W e 107,1 tokens por segundo a 450 W. Já a eficiência caiu de 0,4167 para 0,2731 tokens por segundo por watt. Para conferir o contexto e os métodos, consulte a publicação original e verifique como foram definidos os modelos, as medições e as condições de teste; esses detalhes não constam no briefing fornecido.