Inferência local: desempenho e consumo na RTX 3090
Testes de oito LLMs locais em uma RTX 3090 compararam throughput e eficiência energética com limites de potência entre 100 W e 450 W.
Fonte: Testes de LLM na RTX 3090 comparam throughput e eficiência energética (x.com). Texto preparado com IA a partir dessa fonte.
O que aconteceu e o que fazer
Publicado em 8 de maio de 2026, o post relata testes de oito LLMs locais em uma única RTX 3090, com limites de potência de 100 W a 450 W. O throughput médio foi de 90,4 tokens por segundo a 225 W e 107,1 a 450 W; a eficiência caiu de 0,4167 para 0,2731 tokens por segundo por watt. Os resultados mostram o compromisso entre velocidade e eficiência energética na inferência local.
Uma empresa que opera modelos em GPUs próprias pode medir esse compromisso com cargas representativas do seu uso, registrando throughput, consumo e qualidade das respostas em diferentes limites de potência. Um pipeline de monitoramento e um painel comparativo ajudam a escolher configurações com base em metas de latência, capacidade e energia, em vez de adotar potência máxima por padrão.
Como a consultoria pode ajudar
A Wendelmaques pode diagnosticar a operação de inferência e seus objetivos, definir um escopo de medição e implementar o pipeline e o painel de acompanhamento. Também pode apoiar a operação e a revisão periódica das configurações.
Próximo passo
Envie uma breve descrição do seu ambiente de inferência e do que pretende otimizar para receber uma proposta com escopo definido.
Vamos avaliar seu projeto
Respondo com escopo e proposta.