Crusoe reporta inferência em 512 GPUs AMD MI355X
Em publicação de 16 de setembro de 2026, a Crusoe relata resultados do MLPerf Inference v6.1: 5,75 milhões de tokens por segundo em gpt-oss-120b e escalabilidade linear sem InfiniBand.
Fonte: Crusoe relata resultados de inferência do MLPerf em AMD MI355X (crusoe.ai). Texto preparado com IA a partir dessa fonte.
O que aconteceu e o que fazer
A publicação da Crusoe, de 16 de setembro de 2026, descreve resultados do MLPerf Inference v6.1 com 512 GPUs AMD Instinct MI355X. A empresa reporta 5,75 milhões de tokens por segundo na carga gpt-oss-120b e escalabilidade linear sem InfiniBand; os números servem como referência para avaliar throughput e escalabilidade de clusters de inferência.
Uma empresa que planeja ampliar sua capacidade de inferência pode medir o desempenho do próprio cluster sob cargas representativas, monitorar throughput e latência e identificar limites de rede, hardware e operação. Um pipeline de coleta e um painel podem consolidar esses dados para orientar decisões de capacidade, arquitetura e custo, sem presumir que os resultados de outro ambiente se repetirão.
Como a consultoria pode ajudar
A Wendelmaques pode diagnosticar a oportunidade ou os gargalos do seu ambiente, definir métricas e cargas de teste e propor uma implementação delimitada de coleta, monitoramento e painéis, além de apoiar a operação.
Próximo passo
Envie uma breve descrição do seu ambiente ou desafio de inferência para receber uma proposta com escopo definido.
Vamos avaliar seu projeto
Respondo com escopo e proposta.