7 de outubro de 2026 · x.com
Como o vLLM agenda requisições e aloca o KV cache
Artigo de 26 de setembro de 2026 acompanha o caminho de uma requisição no vLLM e explica o agendamento por iteração e a alocação de blocos de KV cache.
Cada alerta resume o fato e diz o que fazer.
7 de outubro de 2026 · x.com
Artigo de 26 de setembro de 2026 acompanha o caminho de uma requisição no vLLM e explica o agendamento por iteração e a alocação de blocos de KV cache.
7 de outubro de 2026 · net.in.tum.de
Publicada em 27 de junho de 2026, a publicação trata do caminho percorrido por pacotes no kernel do Linux e da utilidade desse conhecimento para analisar o comportamento da rede.
7 de outubro de 2026 · x.com
Um artigo de Frances Allen, publicado em 1971, cataloga transformações de otimização de compiladores e oferece uma referência para engenheiros que avaliam passes em suas ferramentas.
7 de outubro de 2026 · eli.thegreenplace.net
Em artigo publicado em 2 de julho de 2026, Eli Bendersky explica como programas linkados estaticamente iniciam no Linux e por que entender esse processo ajuda a raciocinar sobre executáveis e linking.
7 de outubro de 2026 · arxiv.org
Artigo de 10 de julho de 2026 explora alternativas a cadeias longas de raciocínio para equilibrar precisão, contexto, custo computacional e latência.
7 de outubro de 2026 · arxiv.org
Um artigo publicado em 30 de junho de 2026 aborda probabilidades inconsistentes entre engines de treino e inferência e descreve TIS e rejeição de checkpoints quando as recompensas divergem.
7 de outubro de 2026 · github.com
Um repositório no GitHub, publicado em 30 de julho de 2026, apresenta uma configuração reproduzível de serving do GLM-5.2 EXL3 MTP3 e um perfil térmico para quatro GPUs RTX PRO 6000 Blackwell.
7 de outubro de 2026 · aleph-alpha.com
Em relatório publicado em 5 de outubro de 2026, a Aleph Alpha descreve a escala de um modelo MoE de 30B-A3B, de 16 para 512 GPUs B200, com escalabilidade quase linear e MFU de 35,3%.
7 de outubro de 2026 · arxiv.org
Uma publicação técnica datada de 25 de agosto de 2026 descreve o Engram, módulo que recupera embeddings de n-gramas e pode transferir sua tabela de consulta para a CPU com pouca lentidão na inferência.
7 de outubro de 2026 · x.com
Em 21 de agosto de 2026, uma publicação sobre Marin descreveu visualizações de dados e métricas de treinamento que podem apoiar a inspeção de modelos.
7 de outubro de 2026 · blog.doubleword.ai
Artigo datado de 13 de agosto de 2026 acompanha uma instrução LDG.E SASS pelas unidades de hardware e pela hierarquia de memória da RTX 4090, incluindo detalhes obtidos por engenharia reversa.
7 de outubro de 2026 · x.com
Paper do arXiv publicado em 1º de setembro de 2026 relata que checar afirmações de manuscritos contra logs de execução reduziu para 4% a taxa de erros graves observada.
7 de outubro de 2026 · arxiv.org
Paper de 11 de julho de 2026 analisa quatro designs de verificação de recompensas e aponta que nenhum resolve sozinho o desafio de avaliar agentes de código com confiabilidade.
7 de outubro de 2026 · arxiv.org
Artigo publicado em 2 de julho de 2026 avalia variantes que compartilham projeções de atenção e relata que igualar key e value foi excessivo para os LLMs ternários pequenos do autor.
7 de outubro de 2026 · arxiv.org
Publicado em 8 de julho de 2026, o paper descreve um ajuste fino com consciência de pooling e k-means para reduzir vetores de tokens por documento em modelos ColBERT, sem perda de precisão segundo a publicação.
7 de outubro de 2026 · github.com
A publicação, datada de 30 de setembro de 2026, apresenta uma biblioteca de comunicação de alto desempenho para treinamento e inferência de machine learning em NPUs Huawei Ascend.
7 de outubro de 2026 · github.com
Um pull request datado de 31 de julho de 2026 atualiza o checkpoint padrão e instala o encoder nos dois ranks de uma configuração com dois DGX Sparks.
7 de outubro de 2026 · x.com
Uma publicação de 24 de agosto de 2026 lista o Intel Crescent Island com 32 núcleos Xe3P, 480 GB de memória LP5X e consumo de 350 W.
7 de outubro de 2026 · crusoe.ai
Em publicação de 16 de setembro de 2026, a Crusoe relata resultados do MLPerf Inference v6.1: 5,75 milhões de tokens por segundo em gpt-oss-120b e escalabilidade linear sem InfiniBand.
7 de outubro de 2026 · arxiv.org
Publicado em 25 de agosto de 2026, o artigo apresenta o projeto inicial CTM-AI, que aplica a Conscious Turing Machine à arquitetura de IA, sem relatar resultados de benchmarks.
7 de outubro de 2026 · x.com
Publicado em 19 de setembro de 2026, o guia de programação CUDA C++ da NVIDIA aborda kernels, threads, memória, sincronização, erros e validação dos resultados da GPU frente à CPU.
7 de outubro de 2026 · github.com
A versão 0.10.0 do datatrove adiciona execução de pipelines em jobs gerenciados, suporte a buckets de armazenamento como pastas de dados e preservação de saídas de reasoning em resultados de inference.
7 de outubro de 2026 · x.com
Uma publicação datada de 17 de julho de 2026 lista a configuração do T7910 e destaca slots PCIe, memória ECC e limites de potência como fatores para avaliar computação multi-GPU.
7 de outubro de 2026 · arxiv.org
Um post publicado em 2 de setembro de 2026 descreve como sobrepor requisições em diferentes profundidades recorrentes pode melhorar a utilização de modelos com computação adaptativa.
7 de outubro de 2026 · arxiv.org
Apresentado em 29 de setembro de 2026, o DepthBench compara métodos de fluxo de informação e examina se eles ajudam Transformers mais profundos a aproveitar suas camadas de forma eficaz.
7 de outubro de 2026 · github.com
O livro aberto The Art of Debugging está disponível em PDF e EPUB, tem cinco capítulos e aborda Unix, Python e PyTorch. Seu autor afirma que o capítulo sobre metodologia se aplica à depuração de software em geral.
7 de outubro de 2026 · arxiv.org
Artigo datado de 13 de setembro de 2026 apresenta um método on-policy para destilar modelos usando apenas as respostas textuais de um teacher proprietário.
7 de outubro de 2026 · arxiv.org
Paper de 29 de setembro de 2026 estuda a transferência de conhecimento de Transformers pré-treinados para modelos de espaço de estados, como o Mamba.
7 de outubro de 2026 · x.com
Um post publicado em 6 de outubro de 2026 descreve MOPD, método que treina um modelo student com rollouts próprios e supervisão de especialistas por domínio.
7 de outubro de 2026 · x.com
Um post de 8 de julho de 2026 descreve um paper sobre destilação on-policy dual, que escolhe dinamicamente a fonte de supervisão para cada token.
7 de outubro de 2026 · x.com
Artigo do Google publicado em 4 de outubro de 2026 descreve um modelo de 4 bilhões de parâmetros ajustado para corrigir rótulos de falantes e reduzir erros de diarização por palavra em quatro benchmarks.
7 de outubro de 2026 · x.com
Postagem publicada em 17 de julho de 2026 descreve um método de roteamento de sinais de erro e relata resultados em reconhecimento de imagens, locomoção e Craftax.
7 de outubro de 2026 · arxiv.org
Um post datado de 2 de julho de 2026 relata que o Diffusion-GR2 alcança acurácia de ranking próxima à de um modelo autoregressivo, com decoding 2,4–3,5 vezes mais rápido.
7 de outubro de 2026 · alphaxiv.org
Artigo publicado em 3 de outubro de 2026 descreve um modelo de geração de imagens por texto que reutiliza blocos do Transformer durante a denoising e relata ganhos com mais loops.
7 de outubro de 2026 · arxiv.org
Publicado em 29 de junho de 2026, o DiscoBench avalia se agentes de busca com modelos de linguagem lidam com solicitações vagas, incompletas ou factualmente incorretas em tarefas de recuperação e raciocínio em várias etapas.
7 de outubro de 2026 · x.com
Estudo sistemático publicado em 3 de outubro de 2026 relata que a direção da divergência KL por token pesa mais que a política de rollout na distilação on-policy e off-policy.
7 de outubro de 2026 · arxiv.org
Paper de 30 de junho de 2026 estuda como consolidar especialistas de aprendizado por reforço em um modelo multitarefa usando distilação off-policy e on-policy.
7 de outubro de 2026 · x.com
A técnica MOPD treina um modelo student com suas próprias respostas e usa probabilidades por token de vários teachers para transferir capacidades especializadas.
7 de outubro de 2026 · discourse.ubuntu.com
Em publicação de 18 de junho de 2026, o Ubuntu descreve o Project Myna, recurso planejado para o Ubuntu 26.10 que pretende inserir ditado por voz no aplicativo ativo, com processamento local.
7 de outubro de 2026 · x.com
Post publicado em 17 de agosto de 2026 relata que prompts diferentes entre duas ferramentas de shell no DSH acionavam um timeout de 3,5 segundos; uma alteração reduziu o tempo de um comando de 3.600 ms para 158 ms.
Respondo com escopo e proposta.
Procurando outra coisa?Perguntas frequentesArtigosContato