Retrieval in-context: estudo avalia escala de um milhão de tokens
Paper publicado em 6 de julho de 2026 analisa modelos de linguagem como retrievers em corpora de um milhão de tokens. O BlockSearch, com 0,6 bilhão de parâmetros, generaliza até 10 vezes além do comprimento de treinamento, segundo o estudo.
Fonte: Estudo de retrieval in-context em escala de um milhão de tokens (arxiv.org). Texto preparado com IA a partir dessa fonte.
O que aconteceu e o que fazer
Publicado em 6 de julho de 2026, o paper estuda modelos de linguagem como retrievers in-context em corpora de um milhão de tokens e examina a generalização para comprimentos maiores. Apresenta o BlockSearch, um retriever de 0,6 bilhão de parâmetros que, segundo o estudo, generaliza até 10 vezes além do comprimento usado no treinamento.
Uma empresa pode avaliar essa abordagem frente ao retrieval baseado em vetores em escalas relevantes para seus próprios sistemas. Um projeto prático pode reunir consultas representativas, criar testes comparáveis de qualidade e latência e monitorar resultados para orientar a escolha técnica.
Como a consultoria pode ajudar
A Wendelmaques pode diagnosticar os requisitos de busca e as restrições de infraestrutura, definir uma avaliação comparativa com dados representativos e propor a implementação e operação da solução escolhida.
Próximo passo
Envie uma descrição breve do seu caso de busca e receba uma proposta com escopo para diagnóstico e implementação.
Vamos avaliar seu projeto
Respondo com escopo e proposta.