Notícias de IA e infraestrutura
Filtrar por tipo: Pesquisa14
- há 17 dias arxiv.org
Fluxion propõe atenção esparsa híbrida para contexto longo
Publicado em 11 de maio de 2026, o artigo apresenta um sistema de atenção esparsa híbrida para inferência com contexto longo, usando paralelismo entre CPU e GPU.
- há 17 dias
arxiv.orgLoPA explora lookahead para acelerar inferência de modelos de difusão
Publicado em 11 de janeiro de 2026, o texto apresenta o LoPA, um algoritmo sem treinamento adicional que usa lookahead para escolher a ordem de preenchimento de tokens em modelos de linguagem de difusão.
- há 17 dias arxiv.org
InfLLM-V2 alterna atenção densa e esparsa
Publicado em 13 de outubro de 2025, o artigo apresenta um sistema de atenção alternável entre densa e esparsa, voltado a sequências curtas e longas.
- há 17 dias arxiv.org
Router-R1 explora roteamento de LLMs com aprendizado por reforço
Publicado em 18 de outubro de 2025, o texto apresenta o Router-R1, que alterna entre raciocínio e chamadas a vários modelos e relata avaliações em sete benchmarks de perguntas e respostas.
- há 18 dias arxiv.org
Camadas de treinamento em tempo de teste para sequências
Artigo publicado em 24 de setembro de 2026 apresenta camadas de modelagem de sequências com complexidade linear e estados ocultos atualizados por aprendizado autossupervisionado.
- há 18 dias arxiv.org
Dual-Cache: compartilhamento de contexto entre LLMs
Paper publicado em 26 de setembro de 2026 apresenta um protocolo latente para transferir informações entre modelos heterogêneos, convertendo o KV cache e adicionando mistura conjunta entre camadas.
- há 18 dias arxiv.org
JetSpec acelera speculative decoding com draft trees paralelas
Post publicado em 7 de julho de 2026 descreve o JetSpec, que usa um único forward pass para gerar draft trees coerentes e relata ganhos de até 9,64× no MATH-500 e 4,58× em conversas abertas.
- há 18 dias aclanthology.org
KV cache: mais bits para keys que para values
Artigo da ACL 2026 examina a compressão do KV cache e relata que usar 4 bits para keys e 2 para values pode funcionar bem, enquanto inverter essa distribuição degrada bastante a precisão.
- há 18 dias arxiv.org
PagedAttention e a gestão do KV cache em LLM serving
Artigo publicado em 24 de setembro de 2026 apresenta o PagedAttention, uma abordagem inspirada em memória virtual para reduzir fragmentação e duplicação do KV cache, fatores que podem limitar o tamanho do batch.
- há 18 dias arxiv.org
Serving de LLM: cache e balanceamento após um ano em produção
Paper publicado em 21 de agosto de 2026 analisa um ano de tráfego de LLM em produção e examina reutilização de prefixos, localidade do cache KV e balanceamento de carga.
- há 18 dias arxiv.org
Speculative decoding pode reduzir etapas na inferência
Um artigo datado de 20 de setembro de 2026 descreve uma técnica que combina propostas de um modelo eficiente com verificação paralela por um modelo maior para acelerar a geração sem alterar a distribuição de saída.
- há 18 dias arxiv.org
StreamDQ leva desquantização de LLMs para a memória HBM
Paper publicado em 13 de julho de 2026 apresenta uma arquitetura que desquantiza pesos de LLMs em tempo real no die base da HBM, preservando a semântica convencional de load da GPU.
- há 18 dias arxiv.org
SVD-LLM propõe compressão de modelos com ajuste após truncamento
O artigo, publicado em 26 de setembro de 2026, apresenta um método de compressão de LLMs com SVD que atualiza os pesos comprimidos após o truncamento de valores singulares.
- há 18 dias arxiv.org
Switch Attention alterna atenção full e windowed
Paper datado de 16 de setembro de 2026 apresenta uma abordagem dinâmica e granular para combinar atenção full e sliding window em transformers híbridos.
Vamos avaliar seu projeto
Respondo com escopo e proposta.