Notícias de IA e infraestrutura

Todos85

Inferência de LLMs Pesquisa
07/10/26há 19 dias arxiv.org
StreamDQ leva desquantização de LLMs para a memória HBM
Paper publicado em 13 de julho de 2026 apresenta uma arquitetura que desquantiza pesos de LLMs em tempo real no die base da HBM, preservando a semântica convencional de load da GPU.
Inferência de LLMs Pesquisa
07/10/26há 19 dias arxiv.org
SVD-LLM propõe compressão de modelos com ajuste após truncamento
O artigo, publicado em 26 de setembro de 2026, apresenta um método de compressão de LLMs com SVD que atualiza os pesos comprimidos após o truncamento de valores singulares.
Inferência de LLMs Pesquisa
07/10/26há 19 dias arxiv.org
Switch Attention alterna atenção full e windowed
Paper datado de 16 de setembro de 2026 apresenta uma abordagem dinâmica e granular para combinar atenção full e sliding window em transformers híbridos.
Inferência de LLMs Projeto
07/10/26há 19 dias github.com
TinyRouter explora roteamento entre modelos abertos
Publicação datada de 4 de julho de 2026 descreve um roteador de cerca de 10 mil parâmetros e relata resultados em benchmarks, com necessidade de mais experimentos.
Inferência de LLMs Projeto
07/10/26há 19 dias github.com
Zlaya: inferência do Laya em CPU com Zig
Publicado em 23 de setembro de 2026, o repositório no GitHub apresenta o Zlaya, um mecanismo compacto de inferência do Laya para CPU, implementado em Zig.