Notícias de IA e infraestrutura
Filtrar por tipo: Publicação307
- há 19 dias x.com
Espectros de pesos podem sinalizar memorização em LLMs
Uma análise preliminar, publicada em 24 de setembro de 2026, encontrou uma relação entre o expoente α da matriz K de atenção e a memorização de rótulos aleatórios durante o treinamento de LLMs.
Fatoração de attention e fluxo de gradientes: implicações para modelos
Publicada em 30 de setembro de 2026, a publicação discute como fatorar a matriz de attention como S = WWᵀ pode alterar o fluxo de gradientes e remover um gargalo de expoente de informação na otimização.
Fluxos recorrentes refinam o raciocínio em tarefas discretas
Um post publicado em 3 de setembro de 2026 descreve modelos que combinam fluxos contínuos e refinamento recorrente para resolver problemas estruturados, como Sudoku.
- há 19 dias x.com
Fork habilita P2P via PCIe em GeForce
Post de 27 de agosto de 2026 relata uma alteração em drivers gráficos para habilitar transferências peer-to-peer via PCIe em GeForce durante a otimização de serving em GPU.
FuncAttn leva attention funcional a dados contínuos
Post de 25 de junho de 2026 descreve um método que aplica operadores lineares estruturados à attention entre espaços de funções, com resultados em solução de PDEs, segmentação 3D e regressão.
Functional Attention propõe atenção de custo linear
Publicado em 6 de julho de 2026, o paper descreve uma forma de representar query e key/value com bases aprendidas e uma matriz compacta, relatando custo linear no número de pontos.
- há 19 dias x.com
FUTEX_PRIVATE_FLAG e o custo dos locks entre threads
Post de 28 de junho de 2026 explica como FUTEX_PRIVATE_FLAG pode reduzir a latência de locks em threads que compartilham memória no mesmo processo.
- há 19 dias x.com
GEPA adapta modelo com prompts e exemplos rotulados
Uma demonstração publicada em 19 de setembro de 2026 descreve o uso de prompts e exemplos rotulados para adaptar um modelo a critérios específicos de decisão.
GLM-5.3-Flash: visão geral da arquitetura
Publicada em 26 de agosto de 2026, a visão geral descreve uma arquitetura híbrida com attention 3:1, backbone sparse MoE menor, residual path mHC com quatro streams e vision encoder nativo.
- há 19 dias x.com
GPU de dois núcleos em FPGA de US$ 30: o que avaliar
Publicado em 9 de julho de 2026, o artigo descreve uma GPU de dois núcleos implementada em FPGA de US$ 30, capaz de executar inferência de IA a 81 MHz.
HydraHead combina dois tipos de atenção por head
Publicado em 30 de junho de 2026, o post sobre HydraHead descreve uma arquitetura que combina Full Attention e Linear Attention no nível dos heads para buscar mais eficiência em modelos de contexto longo.
- há 19 dias x.com
IA local: Mac Studio M5 Ultra ou RTX PRO 6000?
Comparação de configurações para IA local destaca diferenças de memória, suporte a CUDA, velocidade de prefill, custo e ruído.
iLLaDA treina modelo de difusão com 8 bilhões de parâmetros
Artigo publicado em 27 de junho de 2026 descreve o treinamento de um Transformer de 8 bilhões de parâmetros com difusão mascarada bidirecional em 12 trilhões de tokens.
- há 19 dias x.com
Índice compara modelos de fala em três capacidades
Publicado em 23 de junho de 2026, o índice da Artificial Analysis combina três conjuntos de avaliação para comparar modelos nativos de Speech-to-Speech.
- há 19 dias x.com
Injeção de prompt em binários analisados com IA
Pesquisa da Naval Postgraduate School, publicada em 12 de julho de 2026, descreve como strings em binários C podem influenciar agentes de engenharia reversa com modelos de linguagem.
Interpretabilidade automatizada para heads de atenção
Paper publicado em 29 de junho de 2026 descreve uma técnica que explica heads de atenção com programas Python. Substituir cerca de 40% dos padrões de atenção no Llama-3B por saídas desses programas quase não afetou o desempenho nas tarefas avaliadas.
- há 19 dias x.com
IW-OPD repondera tokens na destilação on-policy
Post publicado em 30 de junho de 2026 apresenta o IW-OPD, método que dá mais peso aos tokens iniciais na destilação on-policy e relata ganho de 6,9 pontos no AIME-2025 frente ao OPD padrão.
- há 19 dias x.com
KV Cache: por que queries não ficam armazenadas
Post de 30 de agosto de 2026 distingue o uso temporário de queries do armazenamento de keys e values no KV cache durante a inferência.
- há 19 dias x.com
Latency hiding em GPUs: medir antes de otimizar
Capítulo de Vasily Volkov, da UC Berkeley, publicado em 4 de julho de 2026, sobre como GPUs ocultam latência e conceitos de arquitetura ligados ao desempenho.
- há 19 dias x.com
Limpeza de áudio local no Raspberry Pi 5: como avaliar a aplicação
Uma postagem de 22 de junho de 2026 apresenta um modelo de 49 mil parâmetros para cancelamento de eco, supressão de ruído e redução de reverberação, com desempenho declarado de 21× em tempo real em um núcleo do Raspberry Pi 5.
Memory Attention: reutilizar keys em V=K+M
Publicação de 27 de setembro de 2026 relata resultados preliminares de ablação que apontam V=K+M como uma escolha arquitetural eficaz; falta validar a abordagem em escalas maiores.
- há 19 dias x.com
Meta descreve técnicas para acelerar o armazenamento
Publicada em 5 de julho de 2026, a publicação da Meta apresenta uma arquitetura de armazenamento e técnicas de desempenho, incluindo localidade de dados, caches unificados e prefetch.
Modelos de fluxo refinam raciocínio em etapas
Paper datado de 17 de setembro de 2026 transforma um modelo de fluxo em modelo recorrente: previsões são realimentadas para refinamento iterativo, com uma função de perda local em cada etapa e sem retropropagação ao longo do tempo.
NextLat explora previsão do próximo estado latente
Publicação de 16 de junho de 2026 descreve um método de treinamento para transformers e afirma que ele pode viabilizar modelos compactos e inferência até 3,3 vezes mais rápida.
- há 19 dias x.com
NoRA propõe normalizar A na inicialização do LoRA
Post de 2 de setembro de 2026 descreve uma inicialização que normaliza as colunas de A no LoRA e relata resultados médios superiores aos de vários métodos de adaptação em SFT e RLVR.
- há 19 dias x.com
Novos modelos de OCR ampliam opções para documentos
Post publicado em 18 de setembro de 2026 apresenta WeVisDoc 2B e 4B, sob Apache 2.0, e jina-ocr-v1, com licença não comercial. WeVisDoc-4B obteve 95,38 no OmniDocBench v1.6; NaviDC-OCR é apontado como o atual SOTA.
- há 19 dias x.com
NVIDIA apresenta diarização para falas sobrepostas
Anúncio datado de 23 de setembro de 2026: o Nemotron 3 Diarization identifica quem falou e quando, inclusive em falas sobrepostas, e suporta até oito interlocutores.
- há 19 dias x.com
O que acontece ao lançar um kernel CUDA
Post publicado em 11 de julho de 2026 sobre a comunicação entre CPU e GPU necessária para lançar um kernel CUDA e o trabalho envolvido nessa operação.
- há 19 dias x.com
Ostris AI Toolkit passa a treinar LoRAs para MiniMax H3
Em 3 de agosto de 2026, o repositório Ostris AI Toolkit anunciou suporte ao treinamento de LoRAs para MiniMax H3, limitado a fluxos de texto para vídeo e imagem para vídeo, com uso de pesos quantizados do Comfy.
- há 19 dias x.com
Packed FlashAttention acelera vocoder Transformer
Uma publicação de 20 de julho de 2026 relata aumento de 48,64% no QPS de um vocoder Transformer após otimizações na reconstrução de waveform.
- há 19 dias x.com
Pandora’s Router equilibra custo de estimativa e roteamento
Paper publicado em 22 de agosto de 2026 propõe usar estimativas baratas e ruidosas antes de pagar por avaliações melhores. Em MATH, RAG e EmbedLLM, obteve o menor ou empatou no menor custo médio combinado de inspeção e regret de roteamento.
- há 19 dias x.com
Phishing com proxy reverso pode contornar MFA
Post de 9 de agosto de 2026 descreve como kits de phishing podem intermediar o login e capturar cookies de sessão após a autenticação multifator.
- há 19 dias x.com
Phishing por device code não depende de Wi-Fi
Publicado em 25 de julho de 2026, o post alerta que o phishing de autenticação por device code também pode ocorrer por Ethernet ou pela internet.
- há 19 dias x.com
Phonon-1: transcrição local de áudio em avaliação
Post de 28 de agosto de 2026 apresenta o Phonon-1, modelo de reconhecimento de fala com 782 milhões de parâmetros, download de 415 MB e licença Apache 2.0.
- há 19 dias x.com
Poda de modelos usa tamanho efetivo da amostra para definir componentes
Post publicado em 1º de julho de 2026 apresenta o Effective Model Pruning, método que usa tamanho efetivo da amostra para calcular quantos componentes manter em redes neurais e modelos de linguagem.
- há 19 dias x.com
Policy gradients: da derivação à avaliação prática
Publicado em 30 de agosto de 2026, o artigo revisa trabalhos fundamentais de aprendizado por reforço, deriva o algoritmo de policy gradient e discute suas variantes.
Post aponta designs eficientes em modelos chineses de fronteira
Publicado em 26 de agosto de 2026, o post afirma que modelos chineses de fronteira adotam atenção linear ou esparsa, designs especializados de conexões residuais e Muon. Também apresenta colaboração open source como estratégia para eficiência.
- há 19 dias x.com
Post descreve compressão low-bit do Hy4 guiada por calibração
Post publicado em 29 de agosto de 2026 afirma que a Tencent reduziu o preview do Hy4 de 1,5 TB para 200 GB com precisão definida por camada. Relata resultados em dois benchmarks.
Programas sintetizados podem substituir parte dos attention heads
Post de 1º de julho de 2026 descreve programas Python sintetizados a partir de mapas de atenção, com 69–79% de mean IoU e pouca queda em QA ao substituir até 30–40% dos heads.
- há 19 dias x.com
ProRL Agent separa rollouts do treino de políticas de LLMs
Publicado em 30 de setembro de 2026, o ProRL Agent descreve uma infraestrutura open source que separa geração de trajetórias, orquestração de ambientes e avaliação da otimização de políticas para agentes multi-turn.
Vamos avaliar seu projeto
Respondo com escopo e proposta.