KV cache em grão fino
Virtualização por token ataca desperdício real de memória em serving LLM de contexto longo.
source: vToken: Token-Level Virtualization for Reclaimable KV Caches
Virtualização por token ataca desperdício real de memória em serving LLM de contexto longo.
Virtualização por token ataca desperdício real de memória em serving LLM de contexto longo.
source: vToken: Token-Level Virtualization for Reclaimable KV Caches
Modela o GPU mais lento da camada, não só contagem de tokens ou experts.
source: TEMPO: Makespan-Aware Expert-Parallel Load Balancing Across Memory- and Compute-Bound Regimes
Reproduzir 2.200 papers dá sinal raro sobre confiabilidade real da pesquisa em IA.
source: What We Learned by Reproducing 2,200 papers from ICML
Mapeia falhas entre LLM e Bash, crítico para agentes que executam comandos reais.
source: QuoteBench: How Matched Scores Can Hide Command-Path Failures
Provas checadas por máquina podem virar guardrail forte para código escrito por agentes.
source: Vero: Can AI Agents Build Formally Verified Software Repositories?
Sinal forte para serving de LLMs: custo, TTFT e escala em clusters GPU.
source: OpScale: Operator-level Provisioning and Autoscaling for LLM Serving
Bom sinal em validação executável de falhas em sistemas críticos, sem prova de ruptura.
source: LLM-Assisted Dynamic Threat Analysis for Attacker-Reachable Software Weaknesses in Autonomous Vehicles
Boa peça para redes auditáveis e compliance automatizado, com sinal prático.
source: TopoIntent: Compiling Security Intent into Executable, Compliance-Checked Network Topologies
Caso grande de port GPU com LLMs prioriza validação científica sobre automação cega.
source: Validation-Centric AI-Assisted GPU Porting of a 250,000+ Line Legacy Weather Simulation Code
Combina drafter difusivo e verificação autoregressiva para acelerar tokens.
source: DARTree: Speculative Diffusion Decoding with Authoregressive Draft Trees
English edition. Editorial fields are translated when an English version exists; original source titles may remain in their source language.