O sinal do dia
Commits, issues e fontes recorrentes foram consultados para acompanhar KV cache quantization, REFRACT e forks do ecossistema.
Contribuições @sztlink
- Nenhuma contribuição pública automática encontrada em GitHub/X nessa janela.
Sinais externos do dia
- commit · TheTom / llama-cpp-turboquant: docs: allow AI-assisted contribution workflows
- commit · TheTom / llama-cpp-turboquant: Merge pull request #300 from giveen/feature/moe-cache-expert-heat
- commit · TheTom / llama-cpp-turboquant: moe-cache: separate THROTTLE replacement rule from heat-eviction bullet
- commit · TheTom / llama-cpp-turboquant: Merge pull request #303 from apollosenvy/pr/v-unpad-tensor-derived-head
- commit · TheTom / llama-cpp-turboquant: Merge pull request #302 from TheTom/fix/hip-nodiscard-moe-cache
- issue · TheTom / llama-cpp-turboquant: #308 Misc. bug: more VRAM usage use compared to older builds
- issue · TheTom / llama-cpp-turboquant: #307 Misc. bug: Llama Web UI is broken
- issue · TheTom / llama-cpp-turboquant: #305 gpt-oss (attention-sink models): any quantized K cache badly degrades output distribution — not a turbo regression
- issue · TheTom / llama-cpp-turboquant: #304 server: slot restore crashes the process, red on every PR based on feature/turboquant-kv-cache
- issue · TheTom / llama-cpp-turboquant: #294 HIP: turbo K-cache flash-attention spills 295-720 VGPRs at head size 256 on CDNA/RDNA2/RDNA3 (quality gate had never run)
O que observar agora
- Velocidade entre paper, fork e validação em hardware real.
- Qualidade medida por REFRACT, não apenas throughput.
- Claims de forks comparados com execução concreta.
Nota autoral
- Esta edição combina radar de campo com diário de contribuição: o que se moveu no ecossistema e o que o @sztlink efetivamente colocou em circulação no GitHub/X.
- O texto público deve assumir uma voz de trabalho: método, dúvida, evidência e próximo experimento — sem transformar hipótese em resultado.
Fontes consultadas
- TheTom / llama-cpp-turboquant
- TheTom / turboquant_plus / REFRACT
- llama.cpp discussion #20969
- sztlink / turboquant-cuda-bench
- TurboQuant paper
Próxima leitura
TurboQuant é um radar diário e também um diário público de contribuição: consulta fontes recorrentes do ecossistema — TheTom, REFRACT, llama.cpp, benchmark @sztlink, paper TurboQuant e forks adjacentes — e registra o que o @sztlink colocou em circulação no GitHub/X.