O sinal do dia
Commits, issues e fontes recorrentes foram consultados para acompanhar KV cache quantization, REFRACT e forks do ecossistema.
Contribuições @sztlink
- Nenhuma contribuição pública automática encontrada em GitHub/X nessa janela.
Sinais externos do dia
- commit · TheTom / llama-cpp-turboquant: ggml-cpu : declare turbo3_cpu_wht_group_size extern, not a second definition
- commit · TheTom / llama-cpp-turboquant: docs : document what the test suites do and do not cover
- commit · TheTom / llama-cpp-turboquant: Merge pull request #272 from giveen/disclosure
- commit · TheTom / llama-cpp-turboquant: Merge pull request #269 from apollo-mg/port/tq-test-coverage
- commit · TheTom / llama-cpp-turboquant: Merge pull request #266 from Defilan/vulkan/tq-rotated-mm-id
- commit · TheTom / llama-cpp-turboquant: Merge pull request #263 from Defilan/cpu/tq-vec-dot-no-malloc
- commit · TheTom / llama-cpp-turboquant: Merge pull request #271 from baptisterajaut/fix/checkpoint-restore-prefill-batching
- issue · TheTom / llama-cpp-turboquant: #273 CPU prefill aborts on hybrid Nemotron-H ConfigI model: cannot copy tensors with different layouts
- issue · TheTom / llama-cpp-turboquant: #270 Prompt processing collapses to token-by-token (~40 tok/s) on checkpoint-restore / LCP-similarity slot reuse
O que observar agora
- Velocidade entre paper, fork e validação em hardware real.
- Qualidade medida por REFRACT, não apenas throughput.
- Claims de forks comparados com execução concreta.
Nota autoral
- Esta edição combina radar de campo com diário de contribuição: o que se moveu no ecossistema e o que o @sztlink efetivamente colocou em circulação no GitHub/X.
- O texto público deve assumir uma voz de trabalho: método, dúvida, evidência e próximo experimento — sem transformar hipótese em resultado.
Fontes consultadas
- TheTom / llama-cpp-turboquant
- TheTom / turboquant_plus / REFRACT
- llama.cpp discussion #20969
- sztlink / turboquant-cuda-bench
- TurboQuant paper
Próxima leitura
TurboQuant é um radar diário e também um diário público de contribuição: consulta fontes recorrentes do ecossistema — TheTom, REFRACT, llama.cpp, benchmark @sztlink, paper TurboQuant e forks adjacentes — e registra o que o @sztlink colocou em circulação no GitHub/X.