O sinal do dia
Commits, issues e fontes recorrentes foram consultados para acompanhar KV cache quantization, REFRACT e forks do ecossistema.
Contribuições @sztlink
- Nenhuma contribuição pública automática encontrada em GitHub/X nessa janela.
Sinais externos do dia
- commit · TheTom / llama-cpp-turboquant: Merge pull request #288 from giveen/pr/cuda-moe-cache
- commit · TheTom / llama-cpp-turboquant: tests: tell ctest that 77 means skip for test-moe-cache
- commit · TheTom / llama-cpp-turboquant: cuda, fit: fix two -Werror build failures in the new cache code
- commit · TheTom / llama-cpp-turboquant: ggml: split the turbo3 group-size declaration from its definition
- commit · TheTom / llama-cpp-turboquant: test-moe-cache: save and restore the CUDA device around the budget query
- commit · TheTom / llama-cpp-turboquant: test-moe-cache: make cache-shared-budget UMA-aware with cudaMemGetInfo
- commit · TheTom / llama-cpp-turboquant: test-moe-cache: accept IGPU devices, not just GPU
- commit · TheTom / llama-cpp-turboquant: moe-cache: fix auto-asymmetric MLA guard and test-skip exit code
- commit · TheTom / llama-cpp-turboquant: llama-bench: remove stale --prefetch-weights documentation
- commit · TheTom / llama-cpp-turboquant: Merge branch 'TheTom:feature/turboquant-kv-cache' into pr/cuda-moe-cache
O que observar agora
- Velocidade entre paper, fork e validação em hardware real.
- Qualidade medida por REFRACT, não apenas throughput.
- Claims de forks comparados com execução concreta.
Nota autoral
- Esta edição combina radar de campo com diário de contribuição: o que se moveu no ecossistema e o que o @sztlink efetivamente colocou em circulação no GitHub/X.
- O texto público deve assumir uma voz de trabalho: método, dúvida, evidência e próximo experimento — sem transformar hipótese em resultado.
Fontes consultadas
- TheTom / llama-cpp-turboquant
- TheTom / turboquant_plus / REFRACT
- llama.cpp discussion #20969
- sztlink / turboquant-cuda-bench
- TurboQuant paper
Próxima leitura
TurboQuant é um radar diário e também um diário público de contribuição: consulta fontes recorrentes do ecossistema — TheTom, REFRACT, llama.cpp, benchmark @sztlink, paper TurboQuant e forks adjacentes — e registra o que o @sztlink colocou em circulação no GitHub/X.