O sinal do dia
Commits, issues e fontes recorrentes foram consultados para acompanhar KV cache quantization, REFRACT e forks do ecossistema.
Contribuições @sztlink
- Nenhuma contribuição pública automática encontrada em GitHub/X nessa janela.
Sinais externos do dia
- commit · TheTom / llama-cpp-turboquant: Merge pull request #264 from Defilan/vulkan/mul-mat-vec-id-tq
- commit · TheTom / llama-cpp-turboquant: fix: apply rebase-audit fixes (stack overflow + quality-benchmarks docs)
- commit · TheTom / llama-cpp-turboquant: vulkan : add mul_mat_vec_id for the TurboQuant weight types
- commit · TheTom / llama-cpp-turboquant: Merge pull request #259 from Defilan/vulkan/tq-weight-types
- commit · TheTom / llama-cpp-turboquant: vulkan : reject MUL_MAT_ID for the TurboQuant weight types
- commit · TheTom / llama-cpp-turboquant: vulkan : add the TQ3_1S weight type
- commit · TheTom / llama-cpp-turboquant: vulkan : restore TQ4_1S weight-type wiring lost in the rebase
- commit · TheTom / llama-cpp-turboquant: tests: cast float printf args in test-turbo-quant (arm64 CI)
- issue · TheTom / llama-cpp-turboquant: #265 PR #256's CUDA TQ3_1S correctness fixes are not on feature/turboquant-kv-cache
- issue · TheTom / llama-cpp-turboquant: #261 Vulkan: intermittent TOPK_MOE failures on RADV/gfx1151 (n_expert_used=8)
- issue · TheTom / llama-cpp-turboquant: #252 turbo4 V-cache corrupted since 2cbfdc62→c26cbdffc: TURBO4_0 dropped from V_rows_per_thread==4 list in fattn-vec.cuh
O que observar agora
- Velocidade entre paper, fork e validação em hardware real.
- Qualidade medida por REFRACT, não apenas throughput.
- Claims de forks comparados com execução concreta.
Nota autoral
- Esta edição combina radar de campo com diário de contribuição: o que se moveu no ecossistema e o que o @sztlink efetivamente colocou em circulação no GitHub/X.
- O texto público deve assumir uma voz de trabalho: método, dúvida, evidência e próximo experimento — sem transformar hipótese em resultado.
Fontes consultadas
- TheTom / llama-cpp-turboquant
- TheTom / turboquant_plus / REFRACT
- llama.cpp discussion #20969
- sztlink / turboquant-cuda-bench
- TurboQuant paper
Próxima leitura
TurboQuant é um radar diário e também um diário público de contribuição: consulta fontes recorrentes do ecossistema — TheTom, REFRACT, llama.cpp, benchmark @sztlink, paper TurboQuant e forks adjacentes — e registra o que o @sztlink colocou em circulação no GitHub/X.