O sinal do dia
Registro autoral do que foi desenvolvido ou publicado no dia anterior, cruzado com sinais das fontes recorrentes do ecossistema.
Contribuições @sztlink
- commit · sztlink / turboquant-cuda-bench: Mark KVarN GQA bug issue as filed (huawei-csl/KVarN#12)
- commit · sztlink / turboquant-cuda-bench: Add KVarN vs TurboQuant iso-bits benchmark (2026-06-07)
- x · @sztlink / X: KVarN (Huawei) vs TurboQuant, same 4-bit K / 2-bit V, Qwen3-4B. KVarN edges it on gsm8k and code (HumanEval near fp16). but MATH collapses: 57% of long outputs degenerate into repe
Sinais externos do dia
- issue · TheTom / llama-cpp-turboquant: #171 Eval bug: crash
- issue · TheTom / llama-cpp-turboquant: #132 CUDA: turbo2 decode regression on MoE — VEC/MMA dispatch gap widens with upstream optimizations
- issue · TheTom / llama-cpp-turboquant: #131 CUDA: turbo2 decode regression on MoE models — VEC/MMA dispatch gap widens with upstream optimizations
- issue · TheTom / llama-cpp-turboquant: #130 CUDA: q8_0/q8_0 KV cache fails to create context on Qwen3.5 9B hybrid (head_dim=256)
- issue · TheTom / llama-cpp-turboquant: #44 GB10 / SM 121 (DGX Spark) Benchmark Results - TurboQuant slower than f16 on unified memory
O que observar agora
- Velocidade entre paper, fork e validação em hardware real.
- Qualidade medida por REFRACT, não apenas throughput.
- Claims de forks comparados com execução concreta.
Nota autoral
- Esta edição combina radar de campo com diário de contribuição: o que se moveu no ecossistema e o que o @sztlink efetivamente colocou em circulação no GitHub/X.
- O texto público deve assumir uma voz de trabalho: método, dúvida, evidência e próximo experimento — sem transformar hipótese em resultado.
Fontes consultadas
- TheTom / llama-cpp-turboquant
- TheTom / turboquant_plus / REFRACT
- llama.cpp discussion #20969
- sztlink / turboquant-cuda-bench
- TurboQuant paper
Próxima leitura
TurboQuant é um radar diário e também um diário público de contribuição: consulta fontes recorrentes do ecossistema — TheTom, REFRACT, llama.cpp, benchmark @sztlink, paper TurboQuant e forks adjacentes — e registra o que o @sztlink colocou em circulação no GitHub/X.