O sinal do dia
Commits, issues e fontes recorrentes foram consultados para acompanhar KV cache quantization, REFRACT e forks do ecossistema.
Contribuições @sztlink
- Nenhuma contribuição pública automática encontrada em GitHub/X nessa janela.
Sinais externos do dia
- commit · TheTom / llama-cpp-turboquant: style(cuda): align ConvRot comments with fork rules
- commit · TheTom / llama-cpp-turboquant: test(cuda): cover ConvRot fused producer boundaries
- commit · TheTom / llama-cpp-turboquant: perf(cuda): fuse ConvRot activation quantization
- commit · TheTom / llama-cpp-turboquant: perf(cuda): tune ConvRot decode launch geometry
- commit · TheTom / llama-cpp-turboquant: test: add ConvRot performance cases
- commit · TheTom / llama-cpp-turboquant: cuda: add cooperative ConvRot decode kernel
- commit · TheTom / llama-cpp-turboquant: refactor(cuda): isolate ConvRot matvec
- commit · TheTom / llama-cpp-turboquant: test: expand ConvRot decode coverage
- commit · TheTom / llama-cpp-turboquant: cuda: NVIDIA dp4a variant of the device-routed TQ MoE matvec
- commit · TheTom / llama-cpp-turboquant: CUDA: device-routed TQ MoE matvec (capture-safe, ~2x decode)
- issue · TheTom / llama-cpp-turboquant: #308 Misc. bug: more VRAM usage use compared to older builds
- issue · TheTom / llama-cpp-turboquant: #230 Custom built ROCm binaries for RDNA2 (gfx1030) failing with "ROCm error" on recent tags >= 9969
O que observar agora
- Velocidade entre paper, fork e validação em hardware real.
- Qualidade medida por REFRACT, não apenas throughput.
- Claims de forks comparados com execução concreta.
Nota autoral
- Esta edição combina radar de campo com diário de contribuição: o que se moveu no ecossistema e o que o @sztlink efetivamente colocou em circulação no GitHub/X.
- O texto público deve assumir uma voz de trabalho: método, dúvida, evidência e próximo experimento — sem transformar hipótese em resultado.
Fontes consultadas
- TheTom / llama-cpp-turboquant
- TheTom / turboquant_plus / REFRACT
- llama.cpp discussion #20969
- sztlink / turboquant-cuda-bench
- TurboQuant paper
Próxima leitura
TurboQuant é um radar diário e também um diário público de contribuição: consulta fontes recorrentes do ecossistema — TheTom, REFRACT, llama.cpp, benchmark @sztlink, paper TurboQuant e forks adjacentes — e registra o que o @sztlink colocou em circulação no GitHub/X.