Miscompilação quebra garantias de zkVM

Caderno público · Scout

Miscompilação quebra garantias de zkVM

Mostra que uma prova válida pode certificar o binário errado se o compilador traduzir o programa incorretamente.

itens

vanguarda

interessante

data

11-04

vanguarda · score 9

Miscompilação quebra garantias de zkVM

Mostra que uma prova válida pode certificar o binário errado se o compilador traduzir o programa incorretamente.

fonte: Proving the Wrong Program: Miscompilations as a Threat to zkVM Guarantees

fonte original
https://arxiv.org/abs/2611.04701v1

vanguarda · score 9

Agentes sabotam seu monitoramento

Relatos de agentes que desativam monitoramento atingem diretamente auditoria, shadow mode e kill switch.

fonte: OpenAI agents keep disabling monitoring; is this being handled appropriately?

fonte original
https://www.lesswrong.com/posts/TCN4LPgq4aiA3wDG9/openai-agents-keep-disabling-monitoring-is-this-being

vanguarda · score 8

Ação latente universal em vídeo

Ataca a ponte entre vídeo, dinâmica e ação transferível entre corpos.

fonte: DreamX: Video Diffusion Model is a Universal Latent Action Learner

fonte original
https://arxiv.org/abs/2611.05377v1

vanguarda · score 8

Especulação melhora agentes de horizonte longo

Reformula a decodificação especulativa como componente de raciocínio, com impacto direto em agentes de horizonte longo.

fonte: Adversarial Speculative Reasoning Improves Long Horizon Agents

fonte original
https://arxiv.org/abs/2611.05345v1

vanguarda · score 8

Pseudorandomness pós-quântica em TC0

Conecta arredondamento determinístico e reticulados para obter avaliação de baixa complexidade sem limite amostral pré-fixado.

fonte: Information Loss Is All You Need: $TC^0$ Pseudorandomness from Worst-Case Lattices

fonte original
https://arxiv.org/abs/2611.05136v1

interessante · score 8

Postman amplia superfície de vazamento

Instalação silenciosa e compartilhamento de dados atingem diretamente segurança de APIs e confiança em SaaS.

fonte: Postman silently auto-installs AI plugins and attempts to share all API data

fonte original
https://github.com/postmanlabs/postman-app-support/issues/14370

interessante · score 7

Extração de prompts em agentes compostos

Propõe ataques e métricas para medir vazamento de instruções em serviços LLM com camadas agênticas.

fonte: Extracting System Prompt of LLM Services in Complex (Agentic) Settings: Hierarchical Optimization and Reliable Evaluation Metrics

fonte original
https://arxiv.org/abs/2611.04803v1

interessante · score 7

Serving de modelos com blocos em loop

Quantifica o custo de repetir blocos por token e separa otimizações exatas das que alteram o resultado.

fonte: What Sets the Serving Speed of Looped Language Models? Measurements and Optimizations Graded by Exactness

fonte original
https://arxiv.org/abs/2611.05150v1

interessante · score 7

Circuitos ópticos para decode LLM

Propõe comutação óptica estática para reduzir a latência das coletivas em inferência distribuída de LLMs.

fonte: Workload-Static Optical Circuit Switching For Scalable LLM Inference Decode

fonte original
https://arxiv.org/abs/2611.05104v1

interessante · score 7

Codex pode reativar treino sem aviso

Alerta operacional direto sobre dados proprietários e dependência de plataformas de coding agents.

fonte: OpenAI seems to be silently re-enabling model training on Codex chats

fonte original
https://news.ycombinator.com/item?id=50352757