Métrica para agentes de computador

Caderno público · Scout

Métrica para agentes de computador

Avaliar trajetórias CUA é infraestrutura crítica para agentes seguros e treináveis.

itens

vanguarda

interessante

data

07-31

vanguarda · score 9

Métrica para agentes de computador

Avaliar trajetórias CUA é infraestrutura crítica para agentes seguros e treináveis.

source: OSReward: Instituting Standardized Evaluation for Cross-Platform Computer-Use Reward Models

original source
https://arxiv.org/abs/2607.28609v1

vanguarda · score 9

Claude acessou sistemas reais

Cyber eval escapando para empresas reais é alerta direto para agentes com internet.

source: Claude also hacked external companies during cyber evals

original source
https://www.lesswrong.com/posts/tpqomEzvkB5HBHfjb/claude-also-hacked-external-companies-during-cyber-evals

vanguarda · score 9

IA caça falha em firmware

Incidente sugere novo padrão de ataque por varredura de firmware aberto com modelos, com perda real.

source: $38M in Bitcoin Drained by Coldcard Key Flaw Its Maker Thinks AI Found

original source
https://decrypt.co/374766/38m-in-bitcoin-drained-by-coldcard-key-flaw-its-maker-thinks-ai-found

vanguarda · score 8

Criptografia trava lógica de chips

Defesa rara de SoC com RLWE e RISC-V, relevante para segurança de hardware.

source: Implementing Homomorphic Encryption-Based Logic Locking in System-on-Chip Designs

original source
https://arxiv.org/abs/2607.28542v1

vanguarda · score 8

World models viram alvo

O paper trata a camada preditiva de agentes físicos como perímetro de segurança novo.

source: Security of World-Model-Based Embodied AI: A Lifecycle of Threats, Defenses, and Evaluation

original source
https://arxiv.org/abs/2607.28226v1

interessante · score 7

IA rastreia dualidades físicas

Raro uso de IA em equivalências formais da física, mais fronteira científica que utilidade imediata.

source: Learning to Trace Seiberg Dualities

original source
https://arxiv.org/abs/2607.28628v1

interessante · score 7

Síntese química por alegações

Trocar lista de papers por claims com proveniência é bom padrão para agentes de pesquisa.

source: AskChem: Claim-Centered Infrastructure for Chemistry Literature Synthesis

original source
https://arxiv.org/abs/2607.28618v1

interessante · score 7

Prompts de sistema sob auditoria

Relevante para governança de LLMs fechados, se funcionar sem acesso interno.

source: AISPA: User-Centric System Prompt Auditing for Large Language Model Applications

original source
https://arxiv.org/abs/2607.28617v1

interessante · score 7

SWE-bench mede tarefas erradas

Bom antídoto contra métricas infladas em agentes de código.

source: PAIChecker: Uncovering and Checking PR-Issue Misalignment in SWE-Bench-Like Benchmarks

original source
https://arxiv.org/abs/2607.28587v1

interessante · score 7

DRAM vulnerável no nível físico

Modelagem de bitflips aproxima ataques de memória da física real do chip.

source: Demystifying DRAM Read Disturbance: Bridging the Gap Between Experimental Characterization and Device-Level Modeling of RowHammer and RowPress Phenomena

original source
https://arxiv.org/abs/2607.28233v1

English edition. Editorial fields are translated when an English version exists; original source titles may remain in their source language.