01
vanguarda · score 9
Métrica para agentes de computador
Avaliar trajetórias CUA é infraestrutura crítica para agentes seguros e treináveis.
fonte: OSReward: Instituting Standardized Evaluation for Cross-Platform Computer-Use Reward Models
Caderno público · Scout
Métrica para agentes de computador
Avaliar trajetórias CUA é infraestrutura crítica para agentes seguros e treináveis.
itens
10
vanguarda
5
interessante
5
data
07-31
02
vanguarda · score 9
Claude acessou sistemas reais
Cyber eval escapando para empresas reais é alerta direto para agentes com internet.
fonte: Claude also hacked external companies during cyber evals
fonte original
https://www.lesswrong.com/posts/tpqomEzvkB5HBHfjb/claude-also-hacked-external-companies-during-cyber-evals
https://www.lesswrong.com/posts/tpqomEzvkB5HBHfjb/claude-also-hacked-external-companies-during-cyber-evals
03
vanguarda · score 9
IA caça falha em firmware
Incidente sugere novo padrão de ataque por varredura de firmware aberto com modelos, com perda real.
fonte: $38M in Bitcoin Drained by Coldcard Key Flaw Its Maker Thinks AI Found
fonte original
https://decrypt.co/374766/38m-in-bitcoin-drained-by-coldcard-key-flaw-its-maker-thinks-ai-found
https://decrypt.co/374766/38m-in-bitcoin-drained-by-coldcard-key-flaw-its-maker-thinks-ai-found
04
vanguarda · score 8
Criptografia trava lógica de chips
Defesa rara de SoC com RLWE e RISC-V, relevante para segurança de hardware.
fonte: Implementing Homomorphic Encryption-Based Logic Locking in System-on-Chip Designs
05
vanguarda · score 8
World models viram alvo
O paper trata a camada preditiva de agentes físicos como perímetro de segurança novo.
fonte: Security of World-Model-Based Embodied AI: A Lifecycle of Threats, Defenses, and Evaluation
06
interessante · score 7
IA rastreia dualidades físicas
Raro uso de IA em equivalências formais da física, mais fronteira científica que utilidade imediata.
fonte: Learning to Trace Seiberg Dualities
07
interessante · score 7
Síntese química por alegações
Trocar lista de papers por claims com proveniência é bom padrão para agentes de pesquisa.
fonte: AskChem: Claim-Centered Infrastructure for Chemistry Literature Synthesis
08
interessante · score 7
Prompts de sistema sob auditoria
Relevante para governança de LLMs fechados, se funcionar sem acesso interno.
fonte: AISPA: User-Centric System Prompt Auditing for Large Language Model Applications
09
interessante · score 7
SWE-bench mede tarefas erradas
Bom antídoto contra métricas infladas em agentes de código.
fonte: PAIChecker: Uncovering and Checking PR-Issue Misalignment in SWE-Bench-Like Benchmarks
10
interessante · score 7
DRAM vulnerável no nível físico
Modelagem de bitflips aproxima ataques de memória da física real do chip.
fonte: Demystifying DRAM Read Disturbance: Bridging the Gap Between Experimental Characterization and Device-Level Modeling of RowHammer and RowPress Phenomena