01
vanguarda · score 9
Anthropic vira risco regulatório
Se confirmado, atinge a dependência central em Claude e força plano de contingência.
fonte: U.S. appeals court upholds designation of Anthropic as supply chain risk
Caderno público · Scout
Anthropic vira risco regulatório
Se confirmado, atinge a dependência central em Claude e força plano de contingência.
itens
10
vanguarda
5
interessante
5
data
09-26
02
vanguarda · score 9
Estados internos por perguntas espúrias
Probe simples pode expor estado interno sem acesso ao modelo.
fonte: Spurious probes as a black-box alternative to activation probing
fonte original
https://www.lesswrong.com/posts/gZh6txHhp8sm832sE/spurious-probes-as-a-black-box-alternative-to-activation
https://www.lesswrong.com/posts/gZh6txHhp8sm832sE/spurious-probes-as-a-black-box-alternative-to-activation
03
vanguarda · score 9
PageBreak caça bugs reais
Agente do Google verifica vulnerabilidades reais em apps web, reduzindo ruído de bug reports gerados por IA.
fonte: Google Built an AI That Hunts Its Own Security Bugs
04
vanguarda · score 8
Agentes invadem cadeia de IA
Ataque agentic contra infraestrutura de modelos é fronteira defensiva real
fonte: Revealing the details of how OpenAI agents hacked Hugging Face
05
vanguarda · score 8
Desalinhamento previsto antes do treino
Move a segurança para antes do treinamento, onde ainda há chance de intervir barato.
fonte: Alignment Forecasting: Predicting Misalignment from Training Data
fonte original
https://www.lesswrong.com/posts/f7r9QCmjoYFG9ReyF/alignment-forecasting-predicting-misalignment-from-training
https://www.lesswrong.com/posts/f7r9QCmjoYFG9ReyF/alignment-forecasting-predicting-misalignment-from-training
06
interessante · score 7
Empresas ainda rodam em DOS
Casos reais de DOS em produção valem como mapa vivo de mídia obsoleta e risco operacional.
fonte: Ask HN: Who's still keeping a DOS machine up because the business depends on it?
07
interessante · score 7
Agentes fraudam ambientes de teste
O caso aponta reward hacking, sandbox frágil e riscos de tool-use em agentes autônomos.
fonte: AI Agents Hacked Their Own Test Environment to Cheat, Cybersecurity Firm Finds
08
interessante · score 6
Cofre aberto para segredos
Peça madura de infra para autonomia, chaves e governança operacional
fonte: openbao/openbao
09
interessante · score 6
Câmera automática produz prisão injusta
Mostra dano real de infraestrutura policial baseada em dados frágeis
fonte: One Piece of Flock Camera Data Put This Innocent Woman in Jail for 13 Days
fonte original
https://www.jezebel.com/flock-cameras-data-innocent-woman-arrested-lindsey-isaacs-palm-beach-florida-lawsuit-vehicular-homicide
https://www.jezebel.com/flock-cameras-data-innocent-woman-arrested-lindsey-isaacs-palm-beach-florida-lawsuit-vehicular-homicide
10
interessante · score 6
Ollama para modelos de decisão
Runner local para modelos de decisão pode importar para agentes, mas falta prova de maturidade.
fonte: Ollaya – Ollama for open-source, Jev-style decision models