01
vanguarda · score 9
Diffing abre controle multimodal
Busca direções internas para auditar e controlar comportamentos visuais em MLLMs.
fonte: Multimodal Model Diffing for Feature Discovery and Control
Caderno público · Scout
Diffing abre controle multimodal
Busca direções internas para auditar e controlar comportamentos visuais em MLLMs.
itens
10
vanguarda
5
interessante
5
data
08-11
02
vanguarda · score 9
Segurança migra para o harness
O foco em contexto, memória, ferramentas e permissões encaixa diretamente em agentes com audit log.
fonte: SHE: Trajectory-driven Safety Harness Evolution for LLM Agents
03
vanguarda · score 9
Raciocínio cifrado vira alvo
Ataque mira traces cifrados em APIs proprietárias, relevante para segurança de agents.
fonte: Stealing Reasoning Traces from Proprietary LLM APIs
04
vanguarda · score 9
Composição de skills burla scanners
Mostra evasão por combinação de skills, ponto crítico para agents com permissões reais.
fonte: ColluSkill: Adversarial Cross-Skill Composition for Evading Agent Skill Scanners
05
vanguarda · score 9
Pesquisa autônoma como fuzzing
Reformula agentes de pesquisa como fuzzers para lidar com feedback raro.
fonte: Agentic Auto-Research is Fuzz Testing
06
interessante · score 7
Jailbreak vivo no iOS atual
Mantém jailbreak semi-untethered em faixas recentes do iOS, sinal forte para pesquisa ofensiva mobile.
fonte: opa334/Dopamine
07
interessante · score 7
SEM sintético para chips
Usa dados sintéticos para contornar IP e escassez em verificação de hardware por microscopia.
fonte: Overcoming Data Scarcity and Confidentiality in Hardware Assurance via Synthetic Generation
08
interessante · score 7
Probes acham risco no código
Usa ativações de modelo aberto para flagrar falhas que a saída textual não mostra.
fonte: Activation Probes Surface Code-Security Signals that the Model's Output Misses
09
interessante · score 7
Robustez no nível da decodificação
Stress test mira falhas de LLM sob prompts, guardrails e restrições estruturais.
fonte: Decoding-Level Taboo: A Diagnostic Stress Test for LLM Robustness
10
interessante · score 7
Claude marca conteúdo gerado
Proveniência afeta publicação, arquivo e auditoria de fluxos feitos com Claude.
fonte: How Claude marks AI-generated content