Tag

#memory poisoning

2026/06/29 AI 记忆系统

长期记忆授权不能只看内容，必须绑定写入来源

TMA-NM / MEM-INV-Bench 把 Agent 记忆投毒的防御焦点从内容检测和 lineage 追踪推进到 write-time origin binding：每条记忆在写入时就要绑定来源权威，并且只能通过独立可信主体背书提升权限。工程上这意味着 memory store 要像安全子系统，而不只是向量库。

#AI memory #agent memory #long-term memory #memory poisoning #memory security #information-flow control #memory evaluation

2026/06/15 安全分析

运行时记忆投毒防御：证书要绑定写路径，而不是只靠检索过滤

SMSR、MemVenom 和长期记忆安全综述把 Agent 记忆安全推到可验证治理阶段：生产系统不能只做 prompt filter，而要把来源签名、随机化检索、证书复算、回滚和工具调用审计放进同一条验收链。

#AI memory #agent memory #long-term memory #memory poisoning #memory security #RAG #agent security #memory evaluation

2026/06/08 安全分析

MPBench 的价值不是攻击库，而是 Agent 记忆写入面的安全地图

arXiv:2606.04329 把 Agent 记忆投毒从零散案例整理成写入通道、结构性漏洞和 ASR/RSR 评测问题。工程上真正该落地的是记忆写入面的资产清单、来源权威、写后审计和跨会话回归测试。

#AI memory #agent memory #long-term memory #memory poisoning #memory security #agent security #memory evaluation #prompt injection

2026/05/31 安全分析

记忆投毒进入第二阶段：绕过选择性记忆，劫持工具选择

从 MemPoison 和 MemMorph 看，Agent 记忆攻击正在从“把恶意内容写进长期记忆”推进到“让恶意内容通过抽取、重写、检索和工具推理链条”。生产系统需要把记忆写入、来源权威、检索召回和工具授权放进同一套评测。

#AI memory #agent memory #long-term memory #memory poisoning #memory-augmented agents #memory evaluation #tool use #prompt injection