Research Notes

长期研究 AI 记忆系统、AI Native 实践与安全工程。

这里不追热点口号,只拆解能落到工程里的技术问题:Agent Memory、AI Native 工作流,以及白盒扫描、代码图、静态分析和安全自动化。

memory-system.map episodic: events + traces semantic: facts + abstractions retrieval: relevance + freshness forgetting: decay + conflict checks

Research Tracks

三个长期分支

查看方向

Research Archive

研究文章

全部文章
AI 记忆系统

长期记忆授权不能只看内容,必须绑定写入来源

TMA-NM / MEM-INV-Bench 把 Agent 记忆投毒的防御焦点从内容检测和 lineage 追踪推进到 write-time origin binding:每条记忆在写入时就要绑定来源权威,并且只能通过独立可信主体背书提升权限。工程上这意味着 memory store 要像安全子系统,而不只是向量库。

安全工程

Agent 安全策略要从提示词搬到可验证策略代码

Autoformalization of Agent Instructions into Policy-as-Code、out-of-band prompt injection defense 评估和 MCP description-code inconsistency 测量共同指向一个工程判断:高权限 Agent 的安全边界不能只写在 system prompt 里,而要落到可验证 schema、策略代码、运行时参考监控器和自适应评估流水线。

Research Standard

没有可靠材料,就不强行更新。

Focus Areas

长期关注的问题

Long-term memory Memory-augmented RAG Context compression Retrieval evaluation Forgetting and conflict Personalization memory Code Property Graph White-box scanning Static analysis Agent security AI Native workflow Agentic automation Human-in-the-loop review