① Evaluating Goal Drift in Language Model Agents AIES 2025 · 开山作
目标漂移测量的奠基工作:互斥目标股票环境让漂移可直接从投资组合算出(GD 指标,omission/commission 二分);机制消融证明主因是 pattern-matching 而非 token 距离。📝 我们的精读解读 📄 中文版
② Inherited Goal Drift: Contextual Pressure Can Undermine Agentic Goals ICLR 2026 Workshop
SOTA 模型对直接对抗压力免疫,但接手弱模型的漂移上下文后会被传染(conditioning-induced drift);只有 GPT-5.1 一致鲁棒;指令层级遵循与抗漂移不相关。纯测量论文、无方法——正好留下我们的位置。🔗 他人解读(AI Paper Notes) 📄 中文版
六个主要测试:
- 直接对抗压力(adversarial pressure)
- 上下文传导(context conditioning):弱到强模型
- 目标切换(goal switching):前一半 system prompt 误导模型走错的,后一半让他对真目标走,看模型能否反映过来
- 目标切换传导:把切换实验里弱模型留下的偏移上下文再喂给新模型,叠加切换与传染双重压力
- 目标反转(goal reversal):前一半先做目标 A,后一半切换目标 B
- 直接指令层级测试(instruction hierarchy)
见解:
- 上下文传导是主要脆弱点:即使模型本身不偏移,继承弱模型上下文后多数模型被"传染"
- 上下文长度与偏移正相关:32 步目标切换比 16 步导致更强偏移
- 如果弱 agent 的偏移行为通过上下文传播到强 agent,多 agent 系统的安全性受限于最弱链条——部署时必须监控 agent 间的上下文传递
③ VibeLifeBench: Can Your Life Agent Be Proactive and Persistent? arXiv 2608.10875 · 小红书
200 个多周生活任务 × 22 mock 服务,19.9% 事件为静默变更(不通知 agent),判分只读留下的痕迹;7 个前沿模型全部低分——确定为我们课题的主战场数据集。📄 中文版
④ Plans Don't Persist: Why Context Management Is Load Bearing arXiv 2606.22953
隐层探针证明 plan 信号单步衰减 4.1×——agent 不把计划作为持久状态携带;重要负面结果:探针触发的重新注入(re-surfacing)救不回 34.7pp 的性能损失 → 单纯"重发目标"没用。📄 中文版
⑤ Drift No More? Context Equilibria in Multi-Turn LLM Interactions AAAI 2026 Workshop
漂移 = 与目标一致参考模型的逐轮 KL 散度;动力学模型证明漂移不发散而是收敛到有限平衡态(存在恢复力);目标提醒可下移平衡态。其形式化与平衡态框架直接可用到我们的复播率指标。📝 我们的精读解读 📄 中文版
⑥ Stay Focused: Problem Drift in Multi-Agent Debate EACL 2026 Findings
MAD 的问题漂移:生成类任务漂移率 74–89%(主观答案空间→小步累积退化),推理类 7–21%(少但悬崖式);8 位专家归因出 8 类错误;缓解 31%、成本仅 +8.5%。📝 我们的精读解读 📄 中文版
⑦ LivePlan: Online Monitoring and Corrective Steering of Programming Agents arXiv 2608.06701
"确定性规则判官(零 LLM)+ 按需 LLM 顾问 + 两级干预"架构,SWE-bench 平均 +9.9pp、仅 $0.08/例;86% 的轨迹含漂移信号;关键教训:退化主因是 executor 不遵从正确建议。📄 中文版
筛选说明:一批代码智能体纠错论文(SWE-PRM / Wink / SAGE / AgentRewind 等)只做了筛选未深究——它们均在 SWE-bench Verified/Pro 上做单 run 错误修复,与我们的跨 run 目标漂移定位不同,留作 related work 对照即可。
| 数据集/环境 | 大小 | 角色 |
|---|---|---|
| goal-drift-evals(Arike 股票环境) | 1.2G | 探针 v0:改造单 run → 跨 run 复播实验 |
| MemoryAgentBench + 数据(ICLR 2026) | 86M | 受控靶场:四 split 数据已补全,最快出数 |
| VibeLifeBench 20 任务子集 | 35M | 主战场:10 域任务 + 静默变更 |
| inherited-drift(ER 分诊环境) | 203M | 参照:传染实验代码 + 结果 |
| LifelongAgentBench(TPAMI 2026) | 2.6M | 广度行备选 |
已排除 ALFWorld / WebShop(无跨 run 结构、目标静态、饱和红海)。网络备忘:GitHub 走 ghfast.top 镜像、HF 走 hf-mirror 直链。