8.28 日报

2026-08-28问题定义诱因分类τ-benchICLR 2027
课题:τ-bench 多智能体目标偏移——handoff 污染的量化与干预 | 目标:ICLR 2027(09-25 full)| 今日主线:想清楚我们要解决什么问题

一、今天想明白的事:我们要解决的问题(梳理定稿)

今天我主要梳理了"应该做什么",并对目标偏移做了诱因分类。目前,提出各类目标偏移发现的论文远多于解决的论文,所以第一步要先确定:我们要量化的目标偏移,到底是什么导致的(模型传输、环境压力、上下文污染等)。根据我熟悉的方向,定为:

多个智能体协作解决一个任务时,智能体之间传递的信息如果不正确,会污染其他智能体的上下文——这种污染导致的行为偏离,就是我们要量化的"目标偏移"。

数据集方面:若使用 τ-Bench 这种通用数据集,就需要操作数据的使用方式来诱发模型发生目标偏移(这是该领域标准做法——Arike 的 nudge 邮件、InheritedGoalDrift 的弱轨迹预填充、AsymmetricGoalDrift 的代码注释注入都是如此)。我们要做一个真正有价值的工作。

自查判断(三个需要加固的点,今日已想清楚对策):

  • "解决类论文少"要说得精确:不是没人解决——AgentTether(τ-bench 修复)、LivePlan(+15.2%)、pressure isolation 都在——而是解决类存在但没有一篇针对多智能体污染传播。这样表述才不会被审稿人一句话反驳;
  • "传递的信息不正确"覆盖不了走私型:走私的内容本身可以是正确的,只是不该出现在这个任务里。精确化为两层——binding 层(信息不正确:删字段/改值/改成合法但错的值)+ commitment 层(目标不该有:走私任务外子目标),正好对应两个机制内核;
  • "操作使用方式诱发"要配两条保险:① 自然发生轨(弱模型上游自然出错,回应"人工注入不真实"的质疑);② 多智能体化只动 harness 层,判分器/DB/金标零改动(保证分数与先例可比)。同时警惕循环论证——不能把任何行为偏离都归因于污染,用注入轨污染源已知 + T0 对照隔离架构损失 + judge 抽检三道防线兜住。

整篇工作的闭环:量化(注入协议 + 指标体系)→ 复现诱发方法(文献中 6 类诱因,统一到 handoff 通道上)→ 提出方法解决并刷 τ-bench(先刷这一个,之后再加 τ² 做泛化)。空位确认:现有目标漂移论文全部是单智能体设定;实时协作通道上的跨智能体污染传播 + 修复,没有人做过。

二、今日文献调研的三个关键判断

判断一:量化方法主要借鉴 Stay Focused EACL 2026 Findings

他们用 FOCUS(逐轮性能差分)把漂移从二值现象变成连续量,Recovery 有严格形式化定义。我们平移到 handoff 链上:hop-FOCUS——每个中间产物(任务单→操作申请→DB 终态)对金标的对齐度逐跳差分。他们量的是"时间维度的漂移"(同层辩论者、无金标、纯观察),我们量"空间维度的漂移"(跨角色、金标锚定、受控注入)。📝 精读版

判断二:InheritedGoalDrift 引用链全查完,空位还在 ICLR 2026 WS

这篇是我们工作的直接前驱(离线预填充弱轨迹→强模型继承漂移)。它的全部引用(4 篇)+ 源头 Arike 论文的引用(12 篇)都查了:无人做跨智能体传播。但顺藤摸出同团队第三篇 AsymmetricGoalDrift(编码智能体、非对称漂移)——该团队已连发三篇,横跨股票/急诊→医疗分配→编码三个域,铺域速度很快,时间窗紧迫,9 月必须出主实验。InheritedGoalDrift 精读|AsymmetricGoalDrift 精读|SameFacts 精读(同团队续作)

判断三:解决类论文盘点完成(5 篇) 干预设计谱系

今天把"如何解决"的论文单独筛出:AgentTether(τ-bench 261 任务运行时修复,图定位失败子轨迹)、LivePlan(判定与建议解耦:规则监视器零 LLM + 按需顾问,+15.2% 仅 $0.08)、pressure isolation(规划器不见诱压信号)、DRIFTPolicy(反馈 agent,缓解 31%)、确定性 Executive(类型化提案+预注册验证)。共同设计哲学:确定性组件持有判定权,LLM 按需介入——我们的 Verifier 落在哪一档是方法章节的定位问题。AgentTether 精读|LivePlan 精读|WhyAgents 精读|LLMProposes 精读

其他PlansDontPersist 判定为外围引用(机制侧:plan 在隐层单步衰减 4.1×,与我们的行为层量化正交,不借鉴);精读版|AgentGPA 留作 judge 方法论参考(自然轨标注阶段用)。精读版

三、核心产出文档(今日定稿)

① 《taubench_v1_多智能体目标偏移_格式与指标.md》 实验设计文档 v1

大白话版:把 τ-bench 的单 agent 拆成三级流水线(Dispatcher→Specialist→Verifier),每个 agent 只能看 handoff 消息——污染的唯一通道。三层指标:CD(上游传的没错吧)→ CC(污染进没进下游)→ GD(行为/数据库终态偏没偏金标)。注入协议四型:T1 删字段、T2 改值、T2b 改成合法但错的值、T3 走私任务外目标,按概率 p 注入画"漂移-剂量曲线"。加 hop-FOCUS 过程度量(对齐度逐跳差分)和传播链归因(继承率/放大系数/恢复率)。判分器、数据库、金标零改动,分数与先例直接可比。📄 全文(html)

② 《目标偏移诱因分类.md》 17 篇论文的系统总结

大白话版:17 篇已读论文里漂移是怎么被"达成"的,归成 6 类诱因——①对话内生(多轮本身是病因)②对抗注入 ③环境压力 ④上下文条件化(继承弱轨迹)⑤护架/工程副作用 ⑥世界静默演化。底层只收敛到两个机制内核:自回归强化(自己的输出变成自己的输入,偏置复利)与上下文条件化(被污染的历史留在上下文里,后续向它看齐)。展开版含 17 篇总览矩阵、六类详解(关键数字高亮)、施加者意图光谱、八条作用通道表、漂移对象谱系,以及本课题定位与"handoff 污染可行性机制三角"(污染会传 × 强模型也接 × 纠偏会衰减)。我们的 T1–T3 注入协议与两类内核一一对应。📄 展开版全文(html)

③ 中文精读版 ×10 今日新增 7 篇

今日新增:SameFactsDifferentUpdates、WhyAgentsCompromiseSafety、AgentGPA、LLMProposes、AsymmetricGoalDrift、AgentTether、LivePlan(前 3 天已有 StayFocused / InheritedGoalDrift / PlansDontPersist,一并收录在论文笔记精读区)。