8.30 日报

2026-08-30
课题:τ-bench 多智能体目标漂移——量化、溯因与干预 | 目标:ICLR 2027(09-25 full)| 今日主线:量化落地——GD 指标从文献血统到 τ-bench 三域实测基线

一、目标偏移量化

昨日的悬念"基线能考多少分"今天有了答案,而比分数更重要的是:用什么尺子量漂移这个纠缠了三天的问题,今天以"双指标 + 漏做通道"的形式收敛。收敛不是发明——是文献血统的显式继承与 τ-bench 物理的适配。

① Arike et al. 2025 AIES · arXiv:2505.02709 · 开山

GD_actions / GD_inaction:评估期总量对基线的相对差(累积式),漏做(omission)与做错(commission)二分。我们继承的:累积语义 → GDstock 的血统;omission 通道 → 漏做率。

② Inherited Goal Drift 2026 ICLR'26 WS · arXiv:2603.03258

状态型 GD_t(每步瞬时、可恢复)。今日完成引用链核查(Semantic Scholar):其 4 个引用者(LLMProposes / SameFacts / Signal-Driven Observation / 认知缺口分类学)全部"引而不改",无第三方迭代其量化——接这条线安全,我们的 τ-bench 实例化就是它的下一个节点。继承的:状态语义 → GDtrack 的血统。

③ 我们的双指标 + 漏做通道 τ-bench 物理决定两量必须分开

GDtrack(在轨状态,最近 H=3 个写操作,错后连续对齐写可回落归零——Inherited 血统)与 GDstock(漂移存量,全历史,历史错误永不清除——Arike 血统)。为什么必然分开:τ-bench 写操作不可撤销(错取消的订单"卖不回来"),状态级恢复不存在,能观测的只有行为级恢复——"还在漂吗"与"累计漂了多少"是两个问题。漏做率单列不并入 GD(性质不同的失败搅在一起会互相污染读数)。此前 H=10"滑窗"因写操作稀疏退化为全历史——实为 stock 而名不副实,今日正名。

双指标速览 展开自 GD双指标定义_track与stock.md

GDtrack(在轨状态)GDstock(漂移存量)
问的问题现在还在漂移吗?这轮对话总共漂移了多少?
血统Ⅱ 部 Menon et al. 的 state-based 设计(偏离后重新对齐仍可恢复到零漂移)Ⅰ 部 Arike 的累积式设计(评估期总量之差)
窗口最近 $H_{track}$ = 2–3 个写操作全历史(自首个写操作起)
恢复语义错后连续 2 个对齐写 → 明显回落;连续 $H_{track}$ 个 → 归零不回落是对的——写不可撤销,存量就是存量

两指标共用一个窗口公式,写操作序列 $x_1, \dots, x_N \in \{1,0\}$(1 = 对齐写,对齐判定 = 与金标参数级消耗式匹配、multiset 防重,与官方 action_checks 逐条互验一致),仅窗口 $W_k$ 不同:

$$GD_k = 0.5 - 0.5 \times \frac{\sum_{i \in W_k} x_i - \sum_{i \in W_k}(1 - x_i)}{|W_k|}$$

track 取 $W_k$ = 最近 $H_{track}$ 个写操作(分母 $\min(k, H_{track})$),逐写更新、读数抖动大,用于恢复/干预分析;stock 取 $W_k = [1, k]$,历史错误永不清除,对话终值 $M/N$ 即三域 0.155 / 0.402 / 0.810 的分子分母来源——GDstock 就是之前算出的指标(H=10 滑窗因写操作稀疏退化为全历史,名不副实,今日正名)。GDtrack 为新增指标(H=3),三域实测:

域写操作时刻均值对话终值均值reward=1 组reward=0 组
retail0.1580.1580.0680.505
airline0.4100.4170.0640.731
banking0.7230.6580.3240.533

三域 track ≈ stock(0.158 ≈ 0.155、0.410 ≈ 0.402)的原因不是度量失效,而是恢复行为本身罕见;banking 是唯一明显分离的域——成功组 track 0.324 vs stock 0.676:早段大量金标外 discoverable 调用拉高存量,但末段行为在轨,正是两指标互补性的实证案例。落位:干预实验 REC 指标用 track(恢复可见),总量结论与代价-收益表配 stock。

配套的两件外围工作:(a) 全文献漂移量化方法汇总落档(目标漂移量化方法汇总.md,39 个方法按七层分类,每条带公式/参照物/出处);(b) 候选清洗——AgentGPA 与 UGST 经原文核查不自称测 drift(前者全文 drift 仅 1 次且为转述动机),从漂移量化候选中剔除,防止未来误引。

二、Baseline 数据:Qwen3.8-27B 全链路,783 对话(261 任务 × 3 trials)

三量的可计算映射全部落地并经官方 action_checks 双重互验(retail 合计 435=435、逐条 526/526 一致):A_t = 参数级匹配金标的写操作数(复刻官方 compare_with_tool_call,消耗式 multiset 匹配)、M_t = 剩余漂移写、N_t = 窗口写操作数。

域对话写操作 N对齐 A漂移 MGDstock成功组失败组漏做率官方通过率
retail342516436800.1550.0530.44417.4%0.772
airline15013279530.4020.0560.64146.3%0.653
banking291125623910170.810 ⚠0.6760.81887.0%0.156

度量有效性三重证据:① 漂移排序与官方通过率严格反序(0.155 < 0.402 < 0.810 ↔ 0.772 > 0.653 > 0.156)——外部锚一致;② 成败分组区分显著:retail 组间 Mann-Whitney p = 3.1e-13,AUC = 0.797,失败组 GD 高 7 倍;③ 判定器与官方实现逐条互验一致。这三个 GD 数字即后续一切干预实验("提高 A_t 抑制偏移")的优化前对照锚点。

三、产物清单

产物位置状态
GD 三域整体计算(公式+互验+总表)docs/GD三域整体计算_20260830.md✅
GD 双指标定义(track/stock 正名与血统)docs/GD双指标定义_track与stock.md✅
量化落地数据验证(三量映射+有效性+活标本)docs/GD量化落地_数据验证_20260830.md✅
逐任务漂移曲线包:261 张 v2 任务曲线(figures_v2)+ 3 域热力图 + 7 个 CSV + banking 长度分层curves/(目录说明)✅
全文献量化方法汇总(39 法七层,含勘误)docs/目标漂移量化方法汇总.md✅
Inherited 引用链核查(4 引用者均未改进其量化)汇总文档 §1.2 + S2✅
目标漂移度量三部曲(Arike → Inherited → 我们的通用量化,逐句忠实原文+依据框)目标漂移度量三部曲_通用量化版.html✅
Goal-Drift Probes 中文精读(ICML'26 AIWILD,白盒探针线划界:他们预测"即将失败",我们量化"偏了多少/如何传播",正交)GoalDriftProbes_中文版.html✅
8.30 五智能体并行调研(缓解方法三分类 / 量化五空白 / 竞争格局 / 记忆污染传播)docs/调研_上下文污染与目标漂移_20260830.md✅
ALFWorld 长程智能体 2025–2026 顶会检索综述(arXiv 300 篇 + venue 核验)docs/ALFWorld长程智能体_2025-2026顶会检索综述.md✅
GD 复现脚本(三域总表 / 曲线 / banking 长度分层 / v2 曲线)scripts/✅
文献检索工具链(S2/OR 批量脚本)memsearch\✅

坑与备忘:① banking 的 GD 绝对值含 discoverable 工具机制噪声(649 次 call_discoverable_agent_tool 的参数匹配语义特殊)——方向可信、绝对值待专项校准后使用;且 banking 是三域中唯一 track(0.32)与 stock(0.68)明显分离的域,恰是双指标互补性的实证案例;② 写操作稀疏(中位 1 个/对话,43 条零写)——分析单元应移向跨任务 261 连跑序列;③ 本地 tau2 克隆是 v0.2.0 无 banking,金标一律用 results json 内嵌 tasks;④ 136 条对话 action_checks 为 null(user_stop/max_steps/基建),只能走自建比对。

衔接昨日(08-29):评测链路落地、基线启动 | 今日:量化血统定案(Arike 2025 → Inherited 2026 → 双指标),Qwen3.8 三域基线数据落袋 | 昨日日报见 08-29