课题空位再确认一遍:多智能体协作情景下的目标漂移"溯因 + 量化",目前没有人做——溯因(偏移从哪一跳、哪类信息、哪个机制内核产生)与量化(偏移多少、随污染剂量怎么变)在 τ-bench 这个载体上都还是空白。我们的整条路线(基线 → 受控注入 → 差分归因)就架在这个空位上。
① 交互协议:agent ↔ LLM 用户模拟器 多轮对话 + 工具调用
被测 agent 与 LLM 扮演的用户模拟器多轮对话,agent 通过调用领域工具(API)操作数据库。对我们的意义:多智能体化时用户模拟器保持零改动,只动 harness 层的 agent 拆分——保证分数与原版协议、与先例可比。
② 判分锚定:数据库终态 + 对话检查项 不看你说了什么,看世界变成了什么样
判分不看对话"像不像完成了",而是比对数据库终态与预期状态、加上对话中应交付信息的检查项(checklist),由 judge 判定,且有 check 级的细粒度得分。对我们的意义:GD 层(行为/终态偏离金标)直接继承原版判分器,不另造尺子;check 级粒度还能给 hop-FOCUS 的对齐度提供落点。
③ pass^k:专测可靠性而非单次正确 同一任务跑 k 次全过才算过
τ-bench 的核心指标是 pass^k——衡量 agent 的稳定性与方差,这正是对"漂移"敏感的设计。对我们的意义:注入实验必须固定采样协议、多次重复——否则污染效应和采样噪声会混在一起,差分不可信。这是量化设计的硬约束,今天记入实验规范。
④ 数据:261 道任务已备齐 对齐 AgentTether 的任务规模
数据准备完成,共 261 道,与 AgentTether(τ-bench 261 任务运行时修复)同规模——基线分数将来可直接与它对表,验证我们 harness 的正确性。
今天想清楚的一件事:跑基线之前,我们并不知道 Qwen3.8-27B 这类候选模型在 τ-bench 上到底能考多少分。这直接影响实验能不能做:
| 事项 | 内容 | 状态 |
|---|---|---|
| 评测方法精读 | τ-bench 交互协议 / 判分机制 / pass^k 指标 | ✅ 完成 |
| 数据准备 | 261 道任务(对齐 AgentTether 规模) | ✅ 完成 |
| 模型环境 | vllm 部署推理服务,模型接入就绪 | ✅ 完成 |
| T0 基线 | Qwen3.8-27B,原版单 agent 协议,记录 pass^1 / pass^k(按域分层) | 🔄 运行中 |
| 注入轨实验 | T1 删字段 / T2 改值 / T2b 合法错值 / T3 走私子目标,按概率 p 注入画剂量曲线 | ⏳ 待基线锚点 |
T0 基线运行进度(截至 29 号当前),按域推进,infra 错误为 0——链路稳定:
| 域 | 进度 | avg reward | infra 错误 |
|---|---|---|---|
| retail | ✅ 342/342 | 0.772 | 0 |
| airline | 🔄 101/150(67%) | 0.673 | 0 |
| banking | ⏳ 排队 | — | — |
- 跑通 Qwen3.8-27B 基线,拿到 pass^1 / pass^k 与按域分层的通过率,确认落在合理灵敏度区间;
- 基线若异常(工具调用不稳 / 分数过低过高),先修 harness 与提示词,把"能考"变成"考得稳";
- 基线锚点就位后,把实验设计文档里的 hop-FOCUS 与 CD/CC/GD 计算脚本挂到真实轨迹上,进入注入轨。
衔接昨日(08-28):问题定义与实验设计文档定稿;今日:评测链路落地,基线启动 | 前期文档见 08-28 日报(实验设计 v1 + 诱因分类 + 10 篇中文精读)