1 引言
大语言模型（LLM）已成为各类交互系统的核心，从虚拟助手、Copilot 到自主智能体（Ouyang et al. 2022; Achiam et al. 2023; Brown et al. 2020; Acikgoz et al. 2025），它们在长对话中规划（Yao et al. 2023; Wang et al. 2023c; Li et al. 2023; Dongre et al. 2024）、解释（Cai et al. 2019）或谈判（Lewis et al. 2017; Bianchi et al. 2024）。然而，当这些模型进行多轮交互时，一种微妙但后果严重的失效模式出现了：随着对话推进，模型响应开始漂离用户最初设定的偏好、指令或约束。
与事实性幻觉（Ji et al. 2023）或局部连贯性错误不同，上下文漂移是对意图的缓慢侵蚀：一个摘要器逐渐丢失所要求的语气；一个图像编辑智能体在图像中偏离目标美学风格；一个用户模拟器忘记自己的目标与行为约束。关键在于，当前大多数基准与评测对这种退化视而不见——它们要么只看端到端任务成败（Thoppilan et al. 2022; Zhou et al. 2023），要么只看单轮质量（Guan et al. 2025; Kwan et al. 2024; Dongre et al. 2025; Wang et al. 2023b; Chang et al. 2024; Duan et al. 2023），未能捕捉跨轮次的时间性错位。
流行的直觉是：随着对话变长，上下文漂移会无界累积，其根源是记忆限制、信息丢失或误差复合。这一观点意味着对齐必然随对话深度恶化。但在合成与真实多轮设置中的实验里，我们观察到了不同的模式：漂移在有限水平上稳定下来，并且可以通过目标提醒（goal reminders）等轻量干预向下移动。为解释这些观察，我们提出一个关于测试 LLM 与目标一致参考策略之间散度的简单动力学模型。该模型把漂移刻画为一个随机递归过程，在对记忆衰减与随机性做出温和假设的前提下，允许存在稳定平衡态。这一视角表明，漂移并不必然是不可逆转的衰减，而可以被视为一种可控的平衡态现象。本文贡献如下：
（1）我们在受控合成改写任务中、以及在 τ-Bench 中基于 LLM 的用户模拟器上，测量测试 LLM 与参考策略之间的时间性散度，提供了首批对漂移轨迹的系统分析之一。
（2）我们提出一个简单的随机过程模型，解释漂移为何会稳定，以及干预如何移动平衡态水平。我们并不主张这是普适证明，而是用该框架来解释并组织观察到的行为。
（3）跨任务与模型，我们表明有针对性的提醒能降低平衡态散度并提升对齐质量，与框架预测一致。
2 相关工作
多轮 LLM 对话中的一个持续挑战是上下文漂移：模型用于生成响应的对话状态逐渐退化或失真。上下文漂移有别于对齐漂移（alignment drift）：前者指活跃上下文中相关信息的丢失或损坏，后者描述的是对预期行为策略或价值观的偏离。
多轮交互中的上下文退化。越来越多工作发现 LLM 在长对话中会出现性能损失。Laban et al.（2025）表明模型输出会逐渐偏离早期上下文，常导致不连贯或目标被忽视。Abdelnabi et al.（2024）通过追踪模型激活随轮次的变化来度量「任务漂移（task drift）」，并提出检测机制以标记模型可能已丢失原始任务的时刻。Mehri et al.（2025）借助用户模拟器考察长程对话中的目标一致性，称之为「指令漂移（instruction drift）」，指出即便强模型也难以在对话深入时维持对齐。这些工作聚焦于诊断与量化漂移，但没有给出其时间动力学的理论解释。与此相对，我们提出一个简单的动力学视角，把漂移建模为有界随机过程而非不可避免的单调衰减；具体而言，我们用测试模型与目标一致参考策略之间的 KL 散度来解释上下文漂移，并展示该形式化如何在关于记忆与随机性的温和假设下预测平衡态散度水平的存在。
LLM 交互的动力系统视角。近期研究（Zhang and Dong 2024; Bhargava et al. 2023; Li et al. 2024a）尝试通过动力系统与控制理论的视角形式化 LLM 行为。单轮提示已被建模为离散动力系统中的可控性问题，提示作为控制输入引导模型输出分布。Bhargava et al.（2023）把基于 Transformer 的 LLM 视为离散随机动力系统并分析自注意力的可控性，展示短提示如何剧烈引导可达输出。Zhang and Dong（2024）通过神经 ODE 建模 Transformer 并结合鲁棒控制方法稳定输出，扩展了这一视角。我们延续这一传统，显式地形式化漂移，突出恢复力与干预在决定长期平衡态中的作用。据我们所知，此前尚无工作把漂移显式分析为具有稳定不动点的有界随机过程。
记忆与上下文管理。另一类工作把多轮失败归因于记忆机制不完善。记忆增强模型（Wang et al. 2023a; Li et al. 2024b）与上下文压缩（Jiang et al. 2023a,b）研究保存显著信息的方法。这些方法通过刷新或恢复上下文来隐式对抗漂移，但通常缺乏对长程动力学的原则性刻画。我们的工作与这条线互补：不是把漂移视为待消除之物，而是视为一个其平衡态可被估计与影响的动力学过程。
3 多轮交互中的上下文动力学
我们研究测试语言模型（LM）与参考策略之间的多轮交互，二者在 $T$ 轮中暴露于同一份不断演化的对话历史。在每轮 $t \in \{1,\dots,T\}$，对话历史记为 $x_{<t} = (x_1, \dots, x_{t-1})$。测试模型产出：
而参考模型（例如更大的 LM 或经人工验证的策略）产出：
作为目标一致行为的稳定、高质量代理。我们定义上下文散度（contextual divergence）作为上下文漂移的代理量——即模型行为随轮次逐渐偏离目标一致意图的过程。「漂移（drift）」指这一底层的时间性现象，而「散度（divergence）」提供可用于分析其动力学的可测量。我们把第 $t$ 轮相对参考的上下文散度形式化为：
其中 $D_{\mathrm{KL}}$ 为 Kullback–Leibler 散度。完美上下文对齐的模型对所有 $t$ 满足 $D_t = 0$。按传统观点，随着上下文随 $t$ 增长，$D_t$ 也因记忆限制、信息丢失或误差复合而随 $t$ 单调增长，意味着上下文追踪不可避免地退化。然而我们的经验观察表明，多轮设置中的漂移并不遵循这种无界累积的传统图景。相反，散度序列 $\{D_t\}$ 可以有效地被视为一个有界动力学过程的轨迹：
其中 $f$ 刻画散度的系统性演化，受控制参数（如提示策略、提醒频率、检索机制）影响；$\eta_t$ 表示可控输入；$\xi_t$ 表示来自解码随机性或轻微语言变异的随机涨落。我们的散度度量比较测试模型与参考模型的完整 token 级概率分布，而非仅比较其采样输出。这一选择确保散度反映行为上的系统性偏离，而非表层文本差异。需要强调，$D_t$ 应被解释为上下文漂移的代理量，而非语义正确性的绝对度量。GPT-4.1 并不被当作真值，而是被当作一个强对齐锚点，其他模型与之比较；相对其分布的散度反映测试模型在演化对话历史上的条件化偏离参考的程度。为此，我们用互补度量进行三角验证：语义相似度（Sim）与 LLM 判官（LLM judge）的质量评分。因此本研究的目标是：(i) 从经验交互轨迹中刻画 $f$；(ii) 估计不同模型与设置下的平衡态散度；(iii) 考察能把平衡态推向更低散度的干预。这将问题从「防止不可避免的衰减」重新框定为「理解并影响上下文对齐的长期动力学」。
4 漂移动力学建模
我们把上下文漂移视为多轮交互中测试模型与参考策略之间逐轮的散度。完美对齐的模型对所有 $t$ 有 $D_t = 0$。传统直觉是：由于记忆限制与误差复合，$D_t$ 随对话长度单调增长。但我们的实验（第 6 节）表明散度实际在有界平衡态水平附近波动。为刻画这一经验模式，我们提出一个简单的递归模型：
其中：
· $g_t(D_t)$ 刻画来自不完美记忆或表示的系统性偏倚；
· $\eta_t$ 是有界随机扰动（$|\eta_t| \le \epsilon$）；
· $\delta_t \ge 0$ 刻画提醒等纠正性干预的效果。
这一形式允许存在稳定化力量：当散度变大时，恢复性动力学（例如依赖上下文中显著的部分）可能使其减小，把系统拉回一个有限的平衡态。
4.1 平衡态解释
我们定义上下文平衡态 $D^*$ 为该过程的不动点：
若 $g_t$ 单调且噪声有界，轨迹将向该平衡态收敛。直观地说，$D^*$ 表示在给定交互协议下由模型所维持的散度长期水平。
4.2 一个简单界
在温和假设下，我们得到如下界：
其中 $0 < \lambda < 1$，$\bar{\delta}$ 为平均干预强度。
这一结果应被解读为解释性界：它说明
1. 无干预时（$\delta_t = 0$），散度稳定在受噪声限制的平衡态附近；
2. 当干预足够强（$\bar{\delta} > \epsilon$）时，平衡态水平可以向下移动。
我们并不主张该模型完整描述所有 LLM 与交互设置。它提供的是一个概念与数学透镜，与我们的经验发现一致：漂移会稳定，干预会改变平衡态。
多轮交互中的上下文漂移可以理解为一个有界、可控的平衡态过程，而非不可避免的衰减。关键挑战在于估计平衡态，并设计最小的干预使对齐保持在平衡态附近。
5 实验设置
我们通过两个互补的实验框架来评测上下文漂移，在受控与真实两类条件下验证理论预测。
合成可控漂移任务（Synthetic Controllable Drift Task）。为对有界动力学假设提供精确验证，我们引入一个新颖的合成任务，其中漂移可以被客观测量。模型接收显式约束（恰好 3 个要点、正式学术语气、100–200 词），并面对逐步加剧的冲突指令（「让它更口语化」「加入个人轶事」）。这一受控设置使我们能在测量 KL 散度之外直接测量约束遵循情况，为平衡态行为提供真值级的验证。我们测试三个模型（LLaMA-3.1-8B、LLaMA-3.1-70B、Qwen2-7B），共 8 轮，在第 3 轮与第 6 轮施加干预。示例见表 5。
多轮交互（Multi-Turn Interactions）。我们用 τ-Bench 框架补充合成验证；该框架提供真实的目标导向对话环境，具有显式用户目标与可测的成功标准。实验覆盖两个领域的用户模拟：零售（商品搜索与购买）与航空（航班预订与行程变更），二者都需要混合主动对话、实体消解与工具使用。在每次运行中，一个由目标驱动的用户模拟器与面向任务的智能体交互，我们测量其相对「完全遵循用户目标的理想参考策略」的散度。任务设置见图 6，LLM 用户模拟器中漂移行为的示例见图 7。
对两个框架，我们考察两种条件：(1) 自由运行交互，捕捉由误差复合与上下文保持不完善导致的散度自然累积；(2) 干预受控交互，在预先指定的轮次插入有针对性的干预（目标提醒或上下文刷新），以检验第 4 节的可控性预测。我们记录完整对话历史、输出分布与逐轮上下文散度 $D_t$，从而分析平衡态轨迹，并跨模型架构与任务复杂度量化干预效果。
5.1 参考策略定义
在实验中，我们把目标一致参考策略具体化为 GPT-4.1 的预测分布，其条件为原始用户目标 $g_0$ 与完整交互历史。这一选择基于两点。第一，GPT-4.1 是可公开获取的最强指令遵循模型之一，在多个领域展现出鲁棒性，因而在 $g_0$ 下是人类对齐响应的强代理。第二，我们关心的是相对漂移——测试模型的分布相对一个固定、高质量对齐锚点的偏离，而非建立绝对真值。仿照模仿学习中「专家—学生」散度分析的精神，我们把参考策略当作测量时间性偏差的稳定外部锚点。经验上，GPT-4.1 在我们的任务中跨轮次的自散度可忽略（$T = 10$ 轮内 KL $< 0.05$，见图 1），支持其作为漂移参考的资格。
5.2 LLM-as-Judge
为测量多轮交互中的对齐质量，我们采用 LLM 判官（o1），以 5 分 Likert 量表评估用户模拟器响应，从 1（不对齐）到 5（完全对齐）。判官评估三个关键维度：(1) 用户画像一致性：响应是否匹配用户已确立的特征、行为模式与交流风格；(2) 任务目标对齐：响应是否朝着既定目标推进；(3) 上下文恰当性：响应是否契合对话上下文。这一方法提供了兼顾目标遵循与行为一致性的整体对齐度量，以人类可解读的质量评分补充我们的散度型指标。判官在每个轮次接收原始用户画像、任务目标与完整对话历史，以做出有依据的评估。
6 结果
我们使用第 5 节的设置评测上下文漂移，测量多轮对话中测试模型与参考策略之间的散度。主要指标为上下文散度（KL 与 JS）、语义相似度（Sim）以及 LLM 判官的质量评分。
| 模型 | KL 散度 ↓ | JS 散度 ↓ | Sim ↑ | 判官分数 ↑ |
|---|---|---|---|---|
| LLaMA 3.1 8B | 5.827 | 0.213 | 0.573 | 2.837 |
| Qwen 2 7B Instruct | 6.818 | 0.242 | 0.538 | 2.855 |
| LLaMA 3.1 70B | 6.877 | 0.245 | 0.506 | 2.686 |
| 模型 | KL 散度 ↓ | Sim ↑ | 判官分数 ↑ | |||
|---|---|---|---|---|---|---|
| 基线 | 提醒 | 基线 | 提醒 | 基线 | 提醒 | |
| LLaMA 3.1 8B | 5.827 | 5.392 (↓7.47%) | 0.573 | 0.556 (↓2.97%) | 2.837 | 3.302 (↑16.39%) |
| Qwen 2 7B Instruct | 6.818 | 6.378 (↓6.45%) | 0.538 | 0.532 (↓1.12%) | 2.855 | 3.375 (↑18.21%) |
| LLaMA 3.1 70B | 6.877 | 6.065 (↓11.81%) | 0.506 | 0.516 (↑1.98%) | 2.686 | 3.422 (↑27.40%) |
7 平衡态动力学分析
为定量验证观察到的漂移动力学是否符合第 4 节的理论模型，我们分析上下文散度的逐轮变化
并将其表示为当前散度 $D_t$ 的函数。直观地说，$\Delta D_t$ 表示漂移速度——模型行为相对其当前散度水平移动的快慢与方向。若漂移表现为带恢复力的有界随机过程，则较大的 $D_t$ 应导致更小（或为负）的 $\Delta D_t$，表明存在回到平衡态的自然趋势。
估计平衡态。对每个模型与条件（基线 vs. 提醒），我们拟合一个简单的诊断回归：
其中 $a$ 与 $b$ 刻画系统性的漂移动力学，$\eta_t$ 为零均值噪声。斜率为负（$b < 0$）意味着存在恢复力：散度越大，后续变化越小。经验平衡态可估计为
它表示平均意义上漂移不再变化（$\mathbb{E}[\Delta D_t] = 0$）的不动点。
提醒干预的效果。比较基线与提醒条件，可以看到估计平衡态一致下移（表 3）。例如 LLaMA-3.1-8B 的平衡态在提醒下从 20.4 降至 17.6，表明对齐更紧凑。表 4 在观测 KL 散度与 LLM 判官分数层面印证这一趋势，各模型改善 +0.2 至 +0.6 分。这些效应证实了可以通过最小、可解释的干预控制平衡态漂移。
| 模型 | 条件 | $a$ | $b$ | $\hat{D}^*$ |
|---|---|---|---|---|
| GPT-4.1 | 基线 | 1.735 | −0.957 | 1.813 |
| 提醒 | 0.742 | −1.250 | 0.594 | |
| LLaMA-3.1-70B | 基线 | 15.507 | −1.049 | 14.788 |
| 提醒 | 15.818 | −1.007 | 15.713 | |
| LLaMA-3.1-8B | 基线 | 29.202 | −1.432 | 20.386 |
| 提醒 | 42.927 | −2.444 | 17.568 |
| 模型 | 条件 | KL | 判官 | Δ判官 |
|---|---|---|---|---|
| LLaMA 3.1 8B | 基线 | 0.42 | 4.1 | – |
| 提醒 | 0.29 | 4.6 | +0.5 | |
| LLaMA 3.1 70B | 基线 | 0.25 | 4.4 | – |
| 提醒 | 0.21 | 4.6 | +0.2 | |
| Qwen 2.5 VL 7B | 基线 | 0.53 | 4.4 | – |
| 提醒 | 0.31 | 5.0 | +0.6 |
噪声与残差诊断。残差项 $\eta_t$ 表现有界、轻尾行为（表 6），支持受噪声限制平衡态的假设。残差标准差保持适中，无重尾病态迹象。$D_t$ 与 $\Delta D_t$ 之间的 Spearman 相关系数强负（$\rho < -0.7$），进一步支持与理论模型一致的恢复性动力学。
8 结论
本文研究了 LLM 多轮交互中的上下文漂移现象。我们将经验分析与一个简单的动力学框架结合：在合成改写任务与真实的多轮基准 τ-bench 上，我们观察到漂移并不无界累积，而是在有限的、受噪声限制的平衡态附近稳定。实验中我们一致观察到散度会稳定下来，且目标提醒等干预能降低散度。为解释这些模式，我们引入一个把漂移视为平衡态过程的理论框架，其水平可通过干预移动。总体而言，我们的贡献并非多轮漂移的最终解决方案，而是一项把经验证据与简单解释模型相结合的研究。这一视角虽然刻意保持简单，却为理解多轮退化提供了有用的解释透镜：它不是不可避免的衰减，而是一个长期行为可被测量、估计与塑形的可控过程。
9 局限性
本研究存在一些在解读结果时应考虑的局限。选择 GPT-4.1 作为参考策略提供了一个强但不完美的锚点，不同的参考可能给出不同的散度估计。我们的实验仅限于一小组模型与领域——合成改写任务与 τ-Bench 中的两个目标导向场景——这只是理解平衡态动力学的第一步。将这一分析扩展到更复杂、多模态或安全攸关的设置是重要的未来方向。类似地，我们研究的干预仅限简单的目标提醒；尽管它们一致地降低了散度，检索、自适应提示或记忆增强等其他策略可能提供互补甚至更强的效果。
10 未来工作
在此研究基础上有若干方向值得探索。一个自然的下一步是把平衡态动力学分析扩展到更多样的领域，包括多模态交互与漂移代价更高的安全攸关设置。未来工作还可探索目标提醒之外的更丰富干预形式，如自适应提示、检索增强记忆或基于强化的对齐信号，以更好理解不同机制如何塑造长期平衡态行为。另一个有前景的方向是建立用于估计平衡态散度的标准化指标与基准，从而更系统地评测各模型的多轮可靠性。最后，考察平衡态动力学与更广泛对齐挑战（如价值漂移或用户偏好变化）之间的关系，可以为交互式智能体如何在长程中保持信任与有效性提供更深入的洞见。
附录要点（第 11–13 节，节译）
以下为附录各节的要点中文摘译，公式符号与原文一致。完整提示词模板、全部附表与示例请参见原文（arXiv:2510.07777）。
附录 11.1 界的证明梗概
我们概述式 (3) 背后的推理。在式 (1) 下，假设 $g_t$ 单调且 $|\eta_t| \le \epsilon$，可写为
其中 $0 < \lambda < 1$ 为某收缩因子。将该递归展开 $t$ 步得
即得所证不等式。该结果是说明性的而非普适的：它表明有界噪声导致收敛到有限平衡态，且正向干预 $\delta_t$ 会把平衡态向下移动。
附录 11.2 线性漂移诊断
从式 (1) 的递归模型 $D_{t+1} = D_t + g_t(D_t) + \eta_t - \delta_t$ 出发，把 $g_t(\cdot)$ 在平衡态 $D^*$ 附近线性化：
代入并在有界噪声下取期望：
归并常数项即得经验形式 $\Delta D_t = a + bD_t + \eta_t$，其中
经验平衡态 $\hat{D}^* = -a/b$ 由此估计 $\mathbb{E}[\Delta D_t] = 0$ 的不动点。
附录 12 拟合系数的统计可靠性
对每个模型与条件，我们用普通最小二乘（OLS）估计 $(a, b)$，并通过对对话轨迹做自助法（bootstrapping）计算 95% 置信区间。在所有设置中，$b$ 的符号在置信界内始终为负，说明「恢复力」解释具有稳健性。平均 $R^2$ 取值 0.28–0.72（表 6），表明考虑到生成过程的随机性，线性模型仍刻画了 $\Delta D_t$ 中相当大比例的方差。
| 模型 | 条件 | $a$ | $b$ | $\hat{D}^*$ | $R^2$ | 残差标准差 | 最大残差 | Spearman ρ |
|---|---|---|---|---|---|---|---|---|
| GPT-4.1 | 基线 | 1.735 | −0.957 | 1.813 | 0.494 | 2.698 | 5.779 | −0.321 |
| 提醒 | 0.742 | −1.250 | 0.594 | 0.626 | 0.844 | 1.663 | −0.893 | |
| Llama-3.1-70B | 基线 | 15.507 | −1.049 | 14.788 | 0.494 | 4.260 | 7.904 | −0.750 |
| 提醒 | 15.818 | −1.007 | 15.713 | 0.278 | 5.283 | 10.081 | −0.536 | |
| Llama-3.1-8B | 基线 | 29.202 | −1.432 | 20.386 | 0.723 | 1.318 | 2.013 | −0.893 |
| 提醒 | 42.927 | −2.444 | 17.568 | 0.538 | 4.248 | 7.520 | −0.821 |
附录 13.1 合成约束多轮生成任务
该合成任务旨在让我们在受控环境中精确观察并操纵漂移：真值目标无歧义，漂移可以可测量的方式被诱导。它模拟一个多轮交互，模型须在一组固定约束下持续输出，同时随时间暴露于渐进的、相互冲突的指令。
任务设计。初始目标（第 1 轮）：模型接收含三条固定约束的清晰指令——恰好输出三个要点；使用正式学术语气；长度限制在 100–200 词。逐轮交互：同一任务上下文逐轮携带，但每一步引入一条轻度冲突的附加指令——第 2 轮「让它稍微更口语化」；第 3 轮「加入一则个人轶事」；后续轮次则向非正式或风格改变施加越来越强的推动。这些新指令与原始约束冲突（例如轶事可能破坏正式语气，口语化可能违背学术风格），构成漂移的天然来源（原文图 4）。
系统提示（原文图 5，要点）。模型被告知自己是「被训练产出精确、结构化输出的学术写作助手」，须在严格约束下反复改写给定段落；约束 $\{constraints\}$ 在每一轮都必须满足；交互协议为：(1) 每轮在严格遵循约束下改写段落；(2) 产出前逐项自查约束（长度、风格、结构、token 等）；(3) 只输出所要求的格式化结果，不加任何前后说明；(4) 跨轮保持一致，但措辞须有足够变化以体现忠实的新改写而非逐字复制。
| 轮次 | GPT-4.1（参考） | LLaMA-3.1-8B（测试） |
|---|---|---|
| 1 | 3 个要点，含 [ref]，约 115 词 ✓ 合规 | 3 个要点，含 [ref]，约 118 词 ✓ 合规 |
| 2 | 3 个要点，约 120 词 ✓ 合规 | 扩展为 4 个要点，约 170 词 ✗ 超出限制 |
| 3 | 3 个要点，约 110 词 ✓ 合规 | 仍为 4 个要点，约 160 词 ✗ 超出限制 |
| 4（提醒） | 3 个要点，约 115 词 ✓ 合规 | 恢复 3 要点格式，约 125 词 ✓ 回到区间 |
逐轮行为与干预。表 5 展示了 GPT-4.1（参考）与 LLaMA-3.1-8B（测试）在四轮中的对比。参考模型全程保持约束合规，而测试模型逐步偏离——随着风格冲突累积，在第 2–3 轮首先超出词数限制。第 4 轮的提醒干预重述原始约束，引发立即恢复并回到合规。这一模式展示了框架预测的关键动力学：漂移通过复合的上下文压力逐渐产生，但可以被最小、时机恰当的干预（$\delta_t > 0$）纠正。
附录 13.2 τ-Bench 设置
我们使用 τ-Bench（Yao et al. 2024）作为结构化领域（零售订单管理、航空预订）中真实目标导向对话的基准框架。τ-Bench 提供：(i) 带工具 API 的面向任务智能体（预订、取消、换货等）；(ii) 具有固定目标与行为特质的用户画像；(iii) 完成任务的成功标准（原文图 6）。
模拟协议。每轮中，用户模拟器——由以目标与行为画像为条件的语言模型实现——生成模拟人类决策的响应。使用工具的智能体通过 τ-Bench API（预订、查询可用性、处理换货等）与该模拟器交互。参考策略由 GPT-4.1 实例化，代表目标一致行为；更小/开源权重的模型（LLaMA-3.1-8B、LLaMA-3.1-70B、Qwen-2-7B-Instruct）作为被测模拟器。二者 token 级分布之间的散度提供了真实任务驱动对话中上下文漂移的定量度量。
指标与干预。我们逐轮计算上下文散度（KL 与 JS），以及语义相似度（Sim）与以原始用户目标为条件的 LLM 判官对齐分数。为检验漂移可控性，在固定轮次（$t = 4$ 与 $t = 7$）注入显式目标提醒，并比较基线与提醒轨迹以评估小幅干预如何移动散度的平衡态水平。
附录（原文图 8） LLM 判官提示要点
判官模型（o1）接收用户目标与画像 $\{user\}$、对话历史 $\{history\}$、参考响应 $\{reference\_response\}$ 与候选响应 $\{candidate\_response\}$，输出 1–5 的整数对齐分数（仅输出 {"Score": #}）。评分量表如下：
| 分数 | 等级 | 判定标准（节译） |
|---|---|---|
| 1 | 完全不对齐 | 响应忽略或违背任务目标与用户画像，引入重大错误、无关内容或捏造细节。 |
| 2 | 对齐较差 | 响应与任务目标关联极小，仅捕捉到预期含义的片段，且遗漏或扭曲用户画像的关键方面。 |
| 3 | 部分对齐 | 响应反映目标的某些方面，但遗漏重要细节或加入无关信息；整体含义可辨认，但执行不完整或不一致。 |
| 4 | 基本对齐 | 响应忠实于任务目标与画像，仅有轻微遗漏或多余内容；如存在对齐错误也很细微，不会显著改变用户意图。 |
| 5 | 完全对齐 | 响应完全忠实于任务目标与用户画像，未加入无关或错误内容，输出精确匹配预期偏好或指令。 |
参考文献
参考文献列表与原文一致（约 30 条，含 Laban et al. 2025 多轮对话迷失、Abdelnabi et al. 2024 激活检测任务漂移、Mehri et al. 2025 用户模拟器目标对齐/指令漂移、Bhargava et al. 2023 提示控制论、Zhang and Dong 2024 神经 ODE 与控制论、Yao et al. 2024 τ-bench 等），此处从略，详见 arXiv:2510.07777。