Transformer 以因果方式处理信息，但长上下文推理可能依赖于只有在后续才能发现的任务状态。
在这项工作中，研究团队通过条件状态更新任务将这种不匹配形式化。对于因果状态更新处理器而言，在最坏情况下，先提供条件可能比最后提供条件要少指数级的内容量。
受这一原则启发，团队提出了“以轨迹作为状态”（Trace as State）方法。团队将收集到的推理轨迹作为任务状态的文本代理，并在一次新的推理过程中将其置于上下文块之前，使先前推导出的信息能够指导对上下文的重新阅读。
团队对 Trace as State 以及作为对照组的 Trace Append 进行了大量实验，后者使用相同的任务状态代理，但将其置于上下文之后。在三个模型和三个长上下文数据集上，Trace as State 在所报告的 27 种模型、任务与指标组合中的 26 种上优于 Trace Append；在 GraphWalks Parents 任务上，精确匹配率方面，DeepSeek V4 Pro Preview 从初次推理的 29.2%、使用 Trace Append 的 43.0%，提升到使用 Trace as State 的 81.8%；GLM-5.2 则从 66.4% 和 83.2% 提升到 100.0%。这些结果表明，将推理轨迹置于上下文之前，可以在保留因果 Transformer 结构的同时，提升长上下文推理能力。