Anthropic用消息线程降低长上下文Agent等待时间
Anthropic推出消息线程，让每轮请求只发送新增内容，超长请求首个Token延迟中位数下降约35%。
Anthropic推出了面向Claude应用的消息线程功能，目标是减少长对话历史在每轮请求中的重复传输。开发者可以先创建一个线程，之后只提交新增内容。Anthropic会在服务器端短期保存线程，但应用本身仍是会话的真实来源，必须自行保留完整对话副本。
Anthropic表示，这一功能尤其适合长期运行的Agent和Claude Code工作流。对于包含约50万至100万Token的请求，公司称首个Token延迟中位数可下降约35%。消息线程目前已在Anthropic原生平台进入测试，也可用于AWS、Microsoft Foundry和Google Cloud上的托管Claude服务。
这项改进本质上是基础设施优化，而不是模型能力升级。它不会让模型更擅长推理，也不会直接扩大模型的正式上下文上限；它做的是减少每轮请求中需要重复上传和处理的旧内容。对于连续数小时运行的Agent来说，文件、工具结果和历史决策会不断累积，减少这些重复开销可能显著改善交互节奏。
代价也很明确：线程状态会成为应用对Anthropic平台的依赖，而且线程是尽力而为的临时机制——最后一次请求后5分钟会过期，最后使用后最迟1小时会被删除。开发者还需要理解哪些参数在同一线程中必须保持不变。文档对模型、工具、思考模式、上下文管理和其他配置都有约束。要构建跨供应商运行的系统，团队可能仍需额外设计一层兼容接口。
为什么重要：长上下文Agent的瓶颈往往不是模型智力，而是等待、带宽和重复处理Token的开销。百万Token规模下，延迟降低35%可能让编程和研究流程明显更顺畅。不过，Anthropic尚未公布完整的成本对比，也缺少独立基准验证。