跳到正文
宝玉· @dotey · X·· 4 小时前精选AI 评分71
AI 导读

Anthropic 在 Messages API 上线 Message Threads 公测,服务器暂存对话,后续请求只需发送新消息和上一条回复 ID。官方数据显示 50 万到 100 万 token 的请求等待时间中位数缩短约 35%,单次请求大小中位数从约 800 KB 降到 1.8 KB,按标准 token 价格计费且速率限制不变。

推荐理由

原文把消息线程与提示词缓存的区别、计费方式和过期限制讲清楚,便于开发者判断是否接入。

正文 · 原文

Claude API 公测 Message Threads:长对话不用每轮重发历史,回复更快,价格不变

Anthropic 今天给 Messages API(开发者调用 Claude 的主要接口)上线了“消息线程”(message threads)公测:服务器替你把对话暂存几分钟,下一轮只需要发新消息和上一条回复的 ID。

以前这个接口不记历史消息,每次请求都要把之前所有消息、工具返回的结果从头再发一遍。Agent 一次会话可能发几百个请求,对话涨到几十万 token 后,光是重发就会拖慢 Claude 开始回复的时间。

Claude Code 已经给大多数用户默认开了这个功能。官方数据:50 万到 100 万 token 的请求,从发出到 Claude 开始输出的等待时间(中位数)缩短约 35%;长对话里,单次请求的大小(中位数)从约 800 KB 降到 1.8 KB。

【要多花钱吗】

不用,但也省不了钱。按标准 token 价格计费,速率限制不变。请求虽然变小了,Claude 每轮仍要读一遍完整对话,消耗的 token 和以前一样。

【和提示词缓存有什么区别】

提示词缓存(prompt caching)让服务器不用重复处理已经读过的内容,命中缓存的部分按更低价格计费,省的是钱和计算。消息线程省的是上传,你不用再把整段历史传过去。线程不会自动帮你做缓存,缓存断点还得自己设,官方示例里两者是一起用的。

【开发者怎么用】

在请求里加 thread 参数和 beta 请求头(message-threads-2026-08-12)。第一轮照常发完整对话、系统提示词和工具定义,标记为新建线程;之后每轮只发新消息,带上上一条回复的 ID。

线程 5 分钟没有新请求就过期,接口返回 404,这时要用你自己保存的完整对话重新建一个线程。所以本地仍要留一份完整记录,官方 SDK 的辅助方法能自动处理这一步。

线程中途不能改系统提示词和工具,模型、思考设置也要和第一轮一致,想改就得重开线程。线程数据加密存在内存里、不写硬盘,但它不支持零数据保留(ZDR)和 HIPAA 合规,对数据留存有严格要求的企业要留意。批处理接口暂不支持。

适合长时间运行的 Agent、操作电脑的 Agent(截图不用每轮重传),以及带大量文档、图片的对话。Claude 自家平台、AWS、Microsoft Foundry 和 Google Cloud(Anthropic 托管版)上都能用。

博客:https://claude.com/resources/articles/message-threads
文档:https://platform.claude.com/docs/en/build-with-claude/message-threads

引用ClaudeDevs@ClaudeDevs
Message threads are now in public beta on the Messages API. The API caches your conversation on the server between turns, so instead of resending the full conversation, you send only new messages and the previous message ID, and Claude starts responding sooner.
在 X 查看被引用的帖子

来源:宝玉 · x.com