The Decoder· Matthias Bastian·· 5 小时前
Anthropic 在 Claude 平台公测 Message Threads,长对话首字延迟降低约 35%
Anthropic's Message Threads cut time to first token by 35 percent for long conversations
AI 导读
Anthropic 在 Claude 平台公测 Message Threads,API 请求只传输上次消息以来的变化内容,不再重发完整对话历史。按 Anthropic 说法,在 50 万至 100 万 token 的请求中,首字延迟降低约 35%,编码 Agent、计算机操作 Agent 以及处理大量文档或图像的工作流受益最明显。
来源:The Decoder · the-decoder.com