后端
Claude API公测消息线程功能 长对话无需反复上传历史 首词延迟可降低35%
蓝点网0 views
#人工智能 Claude API 开始公测消息线程功能,该功能可以复用对话历史减少反复上传历史内容,让模型响应速度更快。消息线程功能的原理是,首次发送完整对话内容,线程创建后,后续只需要发送新增内容即可。在长对话中单次请求大小的中位数从 800KB 降低到 1.8KB,Claude 开始输出的中位等待时间缩短 35%。该功能主要是提高效率,不会降低 Token 数量,但也不需要额外付费即可使用。查看全文:https://ourl.co/128028
Source:https://www.landian.news/archives/128028.html