
DeepSeek 为什么把缓存涨了 11 倍?长上下文需求暴涨,得交点「存储税」了
DeepSeek V4 Pro API 缓存命中价格在高峰时段涨幅达 11 倍,反映长上下文需求激增带来的存储成本压力。
资讯解读
DeepSeek 宣布调整 V4 Pro API 的定价策略,其中缓存命中价格在高峰时段出现显著上涨。这一变化直接关联到大模型处理长文本时的存储与数据搬运成本。
缓存机制类似于大模型的“草稿纸”,用于存储已处理过的上下文信息,避免重复计算。长上下文需求的爆发式增长,使得这一存储环节的成本变得不可忽视。
此次调价意味着依赖长上下文功能的开发者将面临更高的使用成本。这可能促使行业探索更高效的上下文压缩技术或优化模型架构,以平衡性能与成本。
大模型服务从单纯的算力竞争,逐渐转向对存储和数据处理效率的考量。这一趋势表明,随着应用场景的深化,基础设施的各个环节成本都将成为关键因素。
本站展示内容为基于公开信息的资讯解读与整理,不代表原文转载。如需核实细节或获取完整报道,请通过下方链接访问原始来源。