通信世界网消息(CWW)近日,月之暗面旗下Kimi开放平台宣布了一项重大价格调整政策,针对其上下文缓存(Context Caching)功能,将Cache存储费用直接降价50%。
据官方介绍,上下文缓存作为一种高效的数据管理技术,自公测以来便以其显著降低使用成本和提升模型响应速度的优势,赢得了众多开发者的青睐。该技术允许系统预先存储可能会被频繁请求的大量数据或信息,从而在用户再次请求相同信息时,能够直接从缓存中快速提供,避免了重复计算和数据检索的过程,极大地节省了时间和资源。
官方表示,在保持API价格不变的前提下,通过降低Cache存储费用,开发者在使用长文本旗舰大模型时将能够享受到更加实惠的价格,进一步激发市场活力。
据悉,降价后的上下文缓存收费模式依然清晰透明,主要包括Cache创建费用、存储费用以及调用费用三个部分。其中,Cache创建费用按照实际存储的Tokens量计费;存储费用在Cache存活时间内按分钟收取,降价后费用将直接减半;而调用费用则根据用户通过chat接口请求已创建成功的Cache次数进行收取,若请求内容与存活中的Cache匹配成功,将按调用次数计费。
业内认为,此次降价政策的实施,预计将为众多开发者带来实质性的成本节约,同时也将推动上下文缓存技术在更多业务场景中的应用。无论是提供大量预设内容的QA Bot、针对固定文档集合的频繁查询工具,还是对静态代码库或知识库的周期性分析应用,都将从这一降价政策中受益,实现更高效、更经济的模型运行。