三易生活 08-08
Kimi开放平台下调上下文缓存功能Cache存储费用
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

日前,AI 初创公司月之暗面方面宣布,旗下 Kimi 开放平台上下文缓存(Context Caching)功能中的 Cache 存储费用下调 50%。在此次调整后,其 Cache 存储单价由 10 元 /1M tokens/min 降至 5 元 /1M tokens/min,但 Cache 创建与调用的价格则保持不变。

此前在 7 月 1 日,Kimi 开放平台的上下文缓存功能开放公测,收费方式主要分为 Cache 创建费用、Cache 存储费用、Cache 调用费用 3 种。其中,Cache 创建费用是在用户调用 Cache 创建接口并成功创建后,按照 Cache 中 Tokens 的实际量计费;Cache 存储费用是在 Cache 存活时间内按分钟收取费用;Cache 调用费用则是以增量 token 与成功调用次数为标准收费。

据了解,上下文缓存功能适用于请求频繁、且需重复引用大量初始上下文的情况,其能够缓存重复的 Tokens 内容、有效降低用户在请求相同内容时的成本。具体而言,该功能的典型应用场景包括提供大量预设内容的 QA Bot、针对固定文档集合的频繁查询、对静态代码库或知识库的周期性分析、交互规则复杂的 Agent 类应用,以及瞬时流量巨大的爆款 AI 应用等。

对此月之暗面方面透露,在业务合适场景中使用该功能,根据客户的业务特性最高可节省 90% 的调用成本," 简单来说,越是规模化、重复度高的 prompt 场景,Context Caching 功能带来的收益就越大 "。

不久前,月之暗面旗下智能助手 Kimi 还上线了 " 给 Kimi 加油 " 这一付费选项,用户购买后即可获得高峰期优先使用等权益。而在价格方面,共提供了 6 种付费选项,例如 5.2 元 /4 天、9.99 元 /8 天、28.8 元 /23 天等。但需要注意的是,该服务的时长自用户支付完毕服务费用之后,按照实际经过的自然时间(1 天为 24 小时)计算,无论用户在相应时间是否实际使用了 Kimi。

【本文图片来自网络】

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

逗玩.AI

逗玩.AI

ZAKER旗下AI智能创作平台

相关标签

kimi ai
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论