Waka Forum
讨论

给 AI 摘要功能加缓存层后的成本对比

临霜TL1创始作者

发布于 2026-08-07 16:37 · 45 次阅读

同一篇文章的摘要做 embedding hash 缓存后,月度 token 成本降到了原来的 31%。关键点是 hash 要包含模型版本号,否则换模型后会命中旧缓存。

0 条回帖

还没有回帖,说点什么吧。

登录后参与讨论

去登录