KV 缓存开销剖析：把省下的计算和新增的工作分开

01 / 问题

对909次查询做分段计时，验证源码签名、查找、复制与续算分别花在哪里，同时保留缓存仍慢的结果。

方法

先冻结协议和源码，再运行并保存原始记录；独立脚本复算数值和校验哈希。

结果

909次查询；重算/每次签名/冻结签名中位数252.7/682.7/273.6微秒。

观察

909次查询；重算/每次签名/冻结签名中位数252.7/682.7/273.6微秒。

结论

结论限于本篇所列变量与验收口径，保留失败及未验证部分。

局限

教学规模、固定条件；不是在线模型质量、生产吞吐或真机安全结论。完整在线助手与VL01仍未完成。

复现

正文包含固定提交、环境、运行与独立审计命令。

1. 机制拆解

   KV 缓存开销剖析：把省下的计算和新增的工作分开

   对909次查询做分段计时，验证源码签名、查找、复制与续算分别花在哪里，同时保留缓存仍慢的结果。

   2026-10-079 分钟已发布
2. 项目 / 002

   Java LLM 实践集

   Java 会话、请求重试与持久化边界，以及注意力、缓存成本和量化误差的可复现实验。

   构建中
3. 机制拆解

   LLM 机制实验（七）：缓存省了计算，为什么实测反而更慢？

   4860次实测查询比较三种缓存准入策略，把字节预算、工作集、计算量与本地耗时放在一起验证。

   2026-10-0512 分钟已发布