LLM 机制实验（五）：改了历史，能否只重算变化的后缀？

01 / 问题

27 个固定条件、81 个原始数组，验证最长相同前缀裁剪、位置同步、滑窗回退与作用域隔离。

方法

未训练双层 NumPy 模型，3 种子 × 9 条件；比较完整重算、正确裁剪与保留旧位置的负对照。

结果

27 例正确路径最大误差约 3.89e-16；9 个局部复用负对照产生明显误差，归档 81 个数组。

观察

修改第五个 Token 时 cut=4，继续阶段投影行数 48 对完整重算 72；滑窗部分命中必须回退。

结论

复用连续相同前缀需要同步 K/V、绝对位置、作用域和仍可用的缓存状态。

局限

无训练模型、tokenizer、GPU 或时延测量；计数不含预填充、哈希、查找与复制。作用域字符串不是认证。

复现

固定代码和原始记录见仓库；正文给出运行、独立审计和回放命令。

1. 机制拆解

   LLM 机制实验（五）：改了历史，能否只重算变化的后缀？

   27 个固定条件、81 个原始数组，验证最长相同前缀裁剪、位置同步、滑窗回退与作用域隔离。

   2026-10-0310 分钟已发布
2. 项目 / 002

   Java LLM 实践集

   Java 会话、请求重试与持久化边界，以及注意力、缓存成本和量化误差的可复现实验。

   构建中
3. 机制拆解

   LLM 机制实验（四）：前缀改了，旧 KV Cache 还能继续用吗？

   三种子、六条件，比较错误复用与带键校验的前缀缓存；数值相同也不代表允许跨作用域共享。

   2026-10-039 分钟已发布
4. 机制拆解

   LLM机制实验（三）：缓存只留四格，为什么不等于重算四个Token？

   用双层滑动注意力区分绝对位置、缓存槽位和历史表示，展示两种形状正确却计算错误的实现。

   2026-10-038 分钟已发布