注意力分块：不保存完整分数矩阵，如何保持结果？

01 / 问题

从错误的分块平均出发，推导在线Softmax累加，并用9组数组和558次计时区分省内存与加速。

方法

先冻结协议和源码，再运行并保存原始记录；独立脚本复算数值和校验哈希。

结果

9组数组，最大数值差3.33e-16；558次计时中分块路径仍更慢。

观察

9组数组，最大数值差3.33e-16；558次计时中分块路径仍更慢。

结论

结论限于本篇所列变量与验收口径，保留失败及未验证部分。

局限

教学规模、固定条件；不是在线模型质量、生产吞吐或真机安全结论。完整在线助手与VL01仍未完成。

复现

正文包含固定提交、环境、运行与独立审计命令。

1. 机制拆解

   注意力分块：不保存完整分数矩阵，如何保持结果？

   从错误的分块平均出发，推导在线Softmax累加，并用9组数组和558次计时区分省内存与加速。

   2026-10-079 分钟已发布
2. 项目 / 002

   Java LLM 实践集

   Java 会话、请求重试与持久化边界，以及注意力、缓存成本和量化误差的可复现实验。

   构建中
3. 机制拆解

   LLM机制实验（二）：KV Cache省掉了什么，怎样证明没有算错？

   逐前缀重算、逐Token缓存与分块缓存三路对照，记录误差、投影行数和真实数组字节。

   2026-10-038 分钟已发布