L5 / 前綴快取失效

01 / 問題

方法

未訓練雙層網路，三個固定種子 × 六種條件；新鮮計算、無條件重用和帶鍵校驗重用對照。

結果

18 例帶校驗路徑誤差均為 0（本機 float64）；錯誤重用在前綴、權重、窗口變化後產生非零誤差。

觀察

作用域變化時數值誤差仍為 0，但快取鍵拒絕共享；繼續階段投影行數為命中 24、未命中 72。

結論

前綴身份需要包含計算配置和應用作用域；數值等價不證明允許重用。

限制

沒有語言能力、GPU 或時延測量；作用域為呼叫方字串，不是認證。整份權重哈希僅適合教學模型。

重現

固定版本倉庫包含協議、原始結果和獨立審計；文章提供逐步命令。

1. 機制拆解

   LLM 機制實驗（四）：前綴改了，舊 KV Cache 還能繼續用嗎？

   三種子、六條件，比較錯誤重用與帶鍵校驗的前綴快取；數值相同也不代表允許跨作用域共享。

   2026-10-039 分鐘已發布
2. 專案 / 002

   Java LLM 實作集

   Java 會話、請求重試與持久化邊界，以及注意力、快取成本和量化誤差的可復現實驗。

   開發中
3. 機制拆解

   LLM機制實驗（二）：KV Cache省掉了什麼，怎樣證明沒有算錯？

   逐前綴重算、逐Token快取與分塊快取三路對照，記錄誤差、投影行數和真實數組字節。

   2026-10-038 分鐘已發布
4. 機制拆解

   LLM機制實驗（三）：快取只留四格，為什麼不等於重算四個Token？

   用雙層滑動注意力區分絕對位置、快取槽位和歷史表示，展示兩種形狀正確卻計算錯誤的實現。

   2026-10-038 分鐘已發布