實驗 / 033

KV 快取開銷剖析:把省下的計算和新增的工作分開

對909次查詢做分段計時,驗證源碼簽名、查找、復制與續算分別花在哪里,同時保留快取仍慢的結果。

已完成 ·

實驗結果

GitHub ↗

01 / 問題

方法

先凍結協議和源碼,再運行并保存原始記錄;獨立腳本復算數值和校驗哈希。

結果

909次查詢;重算/每次簽名/凍結簽名中位數252.7/682.7/273.6微秒。

觀察

909次查詢;重算/每次簽名/凍結簽名中位數252.7/682.7/273.6微秒。

結論

結論限于本篇所列變量與驗收口徑,保留失敗及未驗證部分。

限制

教學規模、固定條件;不是在線模型質量、生產吞吐或真機安全結論。完整在線助手與VL01仍未完成。

重現

正文包含固定提交、環境、運行與獨立審計命令。

繼續探索

繼續探索

  1. 機制拆解

    KV 快取開銷剖析:把省下的計算和新增的工作分開

    對909次查詢做分段計時,驗證源碼簽名、查找、復制與續算分別花在哪里,同時保留快取仍慢的結果。

    9 分鐘已發布
  2. 專案 / 002

    Java LLM 實作集

    Java 會話、請求重試與持久化邊界,以及注意力、快取成本和量化誤差的可復現實驗。

    開發中
  3. 機制拆解

    LLM 機制實驗(七):快取省了計算,為什麼實測反而更慢?

    4860次實測查詢比較三種快取準入策略,把位元組預算、工作集、計算量與本地耗時放在一起驗證。

    12 分鐘已發布

← 返回目錄