實驗 / 005

L1 / 上下文位置試驗:提前停止的一輪

6 組虛構資料的四條件對照;29 次嘗試后停止,位置差異尚無定論。

尚無定論 ·

實驗結果

GitHub ↗

01 / 問題

移動同一條事實,模型是否仍能找到答案?

方法

凍結 6 組資料、四條件、兩次重複,預算 48;隨機順序但無重試,連續三次請求/協定失敗停止。

結果

嘗試 29 次:26 份正常回應符合預期,隨後 3 次 HTTP 429;19 次未執行。

觀察

回傳樣本中 20 份編號正確、6 份正確拒答;請求失敗與模型答錯分別記錄。

結論

尚不足以估計上下文位置的影響;不將 26/26 當作完整實驗成功率。

限制

固定短材料、樣本少且相關、分組不平衡;不是長上下文基準或論文重現。

重現

Java 工程提供 92 項離線斷言、完整請求計畫及獨立 audit.mjs。新實測需新目錄與獨立預算。

繼續探索

繼續探索

  1. 實驗回顧

    把答案放在上下文中間,模型就會漏掉嗎?一次提前停止的對照試驗

    用 Java 固定 6 組虛構資料,對照開頭、中間、末尾與無答案條件;公開 29 次請求、HTTP 429 和不能下的結論。

    12 分鐘已發布
  2. 機制拆解

    KV Cache 拆解:多輪對話的歷史,為什麼還要再傳一遍?

    從因果注意力推導 K/V 復用,用一個可計算的記憶體例子區分推理快取、前綴快取與聊天記錄。

    10 分鐘已發布
  3. 專案 / 002

    Java LLM 實作集

    五個 Java 8 Demo與TypeScript邊界對照:請求、輸出驗收、交易式歷史及可追溯實驗。

    開發中
  4. 工程案例

    LLM 實驗(二):先讓對照成立,再談上下文位置

    以 Java 8 實作成組對照與節流,完成 Agnes 3.0 的24次真實請求;公開逐項評分、服務端用量,並解釋全對結果的邊界。

    16 分鐘已發布

← 返回目錄