實驗 / 024

Java LLM 實踐(九):取消請求後,舊回答為什麼還會覆蓋新會話?

18 種固定執行緒交錯,驗證流式預覽、完成和錯誤回呼的請求歸屬,以及取消和有限冪等的邊界。

已完成 ·

實驗結果

GitHub ↗

01 / 問題

方法

真實工作執行緒與主執行緒,9種固定交錯×2策略,合成記憶體SSE重用A6解析器。

結果

18次執行:樸素策略7種違反契約,請求歸屬檢查9種通過;另有7組邊界檢查。

觀察

舊預覽和舊錯誤即使沒有最終覆蓋頁面,也可能破壞中間狀態;完整回答不保證仍屬於當前會話。

結論

預覽、完成和失敗都應在同一臨界區驗證請求歸屬並修改狀態。

限制

本地固定交錯,不是在線故障率;取消不保證停止計費;ID視窗僅單行程有界保留。

重現

固定程式碼和原始記錄見倉庫;正文給出運行、獨立審計和回放命令。

繼續探索

繼續探索

  1. 工程案例

    Java LLM 實踐(九):取消請求後,舊回答為什麼還會覆蓋新會話?

    18 種固定執行緒交錯,驗證流式預覽、完成和錯誤回呼的請求歸屬,以及取消和有限冪等的邊界。

    10 分鐘已發布
  2. 專案 / 002

    Java LLM 實作集

    Java 會話、請求重試與持久化邊界,以及注意力、快取成本和量化誤差的可復現實驗。

    開發中
  3. 工程案例

    Java LLM 實踐(八):流式回答斷了,半句答案該不該進入歷史?

    22 個回環 HTTP 案例,驗證 UTF-8、SSE 分幀、取消與異常結束,把逐步預覽和完整歷史提交分開。

    11 分鐘已發布
  4. 實作教程

    用 Java 8 呼叫大型語言模型:從第一次請求到多輪對話

    透過三個實際執行的 Java 範例,理解模型請求、JSON 解析、讀取逾時與對話歷史。

    15 分鐘已發布

← 返回目錄