實驗 / 001

檢索品質對照實驗

固定一組問題與資料,記錄命中文件、引用與回答正確性,比較有無檢索的差異。

實驗中 ·

實驗結果

GitHub ↗

01 / 問題

实验设计草案 · 尚未执行

02 / HYPOTHESIS

在资料确实包含答案的问题上,固定生成模型后,加入检索可能改善可追溯回答;资料缺失时不一定改善。

03 / VARIABLES

自变量
是否检索;检索参数作为后续单独对照,首轮不同时改变。
控制变量
问题集、资料快照、生成模型版本、提示词、采样参数与评分规则。
因变量
命中文档、引用支持程度、回答正确性与耗时。

04 / DATASET

尚未确定。执行前记录数据来源、许可、样本与划分。

05 / BASELINE

同一模型不使用检索,使用相同问题与输出格式。

06 / METRICS

计划记录 Recall@k(需相关性标注)、引用支持率、人工评分以及每题耗时;保留逐题原始记录。

07 / SUCCESS CRITERIA

在相同问题上比较成对结果与不确定性;仅当改善稳定且引用确有支撑时支持假设。先确定样本量与判定阈值,再运行。

08 / RISKS

数据泄漏、相关性标注偏差、生成随机性和小样本会影响结论;资料缺失题单独分析。

09 / REPRODUCE

执行后补充代码、配置、数据版本与运行命令。

方法

保留 A4 的 10 篇合成語料/14 題 BM25 基線;A5 新增 22 個閉合配置聲明案例,獨立檢查引用、修訂、範圍、欄位與完整性。

結果

A4:12 道有答案題中 11 題命中 top1/top3,一道無答案題仍返回候選。A5:引用存在基線接受 13/22,其中 10 個違反契約;完整契約的 22 個狀態均符合凍結標籤。

限制

沒有生成模型或在線請求;欄位規範匹配不是通用語義蘊含。完整有無 RAG 回答對照仍未執行,註冊表與請求範圍是可信前提。

繼續探索

繼續探索

  1. 論文 / 001

    Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks

    生成模型如何利用外部知识?

    閱讀入口
  2. 工程案例

    Java LLM 實踐(六):先驗收檢索證據,再談RAG回答

    10篇原創合成資料、14個固定問題,手寫BM25與引用邊界;保留詞匯失配和無答案題的誤命中。

    8 分鐘已發布
  3. 專案 / 002

    Java LLM 實作集

    Java 會話、請求重試與持久化邊界,以及注意力、快取成本和量化誤差的可復現實驗。

    開發中
  4. 工程案例

    Java LLM 實踐(七):引用是真的,為什麼答案仍然不能通過?

    22 個固定配置案例,拆開引用存在、版本範圍、欄位支持與完整性,驗證 Java 回答驗收邊界。

    9 分鐘已發布

← 返回目錄