market-claim-verifier · eval v2 · 2026-10-28

同一個模型,接上 SEC 證據之後判斷對了多少

357 條金融說法(程式生成 260、模型改寫 54、真實新聞 43),每條都由獨立腳本從 SEC 申報資料算出標準答案,並在任何模型跑之前先 commit。六個系統各判一次,共 2,142 個判決。下面可以看準確率怎麼算、各系統差在哪,也可以逐條打開看引用了哪份申報的哪個數字。

判決流程

模型提出,程式決定

「一次回答」只把說法丟給模型,靠記憶作答。「Agent」讓模型呼叫 SEC 查詢工具並引用證據編號,但最後的判決由程式重算:它自己從原文解析數字、精度和比較詞,再拿 SEC 數字比對。

  1. 程式拆成子說法一句話可能含多個數字,逐一檢查。
  2. 模型查 SEC 資料呼叫 lookup_fact、compute_change,拿到帶編號的證據 E1、E2…
  3. 程式解析原文「$143.1B」→ 數值與精度 ±$0.05B;「超過」→ 不等式。模型選的比較方式只記錄不採用。
  4. 程式核對證據只接受真實的證據編號;財年與曆年兩種讀法都要檢查。
  5. 程式下判決屬實、不實,或證據不足;並標註證據強度(10-K 經審計 / 10-Q 經核閱 / 推算)。
三種執行方式 × 兩種方法

準確率與 95% 信賴區間

準確率 = 判決與標準答案一致的條數 ÷ 357;失敗或被預算擋下的都算錯。黑線是 Wilson 95% 信賴區間。「差距」是同一批題目上配對比較的結果(10,000 次 bootstrap)。

題型

哪類說法最容易判錯

每格是答對條數 / 題數。題型說明:近似值(約、大約)、不等式(超過、至少)、年增率、季度與全年或財年與曆年的陷阱、單位陷阱(百萬寫成十億)、多數字、首次或創紀錄、SEC 查不到的說法、財年曆年不明的「Q2 2024」。

逐條檢視

每個判決引用了哪份申報、哪個數字

左邊選一條說法。右邊會把原文中的數字標黃、期間標藍,列出六個系統的判決,並展開 Agent 的判斷步驟:原文數字、SEC 數字、容許誤差,以及決定判決的那一步。證據卡片連到 SEC 上的原始申報。

來源可靠度

真實新聞說法的對錯分佈

依標準答案統計,與驗證系統無關。單一網站樣本少於 20 條時不公開該站數字,只按來源類型合併。目前樣本仍小,區間很寬。

屬實不實SEC 無法查證
怎麼讀這些數字

方法與限制

預先登記

標準答案在任何 v2 模型跑之前就 commit(5d90b3b)。評測後發現 2 條 Amazon 答案錯誤(把 10-Q 的近 12 個月數字當年度),已另存修正版並保留原登記版報告;各系統差距最多 2 條。

一次回答為何這麼低

模型不知道 2025–2026 年的財報數字,大多老實回答「證據不足」。Meta API 版本比較會猜,在 186 條非屬實說法中有 9 條誤判為屬實。

新聞原文

為了版權,真實新聞只存改寫後的一句話(不超過 25 字)與連結,不存原文段落。數字對照的「段落」是 SEC 申報中的 XBRL 事實:概念名稱、期間、表單與申報編號。

v2 的弱點

「首次 / 創紀錄」類只對約一半;財年不明的「Q2 2024」Meta Agent 有時只查財年那種讀法。上方的事後重跑另列修正後結果,這裡的主圖與六個系統判決仍是 v2。