meta AI 實(shí)驗(yàn)室今天把 Llama3.1改造成推理“X 光機(jī)”——新模型 CoT-Verifier 正式登陸 Hugging Face，專門剖開鏈?zhǔn)剿季S（CoT）每一步的“電路軌跡”，讓錯誤不再躲在黑箱里。

傳統(tǒng)驗(yàn)證只看輸出對不對，meta 換了個視角:先給模型跑一次前向，再把每一步的歸因圖（attribution graph）抽出來。團(tuán)隊發(fā)現(xiàn)，正確與錯誤推理的圖結(jié)構(gòu)差異極大，就像兩條形狀完全不同的電路板。用輕量級分類器在這些“圖特征”上訓(xùn)練，錯誤步驟的預(yù)測準(zhǔn)確率直接飆到 SOTA，且不同任務(wù)(數(shù)學(xué)、邏輯、常識)各自有獨(dú)特的“故障圖譜”，說明推理失敗并非隨機(jī)噪聲，而是可量化、可分類的計算模式。

更關(guān)鍵的是，歸因圖不僅能“診斷”，還能“動刀”。meta 在實(shí)驗(yàn)里對高可疑節(jié)點(diǎn)做定向消融或權(quán)重偏移，成功把 Llama3.1在 MATH 數(shù)據(jù)集上的準(zhǔn)確率再提4.2個百分點(diǎn)，而無需重新訓(xùn)練主干。換句話說，CoT-Verifier 把推理糾錯從“事后復(fù)盤”變成“術(shù)中導(dǎo)航”。

模型已開源，腳本一鍵復(fù)現(xiàn)。開發(fā)者只需把待驗(yàn)證的 CoT 路徑喂給 Verifier，就能拿到每一步的“結(jié)構(gòu)異常分”，并定位最可能出錯的上游節(jié)點(diǎn)。meta 在論文結(jié)尾放話:下一步把同樣的圖干預(yù)思路搬到代碼生成、多模態(tài)推理，讓“白盒手術(shù)”成為 LLM 的新標(biāo)配。