斯坦福和MIT的研究團(tuán)隊推出了一種新的AI智能體推理框架ReCAP，在長上下文任務(wù)中全面超越了現(xiàn)有的主流框架ReAct，性能提升顯著。ReCAP通過獨特的遞歸樹結(jié)構(gòu)和三大機制，解決了大語言模型在復(fù)雜任務(wù)中常見的目標(biāo)漂移、上下文斷層和成本爆炸等問題。在多項基準(zhǔn)測試中，ReCAP均取得了大幅領(lǐng)先的成績，展現(xiàn)出強大的通用性和穩(wěn)定性。盡管計算成本略有增加，但其在關(guān)鍵任務(wù)中的表現(xiàn)使其成為極具潛力的新一代通用推理架構(gòu)。

自2022年ReAct框架提出以來，AI智能體推理領(lǐng)域便進(jìn)入了百家爭鳴的時代，各種復(fù)雜架構(gòu)如雨后春筍般涌現(xiàn)。

然而，這些架構(gòu)大多曇花一現(xiàn)，因其復(fù)雜的結(jié)構(gòu)導(dǎo)致在更換評測基準(zhǔn)時需要大幅修改示例，表現(xiàn)遠(yuǎn)不如ReAct穩(wěn)定泛用，這也使得ReAct在過去三年中，成為了該領(lǐng)域事實上的主流與標(biāo)桿。

但是，我們真的不能再做得更好了嗎?

面對大模型在長上下文任務(wù)中走幾步就忘的短期記憶頑疾，業(yè)界是否只能止步于此?

來自斯坦福大學(xué)與MIT的研究團(tuán)隊給出了肯定答案，正式發(fā)布的AI Agent推理新框架——ReCAP(遞歸上下文感知推理與規(guī)劃)，從真正意義上統(tǒng)一了序列推理和層級推理，在多種任務(wù)中全面戰(zhàn)勝了ReAct，且繼承了ReAct示例簡單、高通用性，和即插即用的優(yōu)勢。

在嚴(yán)格遵循 pass@1(一次通過)的評測原則下，ReCAP在長序列具身任務(wù)Robotouille上相比ReAct基線取得了84.2%(同步)和112.5%(異步)的巨大性能提升。

長上下文任務(wù)的三大「死穴」

團(tuán)隊指出，當(dāng)今大語言模型在執(zhí)行復(fù)雜任務(wù)時普遍有三種問題：

目標(biāo)漂移(Goal Drift)：執(zhí)行幾步后就逐漸忽略了原本的目標(biāo)，使得執(zhí)行結(jié)果與期望不符。

上下文斷層(Context Loss)：高層的規(guī)劃信息在長序列執(zhí)行中丟失，導(dǎo)致高層思考與低層執(zhí)行不協(xié)調(diào)。

成本爆炸(Prompt Explosion)：每次遞歸都重新鋪開上下文示例和提示詞，推理成本指數(shù)增長。

簡單說，LLM就像一個短期記憶型天才，而主流推理框架各有局限：

序列推理(例如Chain of Thoughts，ReAct)雖然上下文連貫，但常常因為任務(wù)太長導(dǎo)致目標(biāo)漂移;

層級推理(例如ADaPT，THREAD)將任務(wù)分解為子任務(wù)來明確目標(biāo)，但給子任務(wù)單獨分配上下文示例和提示詞，導(dǎo)致上下文斷層和成本爆炸。

ReCAP

讓序列推理和層級推理有機結(jié)合

ReCAP的核心在于將一個有記憶、有反饋的遞歸樹結(jié)構(gòu)作為模型的工作記憶區(qū)，其三大機制環(huán)環(huán)相扣：

計劃前瞻分解（Recursive Task Decomposition with Plan-Ahead）：模型首先生成一個完整的子任務(wù)列表，但只執(zhí)行第一個子任務(wù)，完成后再動態(tài)優(yōu)化后續(xù)計劃。

結(jié)構(gòu)化父任務(wù)再注入（Consistent Multi-level Context and Structured Injection）：整個執(zhí)行流程只有一個上下文，由所有任務(wù)共享。每次子任務(wù)遞歸返回時，父任務(wù)會將自身的思考和計劃再次注入上下文，使父任務(wù)在重新計劃時可以參考上次的思維和執(zhí)行結(jié)果，規(guī)劃出能真正達(dá)成任務(wù)目標(biāo)的底層操作。

滑動窗口記憶（Sliding Window and Scalable Memory Efficiency）：通過滑動窗口機制，在統(tǒng)一上下文中只保留最新關(guān)鍵歷史，實現(xiàn)了內(nèi)存占用可控的深度遞歸，從根本上杜絕了成本爆炸。

實驗結(jié)果

長上下文任務(wù)性能大幅躍升

團(tuán)隊在多個典型長上下文推理基準(zhǔn)上驗證了ReCAP的效果。結(jié)果令人矚目：

在Robotouille(同步)上取得70%成功率，較ReAct(38%)提升84.2%

在Robotouille(異步)上取得53%成功率，較ReAct(24%)提升112.5%

在ALFWorld上取得91%成功率，穩(wěn)定優(yōu)于ReAct(84%)

在SWE-bench Verified取得44.8%的成功率，優(yōu)于ReAct基線(39.58%)

團(tuán)隊在實驗中始終秉持pass@1的實驗原則，即不使用樣本層面的重試、多數(shù)投票或者束搜索。這意味著ReCAP能在真實多步環(huán)境中，更好地保持目標(biāo)一致性與執(zhí)行連貫性——不僅「想得對」，還能「做得穩(wěn)」。

ReCAP是除ReAct之外，又一個能夠在具身推理、以及代碼編輯這兩種截然不同的任務(wù)上都取得穩(wěn)健表現(xiàn)的通用推理架構(gòu)。

論文中排除了THREAD、Reflexion等其他基線，因其在實驗設(shè)置中難以穩(wěn)定復(fù)現(xiàn)或與 pass@1 協(xié)議不兼容，這進(jìn)一步凸顯了ReCAP作為新一代通用推理基線的潛力。

優(yōu)勢與成本的權(quán)衡

任何強大的能力都伴隨著成本。團(tuán)隊對此進(jìn)行了透明分析：ReCAP的總計算成本約為ReAct的三倍。這主要來自于其核心的計劃前瞻分解機制所額外需要的LLM調(diào)用。

然而，考慮到其在關(guān)鍵任務(wù)上帶來的性能巨幅提升與目標(biāo)一致性，這種成本的增加在對準(zhǔn)確性要求高的實際應(yīng)用中是可以接受的。這為開發(fā)者提供了一個清晰的性價比權(quán)衡選項。

遞歸，是通往通用智能的鑰匙？

從人類思維到圖靈機，遞歸始終是智能的底層邏輯。ReCAP的提出，可視為AI邁向通用推理系統(tǒng)的關(guān)鍵一步。

其潛力遠(yuǎn)不止于論文所驗證的任務(wù)范疇。任何依賴復(fù)雜決策回路與長期上下文記憶的大型任務(wù)，都是ReCAP的理想應(yīng)用場景。

例如在深度研究中自主遍歷文獻(xiàn)、整合多源信息并生成洞察報告;或在復(fù)雜軟件工程中管理龐大代碼庫與依賴關(guān)系，推進(jìn)需多步驗證的系統(tǒng)項目。

長遠(yuǎn)來看，ReCAP的遞歸規(guī)劃能力可以與空間智能相結(jié)合，解決更為復(fù)雜的現(xiàn)實世界問題。李飛飛教授近日指出，空間智能——即理解、推理并與三維世界交互的能力，是AI的下一個前沿。

ReCAP可以為具身智能機器人規(guī)劃復(fù)雜的長期任務(wù)序列，而空間智能模型則負(fù)責(zé)處理實時感知與動作控制，二者結(jié)合實現(xiàn)機器人在動態(tài)環(huán)境中的自主規(guī)劃與可靠執(zhí)行。

隨著代碼的開源，一個更擅長長期規(guī)劃、穩(wěn)健執(zhí)行的AI時代或許即將到來。

作者介紹

共同一作 Zhenyu Zhang, Tianyi Chen, Weiran Xu 均為斯坦福大學(xué)工程學(xué)院計算機系碩士研究生

Alex Pentland教授，麻省理工學(xué)院媒體實驗室 創(chuàng)始人之一，美國國家工程院院士，Toshiba Professor at MIT，斯坦福大學(xué) HAI Fellow。

Jiaxin Pei博士，斯坦福大學(xué)博士后研究員，研究興趣集中在大語言模型、人機交互、Agentic AI，即將前往得克薩斯大學(xué)奧斯汀分校任教。