Ethan Mollick:長任務中模型差距為何會放大

Elponcho
分享
Ethan Mollick:長任務中模型差距為何會放大

生成式 AI 模型在簡單測試上的差距看似不大,放進需要連續執行數十個步驟的任務後,差距可能逐步放大。賓州大學華頓商學院教授 Ethan Mollick 引用一篇長程任務研究指出,單步準確率的小幅進步,可能轉化成模型完成更長任務的能力;他因此認為,在 AI 代理工作流程中,負責規劃與協調的角色應使用判斷力較好的模型。

長任務會放大單步能力差距

研究論文《The Illusion of Diminishing Returns: Measuring Long Horizon Execution in LLMs》將焦點放在「執行」而非模型能否自行想出解法。研究者先提供模型完成任務所需的知識與計畫,再觀察它能否把一連串步驟確實做完。論文指出,即使較小模型在單一步驟的正確率已接近完美,規模較大的模型仍能正確執行更多回合;步驟拉長時,各模型的逐步正確率也會下降。

這種落差不只來自上下文變長。研究觀察到「自我條件化」現象:當對話脈絡包含模型先前的錯誤,模型後續犯錯的機率也會增加。單純放大模型規模無法完全消除這種效應,但讓模型進行思考能減輕問題,也能讓它在單次工作階段中完成更長的任務。該論文已刊於 ICLR 2026,最新版本於今年 3 月修訂。

廣告 - 內文未完請往下捲動

模型評測不能只看單題分數

Mollick 將這項結果延伸到模型選擇:若任務需要研究、操作工具、檢查結果並多次修正,單步能力的微小差異可能在整個流程中累積。因此,他主張由較強模型擔任「協調者」,而不是假設較便宜的模型只要在短測驗接近,就能直接取代前沿模型。

不過,這是 Mollick 對研究結果的應用解讀。論文測試的是模型在指定長程任務中的執行能力,並沒有直接比較多模型代理架構,也沒有量化不同模型組合的成本效益。企業若要決定是否採用較昂貴的協調模型,仍須以自己的任務、錯誤代價、延遲與推理成本做測試。

代理系統仍需要檢查與回復機制

長程任務的核心挑戰,是錯誤可能一路傳遞,而不是某一步答錯就結束。實務上,將任務拆成可驗證的小步驟、保留人工覆核點,並讓系統能回復到先前狀態,仍是降低風險的重要做法。論文顯示,更強的模型與額外思考可以延長可靠執行的範圍,但不代表模型不會出錯。

因此,這項研究帶來的訊息並非「所有工作都該用最貴模型」,而是模型基準測試與部署決策要納入任務長度和連續執行能力。短題得分相近,不必然代表模型能在複雜工作流中互相替代;至於較強模型是否適合當協調者,還要看實際工作流程能否從它的判斷與監督能力中獲益。

風險提示

加密貨幣投資具有高度風險,其價格可能波動劇烈,您可能損失全部本金。請謹慎評估風險。