Agent Workflow Memory
Paper · arXiv 2024 · 2409.07429v1

Agent Workflow Memory:把一次成功的网页操作,炼成下次可复用的工作流程

长程网页任务里,智能体常常每道题都从零开始;固定示例又难以跨任务、跨网站迁移。 论文提出 AWM:从成功轨迹中归纳「描述 + 泛化动作序列」,写进记忆,在后续任务中作为高层流程提示。 它既能离线从标注示例归纳,也能在线从自生成轨迹里边做边学——代价是依赖评估器,且流程可能把动作带偏。

Zora Zhiruo Wang · Jiayuan Mao · Daniel Fried · Graham Neubig(CMU / MIT) arXiv 2409.07429v1 ↗ 代码 ↗
TL;DR · 30 秒抓住核心

问题不是「不会规划」,而是「不会积累」。 网页智能体把每道任务当成独立 episode;固定示例能让它模仿相近动作,却很难在任务、网站、领域变化时保持鲁棒。

AWM 的记忆单位不是完整案例,而是可复用的子流程。 一条 workflow 由自然语言描述 d 和泛化后的动作序列组成;归纳时把 dry cat food 这类具体值替换成 {product-name},再把 workflow 并入系统提示/记忆。

两种运行方式共用一套归纳器。 离线模式从训练示例一次性归纳;在线模式在处理每个测试任务后,由 LM 评估器判断成败,只把「判对」的轨迹归纳成新 workflow,流式更新记忆。

结果有亮点,也有代价。 WebArena(gpt-4)总成功率 35.5%,比 BrowserGym 的 23.5% 高 12.0 个绝对点(相对提升 51.1%);Mind2Web 跨领域在线(gpt-4)Step SR 35.5%,比 MindAct 的 18.6% 高 16.9 个绝对点。但 action F1 低于 MindAct,在线学习也依赖评估器不把失败轨迹判成成功。

35.5%
WebArena 总成功率(gpt-4)
BrowserGym ax-tree 15.0 / SteP 33.0
51.1%
相对 BrowserGym 23.5 的提升
35.5−23.5=12.0 个绝对点
16.9pt
Mind2Web 跨领域在线 Step SR 领先 MindAct
35.5 vs 18.6,gpt-4
01

网页智能体的短板,不是单步能力,而是跨任务不积累

先建立共同认知:为什么「把每道题做得更好」不等于「越做越会做」。

论文把问题放在 web navigation 上:智能体要在网站里完成多步操作,环境状态随每一步变化。WebArena 提供 812 个任务、5 个网站,覆盖电商、论坛、代码协作、内容管理四类场景,并按执行结果做功能正确性评估(§3.1)。任务越长,单步选择错误越容易累积,完整跑通就越难。

“Despite the potential of language model-based agents to solve real-world tasks such as web navigation, current methods still struggle with long-horizon tasks with complex action trajectories.”— Abstract

更关键的是学习方式。论文在引言里指出,智能体把每道任务分开求解:

“Moreover, as agents solve each task separately, they do not learn from past successes and failures, and are therefore unable to adapt over time.”— §1

已有的补救办法主要是给智能体看固定示例,或通过训练把示例固化进参数。论文的判断是:这能让智能体模仿相近的动作序列,但任务上下文或环境一变,鲁棒性就下降(§1)。于是问题变成:能不能把一次成功经验里可复用的部分抽出来,存成以后能直接调用的流程?

论文的目标

从「解决一个任务」转向「积累一类任务的流程」

论文要学的是 workflow:一个带自然语言描述、可跨任务复用的子流程,而不是一整条具体轨迹。这个区分是后面所有设计的起点。

02

两条现成路线:检索完整示例,或请人写流程

论文的对照很集中:一条路线依赖「具体经验」,另一条依赖「人类专家」,各自的瓶颈不同。

路线 A

检索完整示例,放进上下文

代表是 Synapse:按任务检索最相关的训练轨迹,作为 in-context example。它的优势是具体、可直接模仿。

卡点:完整轨迹带着大量示例特有上下文,容易把元素选择带向「和示例长得像」的候选;而且完整轨迹很难在多个测试任务里重复出现(§3.2.1)。

在 Mind2Web 跨任务、gpt-3.5 设置下,AWM 的元素准确率 39.0,比 Synapse 的 34.0 高 5.0 个绝对点;Step SR 34.6 对 30.6,高 4.0 个绝对点(相对 +13.1%)。

路线 B

人类专家预先写 workflow

代表是 SteP:为 WebArena 写了 14 条专家 workflow,直接作为领域知识注入。它的优势是质量高、针对性强。

卡点:需要领域专家、需要为每个环境定制,而且不会从智能体自己的运行经验里更新(§3.1)。

AWM 在 WebArena(gpt-4)上 35.5,SteP 33.0:高 2.5 个绝对点,相对 +7.6%。论文据此说不依赖人工 workflow 的方法也能到同一量级——但只限这个 benchmark、这个模型的总 SR。

还有一条「自主智能体」基线需要分清:Table 1 里 BrowserGym 23.5 是论文所称的 top published autonomous method;BrowserGym ax-tree 15.0 是为了公平比较、只喂 accessibility tree 的受控重跑。两者不是同一个数。AWM 相对 23.5 的提升是 12.0 个绝对点(相对 51.1%);相对 15.0 则是 20.5 个绝对点(相对 136.7%)。

共同缺口

两条路线都没有把「智能体自己的成功经验」变成可更新的记忆

路线 A 的记忆是外部检索库,路线 B 的记忆是人类写死的流程。论文要补的是:让智能体在运行中自己归纳、自己扩充记忆。

03

一条 workflow = 一句描述 + 一条泛化后的动作序列

核心不是「记住答案」,而是把答案里可复用的子程序抽出来,并去掉具体值。

论文把一次经验记作 e = (q, Pe):q 是自然语言指令,Pe 是观察-动作序列。归纳模块 I 从经验集合 ℰ 产生 workflow 集合:

I(ℰ) → 𝒲 = { w } = { (dj, Pjd) }
§2.3 · 每条 workflow w 由描述 d 和轨迹 Pd 组成

workflow 的每一步 p 有三部分(§2.2):

归纳时的关键动作是抽象。论文在 §2.3 明确写:不把示例里的具体值直接写进 workflow,而是用描述性变量名替换:

“instead of giving example-specific values (e.g., ‘dry cat food’), we enhance workflow generality by abstracting out example-specific contexts, i.e., replacing ‘dry cat food’ with a more general name ‘{product-name}’ by specifying this in the workflow induction prompts.”— §2.3

归纳出的 workflow 按输出里的双换行切分,逐条存进 workflow memory(§2.3)。使用时把它们并入原记忆:

M + 𝒲 → Mw     L(q, Mw, o) → a
§2.3 · 原记忆 M 加上 workflow 集合后,智能体在每一步用 q、Mw、当前观察 o 生成动作 a

下面把「具体经验 → 子流程 → 泛化占位符」拆成三层看。注意:这是本页的阅读拆解,不是论文流水线;原文的归纳模块是一次 LM 调用(Appendix A.1)。

Layer 1

一条具体经验

q = “Buy dry cat food on Amazon and deliver to my address”

轨迹里出现的是具体值:dry cat food。这条轨迹能解决这一道题,但把具体值原样搬走,换一个商品就不适用。

原句见 §2.3;这里只引用原文给出的具体值,不补造完整轨迹。

Layer 2

抽出反复出现的子流程

描述 d = “search for a product on Amazon”。它不是完整任务,而是多个购物指令共享的子任务。

[textbox] Search Amazon -> TYPE: {search-term} [button] Go -> CLICK [span] Sort by: -> CLICK [option] {sort-option} -> CLICK

这四步取自 Appendix A.2 的 Mind2Web shopping 示例;原文用它说明 workflow 可以是“搜索并排序”这样的子程序。

Layer 3

把具体值换成变量名

Appendix A.2 的 travel 示例:

[link] From Departure Airport or City Your Origin -> CLICK [textbox] Origin City or Airport -> TYPE: {your-origin-city} [link] {best-popup-option} -> CLICK [link] To Destination Airport or City Your Destination -> CLICK [textbox] Destination City or Airport -> TYPE: {your-destination-city} [link] {best-popup-option} -> CLICK

原句要求:“Represent the non-fixed elements (input text, button strings) with descriptive variable names”(Appendix A.1)。这样同一条流程才能套到不同城市、不同网站。

原文箭头带有 LaTeX 残留,这里统一写成 “->”;步骤内容未改。

当前这一层
这一层只描述一次具体经验。workflow 归纳的输入是 q + 轨迹;如果直接记住它,换任务就不一定适用。
这三级拆解覆盖了什么、没覆盖什么避免把阅读示意当成原论文流水线

覆盖:workflow 的描述 + 泛化动作序列(§2.2)、子流程粒度(§2.3)、变量名替换(§2.3 / Appendix A.1)。

未覆盖:原文的 induction module 是一次 LM 调用,prompt 同时接收一条或多条经验;本页没有复现多示例归纳、双换行分段、rule-based induction(Appendix B),也没有复现 induction prompt 里的约束(Appendix A.1:每条 workflow 至少两步、避免相似/重叠流程、用描述性变量名表示非固定元素)。三级步骤是本页为了讲清抽象过程做的阅读拆解,不是论文的算法步骤。

为什么是「子流程」,不是「完整任务」

论文刻意让模型在更细的粒度上归纳。完整指令往往具体且不重复,例如 “Buy dry cat food on Amazon and deliver to my address”;而 “search for a product on Amazon” 这样的子任务会在多个相似指令里反复出现(§2.3)。抽子流程,才有更多复用机会。

Figure 6 的案例展示了流程如何叠加:智能体先学会 “Find a place by its name”,后来遇到“查该地点邮编”的任务时,复用前几步找到地点,再补上查邮编的新步骤,形成更复杂的 “get the zip code of a place”(§3.1.3)。这是论文所说的 snowball effect。

04

不训练模型,只训练「记忆」:离线一次归纳,在线逐题更新

AWM 的工程核心不是反向传播,而是「什么时候调用归纳器、把什么写进记忆」。

论文的两种模式共用同一个归纳器 I,差别在经验从哪来、什么时候归纳(§2.3):

Offline

先归纳,再推理

有高质量标注/合成示例时,把所有训练示例按网站拼成 prompt,先归纳出 𝒲offline,再把它并入记忆,供所有测试任务共享(Figure 3)。

前提:示例要与测试领域对齐;否则 workflow 可能不匹配。

Online

边推理,边归纳

没有额外示例时,智能体从默认记忆 M 开始,逐题处理测试查询。每完成一题,用 LM 评估器给出 0/1 的成功判断;只有判为成功的轨迹才被归纳成 workflow,写入下一轮的 Mt+1(Figure 4)。

前提:评估器要能把失败轨迹挡住;论文没有报告它的准确率。

在线更新可以写成一行状态转移:

Mt+1 = Mt + I(et)   if   Leval(et) = 1
§2.3 · et 是第 t 个测试任务的轨迹;判为 0 时不写入

论文按网站分组运行 AWM:同网站的示例放在一组,各自维护一小套 workflow,避免记忆里塞进大量无关流程(§3)。归纳器本身也是 LM;Appendix A.1 的 prompt 要求每条 workflow 至少两步、不要生成相似/重叠流程、用描述性变量名表示非固定元素。

归纳出来的记忆有多大

Table 10 给出了 workflow 质量指标。WebArena 的 coverage 一栏原文为 “-”,因为该 benchmark 没有 canonical trajectories;这不是本页没读到。

Table 10 · 模型归纳 workflow 的质量评估(WebArena / Mind2Web)

Dataset# WorkflowsCoverageFunction OverlapUtility Rate
WebArena7.4-0.080.94
Mind2Web7.30.400.200.91

论文的读法是:每个示例约产生 7.4 条(WebArena)/ 7.3 条(Mind2Web)workflow;WebArena 的 workflow 被 0.94 比例的测试样本使用,workflow 间步骤重叠只有 0.08;Mind2Web 的 utility rate 为 0.91,coverage 为 0.40(Appendix A.3)。

工程含义

收益是「上下文里的流程」,成本是「每次归纳的 LM 调用 + 记忆增长」

论文没有引入额外的训练阶段,也没有微调模型;AWM 实验用 GPT-4 与 GPT-3.5-turbo,WebArena 为 gpt-4-0613,Mind2Web 未写 GPT-4 小版本;Table 3 另含 CogAgent 3.5 基线。两个 benchmark 的 temperature 均为 0.0(§3.1 / §3.2)。在线模式下,每处理一个判对样本就多一次归纳调用,记忆条目也会增加。

推断(依据:§2.3 的流式更新与 Table 10 的每例 workflow 数):判对样本越多,记忆越大;论文没有描述淘汰、合并或容量上限机制。

05

一条流水线,两个分叉:离线预先归纳,在线边做边归纳

把 §2.3 的两种模式放在同一张图里,差别只在「经验从哪来、归纳在什么时候发生」。

OFFLINE · 有标注/合成示例 训练示例 ℰ_train 按网站分组 LM 归纳 I(ℰ) → 𝒲_offline 写入记忆 M + 𝒲 → M_w 测试推理 所有 test 共享 ONLINE · 只有测试查询 测试查询 q_t 流式到达 智能体执行 → 轨迹 e_t 评估器 L_eval 成功? 0 / 1 成功则归纳 I(e_t) → {w_t} M^(t+1) = M^t + {w_t},供下一题 判 0 → 不写入
按 §2.3、Figure 3、Figure 4 重绘。覆盖:离线从 ℰ_train 归纳、在线从测试轨迹 e_t 归纳并流式更新记忆。未覆盖:Appendix C 的 off+on 合流细节、具体 prompt 模板、按网站分组的工程实现。
离线

一次归纳,所有测试共享

适合有训练集、且训练/测试领域对齐的场景。优点是归纳成本一次性付出;缺点是训练分布和测试分布一旦错位,workflow 可能帮不上忙(§3.2.2)。

在线

每题之后,按评估结果更新

适合没有标注示例、或测试分布与训练分布差距大的场景。优点是 workflow 直接来自测试分布;缺点是把评估器和模型自己的错误一起带进记忆(§3.2.2)。

06

WebArena 追到人手流程的量级;Mind2Web 的收益随分布差距变大

先看主表,再看跨模板与跨领域:亮点和反直觉点都在这里。

WebArena:35.5% 总成功率,步数从 7.9 降到 5.9

Table 1 · WebArena 任务成功率(gpt-4)与平均步数

MethodTotal SRShoppingCMSRedditGitLabMaps# Steps
*SteP(human engineered)33.037.024.059.032.030.0-
WebArena14.914.011.06.015.016.0-
AutoEval20.225.518.125.428.631.946.7
BrowserGym23.5------
BrowserGym ax-tree15.017.214.820.219.025.57.9
AWM(ours)35.530.829.150.931.843.35.9

* 原文在 Table 1/2 的 SteP 行、Table 4(及 Appendix C 的 Table 11)的 MindAct 行标了星号,但正文、表注和脚注都没有说明含义;本页照录星号,不替原文推断。

论文的读法:AWM 总 SR 35.5%,比 BrowserGym 的 23.5% 高 12.0 个绝对点,相对提升 51.1%(§3.1)。相对 BrowserGym ax-tree 的 15.0%,差值是 20.5 个绝对点,相对 136.7%——这两个分母不能混。相对 SteP 的 33.0%,AWM 高 2.5 个绝对点,相对 7.6%。

步数方面,AWM 5.9 步,BrowserGym ax-tree 7.9 步,少 2.0 步;相对 AutoEval 的 46.7 步,少 40.8 步(§3.1)。

原文内部数字并列

SteP 的相对提升:§1 写 7.9%,§3.1 写 7.6%

§1 的原句是 “outperforms methods augmented with human expert written workflows ... by 7.9%”;§3.1 的原句是 “by a 7.6% relative increase”。按 Table 1 的 35.5 与 33.0 计算,(35.5−33.0)/33.0 = 7.6%。本页并列保留 7.9% 与 7.6%,不替原文改数。

跨模板:不是只在同一模板里刷分

WebArena 有些任务来自同一模板,轨迹高度重叠。论文构造了 cross-template 子集:每个模板只随机取一个样本(§3.1.3)。

Table 2 · WebArena 跨模板子集的任务成功率(gpt-4;括号内为该网站样本数)

MethodTotal SRShopping (51)CMS (45)Reddit (24)GitLab (45)Maps (32)
*SteP(human engineered)32.126.529.352.227.336.4
AutoEval23.212.217.121.731.836.4
BrowserGym ax-tree20.510.417.823.127.328.6
AWM(ours)33.224.529.352.231.839.4

AWM 在这个子集上总 SR 33.2%,比 BrowserGym ax-tree 的 20.5% 高 12.7 个绝对点(相对 62.0%);比 SteP 的 32.1% 高 1.1 个绝对点(相对 3.4%)。SteP 在这个子集上仍接近 AWM,人手 workflow 的强度不能忽略。

原文 §3.1.3 称 AWM “still achieves the highest performance, overall and on each website split”;总 SR 33.2 对 32.1 成立,但 Table 2 中 Shopping 上 SteP 26.5 高于 AWM 24.5,CMS 29.3 与 Reddit 52.2 两者持平。本页照录原句与表中数字,并列保留。

Mind2Web 离线:元素选得更准,但 action F1 反而更低

Table 3 · Mind2Web 跨任务离线结果(gpt-3.5 / gpt-4)

MethodElem AccAction F1Step SRSR
MindAct 3.520.356.617.40.8
CogAgent 3.5--18.6-
Synapse 3.534.0-30.62.4
AWM 3.539.052.834.62.8
MindAct 441.660.636.22.0
AWM 450.657.345.14.8

gpt-4 设置下,AWM 的 Step SR 45.1%,比 MindAct 的 36.2% 高 8.9 个绝对点(相对 24.6%);元素准确率 50.6% 对 41.6%,高 9.0 个绝对点。gpt-3.5 设置下,AWM 的 Step SR 34.6%,比 Synapse 的 30.6% 高 4.0 个绝对点(相对 13.1%)。论文 §3.2.1 把 4.0–8.9 这组点差写成 “4.0–8.9% relative”;按 Table 3 复算,它们是 Step SR 的绝对点差,相对提升分别为 13.1% 与 24.6%,本页按绝对点差表述并另给相对值。

但 action F1 不是同向:AWM 4 的 57.3 低于 MindAct 4 的 60.6,差 3.3 个绝对点。论文的解释是 workflow 可能把智能体带向“和流程一致、但和当前环境状态不相关”的动作(§3.2.1)。推断(由 Table 3 的 EA 上升、AF1 下降反推):workflow 提升的是元素定位与流程复用,不是每一步动作的精确性。

在线 vs 离线:域内略输,跨域反超

Table 4 是 gpt-4 下三个 split 的完整结果。切换下面的 split,看 AWM online 相对 MindAct 与 AWM offline 的差值。

AWM online 相对读数
MindAct AWM offline AWM online
手算核对:两组参数怎么得到读数Table 4 · gpt-4 · Step SR

Cross-Task:offline 45.1,online 43.6,MindAct 36.2。
online − MindAct = 43.6 − 36.2 = 7.4(绝对点);
online − offline = 43.6 − 45.1 = −1.5(绝对点)。

Cross-Domain:offline 32.6,online 35.5,MindAct 18.6。
online − MindAct = 35.5 − 18.6 = 16.9(绝对点);
online − offline = 35.5 − 32.6 = 2.9(绝对点)。

表中没有标准差/多次运行,因此不涉及 ÷N 或 ÷(N−1) 的口径选择。所有值取自 Table 4 的 gpt-4 Step SR 列,逐字复制。

Table 4 · Mind2Web 跨任务 / 跨网站 / 跨领域结果(gpt-4)

MethodCross-TaskCross-WebsiteCross-Domain
EAAF1Step SRSREAAF1Step SRSREAAF1Step SRSR
MindAct*41.660.636.22.035.851.130.12.021.652.818.61.0
AWM offline50.657.345.14.841.446.233.72.336.441.632.60.7
AWM online50.056.443.64.042.145.133.91.640.946.335.51.7

Table 4 的 gpt-4 设置下,关键不是“在线一定更好”,而是分布差距越大,在线越占优:Cross-Task 上 online 43.6 比 offline 45.1 低 1.5 个绝对点;Cross-Domain 上 online 35.5 比 offline 32.6 高 2.9 个绝对点,比 MindAct 18.6 高 16.9 个绝对点。论文的原话是 margin “widens as the domain gaps ... widen”(§3.2.2)。

论文也解释了在线为什么会在域内略输:在线从模型自己预测的轨迹里归纳,轨迹不总是正确,可能产生错误 workflow;离线则可能受训练/测试分布差异拖累(§3.2.2)。这两种误差方向不同,Table 4 的结果正好呈现交叉。

学习曲线:前 40 个样本最快

Figure 5 用 WebArena map split 展示累积成功率:0–40 个样本之间,智能体学到最关键的 workflow,成功率快速上升;之后逐渐稳定(§3.1.2)。Figure 1 还给出一个量级:在 WebArena map split 上,滚过几十个样本后,AWM 与不更新记忆的基线差距可达 22.5 个绝对点。这些是图级读数,不是表格里的精确统计。

07

它能复用流程,但不会验证流程,也不保证流程适用

这一节只列论文自己暴露的边界;不把「没测」写成「不行」,也不把「可能」写成「一定」。

1. 在线学习受评估器制约

在线模式只把评估器判为成功的轨迹写进记忆。论文明确承认:“AWM online induces workflows from model-predicted trajectories that are not always correct, thus can lead to incorrect workflows that degrade model performance.”(§3.2.2)论文没有报告评估器的准确率,也没有分析误判率对记忆污染的影响。

2. workflow 会把动作带偏

Table 3 里,gpt-4 设置下 AWM 的 action F1 低于 MindAct(57.3 vs 60.6)。论文的解释是 workflow 可能引导智能体执行“和流程一致、但和当前环境状态不相关”的动作(§3.2.1)。推断(依据:Table 3 的 EA 上升、AF1 下降):流程复用提升的是元素定位和步骤组织,不是每一步动作的精确性。

3. 动态环境会打破预定义序列

Figure 7 的订票例子:输入城市名后,网站弹出附近机场选项;如果 workflow 把“选择弹出项”写死成预定义动作,执行时看不到中间状态,就不够灵活(§5)。论文把“实时状态访问/动态执行循环”列为未来方向。

另一个信号是:在 Mind2Web、gpt-4 设置下,把 workflow 包成高阶动作(AWMAS)后,智能体只在 18.5% 的任务里调用这些新动作;Step SR 从 45.1 升到 46.4(+1.3 个绝对点),但任务 SR 从 4.8 降到 3.6(−1.2 个绝对点)(Table 9;调用率出自 §5)。这说明“把流程变成工具”并不自动被智能体采用。§5 正文还写两者总体 SR 相同、数值为 3.2;Table 9 列出的是 4.8 与 3.6。本页并列保留这两个来源,按 Table 9 的数字计算差值。

4. 离线与在线并不简单相加

Appendix C 把两套 workflow 合并成 AWMoff+on(Mind2Web, gpt-4):Cross-Task 44.5、Cross-Website 33.3、Cross-Domain 34.1。按 Table 11,CT 44.5 与 CD 34.1 落在 offline 与 online 之间;CW 33.3 低于 offline 33.7 与 online 33.9,与 Appendix C 原句 “AWM off +on scores between AWMoffline and AWMonline across three test splits” 的表述不符。论文的结论是两套 workflow “not fully compatible”,离线 workflow 会影响在线 workflow 的生成质量与使用效率(Appendix C)。

5. 表示与环境的边界

6. 归纳器不是越「LM」越好

WebArena、gpt-4 设置下,rule-based 与 LM-based 归纳几乎打平:AWM rule 35.6 vs AWM lm 35.5,LM 版只少 0.4 步(Table 5)。Mind2Web 跨任务、gpt-4 设置下,LM 版的优势更明显:Step SR 45.1 vs 43.4(+1.7 个绝对点),任务 SR 4.8 vs 2.0(+2.8 个绝对点)(Table 6)。推断(依据:Table 5 与 Table 6 的对照):AWM 的收益至少有一部分来自“抽象子流程 + 记忆注入”这个框架,而不是 LM 归纳本身的复杂度;在 WebArena 上,规则归纳就能到同一量级。

边界证据:Table 5 / 6 / 8 / 9 / 11 的局部转录只列本页引用的行

Table 5 / 6 / 8 / 9 / 11 · 局部转录(未列出的行未转录)

出处对比数字读法
Table 5AWM rule vs AWM lm(WebArena, gpt-4)SR 35.6 / 35.5;#Steps 6.3 / 5.9LM 版 SR 低 0.1,步数少 0.4
Table 6AWM rule vs AWM lm(Mind2Web cross-task, gpt-4)Step SR 43.4 / 45.1;SR 2.0 / 4.8LM 版 Step +1.7,任务 SR +2.8
Table 8Desc. vs HTML vs both(Mind2Web, GPT-3.5-turbo)Step SR 34.6 / 33.8 / 32.9NL 比 HTML 高 0.8;两者都加更低
Table 9 / §5AWM vs AWMAS(Mind2Web, gpt-4)Step SR 45.1 / 46.4;SR 4.8 / 3.6;调用率 18.5%(§5)Step +1.3,任务 SR −1.2
Table 11AWM off+on(Mind2Web, gpt-4)CT 44.5 / CW 33.3 / CD 34.1CT/CD 在 offline 与 online 之间;CW 33.3 低于 offline 33.7、online 33.9
什么时候别用

没有可靠评估器、环境高度动态、或无法承受记忆增长时

在线 AWM 的前提是评估器能挡住失败轨迹;如果评估器不可靠,错误 workflow 会进入记忆。环境频繁弹窗/改版时,预定义序列的收益会下降。论文没有给出记忆淘汰机制,长期运行需要额外的容量管理。