长程网页任务里,智能体常常每道题都从零开始;固定示例又难以跨任务、跨网站迁移。 论文提出 AWM:从成功轨迹中归纳「描述 + 泛化动作序列」,写进记忆,在后续任务中作为高层流程提示。 它既能离线从标注示例归纳,也能在线从自生成轨迹里边做边学——代价是依赖评估器,且流程可能把动作带偏。
问题不是「不会规划」,而是「不会积累」。 网页智能体把每道任务当成独立 episode;固定示例能让它模仿相近动作,却很难在任务、网站、领域变化时保持鲁棒。
AWM 的记忆单位不是完整案例,而是可复用的子流程。 一条 workflow 由自然语言描述 d 和泛化后的动作序列组成;归纳时把 dry cat food 这类具体值替换成 {product-name},再把 workflow 并入系统提示/记忆。
两种运行方式共用一套归纳器。 离线模式从训练示例一次性归纳;在线模式在处理每个测试任务后,由 LM 评估器判断成败,只把「判对」的轨迹归纳成新 workflow,流式更新记忆。
结果有亮点,也有代价。 WebArena(gpt-4)总成功率 35.5%,比 BrowserGym 的 23.5% 高 12.0 个绝对点(相对提升 51.1%);Mind2Web 跨领域在线(gpt-4)Step SR 35.5%,比 MindAct 的 18.6% 高 16.9 个绝对点。但 action F1 低于 MindAct,在线学习也依赖评估器不把失败轨迹判成成功。
先建立共同认知:为什么「把每道题做得更好」不等于「越做越会做」。
论文把问题放在 web navigation 上:智能体要在网站里完成多步操作,环境状态随每一步变化。WebArena 提供 812 个任务、5 个网站,覆盖电商、论坛、代码协作、内容管理四类场景,并按执行结果做功能正确性评估(§3.1)。任务越长,单步选择错误越容易累积,完整跑通就越难。
“Despite the potential of language model-based agents to solve real-world tasks such as web navigation, current methods still struggle with long-horizon tasks with complex action trajectories.”— Abstract
更关键的是学习方式。论文在引言里指出,智能体把每道任务分开求解:
“Moreover, as agents solve each task separately, they do not learn from past successes and failures, and are therefore unable to adapt over time.”— §1
已有的补救办法主要是给智能体看固定示例,或通过训练把示例固化进参数。论文的判断是:这能让智能体模仿相近的动作序列,但任务上下文或环境一变,鲁棒性就下降(§1)。于是问题变成:能不能把一次成功经验里可复用的部分抽出来,存成以后能直接调用的流程?
论文要学的是 workflow:一个带自然语言描述、可跨任务复用的子流程,而不是一整条具体轨迹。这个区分是后面所有设计的起点。
论文的对照很集中:一条路线依赖「具体经验」,另一条依赖「人类专家」,各自的瓶颈不同。
代表是 Synapse:按任务检索最相关的训练轨迹,作为 in-context example。它的优势是具体、可直接模仿。
卡点:完整轨迹带着大量示例特有上下文,容易把元素选择带向「和示例长得像」的候选;而且完整轨迹很难在多个测试任务里重复出现(§3.2.1)。
在 Mind2Web 跨任务、gpt-3.5 设置下,AWM 的元素准确率 39.0,比 Synapse 的 34.0 高 5.0 个绝对点;Step SR 34.6 对 30.6,高 4.0 个绝对点(相对 +13.1%)。
代表是 SteP:为 WebArena 写了 14 条专家 workflow,直接作为领域知识注入。它的优势是质量高、针对性强。
卡点:需要领域专家、需要为每个环境定制,而且不会从智能体自己的运行经验里更新(§3.1)。
AWM 在 WebArena(gpt-4)上 35.5,SteP 33.0:高 2.5 个绝对点,相对 +7.6%。论文据此说不依赖人工 workflow 的方法也能到同一量级——但只限这个 benchmark、这个模型的总 SR。
还有一条「自主智能体」基线需要分清:Table 1 里 BrowserGym 23.5 是论文所称的 top published autonomous method;BrowserGym ax-tree 15.0 是为了公平比较、只喂 accessibility tree 的受控重跑。两者不是同一个数。AWM 相对 23.5 的提升是 12.0 个绝对点(相对 51.1%);相对 15.0 则是 20.5 个绝对点(相对 136.7%)。
路线 A 的记忆是外部检索库,路线 B 的记忆是人类写死的流程。论文要补的是:让智能体在运行中自己归纳、自己扩充记忆。
核心不是「记住答案」,而是把答案里可复用的子程序抽出来,并去掉具体值。
论文把一次经验记作 e = (q, Pe):q 是自然语言指令,Pe 是观察-动作序列。归纳模块 I 从经验集合 ℰ 产生 workflow 集合:
workflow 的每一步 p 有三部分(§2.2):
stop()、click('id')、type('id', '{value}')。归纳时的关键动作是抽象。论文在 §2.3 明确写:不把示例里的具体值直接写进 workflow,而是用描述性变量名替换:
“instead of giving example-specific values (e.g., ‘dry cat food’), we enhance workflow generality by abstracting out example-specific contexts, i.e., replacing ‘dry cat food’ with a more general name ‘{product-name}’ by specifying this in the workflow induction prompts.”— §2.3
归纳出的 workflow 按输出里的双换行切分,逐条存进 workflow memory(§2.3)。使用时把它们并入原记忆:
下面把「具体经验 → 子流程 → 泛化占位符」拆成三层看。注意:这是本页的阅读拆解,不是论文流水线;原文的归纳模块是一次 LM 调用(Appendix A.1)。
q = “Buy dry cat food on Amazon and deliver to my address”
轨迹里出现的是具体值:dry cat food。这条轨迹能解决这一道题,但把具体值原样搬走,换一个商品就不适用。
原句见 §2.3;这里只引用原文给出的具体值,不补造完整轨迹。
描述 d = “search for a product on Amazon”。它不是完整任务,而是多个购物指令共享的子任务。
这四步取自 Appendix A.2 的 Mind2Web shopping 示例;原文用它说明 workflow 可以是“搜索并排序”这样的子程序。
Appendix A.2 的 travel 示例:
原句要求:“Represent the non-fixed elements (input text, button strings) with descriptive variable names”(Appendix A.1)。这样同一条流程才能套到不同城市、不同网站。
原文箭头带有 LaTeX 残留,这里统一写成 “->”;步骤内容未改。
覆盖:workflow 的描述 + 泛化动作序列(§2.2)、子流程粒度(§2.3)、变量名替换(§2.3 / Appendix A.1)。
未覆盖:原文的 induction module 是一次 LM 调用,prompt 同时接收一条或多条经验;本页没有复现多示例归纳、双换行分段、rule-based induction(Appendix B),也没有复现 induction prompt 里的约束(Appendix A.1:每条 workflow 至少两步、避免相似/重叠流程、用描述性变量名表示非固定元素)。三级步骤是本页为了讲清抽象过程做的阅读拆解,不是论文的算法步骤。
论文刻意让模型在更细的粒度上归纳。完整指令往往具体且不重复,例如 “Buy dry cat food on Amazon and deliver to my address”;而 “search for a product on Amazon” 这样的子任务会在多个相似指令里反复出现(§2.3)。抽子流程,才有更多复用机会。
Figure 6 的案例展示了流程如何叠加:智能体先学会 “Find a place by its name”,后来遇到“查该地点邮编”的任务时,复用前几步找到地点,再补上查邮编的新步骤,形成更复杂的 “get the zip code of a place”(§3.1.3)。这是论文所说的 snowball effect。
AWM 的工程核心不是反向传播,而是「什么时候调用归纳器、把什么写进记忆」。
论文的两种模式共用同一个归纳器 I,差别在经验从哪来、什么时候归纳(§2.3):
有高质量标注/合成示例时,把所有训练示例按网站拼成 prompt,先归纳出 𝒲offline,再把它并入记忆,供所有测试任务共享(Figure 3)。
前提:示例要与测试领域对齐;否则 workflow 可能不匹配。
没有额外示例时,智能体从默认记忆 M 开始,逐题处理测试查询。每完成一题,用 LM 评估器给出 0/1 的成功判断;只有判为成功的轨迹才被归纳成 workflow,写入下一轮的 Mt+1(Figure 4)。
前提:评估器要能把失败轨迹挡住;论文没有报告它的准确率。
在线更新可以写成一行状态转移:
论文按网站分组运行 AWM:同网站的示例放在一组,各自维护一小套 workflow,避免记忆里塞进大量无关流程(§3)。归纳器本身也是 LM;Appendix A.1 的 prompt 要求每条 workflow 至少两步、不要生成相似/重叠流程、用描述性变量名表示非固定元素。
Table 10 给出了 workflow 质量指标。WebArena 的 coverage 一栏原文为 “-”,因为该 benchmark 没有 canonical trajectories;这不是本页没读到。
Table 10 · 模型归纳 workflow 的质量评估(WebArena / Mind2Web)
| Dataset | # Workflows | Coverage | Function Overlap | Utility Rate |
|---|---|---|---|---|
| WebArena | 7.4 | - | 0.08 | 0.94 |
| Mind2Web | 7.3 | 0.40 | 0.20 | 0.91 |
论文的读法是:每个示例约产生 7.4 条(WebArena)/ 7.3 条(Mind2Web)workflow;WebArena 的 workflow 被 0.94 比例的测试样本使用,workflow 间步骤重叠只有 0.08;Mind2Web 的 utility rate 为 0.91,coverage 为 0.40(Appendix A.3)。
论文没有引入额外的训练阶段,也没有微调模型;AWM 实验用 GPT-4 与 GPT-3.5-turbo,WebArena 为 gpt-4-0613,Mind2Web 未写 GPT-4 小版本;Table 3 另含 CogAgent 3.5 基线。两个 benchmark 的 temperature 均为 0.0(§3.1 / §3.2)。在线模式下,每处理一个判对样本就多一次归纳调用,记忆条目也会增加。
推断(依据:§2.3 的流式更新与 Table 10 的每例 workflow 数):判对样本越多,记忆越大;论文没有描述淘汰、合并或容量上限机制。
把 §2.3 的两种模式放在同一张图里,差别只在「经验从哪来、归纳在什么时候发生」。
ℰ_train 归纳、在线从测试轨迹 e_t 归纳并流式更新记忆。未覆盖:Appendix C 的 off+on 合流细节、具体 prompt 模板、按网站分组的工程实现。适合有训练集、且训练/测试领域对齐的场景。优点是归纳成本一次性付出;缺点是训练分布和测试分布一旦错位,workflow 可能帮不上忙(§3.2.2)。
适合没有标注示例、或测试分布与训练分布差距大的场景。优点是 workflow 直接来自测试分布;缺点是把评估器和模型自己的错误一起带进记忆(§3.2.2)。
先看主表,再看跨模板与跨领域:亮点和反直觉点都在这里。
Table 1 · WebArena 任务成功率(gpt-4)与平均步数
| Method | Total SR | Shopping | CMS | GitLab | Maps | # Steps | |
|---|---|---|---|---|---|---|---|
| *SteP(human engineered) | 33.0 | 37.0 | 24.0 | 59.0 | 32.0 | 30.0 | - |
| WebArena | 14.9 | 14.0 | 11.0 | 6.0 | 15.0 | 16.0 | - |
| AutoEval | 20.2 | 25.5 | 18.1 | 25.4 | 28.6 | 31.9 | 46.7 |
| BrowserGym | 23.5 | - | - | - | - | - | - |
| BrowserGym ax-tree | 15.0 | 17.2 | 14.8 | 20.2 | 19.0 | 25.5 | 7.9 |
| AWM(ours) | 35.5 | 30.8 | 29.1 | 50.9 | 31.8 | 43.3 | 5.9 |
* 原文在 Table 1/2 的 SteP 行、Table 4(及 Appendix C 的 Table 11)的 MindAct 行标了星号,但正文、表注和脚注都没有说明含义;本页照录星号,不替原文推断。
论文的读法:AWM 总 SR 35.5%,比 BrowserGym 的 23.5% 高 12.0 个绝对点,相对提升 51.1%(§3.1)。相对 BrowserGym ax-tree 的 15.0%,差值是 20.5 个绝对点,相对 136.7%——这两个分母不能混。相对 SteP 的 33.0%,AWM 高 2.5 个绝对点,相对 7.6%。
步数方面,AWM 5.9 步,BrowserGym ax-tree 7.9 步,少 2.0 步;相对 AutoEval 的 46.7 步,少 40.8 步(§3.1)。
§1 的原句是 “outperforms methods augmented with human expert written workflows ... by 7.9%”;§3.1 的原句是 “by a 7.6% relative increase”。按 Table 1 的 35.5 与 33.0 计算,(35.5−33.0)/33.0 = 7.6%。本页并列保留 7.9% 与 7.6%,不替原文改数。
WebArena 有些任务来自同一模板,轨迹高度重叠。论文构造了 cross-template 子集:每个模板只随机取一个样本(§3.1.3)。
Table 2 · WebArena 跨模板子集的任务成功率(gpt-4;括号内为该网站样本数)
| Method | Total SR | Shopping (51) | CMS (45) | Reddit (24) | GitLab (45) | Maps (32) |
|---|---|---|---|---|---|---|
| *SteP(human engineered) | 32.1 | 26.5 | 29.3 | 52.2 | 27.3 | 36.4 |
| AutoEval | 23.2 | 12.2 | 17.1 | 21.7 | 31.8 | 36.4 |
| BrowserGym ax-tree | 20.5 | 10.4 | 17.8 | 23.1 | 27.3 | 28.6 |
| AWM(ours) | 33.2 | 24.5 | 29.3 | 52.2 | 31.8 | 39.4 |
AWM 在这个子集上总 SR 33.2%,比 BrowserGym ax-tree 的 20.5% 高 12.7 个绝对点(相对 62.0%);比 SteP 的 32.1% 高 1.1 个绝对点(相对 3.4%)。SteP 在这个子集上仍接近 AWM,人手 workflow 的强度不能忽略。
原文 §3.1.3 称 AWM “still achieves the highest performance, overall and on each website split”;总 SR 33.2 对 32.1 成立,但 Table 2 中 Shopping 上 SteP 26.5 高于 AWM 24.5,CMS 29.3 与 Reddit 52.2 两者持平。本页照录原句与表中数字,并列保留。
Table 3 · Mind2Web 跨任务离线结果(gpt-3.5 / gpt-4)
| Method | Elem Acc | Action F1 | Step SR | SR |
|---|---|---|---|---|
| MindAct 3.5 | 20.3 | 56.6 | 17.4 | 0.8 |
| CogAgent 3.5 | - | - | 18.6 | - |
| Synapse 3.5 | 34.0 | - | 30.6 | 2.4 |
| AWM 3.5 | 39.0 | 52.8 | 34.6 | 2.8 |
| MindAct 4 | 41.6 | 60.6 | 36.2 | 2.0 |
| AWM 4 | 50.6 | 57.3 | 45.1 | 4.8 |
gpt-4 设置下,AWM 的 Step SR 45.1%,比 MindAct 的 36.2% 高 8.9 个绝对点(相对 24.6%);元素准确率 50.6% 对 41.6%,高 9.0 个绝对点。gpt-3.5 设置下,AWM 的 Step SR 34.6%,比 Synapse 的 30.6% 高 4.0 个绝对点(相对 13.1%)。论文 §3.2.1 把 4.0–8.9 这组点差写成 “4.0–8.9% relative”;按 Table 3 复算,它们是 Step SR 的绝对点差,相对提升分别为 13.1% 与 24.6%,本页按绝对点差表述并另给相对值。
但 action F1 不是同向:AWM 4 的 57.3 低于 MindAct 4 的 60.6,差 3.3 个绝对点。论文的解释是 workflow 可能把智能体带向“和流程一致、但和当前环境状态不相关”的动作(§3.2.1)。推断(由 Table 3 的 EA 上升、AF1 下降反推):workflow 提升的是元素定位与流程复用,不是每一步动作的精确性。
Table 4 是 gpt-4 下三个 split 的完整结果。切换下面的 split,看 AWM online 相对 MindAct 与 AWM offline 的差值。
Cross-Task:offline 45.1,online 43.6,MindAct 36.2。
online − MindAct = 43.6 − 36.2 = 7.4(绝对点);
online − offline = 43.6 − 45.1 = −1.5(绝对点)。
Cross-Domain:offline 32.6,online 35.5,MindAct 18.6。
online − MindAct = 35.5 − 18.6 = 16.9(绝对点);
online − offline = 35.5 − 32.6 = 2.9(绝对点)。
表中没有标准差/多次运行,因此不涉及 ÷N 或 ÷(N−1) 的口径选择。所有值取自 Table 4 的 gpt-4 Step SR 列,逐字复制。
Table 4 · Mind2Web 跨任务 / 跨网站 / 跨领域结果(gpt-4)
| Method | Cross-Task | Cross-Website | Cross-Domain | |||||||||
|---|---|---|---|---|---|---|---|---|---|---|---|---|
| EA | AF1 | Step SR | SR | EA | AF1 | Step SR | SR | EA | AF1 | Step SR | SR | |
| MindAct* | 41.6 | 60.6 | 36.2 | 2.0 | 35.8 | 51.1 | 30.1 | 2.0 | 21.6 | 52.8 | 18.6 | 1.0 |
| AWM offline | 50.6 | 57.3 | 45.1 | 4.8 | 41.4 | 46.2 | 33.7 | 2.3 | 36.4 | 41.6 | 32.6 | 0.7 |
| AWM online | 50.0 | 56.4 | 43.6 | 4.0 | 42.1 | 45.1 | 33.9 | 1.6 | 40.9 | 46.3 | 35.5 | 1.7 |
Table 4 的 gpt-4 设置下,关键不是“在线一定更好”,而是分布差距越大,在线越占优:Cross-Task 上 online 43.6 比 offline 45.1 低 1.5 个绝对点;Cross-Domain 上 online 35.5 比 offline 32.6 高 2.9 个绝对点,比 MindAct 18.6 高 16.9 个绝对点。论文的原话是 margin “widens as the domain gaps ... widen”(§3.2.2)。
论文也解释了在线为什么会在域内略输:在线从模型自己预测的轨迹里归纳,轨迹不总是正确,可能产生错误 workflow;离线则可能受训练/测试分布差异拖累(§3.2.2)。这两种误差方向不同,Table 4 的结果正好呈现交叉。
Figure 5 用 WebArena map split 展示累积成功率:0–40 个样本之间,智能体学到最关键的 workflow,成功率快速上升;之后逐渐稳定(§3.1.2)。Figure 1 还给出一个量级:在 WebArena map split 上,滚过几十个样本后,AWM 与不更新记忆的基线差距可达 22.5 个绝对点。这些是图级读数,不是表格里的精确统计。
这一节只列论文自己暴露的边界;不把「没测」写成「不行」,也不把「可能」写成「一定」。
在线模式只把评估器判为成功的轨迹写进记忆。论文明确承认:“AWM online induces workflows from model-predicted trajectories that are not always correct, thus can lead to incorrect workflows that degrade model performance.”(§3.2.2)论文没有报告评估器的准确率,也没有分析误判率对记忆污染的影响。
Table 3 里,gpt-4 设置下 AWM 的 action F1 低于 MindAct(57.3 vs 60.6)。论文的解释是 workflow 可能引导智能体执行“和流程一致、但和当前环境状态不相关”的动作(§3.2.1)。推断(依据:Table 3 的 EA 上升、AF1 下降):流程复用提升的是元素定位和步骤组织,不是每一步动作的精确性。
Figure 7 的订票例子:输入城市名后,网站弹出附近机场选项;如果 workflow 把“选择弹出项”写死成预定义动作,执行时看不到中间状态,就不够灵活(§5)。论文把“实时状态访问/动态执行循环”列为未来方向。
另一个信号是:在 Mind2Web、gpt-4 设置下,把 workflow 包成高阶动作(AWMAS)后,智能体只在 18.5% 的任务里调用这些新动作;Step SR 从 45.1 升到 46.4(+1.3 个绝对点),但任务 SR 从 4.8 降到 3.6(−1.2 个绝对点)(Table 9;调用率出自 §5)。这说明“把流程变成工具”并不自动被智能体采用。§5 正文还写两者总体 SR 相同、数值为 3.2;Table 9 列出的是 4.8 与 3.6。本页并列保留这两个来源,按 Table 9 的数字计算差值。
Appendix C 把两套 workflow 合并成 AWMoff+on(Mind2Web, gpt-4):Cross-Task 44.5、Cross-Website 33.3、Cross-Domain 34.1。按 Table 11,CT 44.5 与 CD 34.1 落在 offline 与 online 之间;CW 33.3 低于 offline 33.7 与 online 33.9,与 Appendix C 原句 “AWM off +on scores between AWMoffline and AWMonline across three test splits” 的表述不符。论文的结论是两套 workflow “not fully compatible”,离线 workflow 会影响在线 workflow 的生成质量与使用效率(Appendix C)。
click('42') 这类元素 id;论文未做 UI 改版实验):前端元素 id 变化可能让已学 workflow 失效,这是记忆型方法的额外风险。WebArena、gpt-4 设置下,rule-based 与 LM-based 归纳几乎打平:AWM rule 35.6 vs AWM lm 35.5,LM 版只少 0.4 步(Table 5)。Mind2Web 跨任务、gpt-4 设置下,LM 版的优势更明显:Step SR 45.1 vs 43.4(+1.7 个绝对点),任务 SR 4.8 vs 2.0(+2.8 个绝对点)(Table 6)。推断(依据:Table 5 与 Table 6 的对照):AWM 的收益至少有一部分来自“抽象子流程 + 记忆注入”这个框架,而不是 LM 归纳本身的复杂度;在 WebArena 上,规则归纳就能到同一量级。
Table 5 / 6 / 8 / 9 / 11 · 局部转录(未列出的行未转录)
| 出处 | 对比 | 数字 | 读法 |
|---|---|---|---|
| Table 5 | AWM rule vs AWM lm(WebArena, gpt-4) | SR 35.6 / 35.5;#Steps 6.3 / 5.9 | LM 版 SR 低 0.1,步数少 0.4 |
| Table 6 | AWM rule vs AWM lm(Mind2Web cross-task, gpt-4) | Step SR 43.4 / 45.1;SR 2.0 / 4.8 | LM 版 Step +1.7,任务 SR +2.8 |
| Table 8 | Desc. vs HTML vs both(Mind2Web, GPT-3.5-turbo) | Step SR 34.6 / 33.8 / 32.9 | NL 比 HTML 高 0.8;两者都加更低 |
| Table 9 / §5 | AWM vs AWMAS(Mind2Web, gpt-4) | Step SR 45.1 / 46.4;SR 4.8 / 3.6;调用率 18.5%(§5) | Step +1.3,任务 SR −1.2 |
| Table 11 | AWM off+on(Mind2Web, gpt-4) | CT 44.5 / CW 33.3 / CD 34.1 | CT/CD 在 offline 与 online 之间;CW 33.3 低于 offline 33.7、online 33.9 |
在线 AWM 的前提是评估器能挡住失败轨迹;如果评估器不可靠,错误 workflow 会进入记忆。环境频繁弹窗/改版时,预定义序列的收益会下降。论文没有给出记忆淘汰机制,长期运行需要额外的容量管理。