WebExplorer
Web Agent · arXiv 2025 · v3

WebExplorer:先让模型上网探索,再把线索一步步模糊掉

开源网页 Agent 缺的不是模型结构,而是足够难的信息检索训练数据。WebExplorer 用模型从一个种子实体出发,自主搜索、浏览、把多个网页上的事实串成一个 QA;随后反过来做「去信息」:删显眼线索、把日期地点人名模糊化、用更泛的描述替换实体,最多迭代 5 次。 演化后的 QA 让 Claude-4-Sonnet 的准确率从 86.6% 降到 67.1%,平均工具调用从 7.9 升到 9.9 轮。

Junteng Liu 等 · HKUST / MiniMax / University of Waterloo arXiv 2509.06501v3 ↗ 代码与数据 ↗
TL;DR · 30 秒抓住核心

数据是瓶颈,不是模型。 现有开源网页 Agent 在 BrowseComp 这类难题上表现有限,人工标注又贵。论文的判断是:缺的是「需要跨多个网站、绕几道弯才能答对」的 QA,而不是更多普通网页问答(§1)。

两阶段合成:先探索,再演化。 第一阶段让模型从 Wikipedia 种子实体出发,自己搜索、浏览、决定什么时候停,把找到的事实编成一个 QA;第二阶段把初始问题里的显眼线索删掉、模糊化或替换,答案保持不变,难度上升(§2.2、§2.3)。

8B 模型在 BrowseComp-en/zh 两列上超过 WebSailor-72B。 SFT + GRPO 后,WebExplorer-8B 在 BrowseComp-en 得 15.7%、BrowseComp-zh 32.0%、FRAMES 75.7%;BC-en 比 WebSailor-72B 的 12.0% 高 3.7 个百分点(相对 30.8%)。

泛化有亮点,但「全面超过 32B」不成立。 HLE(Humanity's Last Exam)上 17.3% 高于 WebThinker-32B 的 15.8%,但低于 AFM-32B 的 18.0% 与 Kimi-K2 的 18.1%。论文只点名了部分 32B 对照,页面把整张表列出来。

15.7%
WebExplorer-8B (RL) 的 BrowseComp-en
WebSailor-72B 为 12.0%;+3.7 个百分点
32.0%
BrowseComp-zh
WebSailor-72B 为 30.1%;+1.9 个百分点
75.7%
FRAMES
同规模 MiroThinker-8B 为 64.4%
01

缺的是「要绕几道弯」的题,不是更多网页问答

先把数据侧的缺口说清楚:现有合成数据要么太简单,要么依赖规则化的图构建。

网页 Agent 需要从多个在线来源找信息、比较、排除、再确认。但训练这类能力的高质量数据很少:人工标注成本高、规模小;自动合成的数据又常常只覆盖「搜一个关键词、打开一个页面、抄一个答案」的浅层流程(§1、§2)。

论文把现有合成路线分成两类。第一类是基于图的随机游走:把网站或实体当节点、链接当边,在图上选子图再生成 QA。问题在于节点扩展与选择依赖大量启发式规则,流程复杂、灵活性差。第二类是由简到难的演化:不断给问题加约束、加信息,让问题变长;但这样容易生成不自然、冗长的查询(§2)。

缺口 1

初始 QA 仍然太容易被强模型解掉

论文用 Claude-4-Sonnet 测自己合成出来的初始 QA:准确率 86.6%,远高于它在 BrowseComp-en 上的 12.2% 与 GAIA 上的 68.3%。这说明「跨多个网站」本身不等于「难」(§2.3、Table 1)。

缺口 2

显眼线索会给出直接搜索入口

初始问题里常有「官方上座率创纪录」「这位球员 44 岁去世」这类强提示,模型可以直接拿关键词去搜;难题则用「1960–1980 年间播出、少于 50 集的电视剧」这种模糊描述,迫使模型探索(§2.3)。

论文的评测覆盖六个信息检索基准(BrowseComp-en/zh、GAIA(103 条纯文本验证子集)、WebWalkerQA、FRAMES、XBench-DeepSearch),以及学术基准 HLE。WebExplorer-8B 的分数按 Avg@4 计算,LLM-as-Judge 用 DeepSeek-V3(§4.1);§4.1 的宽表述称所有分数都用 Avg@4,但 Table 2 caption 只明确 WebExplorer-8B 的分数是 Avg@4,Table 1 caption 未注明 Avg@4。这套评测既看「难检索」,也看「跨基准泛化」。

02

人工标注、图构建、演化:三条路线,各自缺一块

论文的对照不是「谁的模型更大」,而是「训练题从哪里来、难度怎么保证」。

路线 A

人工标注 / 专家出题

GAIA、BrowseComp 这类基准由人工设计,质量高但规模受限于成本。论文提到 BrowseComp 的构造需要大量人工 effort,无法直接拿来做大规模训练数据(§1、§2)。

路线 B

图构建 / 随机游走

WebSailor、WebShaper 等工作用图或信息空间合成 QA。论文认为这类方法需要设计节点扩展与选择启发式,流程复杂(§2)。

路线 C

由简到难演化

ASearcher、WebDancer 等给问题不断加约束、加信息,让查询变长。论文认为这和真实难题的方向相反:难题不是信息更多,而是有效信息更少、指代更模糊(§2)。

WebExplorer 的差异在于把「探索」交给模型,而不是规则:模型自己决定搜什么、打开哪个页面、什么时候停止;然后把探索到的事实编成问题。演化阶段则反向操作:从完整信息出发,逐步删掉或模糊化线索。这个「long-to-short」的方向是论文最核心的方法论主张(§2.3、Figure 2)。

为了避免只会做 BrowseComp 风格的题,论文从 Wikipedia 收集不同领域的种子实体,并在合成提示里放入三条 BrowseComp-en 示例;最终数据集约 40K 条,演化迭代 5 次(§2.4)。这也带来一个后面要讨论的边界:训练数据与评测基准共享同一类示例。

03

先探索出一个信息空间,再把入口线索拆掉

两个阶段共用同一个答案:第一阶段保证答案唯一且可验证,第二阶段只改问题、不改答案。

3.1 模型驱动探索:从种子实体到多网站 QA

给定一个 Wikipedia 种子实体,模型用 search 与 browse 两个工具自主探索。它可以选择查询词、打开页面、继续追链接;当它认为信息足够时,选一个「唯一且可验证」的事实作为答案,再围绕这个答案编一个需要跨网站推理的问题(§2.2、Figure 3)。

seed → (search / browse / …) → H(0) → (Q0, A)
H(k+1) = (H(k), τ1(k), α1(k), o1(k), …, τmk(k))
§2.2–2.3 · H 是探索得到的信息空间,Q0 是初始问题,A 是固定答案

工具方面,search 返回 Google 前 10 条结果的标题、URL 与摘要;browse 用 Jina 抓取网页全文,再用 Gemini 2.5 Flash 根据问题抽取答案(§4.1、Appendix C)。论文的系统提示要求最终输出 <question> 与 <truth>,方便自动解析(Appendix B.1)。

3.2 迭代演化:删信息、模糊化、换说法

第二阶段拿第一阶段完整轨迹作为输入,提示模型从三个方向改问题:

方向 1

删掉显眼描述

删除部分描述,尤其当多条描述都能指向答案时;原文没有规定保留哪一条(§2.3、Appendix B.2)。

方向 2

模糊日期、地点、人名

把「44 岁去世」改成更泛的时间描述,把「曼联」改成「顶级联赛豪门」,把具体地名改成范围描述;答案保持不变(§2.3)。

方向 3

换一种指代

用同义描述、历史名称、上位概念替换显式实体;模型可以在演化过程中继续 search/browse,寻找替代说法(§2.3、Appendix B.2)。

论文给了一个具体例子:初始问题直接说「这场比赛官方上座率创世界杯纪录」「裁判是世界杯决赛最年长主裁」「26 年后他当主席的俱乐部在足总杯决赛击败曼联」「进球球员 44 岁去世」,问进球发生在第几分钟;演化后变成「在唯一一届没有淘汰赛决赛的世界杯赛制中,一位比赛官员后来带领第二级别俱乐部击败顶级联赛豪门……那位被儿时支持的俱乐部拒绝的进球者,来自一个 20 世纪 20 年代并入皇家海军要塞的街区」,答案仍是第 83 分钟(§2.3)。

这个例子说明演化的方向不是「加更多约束」,而是「把直接入口拆掉」。Table 1 用 Claude-4-Sonnet 量化了效果:初始 QA 准确率 86.6%,演化后 67.1%,下降 19.5 个百分点(相对 22.5%);平均工具调用从 7.9 增到 9.9,多 2.0 轮(相对 25.3%)。

但演化不是越难越好。Table 1 里演化后 QA 的准确率是 67.1%,略低于 WebShaper 的 67.4%(低 0.3 个百分点);它的优势是平均轮数最高(9.9 对 WebShaper 的 8.4)。论文据此说演化后的数据「需要更多探索」,而不是「准确率最低」。页面不把 67.1 说成所有数据集里最难。

04

40K 合成数据,13K 做 SFT,12K 做 GRPO;上下文从 64K 扩到 128K

训练分两段:先 cold start,再 RL。论文没有报告 GPU 型号、数量或总训练时长。

数据

约 40K 条演化后的 QA

从 Wikipedia 种子实体出发,用模型探索 + 5 轮演化,得到约 40K 条 QA。SFT 用其中约 13K 条带正确轨迹的样本;RL 用约 12K 条,不需要轨迹示范(§2.4、§4.1)。

SFT

Qwen3-8B,batch 32,lr 1e-5

底座 Qwen3-8B;SFT 训练 batch size 32,学习率 1e-5,训练 4 个 epoch。轨迹来自商业模型,经过 rejection sampling,只保留正确答案的轨迹(§3.1、§4.1)。

RL

GRPO,组大小 8,batch 64

GRPO 每组 8 条 rollout,batch size 64,学习率 1e-6;奖励是 R = 0.2 · Rformat + Rcorrect,正确答案由 DeepSeek-V3 裁判(§3.2、Eq.4、§4.1)。

上下文

64K/50 轮 → 96K/75 轮 → 128K/100 轮

RL 训练逐步扩上下文:先 64K token、50 轮工具调用;再 96K、75 轮;最后 128K、100 轮(§3.2)。

工具 scaffold 只有两个动作:search 与 browse。search 每次返回 Google 前 10 条结果;browse 用 Jina 抓全文,再用 Gemini 2.5 Flash 抽取答案(§4.1、Appendix C)。论文没有给训练 GPU 数量、GPU 小时或 API 调用费用;因此页面不把「8B」当成「低成本」的证据。

05

合成管线:种子 → 探索 → 初始 QA → 去信息 → 演化 QA → SFT/RL

上半部分是数据生产,下半部分是模型训练;两个阶段共享同一个答案。

Wikipedia 种子 实体 / 主题 模型自主探索 search · browse · 追链接 初始 QA (Q₀, A) Claude-4-Sonnet 可解 86.6% 迭代演化 ×5 删线索 · 模糊化 · 换指代 WebExplorer-QA 约 40K 条,答案不变 SFT 冷启动 约 13K 正确轨迹 GRPO 约 12K QA,无轨迹 WebExplorer-8B 128K · 100 轮 评测:BrowseComp-en/zh · GAIA · WebWalkerQA · FRAMES · XBench-DS · HLE WebExplorer-8B:Avg@4 · LLM-as-Judge (DeepSeek-V3) 作者复现行(†)使用同一套 search/browse scaffold;其余基线沿用各自 scaffold 评测

论文的演化阶段(§2.3、Eq.3、Appendix B.2)可以继续调用 search/browse 来寻找替代说法,所以它不只是「改写句子」,而是在改写的同时维持答案的可验证性;上图只画了主线,没有画出这个回环。公式把每一轮演化的动作与观察都追加进信息空间 H,下一轮演化基于完整历史。

06

演化把准确率压到 67.1%,RL 再把 8B 拉到 15.7% / 32.0%

先看数据难度,再看模型成绩;Table 2 的 WebExplorer-8B 分数是 Avg@4,Table 1 的评测模型是 Claude-4-Sonnet。

6.1 数据难度:初始 QA 86.6%,演化后 67.1%

Table 1 用 Claude-4-Sonnet 作为统一评测模型。初始 QA 的平均轮数是 7.9,演化后是 9.9,多 2.0 轮;准确率从 86.6% 降到 67.1%,低 19.5 个百分点。和其他公开数据集比,演化 QA 的轮数最高,但准确率不是最低:SailorFog 只有 35.0%,WebDancer 是 62.0%,WebShaper 是 67.4%。

数据集平均工具调用轮数Claude-4-Sonnet 准确率 (%)
Initial QA(本文)7.986.6
Evolved QA(本文)9.967.1
WebDancer5.462.0
SailorFog8.235.0
WebShaper8.467.4
ASearcher6.562.0
Table 1 · 评测模型为 Claude-4-Sonnet;轮数是工具调用次数,不是 token 数。Evolved QA 的轮数最高,准确率比 WebShaper 低 0.3 个百分点。原文 Table 1 的数据单元格中,加粗只出现在 Evolved QA 的轮数 9.9;准确率列最高值 Initial QA 的 86.6 未加粗,因此加粗不表示列内最高。
切换指标,查看初始 QA、演化 QA 与四个公开数据集的难度差别。
柱高按 value / max 归一化:准确率视图 max=90,轮数视图 max=11。
手算对账 演化带来的准确率与轮数变化

准确率:86.6 → 67.1,绝对下降 86.6 − 67.1 = 19.5 个百分点;相对 19.5 / 86.6 × 100 = 22.5%。

轮数:7.9 → 9.9,绝对增加 9.9 − 7.9 = 2.0 轮;相对 2.0 / 7.9 × 100 = 25.3%。这两个变化方向相反:题更难,需要更多轮。

6.2 模型成绩:SFT 到 RL,七个基准全部上升

WebExplorer-8B 先在 SFT 后达到 BC-en 7.9%、BC-zh 21.3%;GRPO 后升到 15.7% 与 32.0%,分别高 7.8 与 10.7 个百分点(相对 98.7% 与 50.2%)。GAIA 从 43.7% 到 50.0%(高 6.3 个百分点,相对 14.4%),WebWalkerQA 从 59.8% 到 62.7%(高 2.9 个百分点,相对 4.8%),FRAMES 从 72.6% 到 75.7%(高 3.1 个百分点,相对 4.3%),XBench-DS 从 47.5% 到 53.7%(高 6.2 个百分点,相对 13.1%),HLE 从 16.0% 到 17.3%(高 1.3 个百分点,相对 8.1%)。

模型BC-enBC-zhGAIAWebWalkerQAFRAMESXBench-DSHLE
OpenAI-o3†50.958.170.5†71.784.066.720.2
Claude-4-Sonnet†12.229.168.3†61.780.764.620.3
GLM-4.526.437.566.0†65.6†78.9†70.0†21.2†
DeepSeek-V3.130.049.263.1†61.2†83.771.229.8
Kimi-K2†14.128.857.763.072.050.018.1
WebShaper-72B——60.052.2———
WebShaper-32B (QwQ)——53.349.7———
WebShaper-32B——52.451.4———
WebSailor-72B12.030.155.4——55.0—
WebSailor-32B10.525.553.2——53.3—
WebSailor-7B6.714.233.0——34.3—
ASearcher-Web-QwQ5.215.652.834.370.942.112.5
AFM-32B11.1—55.363.0——18.0
AFM-7B5.8—40.855.6——15.6
WebThinker-32B2.8—48.546.5——15.8
MiroThinker-32B-DPO-v0.113.017.057.349.371.7—11.8
MiroThinker-8B-DPO-v0.18.713.646.645.764.4——
WebExplorer-8B (SFT)7.921.343.759.872.647.516.0
WebExplorer-8B (RL)15.732.050.062.775.753.717.3
Table 2 · WebExplorer-8B 的分数为 Avg@4,LLM-as-Judge 用 DeepSeek-V3;† 表示论文按自己的 scaffold 复现(on model name = entire row; on a number = that entry only)。BC-en/BC-zh 即 BrowseComp-en/zh,XBench-DS 即 XBench-DeepSearch。原文粗体标 <100B 开源最优,下划线标 <10B 最优;GLM-4.5、DeepSeek-V3.1、Kimi-K2 等更大模型的数值未加粗,符合 caption 规则,页面未复刻这两类强调。WebWalkerQA 上 AFM-32B 63.0 高于 WebExplorer 62.7。HLE 上 AFM-32B 18.0、Kimi-K2 18.1 高于 WebExplorer 17.3。
选择阶段,查看七个基准的分数;RL 视图列出相对 SFT 的绝对百分点差。
柱高按 value / max 归一化:基准视图 max=90。
手算对账 SFT → RL 的两组增益

BrowseComp-en:7.9 → 15.7,绝对差 15.7 − 7.9 = 7.8 个百分点;相对 7.8 / 7.9 × 100 = 98.7%。

BrowseComp-zh:21.3 → 32.0,绝对差 32.0 − 21.3 = 10.7 个百分点;相对 10.7 / 21.3 × 100 = 50.2%。RL 的增益在两个语言上方向一致,但幅度不同。

BC-en 上 WebExplorer-8B 的 15.7% 比 WebSailor-72B 的 12.0% 高 3.7 个百分点(相对 30.8%),比同规模 MiroThinker-8B 的 8.7% 高 7.0 个百分点(相对 80.5%);BC-zh 上 32.0% 比 WebSailor-72B 的 30.1% 高 1.9 个百分点(相对 6.3%)。WebWalkerQA 上 62.7% 对 WebShaper-72B 的 52.2%,复算差 10.5 个百分点(相对 20.1%);论文 §4.2 称 outperforming WebShaper-72B by 10 absolute points,原文未解释 10 与 10.5 的差异,页面不归因。同一列里 AFM-32B 的 WebWalkerQA 是 63.0%,高于 WebExplorer 的 62.7%;论文 §4.2 仍称 WebWalkerQA 是 open-source sub-100B 最优,这与表内数字对不上。

「比 WebSailor-72B 强」要限定在具体列:BC-en、BC-zh 是表内可核对的;FRAMES 的 WebSailor-72B 单元格是「—」,不能说「在 FRAMES 上也超过 WebSailor-72B」。HLE 上 WebExplorer 的 17.3% 低于 AFM-32B 的 18.0%(低 0.7 个百分点)和 Kimi-K2 的 18.1%(低 0.8 个百分点),「超过所有 32B 模型」不成立。

07

边界:只训了 8B、只用一套 scaffold、没报训练成本

这些条件决定了「8B 在部分列超过 WebSailor-72B」能推广到哪一步。

模型

只训练 Qwen3-8B

论文只给一个 8B 模型的结果,没有 32B/72B 的同方法训练对照。和 WebSailor-72B 的比较是「不同模型、不同训练配方」的跨模型比较,不是受控缩放实验(§4.1、Table 2)。

数据

合成 prompt 含 BrowseComp-en 示例

种子实体来自 Wikipedia,但合成提示里放了 3 条 BrowseComp-en 示例;评测又包含 BrowseComp-en/zh。论文没有给出去重、重叠率或污染分析;推断 同风格数据可能带来评测优势(§2.4、§4.2)。

工具

search / browse 都是外部服务

search 用 Google 前 10 条结果;browse 用 Jina 抓全文、Gemini 2.5 Flash 抽答案。工具行为、配额与网络状况会直接影响数据合成和评测;论文没有报告 API 成本或失败率(§4.1、Appendix C)。

成本

没有 GPU 小时或费用

论文给了 SFT/RL 的 batch、学习率、epoch 与上下文扩展,但没有 GPU 型号、数量、训练时长。不能把「8B」直接换算成「低成本」,也不能和 72B 基线的训练成本对比(§4.1)。

结果层面的边界有三条。第一,HLE 不是全面占优:17.3% 比 WebThinker-32B 的 15.8% 高 1.5 个百分点(相对 9.5%),但低于 AFM-32B 的 18.0% 与 Kimi-K2 的 18.1%;论文只点名了前一组。第二,原文的 10 与表内 10.5 不同:WebWalkerQA 62.7 对 WebShaper-72B 52.2,复算 10.5 个百分点;论文 §4.2 用 10,原文未解释差异,页面不归因。同一列 AFM-32B 为 63.0,高于 WebExplorer 的 62.7,也不支持论文 §4.2 的「sub-100B 最优」说法。第三,Avg@4:推断 它是评测阶段的四次平均,不是训练多次的方差(§4.1 只写所有分数用 Avg@4 报告、未给定义;Figure 5 在 RL 训练过程中按 step 记录 avg@4);论文没有报告训练种子或置信区间。

方法层面的边界是「演化」的代价。每条数据要跑探索 + 最多 5 轮演化,每轮都可能调用 search/browse;论文没有报告合成 40K 条数据的总调用次数或费用。演化也可能把问题改得过于晦涩,但论文明确说要在提高复杂度的同时保持 reasonable solvability,完全照搬 BrowseComp-en 的难度对训练当前开源模型没有必要(§2.4);Table 1 里演化 QA 的准确率是 67.1%,仍高于 SailorFog 的 35.0%。