[!info] 阅读导览
全文 6 节：项目组成（1.1）→ 模型架构与三阶段训练（1.2：CPT / SFT / RL）→ IterResearch 模式（1.3）→ 六个关键问题 RQ1~RQ6（1.4：能否参考、要不要专用模型、数据、CPT、SFT/RL、迁移）→ 结语（1.5）→ 参考文献（1.6）

flowchart LR
    A[CPT 增量训练<br>基础知识 + 推理能力] --> B[SFT 监督微调<br>WebFrontier 数据冷启动]
    B --> C[RL 强化学习<br>GSPO 算法 + 三项改进]
    C --> D[Tongyi-DeepResearch-30B-A3B]
    D --> E[IterResearch 模式<br>核心报告 + 动态工作空间]

1. Tongyi DeepResearch 技术报告解读

通义团队开源了 Tongyi DeepResearch[3]，这是一个很有趣的 Agent 项目，不仅提供了强大的模型，而且开源了技术报告 [4] 和模型 [1][2]。这个项目有很多值得学习的地方，特别是在 Agent 的训练上，提供了很多有价值的信息。

1.1. 项目组成

项目主要包含三个部分：

1. Tongyi-DeepResearch-30B-A3B 模型：这是项目的核心，一个专门为深度研究任务设计的大语言模型。
2. 技术报告：详细介绍了模型的架构、训练方法和实验结果。
3. 开源代码：提供了模型的实现和训练代码，方便研究者复现和扩展。

1.2. 模型架构与训练阶段

Tongyi DeepResearch 的模型架构基于 Transformer，但针对研究任务进行了特殊优化。训练过程分为三个主要阶段：

1.2.1. 增量训练（CPT）

增量训练是模型训练的第一阶段，主要目的是增强模型的基础知识和推理能力。这一阶段使用了大量高质量的数据，包括：

• 常见的高质量 CPT 数据，如爬虫数据和知识图谱
• 后训练的轨迹数据，通过合成方式生成

1.2.2. 监督微调（SFT）

监督微调阶段主要用于对强化学习的冷启动。这一阶段引入了一种新的 web 数据合成方法 WebFrontier，包含三个要点：

1. 种子数据生成：使用网页数据、文档和电子书作为基础，清洗并处理成 chunk，利用模型生成种子 QA 对
2. 迭代式复杂度升级：通过自举过程，由装备工具的 agent 改进问题和答案
3. 质量控制：去除过于简单和过于难的样本，确保数据质量

1.2.3. 强化学习（RL）

强化学习阶段使用了 GSPO 算法，并进行了以下改进：

• 将每条完整轨迹分解为多个训练样本，提高数据利用率
• 实施组级别的优势归一化，确保模型均衡掌握整个研究过程
• 加入最小损失下采样，解决轨迹长度差异带来的样本总数不固定问题

1.3. IterResearch 模式

Tongyi DeepResearch 提出了一个新的 Agent 模式，叫做 IterResearch。与大家熟知的 ReAct 模式相比，IterResearch 有两个关键点：

1. 良好维护的核心报告
2. 动态维护的工作空间

在 ReAct 中，模型的上下文会快速被工具调用的结果所占用，比如一个打开网页的工具调用，就能一次性用掉 10k+ 的上下文。这不仅会严重占用可怜的 LLM 上下文窗口，而且会产生严重的污染问题——模型会忘记之前的问题和分析思路。

IterResearch 模式将工具调用的结果所组成的工作空间动态维护，而把核心的分析思路等放在一个专门的核心报告中。这种做法可以理解为是针对多步工具调用中的上下文折叠压缩，这个设计也是此项目在长周期 Agent（long-horizon）的关键设计。

部分解读者推测，IterResearch 模式就是论文中提到的 heavy 版本。如果成立，则可以通过论文实验得知此项工作带来的增量是巨大的，比如在 Humanity’s Last Exam 中，IterResearch 比 ReAct 要高 7.9pt，在 BrowserComp 上要高 14pt。

1.4. 参考 DeepResearch 的哪些设计？

技术上的共识往往都表示技术的成熟，或者说一个研究阶段的终结。在 DeepResearch 以及 Agent 的模型训练中，有哪些是欠共识，哪些已经接近共识了呢？

1.4.1. RQ1: 我是否需要 Deep Research Agent?

如前文提到，Deep Research Agent 这种技术，主要是自主问题求解。如果你已经在用，或者在调研如下的场景，那你可以考虑 Deep Research Agent：

1. AI 搜索：典型是百度的智能搜索，Perplexity AI，夸克搜索，Google 的 AI summary 等。这类场景是 Deep Research Agent 的潜在场景。但此技术方案相比于现有的"LLM 总结搜索引擎结果"，在效率上有明显短板。他实在太慢了，一次查询往往需要数分钟。
2. 分析和报告生成：典型是 OpenAI 和 Gemini 的 Deep Research。这种场景是很合适的，但需要注意模型的幻觉和数据源的可信问题。

1.4.2. RQ2: 我是否需要 Agent 专用模型？或者通用大模型就够了？

当下这个问题仍处于欠共识状态。

这个问题的答案，对应了两种截然不同的技术路线，一个是专门训练模型以满足 agent 的需要，另一个是扩充通用模型的基础设施以满足 Agent 的需要。

首先在评测上，前者是 SOTA，以 Humanity’s Last Exam 为例，通用模型比如 DeepSeek-R1 的 24 分就比 Tongyi DeepResearch 的 28.8 低了不少。但实际使用中，还有更多的争议。

1.4.2.1. 专用模型的优势在于

1. 专门训练掌握工具调用
2. 长程推理，自主决策超过了通用对话模型本身

而通用模型的支持者会认为这两个点都可以由通用模型覆盖。

1.4.3. RQ3: 我需要花很多时间准备数据吗？

这个问题虽有争议，但相对可观的从业者都赞同数据质量的必要性。对于 Agent 的模型而言，什么是高质量数据呢？下面几个线索是存在的：

1. 数据标注的质量，一个粗浅的区分方式是：
   • 人工标注
   • 模型标注
   • 欠标注
     对于人工标注数据，大家可信度很高，但实操中，人工数据质量并非无懈可击。模型标注数据在合成中已经大量使用了，精心构建的数据链路，多模型的混合标注方案也是能够保证一定的质量的。
2. 轨迹多样性，相比于问答数据，轨迹数据是非常昂贵的数据，其获取和精细标注的成本都很高。昂贵带来的一个问题就是稀少，更进一步导致的问题是多样性差，因此在 Tongyi DeepResearch 项目中重点探索了对于轨迹数据的构建。

1.4.4. RQ4: 我是否需要 CPT？

前文提过一个问题"Agent 的增强训练（CPT）究竟需要增强什么？"，我们当时的结论是目前并未明确。此外从成本角度考量，CPT 消耗的算力，数据成本，人力成本都不容小看。那能否跳过 CPT 阶段呢？

从当前的同类研究上看，CPT 并非是必选的。跳过 CPT 方案，而侧重于 SFT 和 RL 也是可行的路线。

1.4.5. RQ5: 我是否需要 SFT/RL?

如果想更加低成本的尝试，或者定制自己的 Deep Research Agent，一个最直接的方式，就是连 SFT/RL 都忘掉，接入一个你能买到的最贵的最大的模型，然后花点时间好好设计你的 Prompt。当然有很多框架都能更好的维护其中的工具调用和上下文。

1.4.6. RQ6: 我能否参考这个方案训练其他 Agent？

虽然 DeepResearch 是一个很有趣的 Agent，大家在研究和开发中，还需要各种各样的 Agent，比如 Terminal 的 Agent，Github 的 PR Agent 之类。那 DeepResearch 的方案能否帮上这些研究呢？

这个问题远没有共识，一些线索是：

1. 在合成数据 + 多阶段训练方式的有效性，在大量场景中都得到了证实，也许可以参考这种总体流程。
2. 数据合成方法，特别是 WebFrontier 这种数据合成方式，却跟工具很有关，其有效性未被证明可以迁移到其他的工具和对应 Agent 中。
3. 封闭的工具集合看起来是有利于模型训练的，在 DeepResearch 研究中固定几种工具换来了稳定的数据构建链路和效果。
4. 长程推理，看起来越来越有希望得到解决，但目前未必那么成熟。

1.5. 最后

Tongyi DeepResearch 是一个很棒，并且有很好参考意义的项目，不仅提供了强而有力的模型，并且为上述诸多非共识提供了一些解决的线索。阅读其文章的感觉，就像你大热天 38-39 度，上了一天的班回到家，打开冰箱看到一瓶冰镇啤酒，还有一盒卤牛肉：Delicious！

很期待学术界和产业界有越来越多这样优秀的工作分享。如果对这个项目及其延展部分还有感兴趣的，欢迎评论互动，也欢迎给我写邮件，[email protected]讨论。

路仍然很长，我们都还在路上。

1.6. 参考文献

[1] Tongyi-DeepResearch-30B-A3B 的 modelscope 模型地址：
https://modelscope.cn/models/iic/Tongyi-DeepResearch-30B-A3B/summary

[2] Qwen3-30B-A3B-Instruct-2507 的 modelscope 模型地址：
https://modelscope.cn/models/Qwen/Qwen3-30B-A3B-Instruct-2507

[3] Tongyi DeepResearch Github 地址：
https://github.com/Alibaba-NLP/DeepResearch

[4] Tongyi DeepResearch 技术报告:
https://tongyi-agent.github.io/blog/introducing-tongyi-deep-research/

[5] Qwen3-30B-A3B 的模型地址
https://www.modelscope.cn/models/Qwen/Qwen3-30B-A3B

[6] WebSailor: Navigating Super-human Reasoning for Web Agent
https://arxiv.org/pdf/2507.02592

[7] WebExplorer: Explore and Evolve for Training Long-Horizon Web Agents
https://arxiv.org/pdf/2509.06501

[8] Group sequence policy optimization
https://arxiv.org/pdf/2507.18071

[9] WebShaper 数据
https://modelscope.cn/datasets/iic/WebShaper

[10] 深度解析通义 DeepResearch：阿里开源的 300 亿参数深度研究智能体
https://blog.csdn.net/m0_37733448/article/details/151958917

[11] 百炼的 Tongyi DeepResearch 体验地址
https://bailian.console.aliyun.com/?spm=a2ty02.31808181.d_app-market.1.6c4974a1tFmoFc&tab=app#/app/app-market/deep-search/

[12] Tongyi DeepResearch 论文
https://arxiv.org/pdf/2509.13309

[13] 关于过拟合的讨论
https://zhuanlan.zhihu.com/p/1951785880655209261

[14] 疑似项目作者的在知乎上的讨论
https://www.zhihu.com/question/1951587761955009058/answer/1952425910868357997

[15] Towards General Agentic Intelligence via Environment Scaling
https://arxiv.org/pdf/2509.13311

[!success] 核心要点

• 项目构成：Tongyi-DeepResearch-30B-A3B 模型 + 技术报告 + 开源代码
• 三阶段训练：CPT（增量训练）→ SFT（WebFrontier 数据冷启动）→ RL（GSPO 算法 + 轨迹分解 / 组级优势归一化 / 最小损失下采样）
• IterResearch：核心报告 + 动态工作空间，解决多步工具调用的上下文折叠压缩问题，是 long-horizon Agent 的关键设计
• 六问结论：AI 搜索场景效率偏慢；专用模型 vs 通用模型欠共识；数据质量与轨迹多样性是关键；CPT 非必选；低成本路线可跳过 SFT/RL；WebFrontier 迁移性未证实