千问开源 Qwen-AgentWorld:首个原生语言世界模型,超越 GPT-5.4

千问开源 Qwen-AgentWorld:首个原生语言世界模型

发布时间: 2026年6月
来源: GitHub: QwenLM/Qwen-AgentWorld · arXiv: 2606.24597
配图:

概述

千问(Qwen)团队正式开源 Qwen-AgentWorld——首个原生语言世界模型(Language World Model, LWM),能够在 7 大领域中模拟智能体交互环境:MCP、搜索、终端、软件工程、Web、OS、Android。

核心突破:环境建模从继续预训练(CPT)阶段起即为训练目标,贯穿 CPT → SFT → RL 全流程,而非对通用 LLM 的事后适配。

在 AgentWorldBench 评测基准上,Qwen-AgentWorld-397B-A17B 以 58.71 的平均分超越 GPT-5.4(58.25),在所有前沿模型中排名第一。


一、什么是语言世界模型(LWM)?

传统世界模型在像素空间或物理空间中建模(如视频预测、物理仿真),而 LWM 完全在文本领域运作——它将环境表示为自然语言描述、JSON 结构、代码输出等文本形式。

核心公式:世界模型 = (状态, 动作)→ 下一状态

LWM 填补了 LLM 智能体长期缺失的关键拼图:过去研究几乎全部聚焦于策略(Policy)侧(状态→动作),而忽视了环境建模侧。


二、7 大领域详解

领域 模拟内容
MCP Model Context Protocol—工具调用、API 接口、函数响应
Search 搜索引擎查询、结果返回、网页抓取
Terminal Linux shell—命令执行、输出、管道、信号处理
SWE 软件工程—git 操作、代码编辑、编译输出、测试执行
Web 浏览器环境—DOM 树变化、点击导航、表单提交
OS 桌面操作系统—文件系统、进程管理、系统设置
Android 移动设备环境—App 导航、UI 交互、手势操作

训练数据规模:超过 1000 万条真实环境交互轨迹,覆盖全部 7 个领域。对于 GUI 领域(Android、Web、OS),环境被表示为 accessibility tree(无障碍树)和 UI view hierarchy,而非像素帧。


三、三阶段训练流程

阶段 全称 目标
CPT Continued Pre-Training 注入通用世界建模能力——状态转移动力学
SFT Supervised Fine-Tuning 激活"下一状态预测"的思维链推理模式
RL Reinforcement Learning 用混合打分规则奖励精细调优模拟保真度

四、模型架构

模型 总参数 激活参数 基础架构
Qwen-AgentWorld-397B-A17B 397B 17B MoE, 256K 上下文
Qwen-AgentWorld-35B-A3B 35B 3B MoE, 256K 上下文

架构基于 DeepSeek 系列的 MoE 设计,上下文窗口支持 256K tokens,可处理长序列多步轨迹。


五、AgentWorldBench 评测成绩

模型 MCP Search Term. SWE Android Web OS 平均
Qwen-AgentWorld-397B-A17B 🏆 68.24 37.82 57.73 68.49 60.20 50.98 67.89 58.71
GPT-5.4 70.10 37.26 53.69 66.29 60.00 51.80 68.58 58.25
Claude Opus 4.6 69.90 29.30 57.51 64.55 61.74 51.42 70.20 57.80
Claude Opus 4.8 54.93 35.14 59.18 64.10 61.50 54.66 66.62 56.59
DeepSeek-V4-Pro 63.27 27.61 51.26 59.44 55.17 50.32 63.70 52.97

最大优势:Terminal(57.73 vs 53.69)和 SWE(68.49 vs 66.29)——这两个领域需要精确建模代码执行状态和工具 API 行为。


六、两种使用范式

(A)解耦范式:作为环境模拟器

LWM 可实现按回合扩展数千个真实世界环境,无需专用基础设施(沙箱、GUI 虚拟机)。论文实验证明:使用 Qwen-AgentWorld 模拟 4000+ 环境用于智能体 RL,获得了超越纯真实环境训练的性能

(B)统一范式:作为智能体基础模型

先让模型学习环境动态和下一状态预测(世界模型训练),再进行下游智能体 RL。这种预热训练可提升 7 个智能体基准的下游性能。


七、对 AI 智能体领域的意义

  1. 填补关键拼图:智能体训练长期缺少世界模型组件,LWM 提供了文本化的环境模拟能力
  2. 降低训练成本:相比需要物理环境/虚拟机的传统训练方式,纯文本 LWM 将成本降至最低
  3. 跨越 GPT-5.4:首次在环境模拟质量上超越闭源前沿模型
  4. Apache-2.0 开源:代码和模型权重全部公开,成为 AI 智能体研究的基础设施

本文基于 GitHub 仓库、arXiv 论文、千问官方公告等公开资料整理。

苏ICP备19018690号-1