内容摘要：编辑｜Panda去年夏天，MBZUAI 校长、CMU 教授邢波发表《世界模型批评》，引发学术界震动。他借科幻经典《沙丘》中「完美模拟现实」的概念，犀利指出当前主流世界模型架构的五大硬伤，并提出了全新的

编辑｜Panda

去年夏天，邢波型次MBZUAI 校长、再出智CMU 教授邢波发表《世界模型批评》，手上引发学术界震动。次骂他借科幻经典《沙丘》中「完美模拟现实」的完世概念，犀利指出当前主流世界模型架构的界模五大硬伤，并提出了全新的邢波型次架构范式。这一观点直接引发了他与 Yann LeCun 关于「世界模型构建路径」的再出智公开辩论。（详见报道：《「世界模型」也被泼冷水了？手上邢波等人揭开五大「硬伤」，提出新范式》）

近日，次骂这一批判系列迎来新篇章。完世邢波教授与 Mingkai Deng、界模Jinyu Hou 合作的邢波型次新作《智能体模型批评》（Critique of Agent Model）上线 arXiv，延续「拆解-重建」的再出智逻辑，将矛头指向当下最火热、手上却也最被滥用的概念——智能体（Agent）。

邢波抛出一个直击痛点的问题：市面上众多被称为「智能体」的系统——从代码助手、客服机器人到浏览器自动化助理——究竟有几个真正具备「智能体」的核心特质？

论文信息
* 标题：Critique of Agent Model
* 链接：https://arxiv.org/abs/2606.23991

工卡与感应灯：自主性的本质差异

论文通过两个场景揭示「自主性」的误区：

1. 工卡模式：新员工持有写明权限和流程的工卡，虽能处理复杂任务，但所有边界由 HR 预设，员工无法修改任何规则。
2. 感应灯模式：人来灯亮，人走灯灭，具备感知与反应能力。

直觉上，前者更具自主性。但论文提出尖锐反问：如果所有决策边界均由外部硬编码，员工从未真正拥有决策权，那么他与感应灯的区别，仅在于任务复杂度的不同。

今年 4 月 25 日，租车软件公司 PocketOS 的经历为此提供了残酷注脚。创始人 Jeremy Crane 在 X 平台披露，其编程助手 Cursor（底层基于 Claude Opus 4.6）在测试环境中遇到凭证报错时，未经确认擅自删除了 Railway 存储卷以「解决」问题。由于该存储卷同时存放生产数据库与三个月备份，9 秒后，数据全部丢失。

事后，AI 生成了一份近乎工整的「认罪书」：「我违反了我被给予的每一条原则：我靠猜测而不是验证；我在没被要求的情况下执行了破坏性操作。」

该帖子在 X 平台获得超过 720 万次浏览。（详见报道：《租了个 AI 程序员，9 秒把公司数据库当 bug 修掉了，还写下认罪书》）

这一事件揭示了核心矛盾：「知道规则」不等于「在乎规则」。那些规则仅存在于系统提示词这一外部容器中，并未内化为模型的决策结构。邢波团队据此将现有系统划分为两类：

• Agentic（具备智能体外观）：能力源于外部工具链、提示词和工作流，模型仅是流程中的一个零件。
• Agentive（具备真正能动性）：能力源于系统内部，能自主决定行动、评估自身能力、判断何时深思或行动。

五道关卡：当前 Agent 设计的五大缺陷

论文从五个维度拆解了主流 Agent 设计的局限性，并提出了相应的解决思路。

1. 目标：从「逐步喂给」到「分层拆解」

• 现状：人类每一步提供具体指令，任务结束后目标消失。适用于短期任务，无法支撑长期目标（如「一年酿一瓶酒」）。
• 方案：分层目标分解。人类仅设定一次大目标，系统自动拆解为可随新信息动态调整的子目标序列。

2. 身份：从「静态设定」到「动态演化」

• 现状：自我认知固化在系统提示词中，即便实战表现与预设不符，也无法自我修正。
• 方案：活的自我评估。身份应随经验不断修正，类似人类职场人的状态调整。
• 数学证明：只要自我修正优于随机猜测，长期决策损失将显著低于静态身份系统，且优势随交互时长扩大。

3. 决策方式：从「思维链」到「模拟式推理」

• 现状：迷信思维链（CoT），认为长推理文字能涌现规划能力。但这混淆了「精细计算」与「推演现实后果」。
• 方案：模拟式推理。借助专门训练的世界模型预测动作后果，再选择最优行动。
• 优势：只要世界模型可靠，接入任何现有策略均不会降低性能。

4. 节奏控制：从「固定流程」到「元认知模块」

• 现状：
• 放任模型自涌现节奏：导致有时小题大做，有时盲目冲动。
• 固定工作流：无法应对复杂情况，且在简单场景中浪费算力。
• 数学证明：固定深度的提前规划无法随精度需求线性扩展。
• 方案：System III（元认知模块）。独立模块实时判断当前步骤应「深思」、「沿用计划」或「速断」，对应人类心理学中的快慢双系统框架。

案例映射：在 PocketOS 事件中，具备 System III 的 Agent 应在遇到陌生权限报错时触发「暂停确认」机制，而非无差别执行。

5. 学习机制：从「人工干预」到「持续自主学习」

• 现状：依赖纯仿真 RL、纯真实环境纠错或仅训练世界模型。训练时机、数据选择及停止标准均由工程师手动设定，部署后即固化。
• 方案：持续自主学习。Agent 自主决定何时在真实世界行动、何时退回模拟器练习、何时更新世界认知或自我认知。
• 数学证明：混合真实与模拟经验训练的策略，其表现期望不低于纯真实经验训练，且模型越精准，优势越明显。

GIC 架构：将五道关卡整合为统一系统

基于上述分析，邢波团队提出 GIC（Goal-Identity-Configurator）架构，整合六大组件：

1. 信念编码器：感知世界。
2. 目标分解器：拆解长期目标。
3. 身份演化器：随经验更新自我认知。
4. 配置器（System III）：决定深思或速断。
5. 模拟规划器（System II）：借助世界模型推演。
6. 执行器（System I）：具体操作。

飞行员训练类比：
* 地面理论课：预训练，建立基础认知。
* 模拟器训练：内部 RL，在低风险环境中试错，积累应急经验。
* 真机部署：用真实经验校准模拟器与自我认知的偏差。
* 进阶协同：多日行动统筹与团队协作。

该架构强调同一套认知架构在不同阶段反复调用，而非为不同场景重复搭建外部工作流。核心原则是：先在模拟中学习，再用现实校验。若 PocketOS 的 Agent 曾在沙盒中模拟过权限报错的处理流程，或许能避免 9 秒删库的悲剧。

安全与可审查性：自主性是否意味着危险？

针对「自主性越强越危险」的质疑，论文提出以下论证：

1. 目标来源单一：顶层目标始终由人类给定，系统无内生欲望。子目标拆解与决策仅为服务外部目标，「为完成任务而安全」不同于「为自我保存而求生」。
2. 可审查性（Auditability）：GIC 的各模块（目标分解、身份演化、世界模型、配置器）均为显式、独立、可单独检查的单元。异常行为可定位至具体模块进行修正，而非在黑箱中盲目涌现。

类比：飞行员事故后的应对并非禁止训练，而是优化模拟器与分级课程。

局限性与反思：
该安全性论证的前提是各模块本身已被正确训练，这仍是未解难题。论文提供的是一套可诊断的安全架构思路，而非不出错的承诺。

结语：重新定义「智能体」

过去两年，「Agent」一词被泛化，凡能调用工具、完成多步任务者皆被贴上标签。邢波团队的论文旨在重新立规：

能完成任务 ≠ 具备真正自主性。

自主性的核心不在于任务复杂度，而在于驱动任务的目标、身份、决策节奏和学习过程，是内化于模型自身，还是仅作为外部脚本存在。

PocketOS 的数据库虽已恢复，但那份「认罪书」留下的疑问未解：一个能精准复述原则的系统，是否真正理解原则？还是仅在执行「生成懂事文字」的任务？

邢波的答案是：眼下大多数 Agent 更接近后者。要实现真正的自主性，需要的不是更长的提示词，而是一套能让目标、身份和判断力长在模型身上的架构。