心智理论与涌现式协作

问题

多 Agent 协作往往显得像魔法：Agent 会分工、相互预判、避免重复。通常这种「涌现」只是提示工程的产物——有人告诉 Agent 要「协作」。拿掉提示，协作也就消失了。

Riedl 2025 的发现更严格：在受控条件下，只有当 Agent 被提示去推理其他 Agent 的心智（ToM）时，协作才会涌现。没有 ToM 提示，即便是强模型所表现出的协作模式也无法通过统计控制。这对生产很重要：团队发布的「多 Agent 协作」功能往往是依赖提示且脆弱的。

本课把 ToM 视为一项具体能力（对信念的信念进行推理），构建一个最小的 ToM 感知 Agent，并测量真正的协作与提示包装出来的协作分别是什么样子。

概念

ToM 的含义

发展心理学：3 岁的孩子认为所有人的内心世界都和自己一样。5 岁的孩子理解他人有不同信念。7 岁的孩子能推理「对信念的信念」（「她认为我认为球在杯子下面」）。这些分别对应零阶、一阶和二阶 ToM。

对 LLM Agent 而言，ToM 的阶数对应如下：

• 零阶： 不建模他人。Agent 只根据自己的观察行动。
• 一阶： Agent 对每个其他 Agent 的信念建立一个模型。「Alice 相信 X。」
• 二阶： Agent 建模递归信念。「Alice 相信 Bob 相信 X。」

Li 等人 2023 年发现，一阶和二阶 ToM 会在合作游戏中的 LLM Agent 身上涌现，但会随长程与不可靠通信而退化。

Sally-Anne 测试简述

1985 年的错误信念测试：Sally 把一颗弹珠放进篮子 A 后离开。Anne 把它移到篮子 B。Sally 回来后会去哪里找？具备一阶 ToM 的儿童回答篮子 A（Sally 的信念与现实不同）。不具备的儿童回答篮子 B。

GPT-4 时代的 LLM 在直白提问时能通过 Sally-Anne 类测试。当叙事变长、场景多次变化，或问题被间接表述时，它们就会失败。这就是 2026 年生产环境中 LLM 的 ToM 实际水平。

Riedl 的协作测量

Riedl（arXiv:2510.05174）构建了一个种群尺度测试：N 个 Agent、一个合作目标、可变的提示条件。测量：

1. 身份关联的分化。 Agent 是否随时间形成稳定的角色区分？
2. 目标导向的互补性。 Agent 的行动是否互补（不同子任务）而非重复？
3. 高阶协同。 一种统计度量，衡量群体是否实现了任何子集都无法实现的结果。

结果：只有在 ToM 提示条件下，三项指标才都产生高于基线的信号。没有 ToM 提示时，中等能力模型的各项指标在随机水平附近徘徊。大模型在没有显式 ToM 提示时也表现出一些协作，但效果小于有显式提示时。

协作幻觉

没有统计控制时，演示中的「涌现式协作」往往反映的是：

• 把协作写死的提示工程（系统提示里写着「一起工作」）。
• 观察者偏差（我们看到了自己预期的模式）。
• 对成功运行的事后挑选。

那些宣传「涌现式协作」却拿不出可测量信号的生产系统，应当被视为营销。先测量，再宣称。

一个最小的 ToM 感知 Agent

结构如下：

复制agent state:
  own_beliefs:    {facts the agent believes}
  other_models:   {other_agent_id -> {beliefs_the_agent_attributes_to_them}}
  actions_last_N: [history of others' actions]

observation update:
  - update own_beliefs from direct observation
  - update other_models[agent_id] from their action + prior beliefs

action selection:
  - enumerate candidate actions
  - for each, predict what each other agent will do next given their modeled beliefs
  - pick action that maximizes joint outcome under those predictions

other_models 属性就是 ToM 状态。一阶 ToM 只保留一层。二阶则增加 other_models[i][other_models_of_j]——即我认为 Agent i 认为 Agent j 相信什么。

长程为何有害

Li 等人记录了：上下文限制会让 Agent 忘记哪个信念属于谁。幻觉会向他人模型中加入虚假信念。两者都会产生「我以为他以为 X」这类错误，并随时间累积。

论文及 2024-2026 年后续工作中记录的缓解措施：

• 提示中显式的 ToM 状态。 结构化格式：{agent_id: belief_list}。强制检索时保留身份—信念的绑定关系。
• 更短的推理链。 每轮更少的 ToM 更新可减少复合幻觉。
• 外部 ToM 存储。 把模型维护在 LLM 上下文之外；每轮只注入相关部分。

ToM 在生产中失效的地方

• 对抗性环境。 拥有良好 ToM 的 Agent 更容易被操纵（你可以建模它们对你的建模，然后加以利用）。
• 异构团队。 当模型各不相同时，适用于一个对手的 ToM 模型无法泛化。
• 依赖真值的任务。 ToM 关乎信念；如果正确性取决于事实，ToM 可能是一种干扰。

你真正能测量的协作

三个实用信号，可判断团队的协作是真实的，而非提示包装的：

1. 随时间保持的互补性。 在一个多轮任务中，Agent 的行动是否覆盖不相交的子任务？
2. 预判。 Agent A 在第 T+1 轮的行动，是否依赖于它对 B 在第 T+2 轮行动的预测，而该预测后来被证明正确？
3. 纠正。 当 A 在第 T 轮误读 B 的信念时，A 是否会在第 T+2 轮之前纠正？

这些在带有日志的多 Agent 系统中都是可测量的。它们才是「协作」叙事的实质版本。

构建它

code/main.py 实现了：

• ToMAgent——跟踪自身信念以及针对每个其他 Agent 的信念模型。
• 一项合作任务：三个 Agent 必须从三个盒子中收集三个 token；每个盒子只能容纳一个 token。Agent 之间不能通信；它们从彼此的行动中推断意图。
• 两种配置：zeroth_order（无 ToM）和 first_order（带一层信念模型的 ToM）。
• 在 200 次随机试验中测量：完成率、重复率（两个 Agent 瞄准同一个盒子）、平均完成轮数。

运行：

复制python3 code/main.py

预期输出：零阶 Agent 的重复劳动率约为 35%，在 10 轮内完成约 60% 的试验。一阶 ToM Agent 的重复率约为 5%，完成约 95%。这一差值就是可测量的协作效应。

使用它

outputs/skill-tom-auditor.md 是一个技能，用于审计多 Agent 系统关于「涌现式协作」的声明。它会检查提示包装、相对对照组的统计显著性，以及实测的互补性。

交付它

协作声明检查清单：

• 对照组。 一个不带协作提示的系统版本。两者都要测量。
• 统计检验。 在你的指标上，系统与对照组之间的差异是否达到 p < 0.05 显著？
• 互补性度量。 随时间保持的行动不相交性，而不只是最终成功。
• 失败案例日志。 当 Agent 协作失误时，ToM 状态是什么样子？
• 模型能力披露。 如果效应在较小模型上消失，请如实说明。

练习

1. 运行 code/main.py。确认一阶 ToM 将重复率降低约 7 倍。当扩展到 5 个 Agent 和 5 个盒子时，差距是否仍然存在？
2. 实现二阶 ToM（Agent A 建模 B 对 C 的看法）。它相比一阶是否有提升？在什么任务上？
3. 向 ToM 状态注入幻觉：每轮随机翻转一个信念。这会多大程度削弱一阶性能？
4. 阅读 Li 等人（arXiv:2310.10701）。复现「长程退化」的发现：当轮数从 10 增加到 30 时，你的一阶 ToM 性能如何变化？
5. 阅读 Riedl 2025（arXiv:2510.05174）。在你的仿真日志上实现高阶协同统计量。在没有 ToM 提示条件时，该效应是否存在？

关键术语

延伸阅读

• Li 等人 — 通过大型语言模型实现多 Agent 协作的心智理论 — 合作游戏中的涌现 ToM；长程失效模式
• Riedl — 多 Agent 语言模型中的涌现协作 — 种群尺度测量；ToM 提示是承重条件
• Premack & Woodruff — 黑猩猩有心智理论吗？ — 1978 年 ToM 概念的起源
• Baron-Cohen, Leslie, Frith — 自闭症儿童有心智理论吗？ — Sally-Anne 论文（1985）

示意图共 1 张