Lecture 12 · 为什么要多个智能体——群体智慧、多样性、相关错误与集成 · Why Multiple Agents?

对应 Maps to：CS486 课程描述的 “multi-agent collaboration”——多智能体部分（第 12–16 讲）的第一讲。在讨论辩论（第 13 讲）、分工与编排（第 14 讲）之前，先把最简单的一种”多智能体”——多个独立的回答 + 一个聚合规则——讲透：它为什么有效、什么时候失效、上限在哪里。它也是后面每一种多智能体方法都必须打败的基线。 依据说明：CS486 没有公开的日程或讲义。本讲依据群体智慧与投票理论的经典文献（Condorcet 1785、Galton 1907、Krogh & Vedelsby 1995、Lorenz et al. 2011、预测聚合的极端化）和 LLM 集成的近期研究（Self-Consistency、More Agents Is All You Need、Are More LM Calls All You Need?、Mixture-of-Agents、Self-MoA、Kim et al. 2025 的相关错误、Goel et al. 2025 的 CAPA、Schoenegger et al. 2024 的 LLM 预测群体）。§2–§6 的实验是本讲义自己设计的，数字全部来自配套代码的实际输出。 配套代码 Code：code/lecture12/（代码 01、02 只用标准库，几秒钟；代码 03 用 PyTorch，复用第 1 讲的三个模型，约 16 秒） 预计阅读时间：3 小时（含运行代码）

0. 本讲导航 · How to read this lecture

0.1 学习目标 Learning goals

学完这一讲，你应该能够：

1. 说出”多个智能体”能带来收益的三种机制——误差抵消（投票、平均）、分工、交互——并说明本讲只研究第一种、为什么它是所有多智能体方法的基线。
2. 陈述 Condorcet 陪审团定理和它的四个条件，并解释每个条件坏掉时会发生什么；区分”多数票”和”相对多数票”，说明为什么关键是”正确答案是不是众数”。
3. 用题目之间的异质性解释投票为什么饱和：投票的天花板是”单次正确率过半的题目比例”；会用组内相关系数 ρ 和有效人数 $n/(1+(n-1)\rho)$ 估计集成的上限；解释 Chen et al. 的”投票先升后降”。
4. 用模糊度分解说明平均为什么有效；区分独立误差和共同误差；解释社会影响为什么让群体更一致却不更准；说明概率预测的”极端化”取决于信息是私有的还是共享的。
5. 在真实模型上区分三种多样性来源（采样温度、提示、模型），知道怎样测量它们带来的独立性，并理解质量–多样性的取舍（Self-MoA）。
6. 设计一个公平的多智能体实验：计算量匹配、在开发集上决定成员和权重、用配对检验报告差别。

0.2 先修与本讲范围 Prerequisites & scope

0.3 本讲地图 Map

§1  多个智能体为什么可能更好：三种机制；本讲只看"误差抵消"
§2  Condorcet 陪审团定理：条件、多选项、错误集中                               ← 代码 01
§3  相关错误：题目异质性、投票的天花板、有效人数、"易题 + 难题"                ← 代码 01
§4  数值与概率：模糊度分解、共同误差、社会影响、极端化                         ← 代码 02
§5  真实模型的三种多样性：采样、改写题面、换模型；错误的结构                   ← 代码 03
§6  集成：质量与多样性的取舍、加权、MoA 与 Self-MoA、在开发集上挑成员         ← 代码 03
§7  计算量匹配：多智能体的收益从哪里来
§8  现状与开放问题
§9–13  小结、常见误区、练习、延伸阅读、下一讲预告

1. 多个智能体为什么可能更好 · Why might many agents beat one?

1.1 三种机制

“多智能体系统”这个词覆盖了很多不同的东西：同一个模型采样十次再投票；五个不同公司的模型各答一次再由一个模型汇总；一个”经理”把任务拆给几个”工人”；两个模型互相批评、辩论。它们可能带来收益的机制大致有三种：

1. 误差抵消（error cancellation）：每个智能体独立地给出一个有噪声的答案，聚合（投票、平均）让噪声互相抵消。不需要智能体之间有任何交流。
2. 分工（division of labor）：任务被拆开，每个智能体只处理一部分——上下文更短、可以并行、可以用专门的模型（第 10 讲的 MACI、第 14 讲）。
3. 交互（interaction）：智能体看到彼此的答案和理由，修改自己的答案——批评、辩论、互相检查（第 13 讲）。

这一讲只研究第一种。原因有两个：第一，它最简单，可以用数学讲清楚，而它的结论（独立性是关键）适用于另外两种；第二，它是基线——一个辩论系统、一个多智能体框架用了 15 次调用，就应该和”15 次调用 + 投票”比较。第 1 讲 §6.1 提到的 More Agents Is All You Need（Li et al. 2024）说的正是：单纯的”采样 + 投票”就能随智能体数量稳定提高性能。如果一个复杂的系统打不过它，复杂的部分就没有贡献。

1.2 两个古老的故事

Galton 的公牛（1907，Vox Populi，Nature）。在一次乡村集市上，787 个人花六便士买一张卡片，猜一头公牛宰杀处理后的重量。Galton 统计了全部卡片：中位数 1207 磅，真实值 1198 磅，误差不到 1%。参赛者里有屠夫和农民，也有完全不懂牛的人；单独看，大多数人猜得并不准。

Condorcet 的陪审团（1785）。一群陪审员要判断一个被告是否有罪。如果每个陪审员独立地以概率 $p > 1/2$ 做出正确判断，那么陪审团越大，多数票正确的概率越接近 1。这是”民主决策比个人决策好”的最早的数学论证。

两个故事有同一个关键词：独立。Galton 的参赛者各自写卡片、互相看不到；Condorcet 的陪审员各自判断。当智能体是同一个 LLM 的多个实例、或者在同样的数据上训练的不同 LLM 时，独立性是否成立？如果不成立，会发生什么？这是这一讲的主线。

2. Condorcet 陪审团定理 · The jury theorem

2.1 定理与直觉

$n$ 个投票者，各自独立地以概率 $p$ 选对（二选一）。选对的人数 $X \sim \text{Binomial}(n, p)$，多数票正确 ⇔ $X > n/2$。由大数定律，$X/n \to p$；所以 $p > 1/2$ 时多数票正确的概率趋于 1，$p < 1/2$ 时趋于 0。

代码 01 演示 1 算出了精确值：

两个要点。第一，投票放大的是倾向，不管这个倾向是对是错：$p = 0.45$ 时，人越多越错。第二，$p$ 刚过 1/2 时需要非常多的人：$p = 0.51$ 时 101 人的多数票只有 58%。

2.2 四个条件

Condorcet 定理的结论依赖四个条件，每一个在 LLM 的世界里都可能不成立：

2.3 多选项：重要的是众数，不是过半

答案有很多种可能时（一道数学题的答案可以是任何数），聚合规则通常是相对多数票（plurality）：得票最多的答案获胜。这时正确答案不需要过半，只需要比任何一个错误答案都多。第 4 讲 §3.2 在真实采样里已经看到：有 9 道题，正确答案的得票不到一半，却仍然胜出。

代码 01 演示 2 把这一点做成对照实验：10 个选项，正确选项都是 35%，只改变错误票的分布：

同样是”35% 的时候对”，错误分散时 51 票几乎总对；错误集中在一个比正确答案更”有吸引力”的选项上时，人数足够多就趋于 0（这里先升后降：人少时，那个错误选项还不一定能稳定地拿到最多票）。

所以，对多选项任务，Condorcet 条件里的”能力”应该改写成：正确答案是每个投票者答案分布的众数。而错误是否集中，正是”相关错误”的一种表现。Kim et al.（ICML 2025，Correlated Errors in Large Language Models）在 350 多个 LLM 上测量了这一点：在 HELM 排行榜的 14,042 道四选一题上，两个模型都答错时，平均 60% 的情况下选了同一个错误选项（随机基线是 1/3）；Hugging Face 排行榜上是 42.3%（随机基线 12.7%）。几乎所有模型对（Hugging Face 上 100%、HELM 上 97.5%）的错误一致率都高于随机。LLM 的错误是集中的。

3. 相关错误：投票为什么会饱和 · Correlated errors

3.1 同一个模型的多次采样

自洽性投票（Wang et al. 2023）在 GSM8K 上把 PaLM-540B 从 56.5%（贪心思维链）提高到 74.4%；More Agents Is All You Need（Li et al. 2024）报告 Llama2-13B 采样投票后在 GSM8K 上达到 59%，超过单次调用的 Llama2-70B（54%）。但所有这类曲线都会饱和——再多的样本也到不了 100%。为什么？

关键在于：给定一道题，同一个模型的多次采样确实是独立的（每次重新抽随机数）；但不同题目的难度不同。设第 $i$ 道题的单次正确率是 $p_i$。对这道题投 $n$ 票，正确的概率是 Condorcet 曲线 $M_n(p_i)$；整个测试集的投票准确率是 $\frac{1}{m}\sum_i M_n(p_i)$。$n \to \infty$ 时，$p_i > 1/2$ 的题全对，$p_i < 1/2$ 的题全错：

它不是 1，也不由平均正确率 $\bar p$ 决定，而由 $p_i$ 的分布决定。

3.2 实验：异质性越大，天花板越低

代码 01 演示 3 用 logit 正态分布生成 2000 道题的 $p_i$（“离散度”是 logit 尺度上的标准差），平均正确率固定为 60%：

离散度 0 是 Condorcet 的理想世界：每道题一样难，投票一路升到 100%。只要题目之间有中等的异质性（离散度 1），天花板就降到 68.8%；离散度 4 时，39% 的题几乎总对、20% 的题几乎总错，投票什么也改变不了。第 4 讲 §2.4 在真实采样里看到的”成功率的两极分布”（65% 的题从没对过、22.5% 的题每次都对）就是大离散度的情况。

表里的组内相关系数 ρ（intraclass correlation）把异质性换成了相关性的语言：随机挑一道题、做两次，两次对错的相关系数是

“给定题目时独立”和”两次尝试的对错相关”并不矛盾：相关来自题目这个共同的原因。同一个模型的两次采样共享了”这道题对这个模型有多难”。

同一张表的下半部分（平均正确率 45%）提供了一个反直觉的结果：Condorcet 说 $p < 1/2$ 时投票有害，离散度 0 时确实如此（45.0% → 投 45 票 24.9%）；但离散度越大，变坏得越少（离散度 4：45.0% → 44.5%）。平均正确率既不能预测投票会不会有帮助，也不能预测帮助多大。

3.3 有效人数

把投票者的两两相关系数记为 ρ。$n$ 个这样的投票者，平均值的方差是 $\sigma^2 (1 + (n-1)\rho)/n$，等于

个独立投票者的方差（抽样调查里的”设计效应”，Kish 1965）。$n \to \infty$ 时 $n_{\text{eff}} \to 1/\rho$。代码 01 演示 4：

ρ = 0.1 时，1000 个”智能体”只相当于不到 10 个独立的意见。降低相关比增加调用次数更值钱——这是整讲最重要的一个公式。Ladha（1992）把 Condorcet 定理推广到相关的投票者：只要平均的两两相关足够小，定理仍然成立；相关越大，需要的人越多，到某个程度后定理就不再成立。

3.4 “易题 + 难题”：投票可能先升后降

Chen et al.（2024，Are More LM Calls All You Need?）在 MMLU Physics、TruthfulQA、GPQA 等数据集上观察到：多数投票（Vote）和”先过滤再投票”（Filter-Vote）的准确率随调用次数先升后降（或先降后升）。他们的解释正是 §3.1 的异质性：把题目分成”易题”（调用无穷多次能答对）和”难题”（调用无穷多次会答错），更多的调用让易题越来越对、难题越来越错，两类混在一起就可能出现非单调的总曲线。他们由此提出：用少量样本估计题目构成，就能预测最佳的调用次数。

代码 01 演示 5 用最简单的两类模型复现：

这和 More Agents 论文自己的分析一致：他们把难度拆成”内在难度、步数、正确答案的先验概率”三个维度，发现收益随内在难度先增后减——太难的任务超出了模型的能力，投票帮不上忙。“调用次数越多越好”不是定律。

4. 数值与概率：平均、偏差、社会影响、极端化 · Estimates and forecasts

投票处理离散的答案。很多多智能体任务的输出是一个数（估计一个量）或一个概率（预测一件事会不会发生）。这里的聚合规则是平均，相应的理论更干净。

4.1 模糊度分解：多样性为什么”免费”

Krogh & Vedelsby（1995）为神经网络集成写下了一个恒等式。设 $x_1, \dots, x_n$ 是 $n$ 个估计，$\bar x$ 是它们的平均，$y$ 是真值：

它不需要任何假设。意思是：群体的误差等于个体的平均误差减去个体之间的分歧。群体永远不比个体的平均差；在个体平均误差相同时，分歧越大群体越准。

代码 02 演示 1 模拟了一次公牛竞猜（787 人，95% 的人猜测服从 N(真值, 60 磅)，5% 乱猜）：群体（平均数）误差 −2.9 磅，随机挑一个人的均方根误差 125.6 磅；分解成 群体平方误差 8.4 = 个体平均 15770.8 − 多样性 15762.4。个人的误差方向各不相同，平均时几乎完全抵消。

要小心读这个恒等式：它没有说”多样性越大越好”。把一个很差的估计者加进来，多样性增加了，个体平均误差增加得更多。§6 的实验里就会看到这种取舍。

另一个细节：Galton 用的是中位数而不是平均数，他称之为”一人一票”的民主估计。重复 500 次竞猜：没有人乱猜时平均数更准（均方根误差 2.12 vs 2.70 磅），20% 的人乱猜时中位数更准（6.92 vs 3.37）。聚合规则要适应误差的形状——对 LLM 来说，“少数离谱的回答”（格式错误、跑题）很常见，稳健的聚合（中位数、相对多数票）往往比平均好。

4.2 共同误差不会被平均掉

把每个人的误差拆成两部分：所有人共有的部分 $b$（例如同一份错误的资料、同一种文化偏见），和各自独立的部分 $e_i$。平均之后，独立部分以 $1/\sqrt n$ 缩小，共同部分原封不动。代码 02 演示 2：

第二行两人之间误差的相关系数 $\rho = 20^2/(20^2+60^2) = 0.10$，有效人数上限 10，误差停在共同误差的大小 20 附近。在同样的数据上训练的模型共享盲点——这就是 LLM 世界里的共同误差。

4.3 社会影响：更一致，不更准

Lorenz et al.（2011，PNAS，How social influence can undermine the wisdom of crowd effect）做了一个人类实验：参与者回答事实性的估计题（例如某国的人口密度），分几轮；一部分组在每轮之间能看到别人的估计。结果：看到别人的估计后，估计的多样性大幅下降，群体的准确率没有提高，而参与者的信心上升了。他们称之为”社会影响效应""范围缩小效应”和”信心效应”。

代码 02 演示 3 用最简单的 DeGroot 模型解释它：每一轮，每个人把自己的估计往”大家的加权平均”移动 30%。

话语权相等时，所有人收敛到原来的平均值：群体估计不变，分歧消失。话语权不等时（3 个人更大声、更自信，但不更准），共识偏向他们，20 个人只相当于 $1/\sum w_i^2 = 7.7$ 个，误差变大。

这对下一讲（辩论）是一个重要的警示：如果智能体之间的交流只是”向别人的观点靠拢”，它最好的结果是不变，常见的结果是更差。辩论要有用，交流的必须是证据（理由、可以检查的中间步骤），而不只是观点。

4.4 概率预测与”极端化”

预测比赛（例如 Tetlock 的 Good Judgment Project）发现：把很多人的概率平均之后，结果太保守，把平均后的对数几率乘上一个大于 1 的系数（极端化，extremizing）会更准（Baron et al. 2014；Satopää et al. 2014）。为什么？

代码 02 演示 4 用一个贝叶斯模型回答：事件 $Y$；所有预测者都看到同一条共享信号，每个人另有一条私有信号；每个人按贝叶斯公式报出概率，各自都是校准的。合并全部信息的最优预测是：共享信号只算一次，私有信号全部相加。而平均对数几率把私有信号平均了——信息被浪费了。

（Brier 分数，越小越好。）全是私有信息时，最佳系数正好是预测者人数 10，达到理论最优；全是共享信息时最佳系数是 1——十个人说的是同一件事，“大家都同意”不是额外的证据。两种信息混在一起时，一个统一的系数远远不够（0.1926 vs 0.1309）：要合并得好，必须知道哪些信息是重复的。

这给多智能体系统一个直接的启示：多个 LLM “一致同意”时，要先问它们是独立地得出这个结论，还是读了同样的资料、有同样的训练数据。一致性的证据价值取决于独立性。

4.5 共同偏差与 LLM 预测群体

Schoenegger et al.（2024，Wisdom of the Silicon Crowd）把 12 个 LLM 的预测平均起来，在 31 个二元预测问题上和一个三个月的预测比赛里 925 个人类预测者的群体比较：预注册的主分析显示，LLM 群体好于”无信息”基线，和人类群体没有统计上的差别。他们也发现一个默认同意偏差（acquiescence effect）：模型的平均预测显著高于 50%，尽管问题的结果几乎是一半发生、一半不发生。第二个研究里，让 GPT-4 和 Claude 2 看到人类预测的中位数，它们的准确率提高了 17%–28%——但仍不如直接把人类和机器的预测平均。

共同偏差就是 §4.2 的共同误差：所有模型都偏向”会发生”，平均消除不了。代码 02 演示 5：所有预测者的对数几率都 +0.5 时，从 1 人到 100 人，Brier 分数从 0.2155 到 0.2060，始终比没有偏差时差；用 1000 个已知结果的历史事件重新校准（拟合 $\sigma(a + b \cdot \bar L)$）之后是 0.1922，接近没有偏差时校准后的 0.1897。系统性的偏差可以用历史数据修正，前提是有历史数据。

5. 真实模型的三种多样性 · Three sources of diversity in real models

§2–§4 是数学模型。真实的神经网络呢？我们用第 1 讲的三个思维链模型——同样的结构、同样的训练分布（环有 4–8 个节点）、同样的步数，只有随机种子不同——在它们没见过的更长的题上（9–12 个节点）做实验。这对应真实世界里”同一家公司用同样的数据训练的几个模型”。

5.1 同样的配方，不同的模型

代码 03 演示 1（贪心解码，每格 200 道题）：

在训练分布内三个模型无法区分；在分布外，它们是三个完全不同的模型：种子 2 在 n = 10、k = 5 上只有 10.5%，在 n = 10、k = 7 上却是 100%。没有哪个种子处处最好。这有两层意义：对集成来说，这是最便宜的”模型多样性”；对研究方法来说，只用一个种子做分布外实验，结论可能完全取决于运气（第 2 讲）。

5.2 采样、改写题面、换模型

在 300 道测试题上，每道题调用 15 次，比较三种多样性来源（代码 03 演示 2；“改写题面”是把陈述打乱顺序——题目不变，写法变了，对应 LLM 里同一个问题的不同表述）：

三个发现：

• 采样温度几乎不产生有用的多样性。 T = 1 时 ρ 是 0.93–0.98：模型在分布外仍然很”自信”，错了也每次错得一样，投票等于贪心。把温度提到 2，ρ 降到 0.31–0.43，但每次调用的正确率也大幅下降（种子 1：39.0%）——多样性是用质量换来的，投票仍然没有收益，只有 pass@15（至少一次对）上升到 79.7%。覆盖率上升而选不出来，正是第 4 讲”覆盖 vs 选择”的老问题。
• 改写题面是”不花代价”的多样性。 打乱陈述顺序不改变题目，单次正确率不变，ρ 却明显下降（种子 1：0.64），投票收益是种子 1 +9.7 个点、种子 2 +6.0 个点。错误越依赖”无关的细节”（这里是陈述的位置），换一种写法越能把它打散。
• 错误来自”不会”时，什么多样性都没用。 种子 0 改写题面后 ρ 仍有 0.95：它在这些题上的失败（主要是写不出答案，见 §5.3）和写法无关。

这对应 LLM 研究里的几条线：DiVeRSe（Li et al. 2023）用不同的提示示例生成多样的推理路径；“同一个问题换几种问法”常常比”同一个问法采样多次”更能暴露模型的不确定性。但它们的收益取决于模型的错误是不是”写法相关”的，这需要测量，不能假设。

5.3 错误的结构

代码 03 演示 3 用 Kim et al. 的指标——两个都答错时，是否给出同一个错误答案——比较”同一个模型、不同写法”和”不同模型、同一写法”：

两层相关都远高于随机：错误是集中的。平均而言，同一个模型的错误比不同模型之间更集中，所以”换模型”比”换写法”更能打散错误（但种子之间的样本很少，估计的噪声较大）。错误的类型也因种子而异：种子 0 的错误 61.9% 是”没给出答案”（推理链写不完），种子 1 的错误 85.3% 是”其他字母”（某一步查找错了），“多走一跳”这种有吸引力的错误只占 11%–19%。

Kim et al. 在真实 LLM 上的发现和这里有一个重要的不同：他们发现越大、越准确的模型，错误越相关，即使架构和公司都不同；同一家公司、同一种架构的模型更相关。Goel et al.（ICML 2025，Great Models Think Alike and this Undermines AI Oversight）提出了一个按准确率校正的相似度指标 CAPA，看到同样的趋势：随着能力提高，模型的错误越来越相似；他们还发现 LLM 当裁判时偏爱和自己相似的模型。一个可能的解释是：前沿模型在越来越相似的数据上、用越来越相似的方法训练。这意味着”用几个不同公司的模型做集成”的收益，可能随着模型变强而减小。在社会层面，这叫算法单一化（algorithmic monoculture；Kleinberg & Raghavan 2021；Bommasani et al. 2022）：如果所有招聘方都用相似的模型筛简历，同一个人会被所有地方拒绝。

最后一个细节：错误分散时，单次正确率不到一半的题，相对多数票也常能赢——三个模型合计，单次正确率 20%–50% 的题里投票赢了 32/45。这是 §2.3 的多选项效应在真实模型上的样子。

6. 集成：质量与多样性的取舍 · Ensembles: quality vs diversity

6.1 同样调用次数下的集成

现在把调用预算固定为 15 次，比较不同的集成方案（代码 03 演示 4）。为了不在测试集上做选择，成员和权重都只在一个独立的开发集（200 道题）上决定；混合模型时，各模型用不重叠的改写题面。

相对于”只用种子 1”的配对自助法区间：种子 1 + 种子 2 是 +5.0 个点（95% 区间 [+2.0, +8.3]）；三个种子各 5 次 −1.0（[−5.0, +2.7]）；二选一公式的加权投票 −2.3（[−4.3, −0.7]）。

6.2 质量–多样性的取舍

混合第二好的模型（种子 2）是唯一显著的改进，尽管它让每次调用的平均正确率从 64.8% 降到 58.5%——多样性的收益超过了质量的损失。再把最弱的种子 0 加进来，收益就消失了。这正是 Li et al.（2025，Rethinking Mixture-of-Agents: Is Mixing Different Large Language Models Beneficial?）的发现：

• Mixture-of-Agents（MoA，Wang et al. 2024）把多个不同的 LLM 组织成几层：每层的模型（“提议者”）都能看到上一层所有模型的回答，最后一个”聚合者”综合出最终回答。只用开源模型的 MoA 在 AlpacaEval 2.0 上得到 65.1% 的长度控制胜率，超过当时的 GPT-4o（57.5%）。他们观察到 LLM 的”协作性”（collaborativeness）：模型看到其他模型的回答后，自己的回答更好，即使那些回答本身更差。
• Self-MoA（Li et al. 2025）只用最好的那一个模型的多个输出做 MoA，结果在 AlpacaEval 2.0 上比混合不同模型的 MoA 高 6.6%，在 MMLU、CRUX、MATH 等基准上平均高 3.8%。他们做了 200 多组实验，把 MoA 的性能对提议者的平均质量和多样性（Vendi 分数）做线性回归（$R^2$ 约 0.7），发现 MoA 对质量非常敏感：混合不同的模型往往拉低平均质量，多样性的收益抵不过。他们也指出了混合有益的情况——不同模型在不同子任务上各有所长时。

我们的玩具实验在一个小尺度上同时看到了两面：种子 2 在某些题型上比种子 1 强得多（§5.1：n = 10、k = 7 上 100% vs 51.5%），所以混合有益；种子 0 太弱，混合有害。哪些成员值得混合，只能量出来。

6.3 加权：公式要和问题匹配

给更好的成员更大的权重听起来总是对的。经典的最优权重（Nitzan & Paroush 1982）：独立的投票者、二选一时，权重 $\log\frac{p}{1-p}$——这正是把每个人的对数似然比加起来。但这个公式里 $p < 1/2$ 的人权重为负（“反着听”）；在我们的实验里，种子 2 在开发集上的单次正确率 49.4%，被二选一公式判为”比抛硬币还差”，权重截断为 0——等于把一个有用的成员踢了出去，结果 71.3%，显著差于不加权的最佳方案。

可是这些题有 9–12 个可能的答案，随机猜只有 8%–11%，49% 远好于随机。多选项的推广是

$m$ 是选项个数（推导：投票者以概率 $p$ 选对、错时在 $m-1$ 个选项里均匀地选，“它投给了 X”对”X 正确”的似然比是 $p / ((1-p)/(m-1))$）。用它，加权投票是 75.0%。教训：加权公式背后有模型假设（这里是”二选一”和”错误均匀分散”），套错了模型，“更聪明”的方法反而更差。

6.4 在小开发集上挑方案，近似于抛硬币

开发集上最好的方案是”三个种子各 5 次”（76.0%），它在测试集上只有 72.7%；开发集上差 0.5 个点的”种子 1 + 种子 2”在测试集上是 78.7%。原因很简单：200 道题、准确率 75% 左右时，标准误约 3 个百分点，开发集根本分辨不出相差一两个点的方案。这是第 2 讲”赢家的诅咒”的又一个例子。多智能体系统的配置空间很大（成员、角色、轮数、聚合方式），在小开发集上挑出的”最佳配置”的优势，大部分是噪声。练习 5 换了 4 组测试题和改写，看这个 +5 个点有多稳。

6.5 聚合者可以比投票更聪明

投票只能在已有的答案里选。对开放式的输出（文章、代码、研究报告），“聚合”可以是综合：MoA 的聚合者读完所有提议者的回答，写一个新的回答；LLM-Blender（Jiang et al. 2023）先用一个成对比较的排序器（PairRanker）挑出最好的几个回答，再用一个生成式的融合器（GenFuser）合成。综合可以超出任何一个成员的水平，但它引入了一个新的单点：聚合者自己的能力和偏差。当聚合者和某个提议者是同一个模型时，它可能偏爱自己的回答（Goel et al. 的发现）。

7. 计算量匹配：多智能体的收益从哪里来 · Compute-matched comparisons

把这一讲的结论变成一条实验纪律：一个多智能体系统的收益，可以分解成三部分——

1. 更多的计算：多调用了几次模型。对照：同一个模型、同样的调用次数、多数投票（More Agents 的 Agent Forest）。
2. 多样性：不同的模型、不同的提示、不同的信息。对照：同样的调用次数，但所有调用都用同一个模型、同一个提示（只有采样温度）。
3. 交互：智能体之间的交流（第 13 讲）。对照：同样的成员、同样的调用次数，但彼此看不到对方的输出，最后独立投票。

一个干净的实验应该同时报告这三个对照，才能说”协作”本身带来了多少。我们的实验已经显示了前两个因素可以有多大的差别：同样 15 次调用，种子 1 采样投票 63.7%、改写题面投票 73.7%、混合种子 2 78.7%——多样性的来源比调用次数重要得多。

还要注意两种不同的”计算量”口径：调用次数和 token。辩论、MoA 的每次调用都要读入其他智能体的长输出，token 成本比”独立投票”高得多。第 1 讲 §6.3 引用的 Anthropic 多智能体研究系统的分析发现，在 BrowseComp 上 token 用量本身就解释了 80% 的性能差异——在比较之前先算清楚账。

8. 现状与开放问题 · State of the field

• 采样投票是强基线：自洽性、More Agents 的 Agent Forest、CoT@32 一类的做法稳定有效，但收益受题目异质性和错误相关的限制，会饱和，甚至在易难混合的题集上先升后降（Chen et al. 2024）。
• 模型之间的错误高度相关，而且越强越相关（Kim et al. 2025；Goel et al. 2025）。用”多个前沿模型”集成的收益可能在缩小；独立性需要测量，不能假设。
• 质量往往比多样性重要（Self-MoA）：混合不同模型不一定好，混合不够好的模型通常有害。
• 一致不等于证据：当信息有重复时，“大家都同意”的价值远小于独立来源的一致（§4.4）。多智能体系统很少区分这两种情况。

研究问题：

1. 能不能在部署前估计一组模型的有效人数（例如在一个小的、有标签的开发集上估计 ρ），并据此决定调用多少次、混合哪些模型？
2. 对开放式任务（没有标准答案、无法投票），怎样度量”错误的相关性”？Vendi 分数度量的是输出的多样性，不是错误的独立性。
3. 怎样主动制造有用的多样性（不同的提示、不同的检索资料、不同的推理策略），而不降低每个成员的质量？什么样的多样性是”写法相关的错误”、什么样的是”能力相关的错误”？
4. 前沿模型的错误越来越相似（算法单一化）：这对用 LLM 评审 LLM、用 LLM 监督 LLM（第 19 讲的可扩展监督）意味着什么？

9. 小结 · Summary

1. 多个智能体可能更好的三种机制：误差抵消、分工、交互。误差抵消（投票、平均）是最简单的一种，也是所有多智能体方法的基线。
2. Condorcet 陪审团定理：独立、各自 $p > 1/2$ → 多数票随人数趋于正确。多选项时关键是”正确答案是不是众数”；错误集中在一个有吸引力的选项上时，人越多越错。LLM 的错误是集中的（Kim et al.：都答错时 60% 选同一个选项）。
3. 投票饱和的主要原因是题目之间的异质性：天花板 = 单次正确率过半的题目比例。组内相关 ρ 把它变成相关性的语言；有效人数 $n/(1+(n-1)\rho) \to 1/\rho$。易题和难题混在一起，投票可能先升后降（Chen et al.）。
4. 数值的平均：群体误差 = 个体平均误差 − 多样性；共同误差不会被平均掉；社会影响让人更一致但不更准；概率预测该不该极端化取决于信息是私有的还是共享的；共同偏差只能靠校准修正。
5. 真实的小模型：同一个配方、不同的种子在分布外是三个不同的模型。采样温度几乎不产生有用的多样性（ρ 0.93–0.98）；改写题面不降低质量、降低相关，投票 64.0% → 73.7%。
6. 同样 15 次调用：混合”好而不同”的模型最好（78.7%，+5.0 个点）；混进太弱的模型没有收益（Self-MoA 的质量–多样性取舍）；二选一的加权公式在多选项问题上会错误地丢掉有用的成员；200 道题的开发集分辨不出相差一两个点的方案。

10. 常见误区 · Common pitfalls

1. “智能体越多越好。” 只有在错误独立、正确答案是众数时才成立；相关的错误让收益饱和，错误集中时人越多越错。
2. “平均正确率超过 50%，投票就会有帮助。” 要看每道题的正确率分布；投票的天花板是单次正确率过半的题目比例。
3. “采样温度高一点，多样性就够了。” 温度带来的多样性是用每次调用的质量换来的；真正有用的多样性是”不降低质量、降低相关”的那种。
4. “用几个不同公司的模型，错误就是独立的。” 真实 LLM 的错误高度相关，而且越强越相关。
5. “大家都同意，所以一定是对的。” 一致的证据价值取决于独立性；读了同样资料的十个模型同意，不比一个模型更有说服力。
6. “讨论之后大家意见一致了，结论更可靠了。” 社会影响让人更一致，不一定更准；话语权不均时更差。
7. “把好的模型和差的模型都混进来，多样性更大，结果更好。” 质量往往比多样性重要（Self-MoA）。
8. “开发集上最好的配置就是最好的配置。” 小开发集上，相差一两个点的配置分辨不出来；报告配对检验和测试集结果。

11. 练习 · Exercises

练习 1（Condorcet 的算术）。(a) $p = 0.6$、$n = 3$ 时多数票正确的概率是多少？(b) 如果三个投票者里有两个其实是同一个人（总是投一样的票），多数票正确的概率是多少？(c) 用有效人数的公式，ρ = 0.2 时 10 个投票者相当于几个独立的？

参考答案：(a) $0.6^3 + 3 \times 0.6^2 \times 0.4 = 0.216 + 0.432 = 0.648$。(b) 那个”两票的人”决定结果（第三个人无论怎么投都改变不了 2:1 或 2:0），所以是 0.6——多出来的一票毫无价值。(c) $10/(1 + 9 \times 0.2) = 10/2.8 \approx 3.6$。

练习 2（天花板）。一个模型在 1000 道题上的单次正确率是 70%。你采样了很多次，发现 50% 的题每次都对、20% 的题每次都错、其余 30% 的题单次正确率都是 2/3。(a) 无限次投票的准确率是多少？(b) 如果你只能改进一类题，改进哪一类最能提高投票的准确率？

参考答案：(a) 50% + 30%（这些题 $p = 2/3 > 1/2$，投票后全对）= 80%。平均正确率 $0.5 + 0.3 \times 2/3 = 70\%$，投票提高到 80%，天花板就在这里。(b) “每次都错”的 20%：投票对它们毫无帮助，只有提高模型本身（或者引入一个错误不同的模型）才能让其中一部分题的 $p_i$ 超过 1/2。对 30% 的中间题，投票已经把它们全部做对了。

练习 3（最佳调用次数）。用代码 01 的 two_type_curve：比例 α 的题单次正确率 0.8、其余 0.4。(a) α 多大时，曲线从”先升后降”变成”一直上升”？（提示：比较 α 和 1 − α 的极限。）(b) 在真实系统里，你怎样在不知道 α 的情况下决定调用次数？

参考答案：(a) 无限次时准确率 = α（易题全对、难题全错），一次时 = 0.8α + 0.4(1 − α) = 0.4 + 0.4α。α > 0.4 + 0.4α ⇔ α > 2/3：易题超过 2/3 时，极限高于起点，曲线（大致）一直上升；否则最终会低于单次调用。（这是极限的比较；中间的形状还取决于两类题的 p 离 1/2 多远。）(b) Chen et al. 的做法：在开发集上每道题采样少量次数，估计每道题的 $p_i$（或拟合”易 / 难”两类的参数），再用公式预测不同调用次数下的准确率，选最好的。更简单的做法：在开发集上直接画准确率–调用次数曲线，选拐点；注意开发集要足够大（§6.4）。

练习 4（提示多样性加采样）。代码 03 里改写题面用的是贪心解码。如果改写题面的同时再用温度采样，投票会更好吗？预测，然后检验。

参考答案（草稿目录里实际运行，种子 1，同样的 300 道测试题、15 个改写题面）：改写 + 贪心：单次 64.8%、ρ 0.64、投票 73.7%；改写 + T = 1.0：64.0%、0.61、74.3%；改写 + T = 1.5：58.4%、0.48、75.0%。温度在改写之上只带来不到 1.5 个点，而且以单次正确率下降为代价。提示多样性已经拿走了大部分”写法相关”的错误；剩下的错误是模型”不会”的，采样的随机性打不散它们。

练习 5（结果有多稳）。§6.1 的”种子 1 + 种子 2 比只用种子 1 高 5.0 个点”只在一组测试题、一组改写上测过。换几组测试题和改写，它还成立吗？

参考答案（草稿目录里实际运行：4 组不同的测试题 / 改写种子，每组 300 道题）：混合的收益分别是 +2.4、+4.3、+1.0、+3.7 个点——方向总是一样，但大小在 1–5 个点之间，单独看只有 2 组的 95% 区间不包含 0；“三个种子各 5 次”相对于只用种子 1 的差别在 −1.6 到 +0.7 个点之间，都不显著。正文里的 +5.0 是这几次里偏大的一次。结论”混合第二好的模型有小而稳定的收益、混合最弱的模型没有收益”成立，但效应量应该报告为”约 1–5 个点”而不是”5 个点”。这正是第 2 讲建议的做法：把测试集或随机性的变化当作重复实验。

练习 6（设计实验）。一篇论文提出了一个”五个 LLM 辩论三轮再投票”的系统，每道题共 15 次调用，在 MATH 上比单个模型的贪心解码高 8 个点。为了说明”辩论”本身有用，你需要哪些对照？每个对照回答什么问题？

参考答案要点：(1) 同一个最好的模型，15 次采样 + 投票：收益是不是只来自更多的计算（More Agents）？(2) 五个模型各 3 次，独立作答，投票：收益是不是来自模型多样性？（这一条和辩论系统的调用次数、成员都相同，只是没有交互。）(3) 最好的模型 × 15 个不同的提示：提示多样性能不能达到同样的效果？(4) token 匹配：辩论的每次调用读入了其他人的输出，token 远多于独立投票；在同样的 token 预算下，独立投票能调用多少次？(5) 以上都用配对检验、多个种子，在开发集上决定所有超参数（轮数、成员），在测试集上只跑一次。只有当辩论系统显著好于 (2) 时，才能说”交互”有用。

12. 延伸阅读 · Further reading

群体智慧与投票

• F. Galton. Vox Populi. Nature, 1907.
• K. Ladha. The Condorcet Jury Theorem, Free Speech, and Correlated Votes. American Journal of Political Science, 1992.
• S. Nitzan & J. Paroush. Optimal Decision Rules in Uncertain Dichotomous Choice Situations. International Economic Review, 1982.
• J. Lorenz et al. How Social Influence Can Undermine the Wisdom of Crowd Effect. PNAS, 2011.
• J. Baron et al. Two Reasons to Make Aggregated Probability Forecasts More Extreme. Decision Analysis, 2014.
• A. Krogh & J. Vedelsby. Neural Network Ensembles, Cross Validation, and Active Learning. NeurIPS 1995.

LLM 的采样、投票与集成

• X. Wang et al. Self-Consistency Improves Chain of Thought Reasoning in Language Models. ICLR 2023.
• J. Li et al. More Agents Is All You Need. TMLR 2024.
• L. Chen et al. Are More LM Calls All You Need? Towards the Scaling Properties of Compound AI Systems. NeurIPS 2024.
• J. Wang et al. Mixture-of-Agents Enhances Large Language Model Capabilities. 2024（ICLR 2025）.
• W. Li et al. Rethinking Mixture-of-Agents: Is Mixing Different Large Language Models Beneficial? 2025.
• D. Jiang et al. LLM-Blender: Ensembling Large Language Models with Pairwise Ranking and Generative Fusion. ACL 2023.

相关错误与单一化

• E. Kim et al. Correlated Errors in Large Language Models. ICML 2025.
• S. Goel et al. Great Models Think Alike and this Undermines AI Oversight. ICML 2025.
• J. Kleinberg & M. Raghavan. Algorithmic Monoculture and Social Welfare. PNAS, 2021.
• R. Bommasani et al. Picking on the Same Person: Does Algorithmic Monoculture Lead to Outcome Homogenization? NeurIPS 2022.
• P. Schoenegger et al. Wisdom of the Silicon Crowd: LLM Ensemble Prediction Capabilities Rival Human Crowd Accuracy. 2024.

13. 下一讲预告 · Next lecture

第 13 讲：辩论与苏格拉底式协作——Multi-agent Debate、SocraSynth 与 EVINCE。 这一讲的智能体互不交流，只在最后投票。如果让它们看到彼此的答案和理由、修改自己的答案呢？§4.3 已经警告：只交换观点的讨论让人更一致、不更准。那么交换理由呢？Du et al. 的多智能体辩论报告了算术和数学题上的明显提升；后来的研究发现它常常打不过同样调用次数的投票，甚至有一个漂亮的理论结果说”辩论本身不改变期望的正确率”。另一方面，辩论是 AI 安全里可扩展监督的核心想法：一个弱的裁判，只要能检查一步，就能在两个强的辩手之间判断谁对。下一讲把这两条线放在一起，并介绍 SocraSynth（可调的争论强度）和 EVINCE（用信息论度量辩论的进展）。