逻辑研究：接受某些前提以后，哪些结论必须成立、可能成立或不能成立。

概率研究：当结果尚未确定或信息不完整时，应当给不同事件或命题分配多大权重。

逻辑约束“什么能够从什么推出”，概率度量“在当前信息下应当多大程度相信什么”。

两者不是互相竞争的解释。概率计算需要逻辑帮助它确定命题、事件、条件和相互关系；逻辑推导进入现实问题时，也经常需要概率处理不完整证据和不确定前提。

本文只聚焦两者的接口：逻辑蕴含为何不同于条件概率，确定推导怎样与程度化的证据支持相接。需要单独了解推导体系，可读逻辑；需要深入概率解释与贝叶斯更新，可读概率与贝叶斯。

本文所说的“逻辑”是什么？

“逻辑”是一个比日常使用更宽的学科概念。它可以研究演绎推理、归纳推理、模态、时间、义务、多值系统以及可撤销推理等不同形式。

为了说明逻辑与概率最基本的区别，本文首先以经典演绎逻辑为参照。

经典逻辑关心命题、真值以及前提和结论之间的有效推导关系。一个论证在逻辑上有效，意味着不存在这样一种解释：所有前提都是真的，而结论是假的。Stanford Encyclopedia of Philosophy: Classical Logic

例如：

所有人都会死。
苏格拉底是人。
所以苏格拉底会死。

只要两个前提为真，结论就不可能为假。这里检查的是推导结构，而不是统计频率。

可以写成：

前提集合 D ⊨ 结论 C

符号 ⊨ 表示：在所有使前提 D 为真的解释中，结论 C 也为真。

有效推理不等于真实结论

逻辑首先评价推理形式，不能替代对前提的事实检验。

所有鱼都会飞。
鲤鱼是鱼。
所以鲤鱼会飞。

这个论证的形式有效，但第一个前提不符合事实。因此，需要区分：

• 有效性：如果前提为真，结论是否必然为真；
• 前提真实性：前提是否符合实际情况；
• 可靠论证：推理有效，而且前提为真。

所以，一个完整判断至少要经过：

概念是否清楚
→ 前提是否得到事实或证据支持
→ 推导是否有效

概率经常进入第二步：现有证据为一个前提或假设提供多大支持。

概率是什么？

概率是定义在事件或命题之上的量，通常位于 0 和 1 之间。但“概率是什么”并没有唯一的哲学解释。

它可能表示：

• 可重复事件的长期频率；
• 物理系统产生某种结果的机会或倾向；
• 现有证据对一个命题的支持程度；
• 一个主体对命题为真的置信程度；
• 统计模型给出的预测分布。

这些解释共同使用概率演算，却不一定在谈同一种现实对象。Stanford Encyclopedia of Philosophy: Interpretations of Probability

例如：

明天下雨的概率是 70%。

这句话可能表示气象模型在相似条件下的频率预测，也可能表示根据现有证据形成的置信度。无论采用哪一种解释，它都没有断言明天必然下雨。

逻辑与概率分别回答什么？

可以把这种分工概括为：

逻辑：约束推理结构
概率：表达不确定程度

真值不是概率值

在经典逻辑中，一个明确命题在给定解释下为真或为假。

真
假

概率则可以表达程度：

P(A) = 0.2
P(A) = 0.7
P(A) = 0.99

这不意味着命题的真值变成了连续数值。

“明天下雨的概率是 70%”描述的是结果确定以前的不确定状态。到了明天，在地点、时间和降雨标准已经明确的情况下，“下雨”这个命题仍然要么符合事实，要么不符合事实。

因此至少要区分三个层次：

证据支持和主体置信度可能用概率表示，但它们都不等于命题本身已经“部分为真”。

概率为 1 不一定是逻辑必然

逻辑必然表示：在所有满足前提的可能解释中，命题都成立。

概率为 1 则表示：在某个概率模型中，该事件拥有全部概率质量。

两者不能直接等同。

在标准概率模型中，如果 D 在逻辑上蕴含 C，并且 P(D) > 0，那么：

D ⊨ C
→ P(C | D) = 1

但反过来不成立：

P(C | D) = 1
⇏ D ⊨ C

概率为 1 的事件仍然可能不是逻辑真理。在连续概率分布中，一个单点可以具有概率 0，但仍然属于可能取值。概率 0 因而不自动表示逻辑矛盾，概率 1 也不自动表示逻辑必然。

可以谨慎地概括为：

逻辑不可能 → 在尊重该逻辑关系的概率模型中概率为 0
概率为 0 ⇏ 逻辑不可能

逻辑必然 → 在尊重该逻辑关系的概率模型中概率为 1
概率为 1 ⇏ 逻辑必然

逻辑蕴含不等于条件概率

逻辑蕴含可以写成：

A ⊨ B

它表示，只要 A 为真，B 就不可能为假。

条件概率可以写成：

P(B | A) = 0.9

它表示，在 A 条件下，B 获得 90% 的概率。这里仍然允许 A 成立而 B 不成立。

因此，高条件概率表示强概率联系，不表示必然推出。

这个区别也解释了为什么下面的推理在演绎逻辑中无效，却可能在概率上提供支持：

如果下雨，地面会湿。
地面湿了。
所以刚才下雨了。

这是“肯定后件”的形式。地面还可能因为洒水、漏水或者清洁而变湿，所以“地面湿”不能逻辑证明“下雨”。

但如果：

• 下雨时地面几乎总会湿；
• 没下雨时地面很少变湿；
• 下雨本身并非极端罕见；

那么观察到地面湿，可以提高“刚才下雨”的概率。

同一条证据可以做到：

不能演绎证明假设
但可以提高假设的概率

演绎推理与概率归纳

演绎推理追求必然的真值保持：

前提为真
→ 结论必然为真

概率归纳表达证据对结论的支持程度：

证据 D
→ 结论 C 获得程度为 r 的支持

可以写成：

P(C | D) = r

归纳逻辑研究的正是这种关系：前提不必保证结论，却可以使结论变得更可信。现代概率归纳经常使用条件概率和贝叶斯关系表示证据怎样支持相互竞争的假设。Stanford Encyclopedia of Philosophy: Inductive Logic

因此，“逻辑处理确定性，概率处理不确定性”只是第一层概括。更准确地说：

• 经典演绎逻辑处理必然推导；
• 概率演算约束不确定程度；
• 归纳逻辑研究证据如何以不同强度支持结论。

概率为什么需要逻辑？

概率计算以前，必须先确定事件和命题的结构：

• 哪些事件互相排斥；
• 哪些事件可以同时发生；
• 哪个事件包含另一个；
• 条件究竟是什么；
• 一个命题的否定是什么；
• 所有可能结果是否已经覆盖。

例如：

A = 用户点击广告
B = 用户通过该广告完成购买

如果业务定义规定，通过该广告购买必须经过被记录的点击，那么：

B → A

概率也必须满足：

P(B) ≤ P(A)

如果数据报告显示广告购买人数高于广告点击人数，首先需要检查事件定义、归因窗口、数据来源和采集遗漏，而不是立即寻找一个新的概率公式。

逻辑先检查事件结构是否自洽，概率才在这个结构中分配数值。

贝叶斯公式怎样连接逻辑与概率？

贝叶斯公式可以写成：

P(H | E) = P(E | H) × P(H) / P(E)

其中：

• H 是假设；
• E 是证据；
• P(H) 是看到证据以前对假设的判断；
• P(E | H) 是假设成立时出现该证据的概率；
• P(H | E) 是观察证据以后对假设的更新判断。

贝叶斯推理不是：

观察到 E
→ H 必然为真

它表达的是：

观察到 E
→ 比较 E 在不同假设下有多容易出现
→ 重新分配对各个假设的相信程度

逻辑帮助我们定义假设、证据、互斥关系和推导条件；概率帮助我们表示更新前后的置信程度。贝叶斯认识论进一步把条件化理解为新证据出现后调整置信度的一种理性规范。Stanford Encyclopedia of Philosophy: Bayesian Epistemology

概率关系也不等于因果关系

逻辑、概率和因果分别回答不同问题：

例如：

• “正方形必然有四条边”主要是概念和逻辑关系；
• “下雨时地面变湿的概率较高”是概率关系；
• “降雨使地面获得水分，从而导致地面变湿”是因果解释。

高概率联系不自动证明因果。共同原因、选择偏差、测量方式和反向作用都可能产生统计关联。因果判断还需要时间顺序、反事实、干预、机制或其他识别条件。关于这些方法的完整讨论，参见《因果是什么？从原因、推理到理由》。

从概率到行动还缺什么？

即使概率已经计算正确，它也不能单独决定行动。

逻辑：推理是否成立
概率：结果有多可能
价值：不同结果有多重要
风险：最坏结果是否能够承受
权限：谁有权作出这个决定
决策：最终选择哪种行动

成功概率更高的方案不一定值得执行。它可能收益很小、成本过高、最坏结果不可承受，或者把风险转嫁给没有授权的其他人。

概率提供决策输入，不替代价值和责任。

在 AI 中怎样理解逻辑与概率？

大语言模型通常根据上下文为后续 token 分配概率，再按照解码策略生成输出：

已有上下文
→ 后续 token 的概率分布
→ 选择 token
→ 形成文本

一个句子被高概率生成，只说明它在模型和当前上下文中更容易出现。它不直接证明句子：

• 符合事实；
• 推导有效；
• 与前文没有矛盾；
• 正确理解了用户意图；
• 获得了执行授权。

完整 AI 系统还需要使用逻辑、规则和验证程序检查：

• 输入是否满足前置条件；
• 数据结构是否有效；
• 多个陈述能否同时成立；
• 工具调用是否符合权限；
• 结果是否通过外部验证。

因此：

概率模型在多个可能输出之间分配权重；逻辑与规则约束哪些推导和行动可以被接受。

一个回答可能语言概率很高，却在逻辑上矛盾；也可能推导形式有效，却建立在错误事实或错误概率输入之上。

如何检查一段不确定推理？

可以按以下顺序分析：

1. 明确命题。 每个关键词究竟指什么？
2. 列出前提。 哪些内容被当作已经接受？
3. 检查逻辑。 结论是否必然推出，还是只得到一定程度支持？
4. 检查事实。 前提来自观察、数据、定义还是假设？
5. 检查概率含义。 数字表示频率、物理机会、证据支持还是主观置信度？
6. 检查条件。 P(B|A) 中的 A 是否被正确说明？
7. 寻找替代解释。 同一证据是否也容易由其他假设产生？
8. 检查因果跳跃。 是否把相关或预测直接写成了原因？
9. 检查行动标准。 概率之外还需要考虑什么价值、风险和权限？
10. 说明更新条件。 什么新证据会改变当前判断？

对逻辑与概率关系的最终解释

可以分别定义：

逻辑研究命题、概念和推理之间的形式约束，说明在接受某些前提时，哪些结论必然成立、可能成立或不能成立。

概率是在结果尚未确定或信息不完整时，对事件可能性、证据支持程度或主体置信程度进行量化的体系。

两者的关系可以整理为：

逻辑建立命题和推理结构
→ 概率在结构中表达不确定性
→ 证据用于更新概率
→ 因果解释变化怎样产生
→ 价值和风险进入决策
→ 行动产生新的证据

逻辑不能替代概率，因为现实中的信息经常不完整；概率也不能替代逻辑，因为数字不能修复矛盾的定义、遗漏的可能性和无效的推导。

更准确的认识不是在逻辑与概率之间二选一，而是在确定推导与不确定判断之间保持清楚的边界。

参考

• Stanford Encyclopedia of Philosophy: Classical Logic
• Stanford Encyclopedia of Philosophy: Logical Consequence
• Stanford Encyclopedia of Philosophy: Interpretations of Probability
• Stanford Encyclopedia of Philosophy: Inductive Logic
• Stanford Encyclopedia of Philosophy: Bayesian Epistemology

它回答的不是“下一次一定会发生什么”，而是：

如果把各种可能结果及其概率一起考虑，这个分布的概率加权中心在哪里？

从随机变量开始

期望值不直接属于一个模糊的“事件”，而是属于随机变量。

随机变量是把随机结果映射为数值的函数。例如，抛一枚硬币后，可以定义：

正面 → X = 1
反面 → X = 0

如果硬币是公平的，那么：

P(X = 1) = 0.5
P(X = 0) = 0.5

对离散随机变量，期望值定义为：

E[X] = Σ xᵢ P(X = xᵢ)

在硬币例子中：

E[X] = 1 × 0.5 + 0 × 0.5 = 0.5

一次抛币不可能得到 0.5 个正面。期望值是分布的均值，不必是随机变量真正能取到的值。

期望值不是最可能的结果

假设一个游戏有两种结果：

期望收益是：

E[X] = 0.1 × 100 + 0.9 × 0 = 10

但是：

• 一次的实际结果只会是 100 元或 0 元；
• 最可能的结果是 0 元；
• 10 元不是任何一次必然出现的收益；
• 期望值不承诺单次结果会接近它。

因此需要区分：

一个分布的期望值可以很好，但最常出现的结果仍然可能很差。

期望值等于长期平均吗？

教材常把期望值解释为“长期平均”。这是有用的直观，但需要补充条件。

期望值首先是根据概率分布定义的数学量。在满足相应条件时，如果同类试验被大量重复，观测平均才可以趋近期望值。

这个语境通常默认：

• 试验能够重复；
• 概率机制没有在重复过程中改变；
• 各次观测具有合适的独立性或稳定性；
• 相关期望存在且是有限的。

人生选择、重大手术、一次性投资和不可逆决策，往往不能被同一个人在同样条件下无限重复。这时，期望值仍然可以描述概率分布，但“长期一定能回到平均”不再是个人决策的充分理由。

期望值为什么有用？

期望值把多个不确定结果压缩成一个可比较的数。它尤其适合：

• 重复次数较多的决策；
• 多个彼此分散的项目组合；
• 保险、库存、排队和实验设计；
• 需要把概率与金额、数量或损失结合的问题；
• 对不同方案进行第一层筛选。

期望还具有线性。对适当的随机变量：

E[aX + bY] = aE[X] + bE[Y]

这意味着可以先分别计算多个部分的期望，再把它们组合起来。线性本身不要求这些随机变量彼此独立。

为什么不能只看期望值？

考虑两个方案：

两个方案的期望值相同，但风险结构完全不同。

一个完整决策还需要检查：

1. 波动：结果会离期望值多远？
2. 尾部风险：小概率下会不会出现极大损失？
3. 破产风险：一次失败会不会使主体无法继续参与？
4. 时间：收益何时出现，期间是否需要承担成本？
5. 可逆性：决策失败后能否撤回或重试？
6. 机会次数：这是否是能够分散的多次决策？
7. 概率误差：概率是已知的，还是从有限数据中估计出来的？

期望值只保留了分布的一个特征。两个形状完全不同的分布可以拥有相同的期望值。

从期望值到期望效用

金钱和结果对人的实际价值不一定线性增长。

对一个资源充足的人，损失 1 万元可能只是普通波动；对一个现金流已经断裂的人，同样的损失可能意味着无法继续生活或经营。

决策理论因此不只计算结果的期望值，还可以对每个结果赋予效用：

E[U(X)] = Σ P(X = xᵢ)U(xᵢ)

这里的 U(x) 表示结果对特定主体的价值，而不只是结果的名义数额。

期望效用理论是不确定决策的规范性模型：它说明在一组偏好和信念满足相应条件时，如何使选择保持一致。它不是人类心理的完整描述。

卡尼曼和特沃斯基的前景理论就是对期望效用作为实际选择描述模型的批评和替代。他们的实验工作表明，人对获得、损失、确定结果和仅有概率的结果，并不总是按照简单的期望效用方式处理。

概率从哪里来？

任何期望值都依赖于一个更基础的问题：用来加权的概率是什么？

概率可能表示：

• 可重复机制的长期频率；
• 物理系统的倾向或机会；
• 证据对某个判断的支持程度；
• 一个主体的信念程度；
• 由统计模型估计得到的预测分布。

这些解释并不完全相同。数学公式可以是正确的，输入的概率却可能来自错误模型、过少样本或过时数据。

因此：

期望值的精确度不会超过结果划分、数值估计和概率输入的可信度。

现实决策中怎样使用期望值？

可以按下面的顺序分析：

1. 列出选项。 当前真正可以选择的行动是什么？
2. 列出结果。 每个选项可能导致哪些结果？
3. 检查遗漏。 是否把重要的间接后果排除在外？
4. 估计概率。 概率来自机制、数据、经验还是主观判断？
5. 为结果赋值。 计算的是金额、时间、生命、满意度，还是其他价值？
6. 计算期望值。 把结果按概率加权求和。
7. 检查分布。 不只看均值，还看波动、分位数和尾部。
8. 检查承受力。 主体能否活着等到长期平均？
9. 做敏感性分析。 如果概率或价值估计改变，结论是否立即反转？
10. 按新证据更新。 期望值是当前模型的输出，不是永久答案。

对“期望值”的最终定义

可以把期望值定义为：

期望值是随机变量各个可能取值按其概率加权得到的均值，用来表示概率分布的中心位置。

它不是：

• 下一次的保证；
• 最可能的结果；
• 一定能被实际取到的数值；
• 对风险的完整描述；
• 自动正确的决策答案。

期望值的力量在于，它把概率与结果放进同一个计算。它的边界也在这里：一个加权平均无法单独告诉我们，一次失败有多严重、主体能否承受，以及用来计算的概率是否值得信任。

参考

• OpenStax: Mean or Expected Value and Standard Deviation
• Stanford Encyclopedia of Philosophy: Interpretations of Probability
• Stanford Encyclopedia of Philosophy: Decision Theory
• Stanford Encyclopedia of Philosophy: Normative Theories of Rational Choice: Expected Utility
• Kahneman and Tversky: Prospect Theory: An Analysis of Decision under Risk

但是，希望是对结果的价值态度，预期是对结果的可能性判断。一个人可以强烈希望某件事发生，同时认为它几乎不会发生。

因此，期望不是一种单一的心理状态。它至少可能包含：

• 对未来的表示；
• 对可能性的判断；
• 对结果的喜好或反感；
• 对自己或他人的要求；
• 为了某种结果而采取行动的倾向。

“期望”是什么？

可以先把期望定义为：

期望是主体面向尚未确定的结果，所形成的可能性判断、价值态度或规范要求。

这个定义不把期望限定为未来。人也会对已经发生、但自己尚不知道结果的事情表达期望，例如“我希望他已经安全到家”。关键不是事件客观上是否已经发生，而是它对主体而言仍然没有确定。

期望通常包含四个基本部分：

主体
+ 尚未确定的结果
+ 对结果可能性的判断
+ 对结果的态度

期望、预期、期待和希望

这几个词在日常使用中经常重叠，但侧重点不同。

中文“期望”可以根据语境对应英文 expectation、expectancy 或 hope，但这些英文概念也不等价。

• expectation 通常是对将会发生什么的判断，也可以表示规范要求；
• expectancy 在心理学中常指对某种行动能否导致结果的信念；
• hope 强调结果是想要的，而且仍被认为可能；
• anticipation 更偏向事件到来之前的等待和情感状态；
• forecast 更明确地指向基于信息或模型的预测。

对英文 hope 的当代哲学分析通常包含两个最低条件：主体认为某结果仍有可能，并且认为它值得被期待。因此，人可以希望一个自己认为极不可能的结果，却不会预期它真的发生。

期望的四种常见结构

认知性期望

认知性期望是对将会发生什么的判断。

根据当前数据，我预期下个月的访问量会增长。

这种期望应当受证据约束。新信息出现后，判断也应该改变。它可以用概率表达，但日常的认知性期望并不总是一个精确数字。

愿望性期望

愿望性期望表达主体想要什么。

我期望这个产品能真正解决用户问题。

这是价值判断，并不自动说明结果有多大概率出现。愿望可以提供行动方向，也可能在没有证据时滑向一厢情愿。

规范性期望

规范性期望表达“应当怎样”。

组织期望成员遵守信息安全规则。

这句话不是预测所有人都会遵守，而是在设定行为标准。家庭、组织和社会对角色的期望往往属于这一类。

规范性期望还涉及权力：谁有权提出要求，谁承担后果，当事人能否拒绝或重新协商。“大家都这样期望”并不自动证明这种要求合理。

行动性期望

行动性期望不只表示对结果的看法，还会改变行动。

我认为充分准备可以提高任务成功率，因此我决定提前测试。

心理学中的 expectancy 常用来表示主体对“自己的行动能否带来某种结果”的信念。这种信念会影响动机、投入和坚持程度。

期望为什么会影响结果？

期望会改变人注意什么、如何解释模糊信息，以及是否继续行动。

形成期望
→ 调整注意和行动
→ 行动改变部分环境
→ 产生结果
→ 结果反过来强化或修正期望

这可能形成自我实现的预言，例如一个人确信自己无法完成任务，因此减少准备，最后更容易失败。

但期望不是魔法。它只有在能够改变注意、决策、他人反应或环境条件时，才可能通过因果链影响结果。不能把“保持积极期望”当成脱离条件和行动的现实律。

期望、意图、目标和决策

这些概念共同参与行动，却处在不同环节。

“我期望文章被更多人阅读”仍然只是对结果的态度。“我准备重写标题和导语”才开始形成意图。“今天先修改标题”是一个具体决策。

因此，从期望到结果需要经过：

期望
→ 意图
→ 目标
→ 决策
→ 行动
→ 结果
→ 更新期望

期望本身不能保证行动，行动也不能保证结果。

期望落差是什么？

期望不仅预测结果，还会成为评价结果的参照点。

期望落差 = 实际结果 - 参照期望

同样获得 10 万元，原本预期 5 万元的人可能感到惊喜，原本预期 20 万元的人则可能感到失望。实际结果没变，参照点变了。

这并不意味着只要降低期望就能解决问题。过低的预期也可能削弱准备和行动。更有用的做法是把原本混在一起的内容分开：

1. 期望结果：我想要什么？
2. 概率判断：根据当前证据，它有多可能？
3. 可控行动：我能够改变哪些条件？
4. 风险边界：如果没有发生，我能承受什么？

如何分析一个期望？

遇到“我期望……”时，可以继续追问：

1. 期望的主体是谁？
2. 对象是什么结果？
3. 这是希望、预测，还是要求？
4. 如果是预测，证据和概率是什么？
5. 如果是要求，谁有权提出，谁承担代价？
6. 哪些条件受主体控制？
7. 期望是否已经转化成目标、决策和行动？
8. 什么新证据会使这个期望改变？

对“期望”的最终定义

可以把期望定义为：

期望是主体在结果尚未确定时，对什么可能发生、什么值得发生或什么应当发生所持有的态度。

这个概念之所以容易混乱，是因为它横跨了三个不同层次：

事实判断：什么会发生
价值判断：我想让什么发生
规范判断：什么应当发生

把这三者分开，才能让期望成为可检验的判断、可讨论的价值和可执行的行动起点。

参考

• Stanford Encyclopedia of Philosophy: Hope
• APA Dictionary of Psychology: Expectancy
• APA Dictionary of Psychology: Behavioral Confirmation

专题：思维、意图与行动（4/4） 从第一篇开始阅读：思维是什么？人如何形成理解、判断与行动

人与 AI 之间真正要连接什么？

人类与 AI 的协作常被描述成：

人给出提示词
→ AI 给出答案

这个结构只描述了一次语言交换。它没有解释人为什么提出请求、AI 怎样理解请求、谁决定可以采取什么行动，也没有说明现实结果怎样反过来修正双方的判断。

更完整的结构是：

人的处境、需要与目的
→ 人形成暂时意图
→ 用语言表达请求
→ AI 构造任务解释
→ 双方校准目标、对象与边界
→ AI 形成计划并在授权内行动
→ 观察现实结果
→ 人评价结果，AI 更新解释
→ 进入下一轮

人机协作不是一次准确翻译，而是双方围绕共同任务持续校准、行动和纠错的过程。

人的意图为什么不能完整进入提示词？

人在行动以前，并不总有一个完整、固定、清晰的目标等待表达。很多意图是在表达、比较和尝试中逐渐形成的。

一个请求至少可能包含四层：

提示词通常只显式表达其中一部分。其余信息可能存在于前文、当前文件、既往约定、组织规则和用户自己尚未说清楚的判断中。

所以，“把提示词写得足够长”不能从根本上消除意图问题。表达长度会增加信息，也可能增加冲突、噪声和虚假的精确感。

AI 理解的不是完整的人，而是当前任务

AI 能接触的只是证据：

• 当前语言；
• 对话历史；
• 可见文件和页面；
• 工具返回结果；
• 已保存的偏好与规则；
• 用户对中间结果的确认和修正。

据此，AI 构造的是一个工作性的任务模型：

当前对象是什么？
期望产生什么变化？
有哪些约束？
哪些事实仍然未知？
哪些行动已经获得授权？
怎样判断完成？

这个模型可以很准确，却仍然不是用户全部心理状态。把任务理解限制在当前可观察证据上，反而有助于防止 AI 把猜测写成事实。

三种“理解”需要分开

语义理解

AI 能否识别词语、句子和上下文的含义？例如，“使用第一种”中的“第一种”指向前面哪一个选项。

操作理解

AI 能否把语言转化成具体任务？例如，它是否知道要修改哪篇文章、生成哪些语言版本、使用什么格式。

结果理解

AI 是否知道什么结果才算满足人的目的？例如，文件已经生成，是否还需要提交仓库、部署网站，并验证线上地址。

三者并不自动同时成立。

听懂一句话
≠
知道该做什么
≠
知道怎样才算做完

很多人机协作失败并不是模型完全没有理解语言，而是操作对象、完成条件或结果标准没有对齐。

共同任务模型怎样形成？

双方需要逐步建立一个共享但可修正的任务模型。它通常包含六个部分：

这不是要求人把所有内容一次性写进提示词。AI 可以先利用已有上下文完成低风险、可逆的工作，再在真正影响行动边界的地方取得必要信息。

良好的协作会保留已经确认的决定，避免每一轮都从头询问；也会在新证据出现时允许旧解释被推翻。

澄清、假设与行动怎样选择？

AI 面对歧义时，不应只有“猜”或“追问”两个选项。更合理的策略取决于三个变量：

歧义程度 × 出错代价 × 可逆性

低代价且可逆

可以说明合理假设后先做。例如先生成一个文章草稿，用户可以直接修改。

中等歧义

可以保留多个候选、先完成共同部分，或者给出可比较的方案。

高代价或不可逆

需要确认关键对象、权限或范围。例如公开发布、向他人发送消息、支付、删除不可恢复数据。

关键不是让 AI 永远等待，而是让确认发生在真正决定后果的边界上。

提示词是证据，不是完整契约

提示词对当前任务具有直接约束力，但它仍需要与上下文、权限和现实条件一起解释。

同一句话在不同位置具有不同作用：

• “这个能发布吗？”是在询问可行性；
• “准备成可发布版本”是在授权编辑；
• “发布到网站”是在授权外部行动；
• “我以后可能发布”只是陈述计划。

AI 需要识别请求、讨论、假设、背景和授权之间的差别。

对话也会形成承诺。用户已经选择方案、批准发布或规定格式以后，系统应当把这些决定带入后续步骤。共同理解并不只存在于最后一句提示词里，而存在于整个交互历史中。

行动怎样成为理解的检验？

单靠复述不能证明双方已经对齐。行动会把隐藏差异暴露出来。

例如，人说“把文章更新到网站”。AI 可能完成了本地 Markdown，却没有提交；完成提交，却没有部署；线上页面出现了，却缺少英文版本或 sitemap。

因此需要逐层验证：

任务解释正确
→ 产物内容正确
→ 行动实际执行
→ 外部状态改变
→ 用户目标得到满足

每一层都提供新的证据。失败不是单纯的终点，也会告诉双方此前的任务模型哪里不完整。

一个完整的人机行动回路

可以把共同回路分成八步。

1. 人感知问题

人从需要、阻碍、机会或不满意的结果中发现需要改变的状态。

2. 人形成初步意图

人确定一个大致方向，但目标、手段和判断标准可能仍然模糊。

3. 人表达请求

语言把部分意图外化为提示词，并带入背景、材料和限制。

4. AI 构造候选解释

AI 识别对象、动作、约束和缺失信息，并比较可能的任务解释。

5. 双方校准

AI 利用历史决定、复述、草稿、选项或必要追问，使任务达到足以行动的清晰度。

6. AI 在授权内行动

AI 规划步骤、调用工具、保存中间状态，并对高后果边界检查权限。

7. 系统观察结果

读取文件变化、命令结果、线上页面、用户反馈或其他外部证据。

8. 双方修正

用户可以改目标、指出偏差或接受结果；AI 据此更新任务模型，继续行动或结束。

这构成：

意图
→ 表达
→ 解释
→ 校准
→ 行动
→ 观察
→ 评价
→ 修正后的意图

谁负责什么？

共同回路不意味着人的责任和 AI 的责任完全相同。

人主要提供

• 需要改变的现实处境；
• 价值判断和最终目的；
• 私人背景与未公开限制；
• 对高后果行动的授权；
• 对结果是否值得接受的最终判断。

AI 主要提供

• 对当前证据的结构化解释；
• 候选方案、推理与风险差异；
• 可执行的步骤和工具使用；
• 对不确定性、权限和完成状态的显式记录；
• 根据新证据快速修正计划。

系统与组织必须提供

• 身份和权限控制；
• 数据与隐私边界；
• 日志、版本和可回退机制；
• 失败处理和责任分配；
• 对外部行动的可验证状态。

AI 不能替人决定所有价值；人也不能把一切错误归因于一个孤立模型。结果来自整个社会技术系统。

常见的断裂位置

人把感觉直接当成明确目标

用户知道“不对”，却还不知道要变成什么。此时 AI 应帮助比较结果，而不是假装存在唯一正确答案。

AI 把最可能解释当成真实意图

概率最高只说明现有证据更支持某种解释，不证明它就是用户内心的完整目的。

双方只确认内容，不确认行动

一篇文章得到认可，不自动等于获得公开发布的权限。

AI 把计划当成完成

“将会更新网站”不是更新证据。本地文件、提交、部署和线上验证是不同状态。

人只评价输出，不评价过程

一个偶然正确的答案可能来自不可靠方法；一个暂时失败的尝试也可能暴露关键未知。长期协作需要同时评价结果、证据和纠错能力。

反馈没有进入下一轮

如果用户的修正没有被保存或使用，同一种偏差会重复发生，协作就无法形成真正的闭环。

怎样提高共同回路的质量？

对人而言：

• 先说希望改变什么，而不只是给出一个动作词；
• 区分探索、草拟、修改、批准和发布；
• 在关键地方说明不能接受的结果；
• 用具体反馈指出哪一层理解错了；
• 允许意图在获得新信息后改变。

对 AI 而言：

• 把明确要求、推断和未知分开；
• 利用已确认的上下文，不重复索取信息；
• 在低风险任务上用可逆产物推进；
• 在高后果边界核对对象和权限；
• 报告实际结果，不把计划写成完成；
• 让反馈更新任务模型和后续行为。

结论

人类先在现实处境中形成需要、目标和意图，再通过语言把其中一部分交给 AI。AI 根据可见证据构造任务模型，通过推理与工具采取行动。现实结果和人的评价随后反过来修正这个模型，也可能修正人原来的意图。

所以，人机之间需要建立的不是一次性的“正确提示词”，而是一个能够持续校准的共同回路：

人提供目的、价值与授权
+
AI 提供解释、方案与执行
+
环境提供结果与证据
+
反馈推动双方修正

真正可靠的人机协作，不要求 AI 读懂一个不可见的“真实内心”；它要求双方把当前任务、行动边界和完成证据逐步变得清楚。

延伸阅读

• AI 能断定用户的真实意图吗？
• AI 如何推理并行动？
• 思维是什么？人如何形成理解、判断与行动
• EMNLP 2024：让语言模型显式处理歧义