但是，希望是对结果的价值态度，预期是对结果的可能性判断。一个人可以强烈希望某件事发生，同时认为它几乎不会发生。

因此，期望不是一种单一的心理状态。它至少可能包含：

• 对未来的表示；
• 对可能性的判断；
• 对结果的喜好或反感；
• 对自己或他人的要求；
• 为了某种结果而采取行动的倾向。

“期望”是什么？

可以先把期望定义为：

期望是主体面向尚未确定的结果，所形成的可能性判断、价值态度或规范要求。

这个定义不把期望限定为未来。人也会对已经发生、但自己尚不知道结果的事情表达期望，例如“我希望他已经安全到家”。关键不是事件客观上是否已经发生，而是它对主体而言仍然没有确定。

期望通常包含四个基本部分：

主体
+ 尚未确定的结果
+ 对结果可能性的判断
+ 对结果的态度

期望、预期、期待和希望

这几个词在日常使用中经常重叠，但侧重点不同。

中文“期望”可以根据语境对应英文 expectation、expectancy 或 hope，但这些英文概念也不等价。

• expectation 通常是对将会发生什么的判断，也可以表示规范要求；
• expectancy 在心理学中常指对某种行动能否导致结果的信念；
• hope 强调结果是想要的，而且仍被认为可能；
• anticipation 更偏向事件到来之前的等待和情感状态；
• forecast 更明确地指向基于信息或模型的预测。

对英文 hope 的当代哲学分析通常包含两个最低条件：主体认为某结果仍有可能，并且认为它值得被期待。因此，人可以希望一个自己认为极不可能的结果，却不会预期它真的发生。

期望的四种常见结构

认知性期望

认知性期望是对将会发生什么的判断。

根据当前数据，我预期下个月的访问量会增长。

这种期望应当受证据约束。新信息出现后，判断也应该改变。它可以用概率表达，但日常的认知性期望并不总是一个精确数字。

愿望性期望

愿望性期望表达主体想要什么。

我期望这个产品能真正解决用户问题。

这是价值判断，并不自动说明结果有多大概率出现。愿望可以提供行动方向，也可能在没有证据时滑向一厢情愿。

规范性期望

规范性期望表达“应当怎样”。

组织期望成员遵守信息安全规则。

这句话不是预测所有人都会遵守，而是在设定行为标准。家庭、组织和社会对角色的期望往往属于这一类。

规范性期望还涉及权力：谁有权提出要求，谁承担后果，当事人能否拒绝或重新协商。“大家都这样期望”并不自动证明这种要求合理。

行动性期望

行动性期望不只表示对结果的看法，还会改变行动。

我认为充分准备可以提高任务成功率，因此我决定提前测试。

心理学中的 expectancy 常用来表示主体对“自己的行动能否带来某种结果”的信念。这种信念会影响动机、投入和坚持程度。

期望为什么会影响结果？

期望会改变人注意什么、如何解释模糊信息，以及是否继续行动。

形成期望
→ 调整注意和行动
→ 行动改变部分环境
→ 产生结果
→ 结果反过来强化或修正期望

这可能形成自我实现的预言，例如一个人确信自己无法完成任务，因此减少准备，最后更容易失败。

但期望不是魔法。它只有在能够改变注意、决策、他人反应或环境条件时，才可能通过因果链影响结果。不能把“保持积极期望”当成脱离条件和行动的现实律。

期望、意图、目标和决策

这些概念共同参与行动，却处在不同环节。

“我期望文章被更多人阅读”仍然只是对结果的态度。“我准备重写标题和导语”才开始形成意图。“今天先修改标题”是一个具体决策。

因此，从期望到结果需要经过：

期望
→ 意图
→ 目标
→ 决策
→ 行动
→ 结果
→ 更新期望

期望本身不能保证行动，行动也不能保证结果。

期望落差是什么？

期望不仅预测结果，还会成为评价结果的参照点。

期望落差 = 实际结果 - 参照期望

同样获得 10 万元，原本预期 5 万元的人可能感到惊喜，原本预期 20 万元的人则可能感到失望。实际结果没变，参照点变了。

这并不意味着只要降低期望就能解决问题。过低的预期也可能削弱准备和行动。更有用的做法是把原本混在一起的内容分开：

1. 期望结果：我想要什么？
2. 概率判断：根据当前证据，它有多可能？
3. 可控行动：我能够改变哪些条件？
4. 风险边界：如果没有发生，我能承受什么？

如何分析一个期望？

遇到“我期望……”时，可以继续追问：

1. 期望的主体是谁？
2. 对象是什么结果？
3. 这是希望、预测，还是要求？
4. 如果是预测，证据和概率是什么？
5. 如果是要求，谁有权提出，谁承担代价？
6. 哪些条件受主体控制？
7. 期望是否已经转化成目标、决策和行动？
8. 什么新证据会使这个期望改变？

对“期望”的最终定义

可以把期望定义为：

期望是主体在结果尚未确定时，对什么可能发生、什么值得发生或什么应当发生所持有的态度。

这个概念之所以容易混乱，是因为它横跨了三个不同层次：

事实判断：什么会发生
价值判断：我想让什么发生
规范判断：什么应当发生

把这三者分开，才能让期望成为可检验的判断、可讨论的价值和可执行的行动起点。

参考

• Stanford Encyclopedia of Philosophy: Hope
• APA Dictionary of Psychology: Expectancy
• APA Dictionary of Psychology: Behavioral Confirmation

人会感知问题、判断事实、想象未来，也会形成愿望和目标。但这些活动不会自动产生行动。一个人只有在若干可能方向之间作出取舍，使其中一个方向获得行动优先权，才进入决策。

可以先给出一个定义：

决策，是主体面对一个需要回应的处境，在多个可能行动、价值冲突或不确定后果之间，形成并承诺一条行动方向的过程及其结果。

决策最关键的变化是：

多个仍然开放的可能
→ 判断、比较与取舍
→ 一个方向获得行动优先权
→ 进入计划和执行

这里的承诺不表示决定永远不能修改，而是主体暂时结束部分犹豫，开始按照这个方向配置注意力、时间、资源和行动。新证据、环境变化和执行失败，都可能要求重新决策。

决策不等于什么？

很多与决策相邻的概念会在同一过程中出现，但它们回答的问题不同。

其中最容易被混淆的是判断与决策。

这个方案成功的概率较高。

这是判断。

在现有证据和风险限制下，选择执行这个方案。

这是决策。

从前一句不能直接推出后一句。即使成功概率已经知道，行动者仍要考虑收益、损失、替代方案、风险承受能力以及伦理边界。

一个完整决策包含什么？

需要回应的处境

为什么现在需要作出回应？如果没有需要改变的状态、冲突或分岔，就没有明确的决策问题。

问题框架

同一现实可以被表达成不同问题：

• 要不要继续这个项目？
• 怎样降低项目失败的概率？
• 哪个目标值得优先保留？
• 是否应该把资源转移到其他项目？

框架决定哪些选项和证据会进入分析。后续计算即使精确，也无法补救一个被错误定义的问题。

主体与权限

谁能够让决定生效？谁只提供建议？谁承担后果？个人、家庭和组织的决策结构不同。讨论形成共识并不自动等于形成有效决定，还需要授权、程序和责任机制。

目标、价值与约束

目标说明希望达到什么状态，价值说明它为什么值得，约束说明哪些手段、风险和代价不可接受。

困难决策经常不是缺少数据，而是多个价值无法同时满足，例如收益、安全、自由、公平、速度和关系之间发生冲突。

可行选项

“成功”和“失败”是可能结果，不是行动选项。“继续”“停止”“缩小范围”“先试验”“延期并获取信息”才可能是选项。

不行动、延迟、委托和维持现状也会产生后果，因此也应进入选项集合。

后果、因果与概率

决策需要判断：如果采取行动 A，哪些结果会因此改变？这需要因果模型，而不只是相关性。

概率表示结果有多可能，却不能说明结果有多值得。把概率与价值混为一谈，是决策中最常见的错误之一。

取舍规则

行动者可能选择：

• 最大化期望收益；
• 避免无法承受的损失；
• 保护不可替代的价值；
• 选择最坏情况下仍可接受的方案；
• 先进行低成本、可逆的试验；
• 达到“足够好”的门槛后停止搜索。

不同规则可能产生不同答案。规则本身也需要理由，不能把公式当作没有价值前提的结论。

承诺、执行与反馈

决定使一个选项获得行动优先权，但还要转化成计划、资源、权限和实际执行。现实结果随后进入下一轮：

决定
→ 执行
→ 观察结果
→ 比较预期
→ 修正信念、目标或规则
→ 新的决定

决策理论研究什么？

决策研究至少有三个不同目标。

描述性决策理论

心理学研究注意力、记忆、情绪、默认项、框架、社会影响和启发式怎样塑造实际选择。APA 将 decision making 概括为在两个或更多方案之间进行选择的认知过程。APA Dictionary of Psychology

描述一种行为常见，不能证明它合理。

规范性决策理论

规范理论研究信念、偏好和选择应当满足哪些一致性要求。经典的期望效用模型是：

EU(A) = Σ P(Oᵢ | A) × U(Oᵢ)

其中，P(Oᵢ | A) 表示采取行动 A 后结果 Oᵢ 的概率，U(Oᵢ) 表示结果的效用。规则要求比较不同行动的期望效用。Stanford Encyclopedia of Philosophy：Expected Utility

效用在现代决策理论中常表示偏好结构，不必等于金钱或快乐。模型也不会自动告诉我们有哪些选项、概率是否可信、价值能否统一换算，以及谁承担代价。

处方性决策方法

处方性方法把规范标准与人的现实限制连接起来，例如：

• 把事实、推断、概率、价值和未知分开；
• 寻找被当前框架遗漏的选项；
• 设置停止、退出和复查条件；
• 使用外部基准而不只依赖内部感觉；
• 通过小规模试验降低关键不确定性；
• 记录决策时的信息，避免事后只按结果评价。

有限理性：为什么不能永远寻找最优？

现实中的人没有无限信息、时间、注意力和计算能力。有限理性不是简单地说“人不理性”，而是研究有限主体怎样在具体环境中使用可承受的程序。

Herbert Simon 提出的“满意化”思路，不要求遍历所有可能方案并找到绝对最优，而是在搜索成本与结果质量之间取舍，达到足够好的门槛后停止。Stanford Encyclopedia of Philosophy：Bounded Rationality

所以，还要评价：

继续获得信息的预期价值
是否高于
搜索、等待与错失机会的成本

花无限时间寻找最优答案，本身可能成为一个糟糕决定。

人实际怎样偏离形式模型？

人的风险选择会受到参照点、损失感受、表述方式和概率权重影响。Kahneman 与 Tversky 的前景理论用这些因素解释了部分系统性选择模式。2002 年诺贝尔经济学奖材料将这项贡献概括为把心理学研究引入不确定条件下的经济判断和决策。Nobel Prize 2002

不过，“偏差”不能成为给所有不同于公式的决定贴标签的工具。必须先确认所采用的规范标准适用于当前问题，并考虑信息成本、环境结构和行动者的真实目标。

决策为什么不只是计算技术？

事实不能单独推出行动

事实和概率描述世界可能怎样，却不能单独说明什么值得追求。决定必然引入目标、价值或规范前提。

价值不一定可以统一换算

一个选项可能更赚钱，另一个更自由；一个更安全，另一个更符合承诺。把所有价值压缩成一个数字能够帮助比较，也可能掩盖无法替代的差异。

真实选择不只取决于选项数量

表面上存在多个选项，不代表主体具有同等能力选择。贫困、信息控制、权力关系、成瘾、习惯和制度设计都会改变可行选项和责任条件。

程序本身可能具有价值

在集体决策中，即使结果有效，程序也可能不公正。谁能发言、谁有否决权、信息是否公开、受影响者是否参与，都可能成为决定正当性的一部分。

好决策与好结果必须分开

一个合理决定可能因低概率事件产生坏结果；一个草率决定也可能因为运气获得好结果。复盘必须回到作出决定时能够获得的信息，而不能用后来发生的事情重写过去。

怎样检查一个决定？

1. 真正需要决定的问题是什么？
2. 是否因为错误框架而解决了错误问题？
3. 不行动、延迟和先试验是否也是选项？
4. 哪些是事实，哪些是推断、概率、价值和未知？
5. 行动与结果之间是否有合理的因果解释？
6. 优化什么、保护什么、愿意放弃什么？
7. 最坏结果能否承受，决定能否逆转？
8. 谁获得收益、承担风险并拥有决定权？
9. 决定是否已经进入计划、资源和行动？
10. 什么新证据会触发重新决策？

决策在思维与行动之间的位置

处境与需求
→ 认知和思维形成表征
→ 判断事实、因果与概率
→ 价值和立场规定什么重要
→ 目标与意图形成行动方向
→ 决策处理具体分岔和取舍
→ 计划与战术组织行动
→ 行动产生结果
→ 反馈修正下一轮决策

这不是固定的单向流水线。决策可以形成意图，既有意图也会约束后续决策；行动结果还可能改变原来的目标。

好决策不是保证得到好结果，而是在当时可获得的信息、价值和限制下，形成可解释、可执行、可承担并且能够修正的行动承诺。

延伸阅读

• 思维模型是什么？人怎样简化现实并指导行动
• 思维是什么？人如何形成理解、判断与行动

参考资料

• APA Dictionary of Psychology：Decision Making
• Stanford Encyclopedia of Philosophy：Normative Theories of Rational Choice—Expected Utility
• Stanford Encyclopedia of Philosophy：Descriptive Decision Theory
• Stanford Encyclopedia of Philosophy：Bounded Rationality
• Nobel Prize 2002：Psychological and Experimental Economics

专题：思维、意图与行动（2/4） 上一篇：人的思维；下一篇：AI 如何理解用户意图

AI 是否在“思考”？

当人们说 AI 在思考，通常混合了三个不同问题：

1. 它能否完成推理、规划、比较和判断等任务？
2. 它内部是否存在可以称为思维的计算过程？
3. 它是否像人一样具有意识、体验、理解和自主意图？

对第一个问题，可以肯定回答：现代大语言模型能够完成许多过去需要人类思考才能完成的任务。

对第二个问题，可以使用功能性的说法：

AI 的“思考”，是系统根据输入、上下文、内部参数和外部工具，对信息进行表示、转换、预测、比较与选择的计算过程。

但第三个问题不能从任务表现直接推出。一个系统能够解释概念、写出论证、规划步骤，并不能证明它具有人的主观体验，也不能证明它以人的方式理解自己正在做什么。

因此，讨论 AI 思维时，最好区分：

功能表现
≠
内部机制
≠
主观体验

本文讨论的是前两层：AI 怎样形成输出、怎样处理复杂任务，以及怎样从语言生成走向外部行动。

大语言模型的基本工作是什么？

大语言模型的基础任务是：根据已有文本，预测接下来最可能出现的语言单位。

可以简化为：

P(下一个 token | 当前输入、上下文、模型参数)

模型在训练中接触大量文本，通过调整参数，学习词语、句法、语义、文体、事实陈述和推理形式之间的统计关系。它得到的不是一本逐条查询的词典，也不是一组人工写好的全部规则，而是一套分布式的参数结构。

生成答案时，系统反复执行：

读取当前上下文
→ 计算候选 token 的概率
→ 选择一个 token
→ 把它加入上下文
→ 继续预测

这个描述很重要，但不完整。因为“预测下一个 token”并不意味着模型只能机械续写。要准确预测技术解释、数学证明、程序代码或行动计划，模型必须形成能够支持这些输出的内部结构和中间计算。

问题在于：这些结构究竟多大程度上对应稳定的概念、世界模型和推理过程，仍然是正在研究的问题。

为什么预测语言可以产生推理能力？

语言记录了人类对世界的描述，也记录了大量推理、解释、计划和纠错过程。模型学习语言规律时，也会学习这些结构之间的关系。

例如，一个有效的回答需要处理：

• 哪些信息与当前问题相关；
• 哪些概念应当区分；
• 前提能否支持结论；
• 哪个步骤必须先完成；
• 哪种工具适合取得缺失信息；
• 新证据是否推翻原来的判断。

这使大模型能够表现出归纳、演绎、类比、因果解释、程序模拟和任务分解等能力。

但能力并不稳定。模型可能在熟悉形式上表现良好，在轻微改写、长链推理、分布外问题或需要精确状态跟踪时失败。语言上流畅的结论也可能没有足够证据。

所以，不能把“能生成推理文本”直接等同于“始终执行了可靠推理”。

模型输出前发生了什么？

输入文本首先被切分为 token，并转换成向量表示。Transformer 通过注意力机制计算上下文中不同位置之间的关系，经过多层变换形成新的内部状态，最后输出候选 token 的概率分布。

可以概括为：

提示词与上下文
→ token 与位置表示
→ 多层注意力和非线性变换
→ 当前上下文的内部状态
→ 候选输出分布
→ 生成结果

这里的内部状态不是可以直接翻译成人类句子的“内心独白”。研究者可以分析激活、注意力和中间表示，但不能简单地把某个神经元或向量当作一个完整、透明的思想。

模型有时会输出“思考过程”或逐步解释。它们可以帮助系统分解问题，也能让人检查答案，但这些文字不必然忠实记录了导致答案的全部内部计算。研究表明，链式思维解释可能遗漏真实影响因素，甚至为已经形成的答案补写看似合理的理由。Turpin 等：Language Models Don’t Always Say What They Think

因此：

可读的推理过程是工作界面和证据之一，不是模型内部过程的完整扫描。

基础模型为什么会服从指令？

单纯进行下一词预测的基础模型，主要学习“什么文本可能接在后面”。但助手还需要判断“用户要求我完成什么”。

常见的训练过程包括：

• 在大量文本上进行预训练；
• 使用示范数据进行指令微调；
• 根据人类或模型反馈进一步调整行为；
• 通过系统规则和工具协议约束运行时行为。

GPT-3 展示了大模型通过上下文示例完成多种任务的能力；InstructGPT 则说明，仅仅扩大模型并不会自动使其更符合用户意图，指令微调和人类反馈能显著改变模型的行为方向。GPT-3 · InstructGPT

这意味着，AI 助手的回答不是只由用户最后一句话决定。它同时受模型参数、系统规则、对话历史、可见环境、工具返回值和解码策略影响。

推理、决定和行动不是一回事

在一个 AI 系统中，可以区分四个环节：

语言模型可以生成一个行动建议，却没有实际执行它；也可能调用了工具，却没有充分推理。把这四层分开，才能定位错误发生在哪里。

“删除文件”是行动。“这个文件可能是重复的”是判断。“删除它最节省空间”是决策理由。“用户允许删除”则是权限事实。它们不能相互替代。

AI 怎样从模型变成 Agent？

大语言模型本身主要接收上下文并产生输出。要成为可以持续完成任务的 Agent，通常还需要外部系统提供：

• 目标与任务状态：现在要完成什么，进展到哪里；
• 规划机制：把较大的目标拆成可执行步骤；
• 工具：搜索、读取文件、执行代码、调用服务；
• 记忆：保存当前任务状态、既往结果和长期约定；
• 环境观察：读取工具结果和外部状态；
• 权限边界：哪些操作允许执行，哪些需要确认；
• 反馈与终止条件：怎样判断成功、失败或需要修正。

典型回路是：

观察环境
→ 解释当前状态
→ 选择下一步
→ 调用工具
→ 读取结果
→ 更新计划
→ 继续或停止

ReAct 把推理轨迹与行动交错起来：模型根据当前信息提出下一步，通过工具取得观察结果，再据此继续处理任务。ReAct

这里真正行动的不是一段孤立文本，而是“模型 + 工具 + 状态 + 权限 + 执行环境”组成的系统。

AI 有自己的目标和意图吗？

工程系统可以具有目标变量、奖励函数、任务说明和停止条件。但这些“目标”不必等同于人的欲望、承诺或行动意图。

可以区分：

模型生成“我打算先检查文件”时，这句话通常描述系统接下来的操作计划，不能单凭第一人称表达证明它具有人的主观意向。

这一区分也解释了为什么一个 Agent 可以表现出持续目标导向，却仍需要外部权限、监控和责任主体。

行动为什么必须依赖反馈？

一次生成无法保证计划与现实一致。工具可能报错，网页可能改变，文件可能不存在，早先假设也可能被新证据推翻。

可靠的行动系统需要闭环：

提出假设
→ 执行动作
→ 观察结果
→ 比较预期与实际
→ 修正解释或计划
→ 再次行动

没有反馈，AI 只能把行动当成语言中的想象；有了反馈，它才能发现自己是否真的改变了外部状态。

这也要求系统区分不同证据：

• “命令已生成”不等于“命令已成功执行”；
• “代码通过构建”不等于“用户界面符合预期”；
• “已经推送仓库”不等于“线上版本已经部署”；
• “用户没有反对”不等于“用户授权了高后果行动”。

AI 推理与行动的主要局限

语言流畅会掩盖证据不足

模型可以用完整句子表达错误判断。表达质量与事实可靠性不是同一指标。

上下文有限且具有选择性

系统只处理当前可见的信息。遗漏的文件、隐藏的环境状态和未表达的用户目的，都可能改变正确行动。

长任务会产生状态漂移

任务越长，越需要外部记录、检查点和明确的完成条件。否则模型容易重复、遗漏或把计划误认为结果。

工具结果也需要解释

工具返回的内容可能不完整、过期、错误或恶意。调用工具并不会自动消除不确定性。

目标可能冲突

用户要求、系统规则、现实约束和不同子目标之间可能不一致。AI 需要识别冲突，而不是把任何一句指令都当作最高目标。

行动后果由整个系统承担

模型选择工具调用，执行器改变现实，平台决定权限，人承担或分配责任。不能只评价模型文本而忽略整个行动链。

怎样判断一个 AI 系统是否真的完成了任务？

不能只看它是否给出自信的回答。更可靠的判断需要逐层核验：

是否理解了正确对象？
→ 是否引用了足够证据？
→ 推理是否支持结论？
→ 是否拥有行动权限？
→ 工具是否实际执行？
→ 外部状态是否按预期改变？
→ 结果是否满足原始目标？

复杂任务还需要保留可回退的中间状态，让错误能够被发现和修正。

结论

AI 的“思考”可以在功能上理解为：系统对输入和上下文进行表示、转换、预测与选择，从而产生判断、计划和输出。它与人的思维存在可比较的功能，却不能因此被断定为具有同样的意识和体验。

AI 的“行动”也不是模型单独完成的。它来自一个更大的系统：

模型
+ 上下文
+ 工具
+ 状态
+ 权限
+ 环境反馈

所以，理解 AI 不能只问“模型想了什么”，还要问：

• 它依据了什么证据；
• 它怎样形成和检查计划；
• 谁赋予它行动权限；
• 工具实际改变了什么；
• 结果如何被验证；
• 错误怎样进入下一轮修正。

AI 推理是生成行动方案的计算过程；AI 行动是受权限约束、接受现实反馈并能够修正的系统过程。

参考资料

• Brown 等：Language Models are Few-Shot Learners
• Ouyang 等：Training Language Models to Follow Instructions with Human Feedback
• Yao 等：ReAct: Synergizing Reasoning and Acting in Language Models
• Turpin 等：Language Models Don’t Always Say What They Think

专题：思维、意图与行动（4/4） 从第一篇开始阅读：思维是什么？人如何形成理解、判断与行动

人与 AI 之间真正要连接什么？

人类与 AI 的协作常被描述成：

人给出提示词
→ AI 给出答案

这个结构只描述了一次语言交换。它没有解释人为什么提出请求、AI 怎样理解请求、谁决定可以采取什么行动，也没有说明现实结果怎样反过来修正双方的判断。

更完整的结构是：

人的处境、需要与目的
→ 人形成暂时意图
→ 用语言表达请求
→ AI 构造任务解释
→ 双方校准目标、对象与边界
→ AI 形成计划并在授权内行动
→ 观察现实结果
→ 人评价结果，AI 更新解释
→ 进入下一轮

人机协作不是一次准确翻译，而是双方围绕共同任务持续校准、行动和纠错的过程。

人的意图为什么不能完整进入提示词？

人在行动以前，并不总有一个完整、固定、清晰的目标等待表达。很多意图是在表达、比较和尝试中逐渐形成的。

一个请求至少可能包含四层：

提示词通常只显式表达其中一部分。其余信息可能存在于前文、当前文件、既往约定、组织规则和用户自己尚未说清楚的判断中。

所以，“把提示词写得足够长”不能从根本上消除意图问题。表达长度会增加信息，也可能增加冲突、噪声和虚假的精确感。

AI 理解的不是完整的人，而是当前任务

AI 能接触的只是证据：

• 当前语言；
• 对话历史；
• 可见文件和页面；
• 工具返回结果；
• 已保存的偏好与规则；
• 用户对中间结果的确认和修正。

据此，AI 构造的是一个工作性的任务模型：

当前对象是什么？
期望产生什么变化？
有哪些约束？
哪些事实仍然未知？
哪些行动已经获得授权？
怎样判断完成？

这个模型可以很准确，却仍然不是用户全部心理状态。把任务理解限制在当前可观察证据上，反而有助于防止 AI 把猜测写成事实。

三种“理解”需要分开

语义理解

AI 能否识别词语、句子和上下文的含义？例如，“使用第一种”中的“第一种”指向前面哪一个选项。

操作理解

AI 能否把语言转化成具体任务？例如，它是否知道要修改哪篇文章、生成哪些语言版本、使用什么格式。

结果理解

AI 是否知道什么结果才算满足人的目的？例如，文件已经生成，是否还需要提交仓库、部署网站，并验证线上地址。

三者并不自动同时成立。

听懂一句话
≠
知道该做什么
≠
知道怎样才算做完

很多人机协作失败并不是模型完全没有理解语言，而是操作对象、完成条件或结果标准没有对齐。

共同任务模型怎样形成？

双方需要逐步建立一个共享但可修正的任务模型。它通常包含六个部分：

这不是要求人把所有内容一次性写进提示词。AI 可以先利用已有上下文完成低风险、可逆的工作，再在真正影响行动边界的地方取得必要信息。

良好的协作会保留已经确认的决定，避免每一轮都从头询问；也会在新证据出现时允许旧解释被推翻。

澄清、假设与行动怎样选择？

AI 面对歧义时，不应只有“猜”或“追问”两个选项。更合理的策略取决于三个变量：

歧义程度 × 出错代价 × 可逆性

低代价且可逆

可以说明合理假设后先做。例如先生成一个文章草稿，用户可以直接修改。

中等歧义

可以保留多个候选、先完成共同部分，或者给出可比较的方案。

高代价或不可逆

需要确认关键对象、权限或范围。例如公开发布、向他人发送消息、支付、删除不可恢复数据。

关键不是让 AI 永远等待，而是让确认发生在真正决定后果的边界上。

提示词是证据，不是完整契约

提示词对当前任务具有直接约束力，但它仍需要与上下文、权限和现实条件一起解释。

同一句话在不同位置具有不同作用：

• “这个能发布吗？”是在询问可行性；
• “准备成可发布版本”是在授权编辑；
• “发布到网站”是在授权外部行动；
• “我以后可能发布”只是陈述计划。

AI 需要识别请求、讨论、假设、背景和授权之间的差别。

对话也会形成承诺。用户已经选择方案、批准发布或规定格式以后，系统应当把这些决定带入后续步骤。共同理解并不只存在于最后一句提示词里，而存在于整个交互历史中。

行动怎样成为理解的检验？

单靠复述不能证明双方已经对齐。行动会把隐藏差异暴露出来。

例如，人说“把文章更新到网站”。AI 可能完成了本地 Markdown，却没有提交；完成提交，却没有部署；线上页面出现了，却缺少英文版本或 sitemap。

因此需要逐层验证：

任务解释正确
→ 产物内容正确
→ 行动实际执行
→ 外部状态改变
→ 用户目标得到满足

每一层都提供新的证据。失败不是单纯的终点，也会告诉双方此前的任务模型哪里不完整。

一个完整的人机行动回路

可以把共同回路分成八步。

1. 人感知问题

人从需要、阻碍、机会或不满意的结果中发现需要改变的状态。

2. 人形成初步意图

人确定一个大致方向，但目标、手段和判断标准可能仍然模糊。

3. 人表达请求

语言把部分意图外化为提示词，并带入背景、材料和限制。

4. AI 构造候选解释

AI 识别对象、动作、约束和缺失信息，并比较可能的任务解释。

5. 双方校准

AI 利用历史决定、复述、草稿、选项或必要追问，使任务达到足以行动的清晰度。

6. AI 在授权内行动

AI 规划步骤、调用工具、保存中间状态，并对高后果边界检查权限。

7. 系统观察结果

读取文件变化、命令结果、线上页面、用户反馈或其他外部证据。

8. 双方修正

用户可以改目标、指出偏差或接受结果；AI 据此更新任务模型，继续行动或结束。

这构成：

意图
→ 表达
→ 解释
→ 校准
→ 行动
→ 观察
→ 评价
→ 修正后的意图

谁负责什么？

共同回路不意味着人的责任和 AI 的责任完全相同。

人主要提供

• 需要改变的现实处境；
• 价值判断和最终目的；
• 私人背景与未公开限制；
• 对高后果行动的授权；
• 对结果是否值得接受的最终判断。

AI 主要提供

• 对当前证据的结构化解释；
• 候选方案、推理与风险差异；
• 可执行的步骤和工具使用；
• 对不确定性、权限和完成状态的显式记录；
• 根据新证据快速修正计划。

系统与组织必须提供

• 身份和权限控制；
• 数据与隐私边界；
• 日志、版本和可回退机制；
• 失败处理和责任分配；
• 对外部行动的可验证状态。

AI 不能替人决定所有价值；人也不能把一切错误归因于一个孤立模型。结果来自整个社会技术系统。

常见的断裂位置

人把感觉直接当成明确目标

用户知道“不对”，却还不知道要变成什么。此时 AI 应帮助比较结果，而不是假装存在唯一正确答案。

AI 把最可能解释当成真实意图

概率最高只说明现有证据更支持某种解释，不证明它就是用户内心的完整目的。

双方只确认内容，不确认行动

一篇文章得到认可，不自动等于获得公开发布的权限。

AI 把计划当成完成

“将会更新网站”不是更新证据。本地文件、提交、部署和线上验证是不同状态。

人只评价输出，不评价过程

一个偶然正确的答案可能来自不可靠方法；一个暂时失败的尝试也可能暴露关键未知。长期协作需要同时评价结果、证据和纠错能力。

反馈没有进入下一轮

如果用户的修正没有被保存或使用，同一种偏差会重复发生，协作就无法形成真正的闭环。

怎样提高共同回路的质量？

对人而言：

• 先说希望改变什么，而不只是给出一个动作词；
• 区分探索、草拟、修改、批准和发布；
• 在关键地方说明不能接受的结果；
• 用具体反馈指出哪一层理解错了；
• 允许意图在获得新信息后改变。

对 AI 而言：

• 把明确要求、推断和未知分开；
• 利用已确认的上下文，不重复索取信息；
• 在低风险任务上用可逆产物推进；
• 在高后果边界核对对象和权限；
• 报告实际结果，不把计划写成完成；
• 让反馈更新任务模型和后续行为。

结论

人类先在现实处境中形成需要、目标和意图，再通过语言把其中一部分交给 AI。AI 根据可见证据构造任务模型，通过推理与工具采取行动。现实结果和人的评价随后反过来修正这个模型，也可能修正人原来的意图。

所以，人机之间需要建立的不是一次性的“正确提示词”，而是一个能够持续校准的共同回路：

人提供目的、价值与授权
+
AI 提供解释、方案与执行
+
环境提供结果与证据
+
反馈推动双方修正

真正可靠的人机协作，不要求 AI 读懂一个不可见的“真实内心”；它要求双方把当前任务、行动边界和完成证据逐步变得清楚。

延伸阅读

• AI 能断定用户的真实意图吗？
• AI 如何推理并行动？
• 思维是什么？人如何形成理解、判断与行动
• EMNLP 2024：让语言模型显式处理歧义