专题：思维、意图与行动（4/4） 从第一篇开始阅读：思维是什么？人如何形成理解、判断与行动

人与 AI 之间真正要连接什么？

人类与 AI 的协作常被描述成：

人给出提示词
→ AI 给出答案

这个结构只描述了一次语言交换。它没有解释人为什么提出请求、AI 怎样理解请求、谁决定可以采取什么行动，也没有说明现实结果怎样反过来修正双方的判断。

更完整的结构是：

人的处境、需要与目的
→ 人形成暂时意图
→ 用语言表达请求
→ AI 构造任务解释
→ 双方校准目标、对象与边界
→ AI 形成计划并在授权内行动
→ 观察现实结果
→ 人评价结果，AI 更新解释
→ 进入下一轮

人机协作不是一次准确翻译，而是双方围绕共同任务持续校准、行动和纠错的过程。

人的意图为什么不能完整进入提示词？

人在行动以前，并不总有一个完整、固定、清晰的目标等待表达。很多意图是在表达、比较和尝试中逐渐形成的。

一个请求至少可能包含四层：

提示词通常只显式表达其中一部分。其余信息可能存在于前文、当前文件、既往约定、组织规则和用户自己尚未说清楚的判断中。

所以，“把提示词写得足够长”不能从根本上消除意图问题。表达长度会增加信息，也可能增加冲突、噪声和虚假的精确感。

AI 理解的不是完整的人，而是当前任务

AI 能接触的只是证据：

• 当前语言；
• 对话历史；
• 可见文件和页面；
• 工具返回结果；
• 已保存的偏好与规则；
• 用户对中间结果的确认和修正。

据此，AI 构造的是一个工作性的任务模型：

当前对象是什么？
期望产生什么变化？
有哪些约束？
哪些事实仍然未知？
哪些行动已经获得授权？
怎样判断完成？

这个模型可以很准确，却仍然不是用户全部心理状态。把任务理解限制在当前可观察证据上，反而有助于防止 AI 把猜测写成事实。

三种“理解”需要分开

语义理解

AI 能否识别词语、句子和上下文的含义？例如，“使用第一种”中的“第一种”指向前面哪一个选项。

操作理解

AI 能否把语言转化成具体任务？例如，它是否知道要修改哪篇文章、生成哪些语言版本、使用什么格式。

结果理解

AI 是否知道什么结果才算满足人的目的？例如，文件已经生成，是否还需要提交仓库、部署网站，并验证线上地址。

三者并不自动同时成立。

听懂一句话
≠
知道该做什么
≠
知道怎样才算做完

很多人机协作失败并不是模型完全没有理解语言，而是操作对象、完成条件或结果标准没有对齐。

共同任务模型怎样形成？

双方需要逐步建立一个共享但可修正的任务模型。它通常包含六个部分：

这不是要求人把所有内容一次性写进提示词。AI 可以先利用已有上下文完成低风险、可逆的工作，再在真正影响行动边界的地方取得必要信息。

良好的协作会保留已经确认的决定，避免每一轮都从头询问；也会在新证据出现时允许旧解释被推翻。

澄清、假设与行动怎样选择？

AI 面对歧义时，不应只有“猜”或“追问”两个选项。更合理的策略取决于三个变量：

歧义程度 × 出错代价 × 可逆性

低代价且可逆

可以说明合理假设后先做。例如先生成一个文章草稿，用户可以直接修改。

中等歧义

可以保留多个候选、先完成共同部分，或者给出可比较的方案。

高代价或不可逆

需要确认关键对象、权限或范围。例如公开发布、向他人发送消息、支付、删除不可恢复数据。

关键不是让 AI 永远等待，而是让确认发生在真正决定后果的边界上。

提示词是证据，不是完整契约

提示词对当前任务具有直接约束力，但它仍需要与上下文、权限和现实条件一起解释。

同一句话在不同位置具有不同作用：

• “这个能发布吗？”是在询问可行性；
• “准备成可发布版本”是在授权编辑；
• “发布到网站”是在授权外部行动；
• “我以后可能发布”只是陈述计划。

AI 需要识别请求、讨论、假设、背景和授权之间的差别。

对话也会形成承诺。用户已经选择方案、批准发布或规定格式以后，系统应当把这些决定带入后续步骤。共同理解并不只存在于最后一句提示词里，而存在于整个交互历史中。

行动怎样成为理解的检验？

单靠复述不能证明双方已经对齐。行动会把隐藏差异暴露出来。

例如，人说“把文章更新到网站”。AI 可能完成了本地 Markdown，却没有提交；完成提交，却没有部署；线上页面出现了，却缺少英文版本或 sitemap。

因此需要逐层验证：

任务解释正确
→ 产物内容正确
→ 行动实际执行
→ 外部状态改变
→ 用户目标得到满足

每一层都提供新的证据。失败不是单纯的终点，也会告诉双方此前的任务模型哪里不完整。

一个完整的人机行动回路

可以把共同回路分成八步。

1. 人感知问题

人从需要、阻碍、机会或不满意的结果中发现需要改变的状态。

2. 人形成初步意图

人确定一个大致方向，但目标、手段和判断标准可能仍然模糊。

3. 人表达请求

语言把部分意图外化为提示词，并带入背景、材料和限制。

4. AI 构造候选解释

AI 识别对象、动作、约束和缺失信息，并比较可能的任务解释。

5. 双方校准

AI 利用历史决定、复述、草稿、选项或必要追问，使任务达到足以行动的清晰度。

6. AI 在授权内行动

AI 规划步骤、调用工具、保存中间状态，并对高后果边界检查权限。

7. 系统观察结果

读取文件变化、命令结果、线上页面、用户反馈或其他外部证据。

8. 双方修正

用户可以改目标、指出偏差或接受结果；AI 据此更新任务模型，继续行动或结束。

这构成：

意图
→ 表达
→ 解释
→ 校准
→ 行动
→ 观察
→ 评价
→ 修正后的意图

谁负责什么？

共同回路不意味着人的责任和 AI 的责任完全相同。

人主要提供

• 需要改变的现实处境；
• 价值判断和最终目的；
• 私人背景与未公开限制；
• 对高后果行动的授权；
• 对结果是否值得接受的最终判断。

AI 主要提供

• 对当前证据的结构化解释；
• 候选方案、推理与风险差异；
• 可执行的步骤和工具使用；
• 对不确定性、权限和完成状态的显式记录；
• 根据新证据快速修正计划。

系统与组织必须提供

• 身份和权限控制；
• 数据与隐私边界；
• 日志、版本和可回退机制；
• 失败处理和责任分配；
• 对外部行动的可验证状态。

AI 不能替人决定所有价值；人也不能把一切错误归因于一个孤立模型。结果来自整个社会技术系统。

常见的断裂位置

人把感觉直接当成明确目标

用户知道“不对”，却还不知道要变成什么。此时 AI 应帮助比较结果，而不是假装存在唯一正确答案。

AI 把最可能解释当成真实意图

概率最高只说明现有证据更支持某种解释，不证明它就是用户内心的完整目的。

双方只确认内容，不确认行动

一篇文章得到认可，不自动等于获得公开发布的权限。

AI 把计划当成完成

“将会更新网站”不是更新证据。本地文件、提交、部署和线上验证是不同状态。

人只评价输出，不评价过程

一个偶然正确的答案可能来自不可靠方法；一个暂时失败的尝试也可能暴露关键未知。长期协作需要同时评价结果、证据和纠错能力。

反馈没有进入下一轮

如果用户的修正没有被保存或使用，同一种偏差会重复发生，协作就无法形成真正的闭环。

怎样提高共同回路的质量？

对人而言：

• 先说希望改变什么，而不只是给出一个动作词；
• 区分探索、草拟、修改、批准和发布；
• 在关键地方说明不能接受的结果；
• 用具体反馈指出哪一层理解错了；
• 允许意图在获得新信息后改变。

对 AI 而言：

• 把明确要求、推断和未知分开；
• 利用已确认的上下文，不重复索取信息；
• 在低风险任务上用可逆产物推进；
• 在高后果边界核对对象和权限；
• 报告实际结果，不把计划写成完成；
• 让反馈更新任务模型和后续行为。

结论

人类先在现实处境中形成需要、目标和意图，再通过语言把其中一部分交给 AI。AI 根据可见证据构造任务模型，通过推理与工具采取行动。现实结果和人的评价随后反过来修正这个模型，也可能修正人原来的意图。

所以，人机之间需要建立的不是一次性的“正确提示词”，而是一个能够持续校准的共同回路：

人提供目的、价值与授权
+
AI 提供解释、方案与执行
+
环境提供结果与证据
+
反馈推动双方修正

真正可靠的人机协作，不要求 AI 读懂一个不可见的“真实内心”；它要求双方把当前任务、行动边界和完成证据逐步变得清楚。

延伸阅读

• AI 能断定用户的真实意图吗？
• AI 如何推理并行动？
• 思维是什么？人如何形成理解、判断与行动
• EMNLP 2024：让语言模型显式处理歧义

在这次讨论中，三者不是并列的企业概念：

• 用户意图位于需求侧：用户打算改变什么处境、完成什么行动；
• 产品位于供给侧：企业用什么能力和体验回应这种处境；
• 品牌位于供给侧与认知连接处：它帮助用户识别提供者、理解区别、建立预期并降低选择风险。

严格地说，企业才是供给主体，产品是企业提供的价值载体，品牌是围绕这个来源形成的识别与预期系统。品牌本身不会完成用户任务，产品才进入使用并产生结果。

三个概念的关系是：

用户意图提出行动方向，产品提供实现方向的能力，品牌帮助用户在不确定环境中发现、识别和判断这种能力。

真正的问题因而不是品牌和产品能否一次“读懂”用户，而是供需双方能否通过表达、发现、使用和反馈，逐步形成足够好的匹配。

需求、欲望、需求量、目标和意图不是同一个概念

用户自己找不到“真实意图”，企业也抓不准需求，常常不是因为缺少更多数据，而是因为一开始就把几个层次混在一起。

“用户说想要一个按钮”可能只是方案表达，不是底层需要；“用户点击了购买”是行为，不足以证明长期满意；“用户需要专注”也还没有形成行动意图。企业必须知道自己正在匹配哪一层。

用户是否存在一个唯一的“真实意图”？

有时存在比较稳定、可以清楚表达的意图，例如“我要订明天去上海的火车票”。此时产品主要需要准确理解条件并完成任务。

另一些情境中，所谓真实意图并不是藏在内心深处、等待被准确读取的固定答案：

• 用户同时具有互相冲突的意图，例如既想保持联系，又想减少社交干扰；
• 用户知道不满意，却还不知道希望怎样改变；
• 用户表达的是熟悉方案，而不是最终目标；
• 用户的意图会因信息、成本、产品体验和社会情境变化；
• 用户可能事后才理解自己为什么选择；
• 长期价值与即时冲动可能指向不同方向。

所以，“真实意图”至少有三种含义：

1. 当下行动意图：此刻准备做什么；
2. 反思后认可的意图：了解信息、代价和后果后，仍愿意认领什么；
3. 更深层需要的行动表达：这项行动是否真正回应了造成困扰的处境。

这三者可能不一致。用户能够逐渐澄清意图，但不能保证通过一次自省找到一个永恒不变的答案。意图既可以被发现，也会在比较、尝试、承诺和行动中形成。

更合适的问题不是“这是不是我唯一真实的意图”，而是：

在我当前的处境、信息和价值约束下，这是不是一个经过反思、愿意承担后果、并能指导行动的意图？

品牌方能否抓住用户需求？

可以提高理解的准确性，不能获得绝对确定性。

企业接触到的是证据：访谈、搜索、投诉、客服记录、购买、使用、放弃、替代方案和情境观察。它需要从这些证据推断用户的需要与意图。这个过程与此前讨论的大模型意图识别相似：都是从可见信号比较多个候选解释，而不是直接读取内心。

用户说了什么

访谈和问卷能够获得用户的语言、理由与自我理解，但会受记忆、表达能力、社会期待和问题设计影响。

用户做了什么

点击、购买、留存和流失能够证明行为发生，却不能单独说明行为原因。购买可能源于需求，也可能源于促销、惯性、没有替代品或误解。

用户处在什么情境

观察目标、任务、资源以及技术、社会和组织环境，通常比孤立收集“想要什么功能”更接近问题结构。ISO 9241 的人本设计框架也把用户、目标、任务、资源和环境共同放进使用情境。

什么随着时间保持稳定

一次表达可能是临时偏好，反复出现的障碍、替代行为和付出成本更能说明需求强度。企业还要研究当前需求和未来需求，而不是只响应现有功能请求。市场导向研究把企业能力概括为：生成市场信息、在组织内传播理解，并作出响应。

因此，所谓“抓住需求”实际包含四种能力：

1. 从用户语言和行为中形成多个需求假设；
2. 区分表层方案请求与底层处境；
3. 在不同用户、时间和情境中验证；
4. 把理解传入产品、品牌、渠道和服务，并根据结果修正。

企业怎样构建满足需求的产品？

需求洞察不会自动变成产品。中间至少经过六次转换：

用户处境
  ↓ 解释
需求假设
  ↓ 选择
目标用户与价值主张
  ↓ 设计
产品能力与使用流程
  ↓ 交付
真实使用体验
  ↓ 测量
结果与代价
  ↓ 学习
修正需求和产品假设

每一步都可能失真：

• 企业理解了问题，却选择了错误人群；
• 找到了需要，却提供了用户无法理解的方案；
• 产品功能有效，但获取成本、价格或风险不可接受；
• 产品解决即时问题，却制造更大的长期问题；
• 使用者获得价值，购买者却没有购买理由；
• 平均用户得到改善，一部分用户却承担严重伤害。

产品匹配不能只看“有没有这个功能”。至少要同时检查：

1. 问题匹配：它解决的是用户真实处境中的问题吗？
2. 功能匹配：产品能力能造成需要的变化吗？
3. 情境匹配：在用户实际时间、环境、能力和流程中能用吗？
4. 认知匹配：用户能理解它是什么、为何相关、怎样使用吗？
5. 经济匹配：价格、获得成本、学习成本和退出成本可以接受吗？
6. 价值匹配：产品方式与用户身份、价值和长期利益相容吗？
7. 信任匹配：用户相信提供者会兑现，并合理处理风险吗？
8. 结果匹配：真实使用是否改善目标，而不只是产生点击和停留？

只有这些层面达到“足够好”，产品才与特定用户、特定情境和特定时间形成匹配。不存在脱离对象和场景的抽象“满足全部需求”。

品牌在匹配中承担什么作用？

产品解决“能不能做到”，品牌主要解决“用户能不能发现、理解并相信”。

帮助用户找到相关类别

品牌通过命名、定位、语言和使用情境告诉用户：这项提供物和哪类问题有关。用户若无法把品牌与自己的处境连接起来，即使产品有能力，也不会进入考虑范围。

降低识别和搜索成本

用户无法逐项验证所有产品。品牌把来源、过去体验和他人评价压缩为判断线索，使选择更快。但这种线索只是概率性预期，不能代替当前产品证据。

形成可检验的价值主张

好的品牌表达应帮助用户判断：这是为谁、在什么情境、解决什么问题、为什么与替代品不同。表达越明确，越容易被实际产品证实或证伪。

让经验归属于明确来源

如果用户获得价值，却不知道是谁提供、为何有效，产品可能成功，品牌资产却没有形成。来源识别让一次经验能够进入下一次选择。

承担承诺和追责

品牌把多个产品和行为连接到同一来源。用户因此能够累积信任，也能够在承诺落空时追责。

品牌不会直接创造底层需要，但会命名、突出和解释某些需要。它可以帮助用户理解模糊处境，也可能为了交易，把正常不安重新包装成必须消费才能解决的缺陷。因此品牌既具有发现价值，也具有塑造和操纵欲望的能力。

用户怎样找到自己的意图？

用户自我理解也需要一个循环，而不是等待内省给出一次性答案：

感到问题或吸引
      ↓
描述当前处境
      ↓
区分需要、欲望、目标和现成方案
      ↓
形成暂时意图
      ↓
比较品牌承诺与产品能力
      ↓
低成本尝试并观察结果
      ↓
保留、修改或放弃原意图

可以依次问：

1. 我现在具体遇到了什么，而不是先想买什么？
2. 我希望什么状态发生变化？
3. 这是我的目标，还是别人提供给我的目标？
4. 我想要的是结果，还是已经提前锁定某一种方案？
5. 如果没有这个品牌或产品，我仍会想解决这个问题吗？
6. 我愿意承担哪些金钱、时间、数据和机会成本？
7. 使用之后，处境真的改善了吗？
8. 了解长期后果后，我仍认可这项选择吗？

这不是寻找一个完全纯粹、不受社会影响的内心答案。人的语言、欲望和选择本来就会受到文化、他人和市场影响。关键是让影响变得可反思，让用户有比较、试用、拒绝和退出的能力。

双向匹配模型

供给侧与需求侧各自存在一个学习循环。

企业的循环

观察用户处境
→ 提出需求假设
→ 建造最小可验证产品
→ 观察实际使用和结果
→ 修正产品与品牌表达

用户的循环

感知自己的处境
→ 形成暂时意图
→ 发现并比较提供物
→ 使用和承担结果
→ 修正自我理解与选择

两个循环在四个接触点发生匹配：

1. 表达匹配：用户能否说清问题，品牌能否用用户理解的语言回应；
2. 发现匹配：有相关需要的人能否在正确时间找到产品；
3. 使用匹配：产品是否进入真实情境并产生价值；
4. 学习匹配：双方是否能从成功、失败、误用和退出中修正判断。

匹配不是企业单方面把产品推给用户，也不是用户先拥有完整需求说明书。它是双方在不完全知识下，通过证据逐步校准的过程。

为什么匹配经常失败？

把用户说出的方案当成需求

用户说“我要更多提醒”，底层问题可能是害怕遗漏，也可能是任务系统失控。直接增加提醒可能加剧干扰。

把行为当成意图

高点击可能来自误导性标题，高停留可能来自操作困难，无法直接证明用户想要更多内容。

把平均数据当成所有用户

不同人可能用同一产品满足完全不同的意图。平均指标会掩盖细分情境和少数人的严重损失。

品牌表达过宽

“适合所有人”“解决一切问题”的品牌承诺无法帮助用户判断相关性，也无法被清楚验证。

产品满足即时冲动，损害长期意图

用户当下想获得刺激，长期又想保持注意力和健康。企业若只优化即时行为，可能获得增长，却破坏用户反思后认可的目标。

企业只有洞察，没有组织响应

研究部门理解了需求，如果信息没有进入产品决策、资源配置和服务流程，需求洞察仍不会变成价值。市场导向不是“听见用户”，而是全组织形成信息、共享理解并作出响应。Kohli 与 Jaworski 的市场导向研究

用户没有真实选择条件

锁定、信息不透明、默认授权和缺少替代品，都可能让使用行为失去表达偏好的意义。此时“用户选择了”不能承担完整的正当化作用。

企业能否创造需求？

企业可以创造新的解决方式、使用习惯、类别语言和具体欲望，也可以让原本模糊的需要变得可见。但“创造需求”需要区分：

• 发现原有但未被满足的需要；
• 提供过去不存在的实现能力；
• 通过教育让用户理解新的可能；
• 借助身份、焦虑和社会比较制造具体欲望；
• 设计依赖，让产品自身不断制造继续使用的需求。

这些行为在伦理上并不相同。判断标准不是需求是否由企业影响，而是用户是否获得真实能力、是否理解代价、能否拒绝和退出，以及长期结果是否符合其反思后仍认可的利益。

最终判断

品牌方能否抓住用户需求？

能够形成越来越可靠的需求假设，不能完全读取所有人的真实需要。有效做法是组合语言、行为、情境和长期结果证据，覆盖信息生成、组织共享、产品响应与持续验证。

企业能否构建满足需求的产品？

能够在特定用户、情境、价格和时间条件下形成足够好的匹配，不能一次性证明永久满足。产品需要通过真实使用结果验证，并允许失败证据修正原有判断。

用户能否找到自己的真实意图？

用户能够通过描述处境、区分目标与方案、比较选择、实际尝试和反思后果，形成更清楚、更愿意认领的意图。但不一定存在一个固定、纯粹、等待被发现的唯一真实意图。

结论

品牌、产品与用户意图之间的契合不是一次命中，而是双向认识和反复校准：

用户从模糊处境走向可行动的意图；企业从不完整证据形成需求假设；产品让假设接受真实使用检验；品牌帮助双方发现彼此、形成预期并保存经验。

最好的匹配，不是企业最准确地操纵了用户行为，而是：

• 用户能够更清楚地理解自己；
• 产品确实改善了具体处境；
• 品牌表达与产品事实保持一致；
• 双方都能根据结果修正判断；
• 用户始终保有知情、比较、拒绝和退出的能力。

参考

• 需求是什么？从人的缺口到产品与市场
• 意图是什么？从行动、目的到责任
• 品牌与产品：企业怎样交付价值，又怎样形成预期
• AI 能断定用户的真实意图吗？
• American Marketing Association: Definition of Marketing and Marketing Research
• ISO 9241-210:2019 Human-centred design for interactive systems
• ISO 9241-115:2024 Context of use, user needs and conceptual design
• Kohli & Jaworski, 1990: Market Orientation
• Stanford Encyclopedia of Philosophy: Intention

专题：思维、意图与行动（3/4） 上一篇：AI 如何推理并行动？；下一篇：人类与 AI 如何形成共同的行动回路？

大模型不是“读出”用户的真实意图，而是根据当前可见证据，生成一个最可能的任务解释。

更准确地说：

模型推断的是“这句话在当前上下文中最可能要求我做什么”，不是“用户内心真正想要什么”。

这里需要先拆开三层：

模型通常较容易识别第一层；结合上下文，可以较可靠地推断第二层；第三层往往只能猜测。

模型是怎么“猜”的？

假设用户只说：

帮我看看这个方案。

模型首先把文本转换成内部的语义表示。这里的“语义表示”并不是一本机器词典，而是词语、句子和上下文之间形成的高维关系。

它会利用几类线索：

1. 词语本身

“看看”通常表示审阅，但可能指摘要、评价、找问题或者修改。

2. 句法和语义角色

谁要做什么、对象是什么、有没有约束条件。例如：

帮我检查这个方案有没有逻辑漏洞。

这句话明确给出了动作“检查”、对象“方案”和判断目标“逻辑漏洞”。

3. 对话上下文

如果前面一直在讨论投资决策，“看看方案”更可能是评估可行性；如果前面在改文案，则更可能是审校表达。

4. 训练中学到的语言惯例

模型见过大量类似表达与回答之间的统计关系。例如，人们发来代码和报错，虽然没有明确说“请修复”，通常是在请求诊断或修改。

5. 产品环境提供的状态

包括当前文件、页面、工具能力、用户历史偏好等。这些信息能缩小解释范围，但也可能把模型带向错误的先入判断。

6. 行为规则

模型还会受到系统和开发者规则影响。例如，遇到明显歧义时，是提出澄清问题，还是说明假设后继续完成最可能的任务。

在传统对话系统里，这个过程可能被写成：

输入文本
  ↓
意图分类：查询订单 / 取消订单 / 修改地址
  ↓
槽位提取：订单号、地址、时间
  ↓
调用相应功能

现代大模型不一定存在一个独立的“意图模块”。它可能在一次生成过程中，同时完成语义理解、候选解释、任务规划和回答。不过，工程系统仍经常在大模型外增加意图分类器、路由器和权限检查。

它真正计算的是什么？

可以把它简化成一个概率问题：

P(意图解释 | 提示词、上下文、环境、规则)

比如“苹果怎么样”可能对应：

• 询问水果的营养；
• 询问苹果公司的经营状况；
• 询问苹果产品是否值得购买；
• 评价一个叫“苹果”的项目。

上下文会改变这些候选解释的概率。模型选择概率较高的解释，然后生成相应回答。

但这里有一个很关键的区别：

概率最高，不等于事实为真。

模型的置信程度只能说明：“根据我掌握的线索，这个解释更符合既往语言模式。”它不能证明：“这就是用户内心真实存在的意图。”

为什么不能断定真实意图？

因为存在“证据不足”与“多种解释同时成立”的问题。

同一句话完全可能对应不同意图：

帮我写一份辞职信。

用户可能：

• 已经决定辞职，准备正式提交；
• 只是想看看该怎么表达；
• 用它和当前公司谈判；
• 替小说人物写；
• 测试模型能力；
• 情绪激动，尚未作出决定。

只看这句话，模型没有办法区分。

即使结合长期对话，模型也只能获得更多外部证据，仍然没有直接进入用户的心理状态。OpenAI 对模型行为的公开说明也明确承认：助手只能依赖当前交互中可观察的信息，通常并不知道用户的完整处境、真实意图和后续用途。OpenAI 关于 Model Spec 的说明

研究也发现，即使是先进大模型，对省略、不精确和多义表达仍会产生不同程度的歧义判断；如果系统强行把每个请求分入一个意图类别，就容易把任务路由错。EMNLP 2024：让语言模型显式处理歧义

“用户亲口确认”以后，能不能断定？

可以确认到一定程度，但仍要说明确认了什么。

例如模型问：

你是希望我找出方案的问题，而不是直接重写，对吗？

用户回答：

对。

这时候可以说：

“审查问题”是本轮已经确认的操作意图。

但不能进一步断定：

用户内心最深处的真实目的就是审查问题。

因为用户可能没有说出深层目的，也可能自己尚未完全意识到，甚至可能有意隐瞒。哲学层面的“真实意图”涉及人的自我认识、动机、欲望和行动承诺，不能由一次语言确认全部解决。

因此，AI系统更适合使用这样的状态标记：

这里不应该设置一个笼统的 true_intent = true。因为它会把“系统的解释”伪装成“用户的心理事实”。

一个更可靠的意图推断过程

好的AI系统可以按下面的顺序工作：

用户表达
  ↓
提取明确要求
  ↓
生成多个可能解释
  ↓
利用上下文排除不相关解释
  ↓
评估歧义和出错代价
  ↓
低风险：说明假设后继续
高风险：请求用户确认
  ↓
根据用户反馈更新判断

例如：

帮我把这些文件清理一下。

模型可能推断“清理”包括整理目录、删除重复文件或修改内容。因为不同解释会造成明显不同的后果，模型不应直接把“清理”断定为“删除”。

更合理的处理是先读取和分类文件，形成具体方案，然后确认删除范围。

而对于：

帮我把这段话写得简洁一点。

即使“简洁”的标准存在轻微歧义，模型也可以先给出一个较短版本。这种错误成本低，结果也容易撤销，不需要追问用户内心对“简洁”的精确定义。

所以，要不要继续猜，关键不只在于模型有多自信，还取决于：

行动风险 × 解释歧义 × 不可逆程度

模型置信度很高，但行动不可逆时，仍然应该确认。

从概念层面得出的结论

“意图识别”这个名字容易制造一种错觉，好像用户心里已经存在一个固定标签，模型只需把它识别出来。

实际上，它更接近：

模型根据有限语言证据，为用户构造一个暂时可用的行动解释。

这个解释可以越来越准确：通过上下文、追问、用户修改、实际选择和结果反馈逐步更新。但它始终应当保留证据来源和不确定性。

因此：

• AI可以推断“最可能的操作意图”。
• AI可以让用户确认某个意图表述。
• AI可以观察后续行为是否支持这个解释。
• AI不能仅凭提示词，断定用户不可观察的“真实意图”。
• 即使用户确认，也只能确认其当前表达和授权范围，不能证明全部心理动机。

如果用一句概念定义来概括：

AI意图理解，是根据用户表达和上下文，对其期望行动作出的可修正解释；它是一种概率判断，不是对内心事实的直接读取。