AI 用户意图推断：不确定性、确认与授权边界

专题：思维、意图与行动（3/4） 上一篇：AI 如何推理并行动？；下一篇：人类与 AI 如何形成共同的行动回路？

大模型不是“读出”用户的真实意图，而是根据当前可见证据，生成一个最可能的任务解释。

更准确地说：

模型推断的是“这句话在当前上下文中最可能要求我做什么”，不是“用户内心真正想要什么”。

这里需要先拆开三层：

模型通常较容易识别第一层；结合上下文，可以较可靠地推断第二层；第三层往往只能猜测。

模型是怎么“猜”的？

假设用户只说：

帮我看看这个方案。

模型首先把文本转换成内部的语义表示。这里的“语义表示”并不是一本机器词典，而是词语、句子和上下文之间形成的高维关系。

它会利用几类线索：

1. 词语本身

“看看”通常表示审阅，但可能指摘要、评价、找问题或者修改。

2. 句法和语义角色

谁要做什么、对象是什么、有没有约束条件。例如：

帮我检查这个方案有没有逻辑漏洞。

这句话明确给出了动作“检查”、对象“方案”和判断目标“逻辑漏洞”。

3. 对话上下文

如果前面一直在讨论投资决策，“看看方案”更可能是评估可行性；如果前面在改文案，则更可能是审校表达。

4. 训练中学到的语言惯例

模型见过大量类似表达与回答之间的统计关系。例如，人们发来代码和报错，虽然没有明确说“请修复”，通常是在请求诊断或修改。

5. 产品环境提供的状态

包括当前文件、页面、工具能力、用户历史偏好等。这些信息能缩小解释范围，但也可能把模型带向错误的先入判断。

6. 行为规则

模型还会受到系统和开发者规则影响。例如，遇到明显歧义时，是提出澄清问题，还是说明假设后继续完成最可能的任务。

在传统对话系统里，这个过程可能被写成：

输入文本
  ↓
意图分类：查询订单 / 取消订单 / 修改地址
  ↓
槽位提取：订单号、地址、时间
  ↓
调用相应功能

现代大模型不一定存在一个独立的“意图模块”。它可能在一次生成过程中，同时完成语义理解、候选解释、任务规划和回答。不过，工程系统仍经常在大模型外增加意图分类器、路由器和权限检查。

它真正计算的是什么？

可以把它简化成一个概率问题：

P(意图解释 | 提示词、上下文、环境、规则)

比如“苹果怎么样”可能对应：

• 询问水果的营养；
• 询问苹果公司的经营状况；
• 询问苹果产品是否值得购买；
• 评价一个叫“苹果”的项目。

上下文会改变这些候选解释的概率。模型选择概率较高的解释，然后生成相应回答。

但这里有一个很关键的区别：

概率最高，不等于事实为真。

模型的置信程度只能说明：“根据我掌握的线索，这个解释更符合既往语言模式。”它不能证明：“这就是用户内心真实存在的意图。”

为什么不能断定真实意图？

因为存在“证据不足”与“多种解释同时成立”的问题。

同一句话完全可能对应不同意图：

帮我写一份辞职信。

用户可能：

• 已经决定辞职，准备正式提交；
• 只是想看看该怎么表达；
• 用它和当前公司谈判；
• 替小说人物写；
• 测试模型能力；
• 情绪激动，尚未作出决定。

只看这句话，模型没有办法区分。

即使结合长期对话，模型也只能获得更多外部证据，仍然没有直接进入用户的心理状态。OpenAI 对模型行为的公开说明也明确承认：助手只能依赖当前交互中可观察的信息，通常并不知道用户的完整处境、真实意图和后续用途。OpenAI 关于 Model Spec 的说明

研究也发现，即使是先进大模型，对省略、不精确和多义表达仍会产生不同程度的歧义判断；如果系统强行把每个请求分入一个意图类别，就容易把任务路由错。EMNLP 2024：让语言模型显式处理歧义

“用户亲口确认”以后，能不能断定？

可以确认到一定程度，但仍要说明确认了什么。

例如模型问：

你是希望我找出方案的问题，而不是直接重写，对吗？

用户回答：

对。

这时候可以说：

“审查问题”是本轮已经确认的操作意图。

但不能进一步断定：

用户内心最深处的真实目的就是审查问题。

因为用户可能没有说出深层目的，也可能自己尚未完全意识到，甚至可能有意隐瞒。哲学层面的“真实意图”涉及人的自我认识、动机、欲望和行动承诺，不能由一次语言确认全部解决。

因此，AI系统更适合使用这样的状态标记：

这里不应该设置一个笼统的 true_intent = true。因为它会把“系统的解释”伪装成“用户的心理事实”。

一个更可靠的意图推断过程

好的AI系统可以按下面的顺序工作：

用户表达
  ↓
提取明确要求
  ↓
生成多个可能解释
  ↓
利用上下文排除不相关解释
  ↓
评估歧义和出错代价
  ↓
低风险：说明假设后继续
高风险：请求用户确认
  ↓
根据用户反馈更新判断

例如：

帮我把这些文件清理一下。

模型可能推断“清理”包括整理目录、删除重复文件或修改内容。因为不同解释会造成明显不同的后果，模型不应直接把“清理”断定为“删除”。

更合理的处理是先读取和分类文件，形成具体方案，然后确认删除范围。

而对于：

帮我把这段话写得简洁一点。

即使“简洁”的标准存在轻微歧义，模型也可以先给出一个较短版本。这种错误成本低，结果也容易撤销，不需要追问用户内心对“简洁”的精确定义。

所以，要不要继续猜，关键不只在于模型有多自信，还取决于：

行动风险 × 解释歧义 × 不可逆程度

模型置信度很高，但行动不可逆时，仍然应该确认。

从概念层面得出的结论

“意图识别”这个名字容易制造一种错觉，好像用户心里已经存在一个固定标签，模型只需把它识别出来。

实际上，它更接近：

模型根据有限语言证据，为用户构造一个暂时可用的行动解释。

这个解释可以越来越准确：通过上下文、追问、用户修改、实际选择和结果反馈逐步更新。但它始终应当保留证据来源和不确定性。

因此：

• AI可以推断“最可能的操作意图”。
• AI可以让用户确认某个意图表述。
• AI可以观察后续行为是否支持这个解释。
• AI不能仅凭提示词，断定用户不可观察的“真实意图”。
• 即使用户确认，也只能确认其当前表达和授权范围，不能证明全部心理动机。

如果用一句概念定义来概括：

AI意图理解，是根据用户表达和上下文，对其期望行动作出的可修正解释；它是一种概率判断，不是对内心事实的直接读取。