系统：边界、关系、反馈与 AI

“系统”最核心的含义是：

系统是在某个边界内，由相互关联的要素及其关系构成，并在环境中通过持续运行和状态变化表现出整体行为的对象。

系统的重点不是“包含很多东西”，而是：

有哪些要素；
要素怎样相互作用；
哪些要素属于系统；
系统与外部环境怎样交换；
这些关系如何使整体产生某种行为、能力或结果。

例如，一堆汽车零件只是集合。零件按照特定结构连接，能够传递能量、控制方向、制动并运送乘客时，才构成汽车系统。

“系统”这个词是什么意思？

现代技术语境中的“系统”通常对应英文 system。

system 来自希腊语 systēma，含义接近“由多个部分共同组成的整体”。词根包含“共同”和“使之站立、组织起来”的意思。因此，它从一开始强调的就不是单个部分，而是多个部分怎样共同成立为一个整体。Etymonline: system

中文“系统”在日常语言中还有“全面、条理化”的意思，例如“系统地学习”。这是一种形容方式，表示内容彼此连接、形成完整结构。

本文讨论的是名词意义上的系统。

系统至少包含什么？

一个系统通常需要三个最基本的部分：

要素
+ 要素之间的关系
+ 系统边界

如果还要解释系统怎样运行，就需要继续加入：

状态
+ 变化规则
+ 环境
+ 输入与输出
+ 时间

对于人为设计的系统，通常还要加入：

目标
+ 约束
+ 评价标准

所以可以用一个分析式表示：

系统
= 要素
+ 关系
+ 边界
+ 状态变化
+ 环境交互

对于工程系统，还可以写成：

工程系统
= 系统结构
+ 设计目的
+ 运行约束
+ 评价标准

ISO/IEC/IEEE 的工程定义通常把系统描述为为了一个或多个目标而组织起来的相互作用要素组合。ISO/IEC/IEEE 42020:2019

但“具有目标”主要适用于工程、组织和行动系统。太阳系、生态系统或者气候系统可以表现出稳定规律，却不一定拥有主观目的。

要素为什么不能单独解释系统？

系统首先包含组成要素。

例如，一个在线内容发布系统可能包含：

作者；
文章；
Markdown 文件；
Git 仓库；
构建程序；
网站服务器；
域名；
发布权限；
搜索引擎；
读者。

但是，列出这些要素还没有解释系统。

真正重要的是关系：

作者 ──撰写──> 文章
文章 ──保存为──> Markdown
Git ──记录──> 版本
构建程序 ──转换──> 网页
部署服务 ──发布──> 网站
读者 ──访问──> 页面
搜索引擎 ──索引──> 内容

如果没有这些关系，它们只是同时存在的一组对象。

因此：

系统不是要素的清单，而是要素经过组织后形成的关系整体。

系统与集合有什么区别？

集合只要求成员被归在一起，不要求成员相互作用。

例如：

一个仓库里的一百把椅子，可以构成椅子的集合；
一支球队的球员、教练、规则、训练和比赛关系，构成一个球队系统；
一份联系人名单是人的集合；
这些人形成沟通、分工、权限和反馈，才可能构成组织系统。

可以这样区分：

集合	系统
强调有哪些成员	强调成员怎样相互作用
成员可以互不影响	要素之间存在相关或依赖
删除一个成员通常只改变数量	改变一个部分可能改变整体行为
不一定产生整体能力	组织关系可能产生整体能力

系统也可以被看作一种集合，但它还具有关系、边界和运行结构。

系统为什么需要边界？

如果没有边界，任何东西都可以和整个宇宙发生某种联系，“系统”就会失去分析价值。

系统边界回答：

哪些要素和关系属于当前研究对象，哪些属于环境？

例如，研究一家咖啡店时：

分析出杯速度，可能包括顾客、点单、咖啡师、设备和排队规则；
分析盈利能力，还要包括租金、供应商、平台佣金和价格；
分析食品安全，还要包括仓储、温控、清洁和监管；
分析品牌，则可能包括社交媒体、顾客认知和公共评价。

咖啡店并没有突然变成不同事物。变化的是我们为了回答不同问题而采用的系统边界。

INCOSE 将系统环境理解为系统之外、但会与系统发生重要交互并影响系统的部分；理解系统需要同时界定边界和环境。INCOSE: Systems Thinking 101

系统边界具有两面性：

它是一种认识和建模选择；
它也必须服从现实中的因果关系。

不能为了让模型简单，就把真正影响结果的要素排除出去。

系统与环境是什么关系？

系统边界以外不是“无关世界”，而是环境。

环境可能向系统提供：

信息；
能量；
资源；
用户请求；
法律约束；
市场价格；
风险；
干扰。

系统也会向环境输出：

产品；
内容；
行为；
决策；
废弃物；
风险；
社会影响。

因此可以表示为：

环境
  ↓ 输入
系统内部处理
  ↓ 输出
环境发生变化
  ↓ 新输入
系统再次响应

大多数现实系统都是开放系统：它们与环境持续交换信息、物质、能量或价值。

“封闭系统”通常是为了研究而作出的理想化。它表示某类交换可以暂时忽略，不表示系统真的与外界毫无联系。

系统具有状态，并且随时间变化

系统不是一张静态结构图。

同样的要素和连接，在不同状态下可能产生不同结果。

例如，一个网站可能处于：

正常运行；
构建中；
部署失败；
域名解析异常；
内容已更新但缓存未刷新；
仓库提交成功但生产环境尚未发布。

这些状态决定系统接下来能够发生什么。

因此，理解系统还需要知道：

当前状态
+ 状态变化条件
+ 变化所需时间
+ 历史状态

系统行为可以表示为：

当前状态 + 输入 + 规则
             ↓
         下一状态 + 输出

时间延迟尤其重要。

例如，内容已经发布，搜索引擎可能几天后才完成索引。产品已经改进，用户认知可能几个月后才改变。把延迟误认为“系统没有反应”，会造成错误判断。

什么是反馈？

当系统的输出反过来影响后续输入或行为时，就形成反馈。

负反馈

负反馈抵消变化，使系统保持在某个范围内。

例如：

室温下降
  ↓
暖气启动
  ↓
室温上升
  ↓
暖气停止

它的作用通常是稳定。

正反馈

正反馈放大原有变化。

例如：

内容获得更多互动
  ↓
获得更多推荐
  ↓
接触更多用户
  ↓
产生更多互动

它可能带来增长，也可能放大错误和风险。

这里的“正”“负”不是价值判断，而是：

正反馈放大变化；
负反馈抵消变化。

系统还可能具有延迟反馈。反馈来得太晚，会导致系统过度调整、振荡或者失控。

系统整体为什么不同于部分相加？

人们经常说：

整体大于部分之和。

这句话表达了系统的直觉，但不够精确。

真正增加的不是某种神秘力量，而是：

部分之间的关系、组织和相互约束。

氢和氧按照不同结构组合，可以形成水，也可以形成过氧化氢。相同的人进入不同制度和激励结构，可能形成完全不同的组织行为。

系统整体呈现而单个部分不具备的性质，通常称为涌现性质。

例如：

单个水分子没有“水温”，大量分子的运动状态可以形成温度；
单辆汽车不会形成拥堵，大量车辆相互影响可能形成交通堵塞；
单个神经元不会独立产生完整认知，大量神经元的组织活动形成更高层能力；
单个用户没有市场价格，众多供需行为及制度共同形成价格。

系统生物学强调，研究整体能力时，必须把组成部分放回相互作用和整体约束中。Stanford Encyclopedia of Philosophy: Philosophy of Systems and Synthetic Biology

“涌现”并不意味着无法解释。它意味着解释不能只列出部分，还必须说明：

部分怎样排列；
怎样相互作用；
哪些反馈存在；
整体怎样约束部分；
行为怎样随时间形成。

系统一定有目的吗？

不一定。

需要区分三种情况。

人工设计的系统

支付系统、交通系统、内容发布系统和 AI Agent 系统，通常有设计目的。

但设计目的不等于实际结果。

一个推荐系统可能以提升用户满意度为目标，却实际优化点击率；提高点击率又可能带来沉迷、极化或者低质量内容。

所以还要区分：

宣称的目的
设计者的目的
系统实际优化的指标
系统产生的真实结果

生物系统

心脏具有泵血功能，免疫系统具有防御作用。

这里的“功能”可以通过生物结构和演化解释，并不要求心脏具有主观意图。

自然系统

太阳系、气候系统和河流系统呈现规律性行为，但没有必要假设它们在追求某个目标。

因此：

系统可以具有功能和稳定行为，不一定具有意图。

系统和结构、机制、流程有什么区别？

这些概念彼此相关，但关注的问题不同。

概念	主要问题
系统	哪些要素在什么边界内相互作用，并形成什么整体行为？
结构	要素怎样排列、连接和分层？
机制	某种结果通过哪些因果步骤产生？
流程	活动按照什么时间顺序进行？
功能	这个整体或部分能够产生什么作用？
组织	人、角色、规则和权力怎样被协调？
模型	我们用什么表示来理解、解释或预测对象？
网络	节点和连接形成什么拓扑关系？

一个系统可以同时拥有结构、机制和流程。

例如，一个内容发布系统：

仓库、构建器和服务器的连接是结构；
Markdown 被转换为 HTML 是机制；
写作、审核、提交、构建和部署是流程；
稳定发布并让读者访问是功能；
对整个对象的抽象表示是系统模型。

系统是研究对象，模型是我们对系统的表示。地图不是道路，系统模型也不等于系统本身。

系统与实体、本体论是什么关系？

“实体”回答：

我们正在谈论哪一个可以持续识别的对象？

“系统”进一步回答：

多个对象怎样通过关系和变化形成一个整体？

因此可以表示为：

实体：可被识别的对象
关系：对象之间怎样连接
系统：对象和关系怎样组织并随时间运行
本体论：系统承认哪些对象、类别和关系

一个系统本身也可以作为实体。

例如，“支付系统”可以被当作一个整体实体，拥有名称、版本、所有者、状态、服务范围和生命周期。进入它的内部以后，它又可以分成账户、订单、支付渠道、风控和结算等子系统。

所以：

在一个层次上是系统的对象，在更高层次上可以成为另一个系统中的组成要素。

关于实体与本体论本身，可以分别参见《什么是实体？从身份、指称到 AI 的行动对象》和《什么是本体论？从存在者到 AI 的领域模型》。

什么是子系统和系统的系统？

复杂系统通常具有层级。

组件
  ↓
子系统
  ↓
系统
  ↓
更大的系统

例如：

支付接口
  ↓
订单与支付子系统
  ↓
电商平台
  ↓
商业与物流生态

子系统在上一级系统中承担部分功能，但它本身也可能拥有内部要素、边界和运行规则。

多个能够独立运行、拥有各自管理权和目标的系统，再通过合作形成更大能力时，常被称为“系统的系统”。

例如城市交通可能连接道路系统、公交系统、地铁系统、导航系统、支付系统、交管系统以及出租车和网约车平台。它们不能简单由一个中心完全控制，却共同影响城市出行。

系统是真实存在，还是人的建模方式？

两者都有。

现实中确实存在相互作用、依赖、反馈和组织结构。交通拥堵、生态循环、组织协作和软件调用并非完全由观察者想象出来。

但系统的边界、层次和描述方式通常由研究问题决定。

例如，一个人可以同时被放进生物系统、家庭系统、企业系统、法律系统、经济系统和信息系统。这些划分不是说现实中存在六个互不相干的人，而是从不同关系观察同一个人。

所以系统具有双重性质：

关系和作用受到现实约束；边界和抽象层次由认识目的选择。

系统不是纯粹客观地摆在世界中的盒子，也不是可以任意划分的主观想象。

系统分析中隐藏着价值与权力

系统边界并不只是技术选择。

当我们决定：

谁属于系统；
谁只是外部环境；
什么被计算为收益；
什么被视为成本；
优化什么指标；
谁能修改规则；
谁承担外部后果；

我们也在作出价值和权力选择。

例如，一个配送系统如果只优化每小时完成订单数量，可能把骑手安全、等待压力和交通风险排除在评价之外。

从平台内部看，效率提高了；从更大的社会系统看，成本只是被转移给了其他人。

因此，系统分析不能只问“运行效率如何”，还要问：

系统为谁优化，谁承担成本，哪些结果被边界排除？

AI 中的系统是什么？

在 AI 中，系统通常不是单独一个模型。

以大语言模型应用为例，完整系统可能包括：

用户
+ 界面
+ 提示词和上下文
+ 大语言模型
+ 检索与知识库
+ 记忆与状态
+ 工具
+ 任务编排
+ 身份和权限
+ 运行环境
+ 日志与评测
+ 人工确认
+ 结果反馈

大模型只是其中负责部分推断和生成的组件。

OECD 把 AI 模型描述为 AI 系统的核心组件之一，而 AI 系统从输入中推断如何生成预测、内容、建议或决策，以影响虚拟或物理环境。OECD: Updated Definition of an AI System

NIST 进一步强调，AI 系统具有社会技术性质：结果和风险来自技术组件、使用方式、操作者以及部署环境的共同作用。NIST AI Risk Management Framework

大模型与 AI 系统有什么区别？

大模型主要完成：

输入 token
    ↓
概率计算与推断
    ↓
输出 token

AI 系统还要完成：

理解用户任务
    ↓
解析具体实体
    ↓
读取当前状态
    ↓
制定行动步骤
    ↓
调用工具
    ↓
检查身份与权限
    ↓
执行操作
    ↓
验证现实结果
    ↓
根据反馈修正

例如，大模型可以生成一篇文章。

但要把文章发布到网站，还需要：

确定目标文章和语言版本；
读取网站规范；
修改真实文件；
运行构建验证；
使用正确 Git 身份；
提交并推送；
等待部署；
检查线上页面；
验证 sitemap、canonical 和语言关联。

这些部分共同构成发布系统。

因此：

模型能够生成答案，不等于系统能够可靠地完成任务。

如何分析一个系统？

可以按以下顺序进行。

明确研究问题。 究竟要解释、设计、改进还是评价什么？没有问题，系统边界就无从确定。
确定边界。 哪些属于系统，哪些属于环境？边界为什么划在这里？
找出要素。 包括人、物、软件、制度、规则、数据、资源和环境条件。
画出关系。 谁依赖谁？信息、物质、资金和权力怎样流动？
识别状态和变化。 系统有哪些状态？什么事件使它从一种状态进入另一种状态？
找到反馈回路。 哪些结果会反过来加强或抑制原来的行为？
检查时间延迟。 输入和结果之间有多长延迟？短期和长期结果是否相反？
区分目标与指标。 系统真正想实现什么？实际优化的又是什么？
检查约束和权限。 谁可以改变哪些部分？哪些规则不能由系统内部决定？
检查外部后果。 哪些成本、风险和受影响者被排除在当前边界之外？

对“系统”的最终定义

可以把“系统”定义为：

系统是在一定边界和环境中，由相互依赖的要素按照某种结构与规则持续作用，并通过状态变化表现出整体行为、能力或结果的对象。

这个定义包含六个部分：

要素
关系
边界
环境
变化
整体行为

对于人工系统，还需要补充：

目的
约束
指标
权限
责任

系统不是“很多东西放在一起”，也不是一张漂亮的架构图。

真正的系统意味着：

部分的行为会影响其他部分，关系会改变整体结果，整体状态又会反过来限制各个部分。

理解实体，是辨认系统里有什么；理解系统，则是解释这些实体怎样共同运行，以及为什么最后产生了现在看到的结果。

参考资料

如果这篇对你有用，可以订阅 RSS。

内容以署名方式开放引用，请回链原文。