最近，我们的一篇论文 “Emerging Risks and Failure Boundaries of Applying Large Language Models (LLMs) to Process Control” 正式发表于 Digital Chemical Engineering。这篇论文和很多强调“AI成功应用”的研究有些不同，它实际上来自一系列并不成功的实验。我们最初想回答一个很直接的问题：既然大语言模型已经可以理解工程语言、生成代码、分析数据，甚至给出控制参数，那么它是否也可以进一步参与，甚至直接控制真实的物理过程？

于是，我们逐步增加LLM在控制系统中的权限：先让它直接输出控制指令，再限制它只能输出数值；之后又把它放在传统PID控制器上层，让它只负责调整参数；最后进一步尝试更复杂的多变量过程控制。结果并不理想。直接控制很快失败；强制输出数值虽然解决了格式问题，却没有解决物理理解问题；LLM-PID混合控制在简单、变化较慢的单变量系统中可以工作，但参数调整仍然不稳定，并存在明显的推理延迟；当问题扩展到相互耦合的多变量系统时，这种方法再次遇到了明显困难。

例如，此图说明LLM可以输出PID参数进行直接控制，但参数没有任何规律可言。

这些“失败”反而成为这篇论文最有价值的部分。我们最终总结出五类值得关注的风险：symbolic-to-physical risk、physics-grounding risk、control stability risk、temporal compatibility risk，以及 multivariable reasoning risk。简单来说，会生成一个看起来合理的数字，并不意味着AI真正理解这个数字会如何改变压力、温度、液位、流量或整个系统的动态行为；能够解释控制理论，也不意味着它具备稳定性保证；能够在简单系统里工作，也不能说明它能够安全地扩展到复杂工业系统。

我觉得这项工作的意义也不只在 process control。随着AI进一步从“生成信息”走向“做出决策”，再走向机器人、自动驾驶、工业自动化和其他 Physical AI 系统，一个越来越重要的问题是：我们到底应该给予AI多大的物理权限？ 当模型的输出只是文字时，一个错误可能只是错误答案；但当同样的输出能够直接改变一个阀门、机器人动作或其他物理状态时，错误的含义就完全不同了。

因此，与其单纯问“LLM能不能控制一个系统”，也许更重要的问题是：它的安全边界在哪里？哪些能力可以通过更大的模型、更好的prompt或工程接口改善，哪些问题必须依靠物理模型、传统控制、安全约束和系统架构来解决？ 这也是我们希望通过这一系列失败实验进一步讨论的问题。论文的结论并不是LLM不能进入工业控制，而是现阶段它们更适合作为监督和决策支持工具，而不是未经约束地获得直接物理控制权。

有时候，成功的实验告诉我们一种方法“可以做到什么”，而失败的实验则更清楚地告诉我们：在真正进入物理世界之前，AI还有哪些问题必须解决。

本文基于作者以下论文改写：

Wen, H., & Sajid, Z. (2026). Emerging Risks and Failure Boundaries of Applying Large Language Models to Process Control. Digital Chemical Engineering, 100334. https://doi.org/10.1016/J.DCHE.2026.100334

支持单位：