人工智能正在越来越深地进入安全管理。从计算机视觉识别个人防护装备，到预测性分析、智能报警、数字孪生，再到生成式AI辅助安全决策，AI已经不再只是一个外围工具。真正值得关注的问题是：当AI开始参与风险识别、解释和决策时，它是否也在改变一个组织的安全文化？

这一问题构成了我近期发表于 Elsevier 出版的Methods in Chemical Process Safety 系列丛书，第 10 卷 Method of Process Systems in Energy Systems，章节 “Innovation in Enhancing Safety Culture: Artificial Intelligence (AI), Automation and Digitalization” 的核心。文章提出，AI对安全文化的影响不能简单理解为“技术提高了安全绩效”，而应该从人与技术、组织治理和风险决策之间关系的变化来理解。

1. 从“技术应用”到“文化参与者”

传统意义上的安全文化主要形成于人、管理层和组织制度之间。管理层如何表达对安全的重视，员工是否愿意报告隐患，组织如何面对错误，以及事故发生后是寻找责任人还是寻找系统原因，这些共同塑造了安全文化。

AI的进入正在改变这一关系。过去，技术主要负责执行。例如，联锁系统在达到特定条件时关闭设备，自动控制系统维持工艺参数，无人机替代人员进入危险区域。今天的AI则开始承担另一类角色：解释。

一个计算机视觉模型判断某名员工是否正确佩戴PPE，一个预测模型判断未来几个小时的风险是否升高，一个大型语言模型分析事故报告并生成风险建议。这些系统已经开始回答过去主要由人回答的问题：“这里存在风险吗”，“这个异常重要吗”，“应该优先处理什么”，“现在是否需要采取行动”。

因此，AI逐渐成为安全文化中的一个新的参与者。安全文化也由传统的 Human–Organization 关系，逐渐转向更加复杂的 Human–AI–Organization 社会技术系统。

2. AI是一种安全文化放大器

本章提出了一个核心概念：AI可以被理解为一种 cultural amplifier——文化放大器。AI并不会自动创造一种优秀的安全文化。

如果一个组织原本具有较强的管理承诺、透明的沟通机制、较高的员工信任和学习导向，那么AI可能进一步增强这些特征。风险能够更早被发现，安全信息能够更加透明地共享，事故和异常可以形成持续学习的数据来源，管理人员也能够更快识别风险模式。但如果一个组织原本存在信任不足、责任模糊、生产优先或者惩罚性安全管理的问题，那么AI同样可能放大这些问题。计算机视觉可能从安全工具变成监控工具。数据平台可能从风险学习工具变成绩效考核工具。算法推荐可能逐渐取代专业判断。

最终，技术越先进，原有的文化矛盾反而可能越明显。因此，AI对安全文化具有明显的双重效应：它既可能强化安全文化，也可能加速文化侵蚀。

3. 自动化：改变谁承担风险

自动化可能是数字技术影响安全文化最早的一种形式。

无人机可以替代人员进行高空检查，机器人可以进入受限空间，自动控制可以减少人员暴露于极端工况，联锁系统可以在危险状态出现之前执行保护动作。这些技术首先改变的是人的风险暴露。但更深层的变化是，它们正在改变组织对于风险的规范性判断。

当一项高风险任务已经可以由机器完成时，组织是否仍然应该要求人员承担这一风险？因此，自动化实际上向组织传递了一个新的安全规范：风险应该尽可能通过系统设计被消除，而不仅仅依靠员工遵守程序。与此同时，自动化也带来了一个新的问题——责任开始向系统上游转移。

如果一个自动化系统发生错误，那么责任究竟属于操作人员、维护人员、设计工程师、算法开发者，还是批准部署系统的管理者？技术减少了人的直接暴露，但也可能让责任更加分散。因此，自动化对安全文化的影响，不仅体现在“更安全”，也体现在责任如何重新分配。

4. 数字化：让风险变得可见

如果说自动化主要改变“谁执行工作”，那么数字化改变的则是“谁能够看到风险”。

IoT传感器、实时安全看板、数字化作业许可、云平台以及数字孪生，使大量过去只能在现场观察的信息变成持续存在的数据。风险因此具有了更强的可见性。一个现场异常不再只存在于某名操作人员的经验中，而可以被记录、共享、比较和追踪。

这种变化为安全管理带来了明显优势。不同部门可以共享风险信息，管理人员能够观察长期趋势，一线员工的报告也可以形成组织学习的一部分。但数字化带来了一个容易被忽略的问题：Visibility并不等同于Transparency。

数据变得“可见”，并不意味着组织变得“透明”。如果员工认为这些数据主要用于监督个人表现，那么相同的数字化系统可能产生完全不同的文化效果。员工可能减少报告。管理人员可能过度依赖指标。组织可能开始“管理数字”，而不是管理真正的风险。

因此，数字化本身只创造了可见性。这种可见性最终形成信任还是恐惧，取决于组织如何治理这些数据。

5. AI：从发现风险走向解释风险

AI比自动化和数字化更进一步。

自动化执行预先定义的逻辑，数字化扩大信息的获取，而AI开始对信息进行解释。机器学习模型寻找异常模式。预测模型估计未来风险。计算机视觉判断行为是否安全。自然语言处理分析事故报告。大型语言模型则可能进一步参与安全沟通、知识检索和决策支持。

这意味着AI正在获得一种新的组织角色：interpretive authority——解释风险的权力。而这可能是AI影响安全文化最深刻的地方。如果组织逐渐习惯于认为“系统判断风险高，所以它就是高风险”，那么安全判断的权威实际上已经发生转移。

这种转移既可能带来好处，也可能产生新的风险。AI能够发现人类难以识别的弱信号和复杂模式，因此有可能推动安全管理从事故后的反应，向事故发生前的预测和干预转变。但如果AI输出缺乏解释，经常产生误报，或者员工无法质疑其判断，那么AI也可能降低信任，削弱人的专业判断能力。

因此，未来一个重要的问题不是：AI能否作出判断？而是：AI的判断在组织中应该拥有多大的权威？

6. 一个简单例子：AI识别安全帽

基于计算机视觉的PPE识别很好地展示了这种双重影响。

从技术角度看，这是一项相对直观的AI应用。摄像头采集现场图像，计算机视觉模型识别人员，并判断员工是否佩戴安全帽、防护服或其他PPE。如果这套系统被用于发现长期趋势，它可以帮助安全管理人员回答一些过去很难回答的问题：哪些任务最容易出现PPE违规？哪些时间段风险更高？某些违规行为是否与设备、工序或者生产压力有关？这时候，AI识别出的“违规”不再只是处罚某个人的依据，而可以成为寻找系统性风险的前兆信息。

AI因此可以促进组织学习。但是，同一套系统也可能形成完全相反的结果。如果摄像头主要用于识别和处罚个体，员工可能将其理解为持续监控。如果算法误报却缺乏申诉机制，员工可能逐渐不再信任系统。如果管理人员认为“AI已经监控了现场”，甚至可能产生新的虚假安全感。

所以，对于这类AI安全系统而言，真正决定其安全文化结果的，可能并不是模型准确率本身。更重要的是：AI产生的信息如何被解释、谁拥有这些数据，以及这些信息最终被用于学习还是处罚。

7. 如何衡量AI究竟改善还是削弱了安全文化？

一个进一步的问题是：这种影响能否被测量？

传统安全文化调查往往给出一个总体得分。但是在AI环境中，这种方法可能掩盖非常重要的信息。例如，一家企业引入AI以后可能出现：管理层安全参与提高了；风险识别能力提高了；培训更加精准；但员工信任下降了；员工参与度也下降了。如果简单把所有项目平均成一个总分，最终可能得到“安全文化略有改善”。但这个结果会隐藏真正重要的问题——技术能力正在增长，而Human–AI关系可能正在恶化。

因此，本章提出了一套四层AI安全文化评估框架。第一层衡量 AI Technology Exposure，也就是AI技术实际上在多大程度上进入日常安全工作。第二层分别衡量AI对安全文化产生的 Positive Impact 和 Negative Impact，而不是要求受访者给出单一判断。第三层将这些结果聚合到四个领域：Leadership & Governance、Risk Anticipation、Organizational Capability 和 Human–AI Interaction。最后，通过 AI-Adjusted Safety Culture Index（A-SCI） 形成系统层面的诊断指标。

这一指标并不是用于比较哪个公司“更安全”，而是用于观察一个组织内部：随着AI使用程度不断增加，它究竟是在强化还是削弱原有安全文化。

8. AI安全文化最终是一个伦理与治理问题

当AI真正成为安全管理中的参与者以后，一系列伦理问题就很难再被视为纯粹的“AI Ethics”问题。

它们实际上会直接影响安全文化。例如，计算机视觉到底是在保护员工还是监视员工？

一个AI风险评分为什么得出这个结果？员工是否能够质疑AI判断？安全数据未来是否可能被用于绩效考核？不同岗位的员工是否具有相同的数字技术使用能力？算法是否会系统性地对某些人员、岗位或工作环境产生偏差？这些问题最终都会影响几个非常传统但又非常核心的安全文化因素：Trust、Participation、Accountability、Learning 和 Human Agency。

因此，AI伦理并不是安全管理之外的附加问题。在AI时代，它正在逐渐成为安全文化本身的一部分。

9. 结语：决定未来的不是机器有多聪明

AI不会取代安全文化。

它更可能做的是：揭示它、放大它，并重新塑造它。一个真正具有学习文化、透明治理和高信任水平的组织，可以利用AI更早识别风险、更快学习，并形成更强的预防能力。相反，如果一个组织原本存在责任模糊、沟通不足或者惩罚性管理，那么AI可能以更高的速度放大这些问题。

因此，AI时代的安全问题最终并不只是：How intelligent is the machine? 更加重要的问题可能是：How wisely is the organization using that intelligence? 未来安全文化的发展，本质上仍然是一个关于领导力、治理、信任与Human–AI Collaboration的问题。

本文基于作者以下文章改写：

He Wen, “Innovation in Enhancing Safety Culture: Artificial Intelligence (AI), Automation and Digitalization.”, Elsevier, Methods in Chemical Process Safety Book Series，Volume 10, Method of Process Systems in Energy Systems. DOI: 10.1016/bs.mcps.2026.07.005

感谢本卷编辑 Dr. Faisal Khan、Dr. Paul Amyotte 和 Dr. Mohammad Zaid Kamil 对本书及本章节出版工作的支持。

支持单位：