No.8.智能治理不能让劳动风险隐形化

霍佳鑫

设想一名内容审核员的工作：系统从海量信息中识别潜在的暴力、色情、虐待等内容，再将机器难以判断的案例交由人工复核。屏幕上不断出现令人不适的画面，系统则记录审核数量、处理速度和判断结果。平台的内容治理虽然更加高效，但对审核员而言，每一次点击都可能意味着一次新的心理暴露。

一、技术提效：人工智能改变内容治理的风险分布

人工智能能够减少普通用户接触有害内容的机会，却不能使相关风险凭空消失。对于仍需人工处理的高风险内容，技术应用也可能改变风险的分布，使部分劳动者面临更高频率的职业性暴露。相关研究发现，接触令人不安内容的频率越高，内容审核员的心理困扰和继发性创伤症状通常越明显，二者呈现一定的正向关系。^[1]可见，人工智能带来的不仅是工具层面的效率提升，也提出了如何通过制度安排统筹技术效能、劳动安全与公共利益的问题。技术降低了公众接触有害内容的概率，并不意味着治理过程中的全部代价都已被技术消化。这正是人工智能从工具侧向智能治理过渡的现实问题。

问题也在于，不能简单以劳动者愿意继续工作，就认为这样的风险安排是合理的。从阿马蒂亚·森的能力方法来看，判断一个人是否拥有自由，不能只看他最终作出了什么选择，还要考察他实际拥有多少可行的选择机会。^[2]据此而言，内容审核员继续从事这项工作，可能是收入依赖、合同约束和替代就业机会不足共同作用的结果，不能直接解释为劳动者已经充分、自主地接受了职业风险。在高强度工作要求与较低决策自主权相结合的工作环境下，更容易使劳动者产生紧张心理。^[3]内容审核员既要频繁接触高风险材料，又受到处理时限和绩效指标约束。如果他们不能自主暂停工作、调整任务或者退出高风险内容审核，那么由此产生的健康风险就不能只归因于个人承受能力，还应被看作工作设计和组织管理的问题。

二、效率之问：不能以技术产出替代治理成效

劳动者为了获得收入而接受一项工作，是就业关系的基本等式。企业是否可以因此忽视工作中的健康风险，则是另一个问题。平台既然能够决定任务强度、考核标准和防护条件，就应承担相应的风险识别与预防责任。维护劳动者的身心安全，应当成为内容治理的基本要求，而不能等到效率目标实现以后再予考虑。

  对此，评价智能管理，需要区分系统运行效率与治理整体成效。审核数量增加、处理时间缩短和识别准确率提高，主要反映技术系统的处理能力，并不能完整说明内容治理所产生的总体影响。如果平台减少了普通用户接触有害信息的机会，却使审核员因持续复核高风险内容而承受更集中的心理压力，那么相关风险并未完全消除，而是在不同主体之间发生了转移。劳动者如果还因担心影响绩效而不敢暂停工作，这种风险就可能受到考核制度的进一步强化。换言之，平台评价内容审核系统时，不能只统计处理量、响应速度和识别准确率，还应把人工审核环节产生的职业健康影响纳入评价。具体而言，需要考察劳动者接触高风险内容的频率和持续时间、单位时间内的任务强度、休息和暂停机制能否实际使用，以及心理困扰、职业倦怠、病假和人员流失等长期后果。只有同时考察技术产出和劳动者承担的风险，才能判断智能管理究竟提高了整体治理效能，还是以风险转移的方式实现了局部效率提升。

进一步看，内容审核中的智能治理不只是提高有害内容的识别准确率，还要规范人工智能介入以后形成的人机分工。系统会决定哪些内容被识别和分级，哪些疑难或高风险内容被交给人工，任务以多快的速度推送，以及人工判断如何进入绩效评价。因此，治理对象不是一个孤立的识别模型，而是由算法筛选、任务分配、操作界面、绩效考核、人工复核和组织责任共同组成的社会技术系统。塞尔布斯特等人指出，如果把算法从其所在的组织制度和社会环境中抽离出来，只处理局部技术问题，治理措施就可能无法实现预期的社会目标。^[4]据此，内容审核治理首先应明确人机分工中的风险边界。既要判断人工智能是否减少了风险，也要考察剩余风险是否被集中转移给了负责人工复核的劳动者。

三、制度约束：让技术效率与劳动安全相协调

平台可以通过数据化的任务分配、时间控制、评价和奖惩，形成一种“数字控制下的劳动秩序”，^[5]在这一过程中，劳动者的身心安全、人格尊严、合理休息和必要的工作自主，应当成为系统设计和管理规则的基本要求。平台不仅需要判断哪些内容必须由人工审核，还应控制单个劳动者接触高风险内容的频率和持续时间，并赋予其暂停任务、申请调换和提出异议的实际权利。只有明确风险由何种技术安排产生、由谁承担以及可能造成什么后果，具体措施才不会成为彼此孤立的功能设置。

在技术设置方面，画面模糊、自动静音和风险分级可以减少不必要的视觉与听觉刺激。在任务安排方面，内容轮换、连续暴露时间限制和强制休息可以降低集中接触高风险内容所产生的影响。在组织保障方面，独立且保密的心理支持、人工复核和申诉机制能够为劳动者提供进一步保护。不过，设置了保护措施，并不意味着治理目标已经实现。如果系统提醒审核员休息，绩效考核却对暂停工作作出不利评价，劳动者仍可能因为担心影响绩效而继续工作。如果平台提供心理咨询，审核员却担心求助记录影响任务分配或职业评价，他们也可能不愿主动寻求帮助。因此，问题不仅在于平台是否设置了保护功能，还在于任务分配、绩效评价和责任制度是否为这些措施的实际使用提供了条件。

上述措施能否真正发挥作用，还取决于责任是否清晰、监督是否到位。审核业务可以外包，安全责任却不能简单随之外包。平台制定内容标准、分配审核任务并设定绩效要求，就不能仅因审核人员由第三方公司雇用，而将相关风险完全排除在自身治理范围之外。监管也不能只看企业有没有制度文件，更要看这些制度是否真正改变了劳动者的工作处境。匿名调查、健康评估和持续监督，目的就在于检验制度有没有落实，而不是让治理停留在纸面上。

人工智能正在重塑内容治理的方式，也在重新分配治理成本与风险。判断一项技术是否真正推动了进步，不能只看它替代了多少人工、处理了多少信息，更要看那些仍需直面高风险内容的劳动者承担了什么。技术可以提升治理效率，却不能因为风险隐蔽、难以被看见，就将其排除在效率评价之外。

智能治理的价值，不仅在于让机器承担更多工作，更在于及时识别技术应用带来的新风险，并以相应的制度加以约束和化解。技术效率与劳动者权益并非天然对立，关键在于效率提升之后，收益如何分配，风险由谁承担，责任又由谁落实。只有将这些问题一并纳入治理视野，技术进步才不会建立在劳动者默默承受、风险却未被计入的吊诡之境。

参考文献

[1]SPENCE R, BIFULCO A, BRADBURY P, et al. Content moderator mental health, secondary trauma, and well-being: a cross-sectional study[J]. Cyberpsychology, Behavior, and Social Networking, 2024, 27(2): 149-155.

[2]SEN A. Development as freedom[M]. Oxford: Oxford University Press, 1999.

[3]KARASEK R A. Job demands, job decision latitude, and mental strain: implications for job redesign[J]. Administrative Science Quarterly, 1979, 24(2): 285-308.

[4]SELBST A D, BOYD D, FRIEDLER S A, et al. Fairness and abstraction in sociotechnical systems[C]//Proceedings of the 2019 Conference on Fairness, Accountability, and Transparency. New York: Association for Computing Machinery, 2019: 59-68.

[5]陈龙.“数字控制”下的劳动秩序——外卖骑手的劳动控制研究[J].社会学研究,2020,35(6):113-135+244.=222

作者：霍佳鑫 四川省社会科学院讲师；

审核：李侠 上海交通大学科学史与科学文化研究院教授

图片来源：科普中国素材库

【博主跋】这是人工智能伦理系列的第八篇，2026-9-14日发表在《科普中国》网站上，这是原稿，与邹老师合作愉快，是为记！

2026-9-21于办公室临屏涂鸦

支持单位：