互联网，一个浩瀚且不断扩张的信息与连接领域，依赖于一支主要隐形的劳动力来维持秩序的假象。虽然技术进步常常被吹捧为解决在线混乱的方案，但现实是，人类内容审核员是抵御有害和非法内容的前线卫士。然而，这项至关重要的工作带来了巨大的、并且常常被忽视的人力成本。这些个体所处的工作条件直接影响互联网监管的有效性，创造了一种悖论：那些被赋予保护在线空间任务的人，自身却容易受到伤害。
用户生成内容在Facebook、Twitter和YouTube等平台上的庞大规模，使得大规模的审核工作成为必要。关于这支劳动力的具体情况常常被刻意掩盖，但它由全球数万名个体组成。这些审核员负责执行复杂的社区准则，这项任务需要持续的警惕和快速的决策。这项工作不仅仅是识别明显的违规行为；它还涉及驾驭细微的情况，平衡言论自由与防止伤害的需要，并解释本身就存在争议的政策。Kozyreva（2023）的一项研究强调了这种内在的紧张关系，强调了在上述两个核心价值之间解决内容审核困境的难度。
经济压力对审核员施加了额外的挑战。严格的绩效目标，正如最近的报告所指出的，推动个人在有限的时间内处理大量的内容。这种无情的节奏几乎没有留下深思熟虑的空间，增加了出错的风险，并导致倦怠。此外，内容本身的性质也令人深感不安。审核员会经常接触到暴力画面、仇恨言论、儿童性虐待材料和其他形式的可怕内容。Sarah T. Roberts 在她的著作《幕后》中详细描述了这种接触对心理造成的深刻影响。来自ABC等组织的内部数据显示了审核员每周，甚至有时每天遇到的有害内容的数量。这种持续的负面内容轰炸可能导致一系列心理健康问题，包括创伤后应激障碍、焦虑和抑郁症。缺乏充足的医疗保健福利和低工资，正如多个消息来源所强调的，进一步加剧了这个问题，使得审核员特别容易受到伤害。这些心理影响并不局限于直接接触者；即使是志愿者审核员也会因人际冲突、时间限制和持续不断的有毒在线行为而经历倦怠，正如密歇根大学的一项研究表明的那样。
这些恶劣劳动条件的后果超出了审核员自身的福祉。越来越多的研究表明，审核员的福祉与互联网监管的质量之间存在直接的关联。当审核员过度劳累、压力过大且情绪低落时，他们做出准确和细微判断的能力就会受到损害。这可能导致误判——移除合法内容——以及漏判——未能识别和移除有害内容。一些平台内的激励机制，审核员因速度而不是准确性而获得奖励，甚至因标记难以分类的内容而受到惩罚，这进一步激励了仓促的决策。这种情况更加复杂，因为处理特别敏感内容（例如仇恨言论）的审核员通常使用与处理不太具有挑战性的材料相同的指标进行评估，这可能会增加他们的工作量和压力。此外，正如Goldberg在Medium上的一篇文章中所指出的，围绕内容审核实践缺乏透明度，阻碍了问责制，也无法对工作条件进行有意义的改进。对算法的依赖，虽然旨在辅助，但并非万能药。大型语言模型 (LLMs) 进行的内容审核在准确性和合法性方面仍然面临挑战，需要人工监督。
最终，有效的互联网监管需要在处理内容审核的方式上做出根本性的转变。平台必须优先考虑审核员的福祉，解决经济压力，提供充足的心理健康支持，并营造更可持续的工作环境。这不仅仅是伦理责任的问题，而是一项战略要务。正如大量研究和报告所表明的，维护安全和值得信赖的在线环境，需要一支健康且受支持的审核队伍。忽视内容审核的人力成本，会破坏自由开放互联网的基础，让我们所有人都更容易受到潜伏在其数字深渊中的危害。这些个体的隐形劳动不仅仅是必要的恶，而是数字生态系统的一个关键组成部分，值得认可、尊重，最重要的是，需要保护。
发表回复