meta|为了糊口，我每天在Facebook看屠杀( 四 ) 删除

Facebook 会定期审查内容审核员所做出的决定，当出现重大错误时，它会进行事后分析以便改进。但是，时间和金钱的综合因素决定了做出这些决定的速度，并导致错误经常发生。 “如果每个人每天只审查一条内容，我们可能就不会犯错误。 ”前内容审核员贾斯廷早些时候曾告诉我。
这是 Facebook 的主要困境：它一直在招聘内容审核员，但他们需要浏览的内容数量仍然太多，以致他们不得不加快速度，最终导致无法做好自己的工作。
人们注意到，当内容审核员错误地删除一张照片时，发布者就会去社交媒体投诉。当有人报告了令人不快的内容，而它没有被删除时，又会引起更多的投诉。
媒体注意到：写一篇报道，说 Facebook 做出了一个现在看起来很糟糕的决定，这在新闻领域是易如反掌的事，但这个糟糕的决定很可能是一位工作劳累过度甚至精神受到创伤的内容审核员所为。扎克伯格自己也承认这一点。 “我们公开的问题中，十有八九并不是因为我们的政策得不到大家的普遍认可，而是因为我们在处理这个问题时搞砸了。 ”他说。
接受采访的内容审核员对我说，尽管会面临时间的压力，还会看到人性最糟糕的一面，但作为一份工作，为 Facebook 做内容审核并不算太糟糕。他们将自己视为默默无闻的第一目击者，保护几十亿 Facebook 用户免受伤害。 “我曾跟一些拯救过他人生命的内容审核员交流过，当看到有人企图自杀时，他们及时向执法部门做了报告。 ” 阿伦·钱德拉（Arun Chandra）说。 2019 年， Facebook 聘请他来领导内容审核工作。 “令人惊喜的是，这项工作能让人获得满足感和自豪感。 ”
萨拉·罗伯茨告诉我，她在自己的工作中发现，如果内容审核员意识到自己只不过是一台机器的齿轮，而他们的雇主或者与他们雇主签约的公司又没有真正倾听他们的意见，他们良好的感受会大大削弱。
“即便有人听取过他们的反馈意见，这种情况也是很罕见的。 ”她说。有一次，一名内容审核员告诉她，一件自杀威胁得到了积极的解决。 “我们从来没有停下来问问自己， ”这名内容审核员说， “人们在我们的平台上看到的垃圾内容，在多大程度上导致他们想要自我伤害。 ”
几个月之后，我采访的凤凰城内容审核员们就遭遇了一起不愉快的意外事件。 2019 年 10 月，高知特公司决定不再参与 Facebook 的内容审核工作。 Facebook 宣布将关闭凤凰城的办公室，那些数字内容第一目击者将面临失业。
Facebook 真的很不高兴，因为它要求成千上万在办公室工作的人以每天处理 400 个帖子的速度监控平台上的内容。但 Facebook 找到了一个能大大改善运营状况的长期解决方案，同时还可以减少低薪员工的数量，这些低薪员工负责处理 Facebook 用户发布的图片，但需要接受心理治疗。如果在用户看到那些存在麻烦的内容之前，Facebook 就对它们进行了评估并予以删除，而不是等到有人报告，那会怎么样？
他们认为，答案是人工智能。对于看似棘手的内容审核问题，这是长期的解决方案。

【meta|为了糊口，我每天在Facebook看屠杀】文章节选自《Facebook ：一个商业帝国的崛起与逆袭》