meta|为了糊口，我每天在Facebook看屠杀( 三 ) 删除

换句话说，尽管大多数的判定是正确的，但在用秒表计时的氛围中，能力不足的内容审核员无法把事情做好，仍然有数百万人会受到影响。
这项工作充满挑战性，其中部分原因在于他们试图将存在问题的内容与他们的参考指引（即“社区准则”）相对照，这份指引延续了 Facebook 创立初期保罗·扬泽尔所使用的一页篇幅的文件，该文件由戴夫·威尔纳完善。内容审核员需要先在课堂上学习如何解读这份指引，然后在单独工作之前，由一位资深员工带着一起学习。该指引的部分内容在多次被泄露之后， Facebook 干脆于 2018 年将其全部内容公之于众。
“社区准则”证实了这项任务的复杂性。尽管要认定哪些内容是平台允许发布的，还存在文化上的差异，但同样的一套规则适用于全球各地。这些标准适用于 Facebook 的所有产品和功能，包括动态消息、Instagram、个人资料页上的“时间轴”以及 WhatsApp 和messenger 上的私人信息。
可以肯定的是，这份长达 27 页的文档无法涵盖所有的示例。 Facebook 已经基于特定示例创建了大量非公开的补充文件。
最困难的判定是仇恨言论。 Facebook 不允许自己的平台上出现仇恨言论，但是很难清晰地予以定义，这一点可以理解。 “针对仇恨言论的政策是最难执行的，因为缺乏语境背景。 ”比克特说。
朋友之间开玩笑时所说的一些对话，在面对一名容易受伤害的陌生人或熟人时，它的意思可能完全不同。媒体上曾报道过一个案例，是一名喜剧演员发布的一个帖子，写着“男人都是人渣” 。她因此被停职了。根据Facebook 的规则，不得对受保护的群体进行整体的侮辱。男性或女性都是受保护的群体。
仇恨言论太复杂了，所以 Facebook 将它分成了几个层级。第一级，包括称呼男人为人渣，以及将某个群体比作细菌、性掠食者或者“在文化上被认为智力或身体上低劣的动物”；第二级，是暗示低劣的侮辱，比如说某人或某个群体有精神疾病或一无是处；第三级，是一种政治或文化上的侮辱，包括呼吁隔离、承认种族主义或者直接咒骂。不同的层级对应不同的处罚措施。
问题是，针对男人或亿万富翁这样的强大群体的仇恨言论，是否应该像针对性别或种族等受保护群体的诽谤一样受到严厉对待。结果很有趣：报告称，最好的结果是予以区分，让人们对掌控权力的群体发泄。但是，这种处理方式没有被接受，因为这就要求内容审核员做出过于复杂的决定。
内容审核员自己说，他们已经做好承担责任的准备。不足为奇，这些承包商渴望将自己提升到员工的地位。这并不容易，因为内容审核所需的“技能组合” ，不同于那些创建或营销 Facebook 产品所需的有用技能。
内容审核员贾斯廷说，他曾令人痛心地处理过一些有问题的内容，不是因为用户的不良行为，而是因为用户已经去世。 Facebook 的算法经常会让死者的账号信息出现在其至爱的人的动态消息上，这可能会造成一具溺亡的尸体浮出水面的效果。 Facebook 现在为去世的用户精心准备了“纪念”的方案。 “纪念真的很有压力。 ” 他说。
凤凰城的内容审核员似乎认为，接触到令人不安的图片是工作中不那么愉快但可以忍受的一部分。
有时候，某些事情会刺激到他们，他们就去找治疗师。有一位内容审核员告诉我，有一个“狠狠揍我” 的帖子里包含一条视频，其中有动物与人发生性行为、被屠杀、排便以及其他一些画面。 “这让我难受了整整两周。 ”他说。在治疗师的帮助下，他渡过了难关。