By 超神经
内容概要：YouTube、Facebook、Twitter 等社交平台一直在花大力气进行内容审核，尤其是使用机器学习技术逐步替代人工。但近期 YouTube 决定暂时叫停这一推进，返聘年初解雇的人工审核员。
关键词：内容审核 机器学习
YouTube 在今年初，将内容人工审核团队大量裁撤，全部替换成为 AI 进行内容审核。
所以，今年 4-6 月整个第二季度里，YouTube 线上的所有视频，都是由 AI 进行官方的内容审核。这也是 YouTube 有史以来第一次整一季度，没有人工审核员参与内容初审。
这一大步跨越，带来了不小的后果，YouTube 在近期叫停这项举措，并且大批返聘在年初解雇的人工审核团队。
AI 替换人工：下架视频数创纪录
AI 审核被叫停的重要原因之一，就是 AI 审核的规则相较于人工，更为严格，甚至会导致误伤。
根据 Google 在定期的透明度报告中提到：在 2020 年 AI 接管内容审核的 4-6 月中，共有 1100 万个视频被 AI 标记违规并下架，这些视频主要来自于美国、印度和巴西。
但是，在今年的第一季度里，被鉴定违规并下架的视频，仅仅只有 660 万。而 从人工换成 AI 之后，被下架的视频数几乎翻了一番。
因为 AI 审核遭下架的视频，占全部下架视频的 95%
（数据来源：Google 官方透明度报告）
在被 AI 下架的 1100 万个视频中，多数为色情、虚假、涉恐犯罪类型，但是也有不少是误伤。
其中，就有 32 万个被 AI 标记下架的视频提出了申诉，最后近半数都通过二次审核，并重新上线。而在过去，进行申诉的视频，只有 25% 左右可能重新上线。
YouTube 的审核 AI，以一己之力，让 YouTube 的播主们瑟瑟发抖，花更多时间自查内容，一时间怨声载道让 YouTube 头疼不已；大量的申诉，还给 YouTube 团队，增加了不少重新审核的工作量。
人工再上位：时机尚未成熟，AI 仍需努力
在年初 YouTube 裁减人工审核团队前，全职或外包的审核岗位多达 10000 个。
这些人工审核员分布在 Google 的全球办公室，或是外包供应商的各个办公点。
万人团队：巨大运营成本
人工审核员的岗位要求并不低，比如要负责中东地区的内容审核岗位，需要掌握阿拉伯语和阿拉伯方言语系，并对中东地区上传视频进行审核，以便及时标记出涉及恐怖、暴力、煽动内容的视频。
这样的工作，每周需要审核 500 小时以上的视频，初级岗位的薪水可以达到 18.5 美元/小时，年薪可达 37000 美元左右。
再资深的内容审核岗位，需要掌握一些的法律知识，不仅能得到 Google 全职员工的待遇，还可以获得近 100000 美元的年薪。
从菲律宾的青年外包工人，到湾区的风控运营，
都在内容审核中发挥着重要作用
风光的背后，Google 也同时在承担着不小的成本，这也导致了在今年疫情之际 YouTube 对人工审核岗位的裁撤。
这次返聘 YouTube 也提及：疫情让人工审核成本变高、难度加大。当初迫不得已，必须在人工干预不足和 AI 过度干预两者之中，选择了 AI。
人工审核：边缘职业身心俱疲
内容审核不是一份简单的工作，不仅每周有固定的工作指标，还要长时间面对儿童色情、暴力、恐怖类型的画面，往往也会让人身心俱疲。
《华盛顿邮报》、《财富杂志》等美国主流媒体均对内容审核员这一职业，做出过深度报道。接受采访的内容审核员，无一例外都表达了这份职业，对自己的身心健康产生了强烈的负面影响。
《财富杂志》用带着防毒面具的审核员，
比喻审核工作给人带来的心理创伤
媒体的舆论影响也敦促了科技公司对这类岗位进行了一系列的改善，比如限制每周观看不适视频的时间上限、定期的心理治疗等措施。
人工还是 AI：不用着急下定论
人工审核的支出、对人心理的伤害、机器学习的技术进步，这些都推动了近年各平台对自动化内容审核的研究和快速应用。
AI 虽然有一定的误伤几率，但是在对违规内容的审查中，的确展现了超过人工审核的高效。
YouTube 首席产品官 Neal Mohan 向英国《金融时报》回应人工审核重回岗位时，提到了一组数据「被 AI 标记删除的 1100 万个视频中，超过 50% 的视频，在没有用户播放前就被下架；超过 80% 的视频，播放 10 次以内就被下架。」
YouTube 作为大规模用 AI 代替人工的先行者，势必会踩坑，但同时也为其他公司甚至全社会，指明了人与 AI 协同关系中更加清晰的发展方向。
这样的实验虽然折腾，但着实有必要。这需要公司有吃螃蟹的精神、承担舆论非议的勇气和快速善后的决心。同样开放透明的数据，也让媒体和社会在接受未来的不确定性，有更多的共识和信心。
谁知道写文章的我，是不是个 AI 呢？
参考来源：
The Verge：《YouTube pings back more human moderators after AI systems over-censor》、《THE TERROR QUEUE》
Fortune：《Why Thousands of Human Moderators Won’t Fix Toxic Content on Social Media》
华盛顿邮报：《Content moderators at YouTube, Facebook and Twitter see the worst of the web and suffer silently》
Wired：《As humans go home, Facebook and YouTube face a coronavirus crisis》
完
