菜单导航

谁在审查社交平台?《网络监护人》揭开跨国外

作者: 情感读本 发布时间: 2020年06月30日 13:41:09

原标题:谁在审查社交平台?《网络监护人》揭开跨国外包删帖的秘密

你可曾好奇,社交平台上,是谁在决定每一篇贴文、每一支影片能否上传成功?汉斯・布洛克(Hans Block)、摩力兹・里斯维克(Moritz Riesewieck)两位德国导演,以6年时间跨5国追踪,终于在菲律宾找到了以数百计的“蜜獾部队”,时薪1到3美元的他们,用几秒钟一则的速度,把关全球平台上的内容。这工作离硅谷的黄金梦很远,但代价很大,有人最终在计算机荧幕前上吊自杀──而他就是专门负责审查自杀相关内容的人。

谁在审查社交平台?《网络监护人》揭开跨国外

谁在审查社交平台?《网络监护人》揭开跨国外包删帖的秘密

作者:刘致昕

来源:报道者

编辑:张劳动

坐在东柏林的办公室,34岁的里斯维克接受《报导者》专访。在我们提问之前,他先问,有没有什么数位工具带来社会改变的“好消息”,经过6年,从硅谷一路追到马尼拉,他想要重新相信科技一次。

从一个单纯的问题出发,来自德国的两位纪录片导演,从没料到自己会一路走进科技的黑暗角落,一个夺走人命的工作现场。

“我一开始就是好奇,为什么(社交网站)有些贴文能够发布,有些不行?”6年前的里斯维克,跟着这个提问开始调查,没想到答案不是人工智能、不是算法,而是一个被称为蜜獾(Honey badger)的神祕计划。

根据《路透社》的调查,蜜獾计划是一个专营外包工作的企业,在马来西亚、菲律宾等地,为网络业者寻找外聘工作者的项目。求职者只会知道蜜獾计划的字眼,但除非签订工作契约,否则不会知道在菲律宾的自己,正在应征的工作,拿的其实是来自硅谷的钱;而他们也不会知道,其实社群营运分析师(Community operation analyst)的职称,说穿了就是社群网站的内容审查员。

花了6年,里斯维克与伙伴布洛克走访美国加州、缅甸、孟加拉、土耳其、马尼拉,从内容审查的提问出发,深入观察并记录下硅谷决策者面临的窘境跟内部决策时的真实思考,并带领观者直面社交网站兴起的几年间,罗兴亚受害者、叙利亚难民、土耳其民众等,如何被卷入人权漩涡。《网络监护人》(The Cleaners)不仅入围日舞影展、鹿特丹影展,还拿下7项电影奖项。

防堵恐怖主义的前线,

只受过几小时训练

要花6年这么长的时间,除了因为要纳入不同利害关系人的视角,最大的困难,还是如何让这些“社群营运分析师”开口。

“他们全都签了一份合约,上面有严格的保密协定,不能跟任何人提起这份工作的内容,连家人都不能知道,”里斯维克说,在工作的地方,有保全公司确保工作者不能与外人接触,就连受访者的家人,也要等到纪录片放映,才了然自己的小孩、另一半,每天离家是去做什么。

“我们特地去找法律顾问,才知道企业虽然能够阻止机密外泄,但不能禁止员工们分享他们的感受。”里斯维克说,让审查员开口谈感受,成为他们的目标。即使如此,拍摄团队平均还是花上数月时间,才能与受访者建立信任。最后收进片中的露面受访者,还是以离职员工为主。

其实,离职员工并不难找,社群营运分析师最长的在职时间只有半年,影片中就活生生地记录了一名员工从加入到到决定离开的心境变化。

让他们快速离开的原因,主要是精神压力。社群营运分析师的工作是这样的:每一则影片、照片、贴文,都只有几秒钟能决定是删除还是发布,如果花太久时间,他们的工作就无法达标。

几秒钟之内,这些远在菲律宾的年轻人,必须决定叙利亚的军机轰炸画面是保留还是删除?或是判断出一张军人带狗审判跪地男子的照片,是恐怖分子的刑求还是美军的不道德私刑?

“你要记得,这些人不懂伊斯兰,也不知道叙利亚发生什么事,他们更不知道美国的白人至上主义跟种族歧视之间的关系,但他们几秒钟之内,就要决定一则贴文的去留。”

里斯维克在片中举出几个判断失误的例子,并沿线寻找到贴文的使用者,以及此则贴文的“受害者”,精准点出社群网站审查内容机制的失误。

不只是判断上的困难,还有他们承担的责任。这些从街上、校园里面被招募的年轻人,只受过几小时的训练,却成为阻止极端主义、恐怖主义的前线。”国土安全部提供一份清单,我们必须下架上面列的37个恐怖组织,然后删除他们发布的内容,“一位前任审查员受访时说,“算法做不到这件事,但我可以,我必须要帮助人们不受伤害。”

「我看过好几百人被斩首」审查员难被看见的内心创伤

“对有些人来说,他们带着类似宗教的情怀在做的,否则,他们可能做不下去。”里斯维克叹道。

片中另一名信奉天主教的审查员,相信自己该为社交平台保护世人,“(如同)耶稣死在十字架上,为什么我不为这个网络世界多承担一些,让更多人避开可能受到的伤害呢?”在任职数月后,她最终因承受不住创伤而辞职。“我感觉到我变成不同的人了,像病毒在身体里渗透一样,连我的思考方式都出现变化。”这名前任审查员说。

B站和知乎,谁会成为社
原标题:B站和知乎,谁会成为社交媒体的新网红? 来源:格隆汇 来源:毒眸 就在前两天,B站刚刚发布了最新一季的财报,月活用户达到了1.3亿,其中移动端用户为1.16亿,分别同比
2020年03月22日 08:36:27  情感读本
忽悠了大量情侣的爱情银
今日,爱情银行官微发布声明称,应监管部门要求,爱情银行APP将关停下架,全面整改,下架原因是因为社区存在大量违规内容。 作为一款2018年初上线的婚恋社交产品,爱情银行AP
2020年02月28日 13:43:47  情感读本
社交媒体时代微博在公共
摘要:任何公共舆论的产生都包含着公众对事件的判断和一定的情感,中国社会正处在转型与发展关键时期,由大众
2020年02月25日 14:26:52  情感读本
直播答题“复活” 下半
用完了的锂电池属于什么垃圾?杂交水稻培育的原理是什么?诗经中“蒹葭苍苍”的“蒹葭”指的是什么植物?如果
2019年12月21日 14:19:48  情感读本