December 4, 2017企业责任表达自由1104Views

删除暴力视频如何妨碍社会公义

December 4, 2017

文/斯科特·爱德华兹 国际特赦组织危机反应小组资深顾问

在今年3月20日上传到YouTube网站的50万小时的视频中,包括一段历时18秒、令人感到不安的片段。视频显示,在一条肮脏的街道上,三人面向墙壁被捆绑着,并被一名枪手处决。据称,这一事件发生在利比亚的班加西(Benghazi)。

尽管场面的确令人震惊,但这一短片和其他众多发自冲突地区的视频却无太大区别。

但在6月9日上传的另一视频中,同一名枪手显然在监督对4名跪在地上的俘虏的处决过程。约一个月后,这名据称叫穆罕默德·维尔斐利(Mahmoud al-Werfelli)的枪手再次仪态威严地出现在一段显示对20名俘虏进行处决的视频中。

8月,国际刑事法院针对穆罕默德·维尔斐利发出逮捕令,指控其涉嫌在利比亚犯下战争罪中的谋杀行为,这对基于开放性资料展开的调查来说,是一个分水岭。对于利用数字化资源实现正义和追责的前景持乐观态度的人来说,这证实了脸书(Facebook)和YouTube上的内容能够在法庭上构成大量证据。

但这条通向正义、相对较新的道路可能会变成死胡同。

近年来,各种数字平台上的丰富内容令人权调查员拥有了前所未有的能力,对诸如这些视频中记录的涉嫌战争犯罪等严重人权侵犯行径展开调查。但在调查中,对此类资料的依赖亦带来严峻挑战。视频片段通常指向错误的时间、地点或人物。在发布视频的平台上对视频的保管链进行追踪常常无疾而终。此外,此类平台不仅仅可以用作储存资料,亦可用作推进叙事的媒介,有时发布者怀着散播错误消息、煽动仇恨,或发动暴力的目的。

多年来,诸如脸书、谷歌(Google)以及推特(Twitter)等公司受到政府及公众的挑战,要求它们打击仇恨言论、煽动性言论以及被极端组织利用作招兵买马的目的。因此,这些平台依靠计算程序和人为判断相结合的方式识别和删除内容,试图做到既不漏查亦不误查,即:过度或过少地识别出基于特定价值观的内容。

6月,谷歌宣布了意在打击网络恐怖主义的四项措施,其中包括更加严格地筛查和迅速地删除有关暴力极端主义及恐怖主义的内容。快速识别及删除内容的措施似乎是有效的。然而,我们得知这一成效是因为出现了灾难性的误删状况,遭到删除的内容包括记者、调查员、组织使用或上传的从冲突地区获取及有关人权危机的资料,这些资料本是用于报道、未来可能提起的法律程序,以及历史记录。

斯科特·爱德华兹
正如被害人或证人可能被逼保持沉默,对有效调查至关重要的信息亦可能在被适当部门获取之前从这些平台消失。

正如被害人或证人可能被逼保持沉默,对有效调查至关重要的信息亦可能在被适当部门获取之前从这些平台消失。调查员已意识到这一风险的存在。自YouTube更新识别制度以来,数以千计记录叙利亚冲突的视频被删掉了,和这些片段一样,维尔斐利被指谋杀4名跪地俘虏的视频资料被迅速地从YouTube上删除。一些资料的保管者对YouTube删除其资料提出了质疑,也有一些被删的频道和视频得以恢复。

然而,我们无法得知究竟有多少人权活动人士或其他人士试图分享的证据已经或即将丢失,其中包括可能构成使检控官得以提出指控的关键证据。尽管YouTube可能在自身的服务器上储存被删掉的资料,但它们并未意识到这些内容所具有的证据性或公共利益价值,因为对于那些有能力做出此类评估的调查员及研究者来说,这些资料仍然处于数字的炼狱中,无法被发现。由于惟有资料的发布者或管理者可以对删除行为提出异议,倘若他们尝试以提供更多信息及上载更多具有风险性资料的方式保护自己遭到识别的内容,他们中的一些将面临极度不利,甚至包含巨大个人风险的情况。那些发布对实现公义及追责最有价值的内容的人,例如危机之中的平民,以及面临生命危险的公民记者,往往亦是最难对删除提出异议之人。

内容平台不会确保证据得以保存,以用作战争罪的调查;实际上,它们亦不会打击恐怖主义及仇恨言论,但这些责任却是此类公司为更大的公共利益所应负之责。

最近,YouTube的内容删除制度因误删了涉及公共利益的内容而出现在新闻报道中,而其他平台亦面临类似的压力,以防止出现特定种类的不当或极端主义内容。

鉴于数字空间中存在公共利益,而且多项制度亦被调整以更好地体现这一利益,将YouTube在这方面的失败所揭示的风险降到最小实乃至关重要。尽管新的识别制度显示了现实需要,但该制度的实行却并未与公民社会进行适当商议,尤其公民社会依靠YouTube等平台分享及获取信息,有些信息的分享冒了巨大的个人风险。就公司而言,其已表态将与非政府组织协作,区分暴力宣传与具有报道价值的资料。此类协商可能就具有公共价值的资料的合法使用制定审核人员指南,即使这些资料表面看来是在美化暴力或仇恨。

保持信息不受限制和防止视频频道不被暴力或仇恨团体滥用的需求之间存在矛盾,而这一矛盾并非协商可以轻易解决。但更深入地接触人权调查员可以将对证据的伤害和潜在损失降到最低。当其他平台亦开始着手应对此类挑战时,无需过多的协商便会对数字化的前景大有裨益,哪怕前景并非必然美好,却能保证其对公义与责任的追求。