August 16, 2019企业责任170Views

荐影:《隐私大盗》,监视资本主义时代的人权危机

August 16, 2019

文/国际特赦组织科技部人工智能与大数据研究员乔·韦斯特比(Joe Westby

一桩丑闻的出现,最终使支撑互联网大数据经济背后的阴暗面得以曝光。究竟剑桥分析(Cambridge Analytic)是如何滥用脸书(Facebook)的私密个人数据,在美国大选期间微目标锁定(micro-target)并操控摇摆不定的选民,近日推出的纪录片《隐私大盗》(The Great Hack)引人入胜地讲述了这一内幕故事。

然而,正如现已停业的剑桥分析前总裁对该纪录片制作人表示,这“不仅涉及一家公司”。这部纪录片让我们进一步开了眼界,了解到我们的生活如何通过数字科技不断被监视和控制;而且触及问题的核心,也就是某些大数据公司的整个商业运作模式在多大程度上威胁到我们的人权。

在互联网和数字世界里,你所做的每一件事都会留下“数据废气”(data exhaust),亦即每一件事的记录,包括你何时给汽车加油、访问过哪些网站等。当这些记录被整合在一起时,即便是看来微不足道的数据点,都能告诉我们许多关于某个人的事情。

剑桥分析曾夸口说,针对每一名美国选民所拥有的数据点多达5千个。通过对其数据集进行“心理”分析,该公司声称能够推断一个人的性格类型,继而精准地向目标对象发出信息,以影响其行为。该数据最主要的来源为脸书。剑桥分析经由第三方软件获取了多达8,700万脸书用户的资料,包括状态更新、点赞,甚至是私讯等。

监视资本主义
从大众处搜集海量数据,利用这些数据推断关于个人生活和行为的详细资料,并通过将这些预测的资料出售给广告商等第三方获利。

 

但这一事件并非一时的错失,而是一个采集我们的信息并从中获利的系统所导致的必然结果,也是学者肖莎娜·祖博夫(Shoshana Zuboff)称之为“监视资本主义”(surveillance capitalism)的商业模式。这一模式的基本特征包括:从大众处搜集海量数据,利用这些数据推断关于个人生活和行为的详细资料,并通过将这些预测的资料出售给广告商等第三方获利。剑桥分析利用了同样的基本模式,只不过锁定的是选民而非客户。

这种模式已经成为了数据经济的核心,并支撑了一个包含科技公司、数据中介商、广告商等在内的复杂生态系统。但采纳这一模式的领头羊谷歌(Google)和脸书却拥有无可比拟的优势,能追踪我们的生活及利用我们的生活信息获利,因二者掌控着通往中国以外之网络世界的门户(包括谷歌搜索、谷歌浏览器、安卓、YouTube、Instagram及WhatsApp)。

谷歌和脸书拥有无可比拟的优势,能追踪我们的生活及利用我们的生活信息获利,因二者掌控着通往中国以外之网络世界的门户。

当然,脸书和谷歌均一贯坚称其尊重人权的承诺。但逐渐地,我们不得不质疑,互联网的监视模式本身是否与我们的人权相抵触。

脸书和谷歌均建立了庞大的数据资料库,储存的个人信息量空前之大,早已远远超过了你在它们的平台上选择分享的数据,而是包含了你在数字世界参与各项活动时被追踪的大量数据。在如此大的范围内实施的大规模公司监控威胁到了隐私权的根本。实际上,脸书首席执行官马克·扎克伯格(Mark Zuckerberg)在2010年就承认,社交网络已经将隐私变为“社会规范”。。

不过,搜集数据仅是这个故事的第一部分,下一步则是利用由机器学习所驱动的复杂分析对人进行分析,以此影响他们的行为。在人们因剑桥分析的事件而群情激愤时,脸书所进行的分析侧写基本逃离了大众的质询。脸书探究了个性分析、如何操控情绪,以及基于心理上的弱点锁定目标人群,例如在人们感觉“一无是处”或“不踏实”时。而谷歌则开发了一个能够精确锁定广告的工具,可以通过“社交工程” (social engineering) 左右人们的看法并改变他们的行为,然而这一工具最初的目的是打击伊斯兰极端主义,现在却公开让任何人使用甚至滥用。

《隐私大盗》所提出的其中一个最为迫切且最让人不安的问题是:我们有多容易受到此类行为操控? 归根结底,倘若它们真如这些公司及其客户所声称的那般有影响力,便会对我们自主做决定甚至是享有见解的权利构成威胁,这会损害尊严的根本价值,而尊严是一切人权的基石。广告和宣传并非新鲜事,但以如此个人且有针对性的方式在全部人之间锁定目标的情况前所未有。

公司为吸引用户的注意和让他们继续使用社交媒体平台而各出奇谋,但这种动力亦有可能鼓励当前政治妖魔化的有害趋势。

 

此外,这种模式还有可能助长歧视。公司及政府可以轻易地滥用数据分析,基于个人的种族、民族、宗教、性别或其他受保护的特征锁定目标人群。公司为吸引用户的注意和让他们继续使用社交媒体平台而各出奇谋,但这种动力亦有可能鼓励当前政治妖魔化的有害趋势。大众更倾向于点击查看那些耸人听闻或具有煽动性的内容,这意味着那些平台会系统性地优先发布关于阴谋论、厌女及种族主义的内容。

大家应当采取什么行动?数据导向的商业模式展现出了系统性及结构性的问题,这一问题不易解决,而需要在政治上及法规上双管齐下。加强对于数据的保护当然是其中的应对方式之一:适当执行在国际上影响广泛的欧盟《通用数据保护条例》(General Data Protection Regulation),并以此作为其他国家的参考模板,这可以减少数据挖掘及分析带来的问题。

有关解体大数据公司的激进声音日多且日趋普遍,许多国家的竞争主管机构都在对这一行业进行审查。德国联邦卡尔特局(Federal Cartel Office)近期做出了决定,限制脸书和WhatsApp之间进行数据共享和整合,而这便是采取具体措施以阻止权力向巨头集中的一个例子。

无论采取何种规制手段,至关重要的是,它们建立在分析这一模式对人权构成的威胁之基础上。人权提供了唯一国际性和具有法律约束力的框架,能够逮住这一商业模式在哪些不同方面对我们的生活产生影响并体现身为人的意义,而且令企业承担责任。

很明显的是,目前的措施没有触及问题之根源。两周前,美国的监管部门通过脸书需就剑桥分析一事缴付50亿美元的罚款。但在罚款消息爆出后,脸书的股价却上升了。

这说明:企业及其投资者乐于让其作为孤立的事件。脸书会支付一些微不足道的罚款,并在隐私保护方面做出一些改善,然后如常运营。对于一家年净利润2,200亿美元的企业而言,50亿美元不过是沧海一粟。

我们不能让这样的事情发生,大家是时候该正视“监视资本主义”本身对人权造成的影响了。

你的脸属于谁?刷脸时代你需要知道这些事