如果脸书(Facebook)是一个国家,它的20亿用户比世界任何国家的公民更多。这个国家受到既不透明又不可问责的不民主政权所统治。各种社交媒体已经成为当代的公共场域,背後由看不见的企业演算法管理,控制我们所得到的资讯,甚至我们的喜怒哀乐。社交媒体业者根据一套错综複杂的规则审查我们的一言一行,它们同时扮演法官和陪审团。它们还追踪我们在网路上的每一个数位行动,再从我们的数据中寻找赚钱商机,而我们往往不知不觉。

虽然网际网路在许多方面使人权运动如虎添翼,但2011年阿拉伯人民起义期间,对 “推特和脸书革命” 寄予厚望的日子,早已离我们远去。大众愈来愈了解,我们为换取看似免费的网路服务失去多少权力,对矽谷的信任感也随之江河日下

更可恶的是脸书公然报复批评人士。《纽约时报》2018年11月的报导令人惊觉,脸书竟不择手段打击索罗斯和 “自由拒绝脸书运动” (Freedom from Facebook)等批评者,包括资助第三方散播抹黑与醜化对方的讯息。在回应该报导的声明中,脸书承认曾要求公关公司研究批评者的动机,但否认曾要求传播“假新闻”。人权观察从不接受来自任何政府的资金,但我们曾由索罗斯得到资助。

事实令人难堪,但问题核心往往就在於科技商业模式。广告驱动的免费服务本来就是为了吸引眼球,趁机收集海量个人数据,从你我的数据归纳出钜细靡遗的个人特徵,然後对这些特徵进行分析,再把它卖给广告商和其他第三方。

科技公司如何设计服务产品,可能对人权产生重大影响。各国政府、网路酸民和极端分子已将社交媒体转变成武器,用来操纵舆论、散佈仇恨、欺凌弱势煽动暴力。以联合国调查员的发现为例,在缅甸军方对罗兴亚穆斯林的族群清洗行动中,社交媒体与仇恨言论发挥了“决定性作用”。俄罗斯菲律宾政府都曾动员网军散播假消息,对批评政府人士进行骚扰和攻击。与此同时,一再发生的大规模数据外洩事件,以及剑桥分析公司(Cambridge Analytica)不当获取数百万脸书用户数据作为政治公关用途的醜闻,在在使人发觉我们对掌控自身数据多麽无能为力

有些人正开始努力,追究科技公司损害人权的责任。欧洲联盟已於2016年制定全世界最周延的数据保护规範,於2018年生效实施。该法规定科技业者应如何收集、使用和分享用户个人数据,藉以强化用户掌控自身数据的权力。其他国家也逐渐向这个模式看齐。我们可能还需要制定更多规则,才能保护隐私或防治其他损害,但我们也必须谨慎避免相关立法侵害言论自由,或反而巩固科技业者对公共场域的管理权。

为此目的,欧盟已针对不利竞争行为发动反垄断措施,脸书即将因为数据处理不当而遭到调查罚款。美国倡议团体也正在设法透过类似战术,打击不利竞争行为。同时,有些投资人正在向企业施压改善隐私政策,脸书已同意建立独立评鑑制度,解决其服务平台上的种族歧视煽动暴力问题。联合国专家也向企业发出呼于,接受其他形式的第三方人权审核。就连科技业员工也开始组织起来,确保他们打造的产品不被滥用。

前述各种努力是好的开始,但可能还不足以挑战早已根深柢固的商业模式。社交媒体演算法的设计本来就是为了极大化 “用户参与” ──我们的点击、按赞和分享──以便从我们身上收集更多数据,创造更大的广告效益。但在刺激参与的同时,企业可能也在助长社会怨恨和两极对立。演算法可能会鼓励那些最具煽动性、党同伐异的内容,因为这种内容最容易被按赞和分享。

广告系统使企业能将社交媒体上的广告微观定位到特定的用户族群,但同时也让政府和网军可以操纵公众。为达成利润目标,社交媒体公司还必须持续吸收更多用户。但他们有时急於抢占市场,没有充分了解所在的社会及政治环境,以致对弱势群体落井下石。或者,在像中国这样的国家,政府会以牺牲用户的言论自由与隐私,做为企业的准入条件

罪恶之源可能就是以 “免费” 广告驱动的商业模式,一些社交媒体、电子邮件、搜寻引擎和其他服务商就是靠著它发展出巨大宰制网。这种商业模式也阻碍我们解决以数位科技为媒介的人权损害,从不受审查的数据收集到社交媒体的演算法诡计。

如果规管机关、投资者和用户真的追求问责,他们应该施压要求更彻底检讨科技产业部门的商业模式,尤其是社交媒体和广告生态系统。如果科技业者真的想要重建用户信任、维护用户权利,它们就该好好反省自己的技术和商业模式所造成的伤害。