如果脸书（Facebook）是一个国家，它的20亿用户比世界任何国家的公民更多。这个国家受到既不透明又不可问责的不民主政权所统治。各种社交媒体已经成为当代的公共场域，背後由看不见的企业演算法管理，控制我们所得到的资讯，甚至我们的喜怒哀乐。社交媒体业者根据一套错综複杂的规则审查我们的一言一行，它们同时扮演法官和陪审团。它们还追踪我们在网路上的每一个数位行动，再从我们的数据中寻找赚钱商机，而我们往往不知不觉。
虽然网际网路在许多方面使人权运动如虎添翼，但2011年阿拉伯人民起义期间，对 “推特和脸书革命” 寄予厚望的日子，早已离我们远去。大众愈来愈了解，我们为换取看似免费的网路服务失去多少权力，对矽谷的信任感也随之江河日下。
更可恶的是脸书公然报复批评人士。《纽约时报》2018年11月的报导令人惊觉，脸书竟不择手段打击索罗斯和 “自由拒绝脸书运动” （Freedom from Facebook）等批评者，包括资助第三方散播抹黑与醜化对方的讯息。在回应该报导的声明中，脸书承认曾要求公关公司研究批评者的动机，但否认曾要求传播“假新闻”。人权观察从不接受来自任何政府的资金，但我们曾由索罗斯得到资助。
事实令人难堪，但问题核心往往就在於科技商业模式。广告驱动的免费服务本来就是为了吸引眼球，趁机收集海量个人数据，从你我的数据归纳出钜细靡遗的个人特徵，然後对这些特徵进行分析，再把它卖给广告商和其他第三方。
科技公司如何设计服务产品，可能对人权产生重大影响。各国政府、网路酸民和极端分子已将社交媒体转变成武器，用来操纵舆论、散佈仇恨、欺凌弱势和煽动暴力。以联合国调查员的发现为例，在缅甸军方对罗兴亚穆斯林的族群清洗行动中，社交媒体与仇恨言论发挥了“决定性作用”。俄罗斯和菲律宾政府都曾动员网军散播假消息，对批评政府人士进行骚扰和攻击。与此同时，一再发生的大规模数据外洩事件，以及剑桥分析公司（Cambridge Analytica）不当获取数百万脸书用户数据作为政治公关用途的醜闻，在在使人发觉我们对掌控自身数据多麽无能为力。
有些人正开始努力，追究科技公司损害人权的责任。欧洲联盟已於2016年制定全世界最周延的数据保护规範，於2018年生效实施。该法规定科技业者应如何收集、使用和分享用户个人数据，藉以强化用户掌控自身数据的权力。其他国家也逐渐向这个模式看齐。我们可能还需要制定更多规则，才能保护隐私或防治其他损害，但我们也必须谨慎避免相关立法侵害言论自由，或反而巩固科技业者对公共场域的管理权。
为此目的，欧盟已针对不利竞争行为发动反垄断措施，脸书即将因为数据处理不当而遭到调查和罚款。美国倡议团体也正在设法透过类似战术，打击不利竞争行为。同时，有些投资人正在向企业施压改善隐私政策，脸书已同意建立独立评鑑制度，解决其服务平台上的种族歧视和煽动暴力问题。联合国专家也向企业发出呼于，接受其他形式的第三方人权审核。就连科技业员工也开始组织起来，确保他们打造的产品不被滥用。
前述各种努力是好的开始，但可能还不足以挑战早已根深柢固的商业模式。社交媒体演算法的设计本来就是为了极大化 “用户参与” ──我们的点击、按赞和分享──以便从我们身上收集更多数据，创造更大的广告效益。但在刺激参与的同时，企业可能也在助长社会怨恨和两极对立。演算法可能会鼓励那些最具煽动性、党同伐异的内容，因为这种内容最容易被按赞和分享。
广告系统使企业能将社交媒体上的广告微观定位到特定的用户族群，但同时也让政府和网军可以操纵公众。为达成利润目标，社交媒体公司还必须持续吸收更多用户。但他们有时急於抢占市场，没有充分了解所在的社会及政治环境，以致对弱势群体落井下石。或者，在像中国这样的国家，政府会以牺牲用户的言论自由与隐私，做为企业的准入条件。
罪恶之源可能就是以 “免费” 广告驱动的商业模式，一些社交媒体、电子邮件、搜寻引擎和其他服务商就是靠著它发展出巨大宰制网。这种商业模式也阻碍我们解决以数位科技为媒介的人权损害，从不受审查的数据收集到社交媒体的演算法诡计。
如果规管机关、投资者和用户真的追求问责，他们应该施压要求更彻底检讨科技产业部门的商业模式，尤其是社交媒体和广告生态系统。如果科技业者真的想要重建用户信任、维护用户权利，它们就该好好反省自己的技术和商业模式所造成的伤害。