中国国际大数据产业博览会会场掠影,贵州省贵阳市,2017年5月27日。

© 2017 路透社/特约记者

作为中国群众监控系统的研究者,对于数据行销公司剑桥分析(Cambridge Analytica)的劣行被揭发,以及关于脸书隐私政策的辩论,我特别感兴趣。许多方面看来,中国让大家了解到收集数据而缺乏监督的危险──美国或任何其他国家都不该步其后尘。

在中国,社交媒体业者可能将客户信息交给恶意、侵权的第三者,这并不令人讶异。中国社交媒体业者必须将所有个人用户数据存储在中国境内,以便情治机关必要时可以取用──例如当他们调查反党言论时。

虽然大家愈来愈关注中美两国在人工智慧方面的竞赛,却少有人注意这项竞赛在保障人权方面逐渐成为一场向下探底的竞赛。部分观察家已经警觉到,中国有可能在人工智慧发展上胜过美国,因为中国开发者掌握的个人数据较多,但受到隐私权的限制较少,即使相较于隐私保护较弱的美国也是如此。

当然,在中国,不必太关心数据行销业者可能在选举时“乱搞”──毕竟中国根本没有真正的选举可以乱搞。我们也不需要去考虑这些业者可能帮助哪一个政党去攫取权力──因为只有一个政党。事实上,拥护中共领导是中国企业的固有文化,经营微信(对中国人来说如脸书一般不可或缺的软件)的企业巨人腾讯,就在总部门口树立著“跟党一起创业”的标语

身处中国的朋友也不必怀疑大数据会不会被用来操纵人民,因为我们已经知道他们在做。确实,许多中国的数据分析系统摆明了是用来从事社会控制。在美国,信用评分、预测式警务和有关保释的“风险评估”软件、以及靠著有问题的演算法运作的其他工具,已经导致贫穷人口和少数社群被边缘化,权利难保。在中国,缺乏人权保障的数据分析所造成的后果更令人担忧。人权观察2017年11月曾揭露,一个名为“警务云”的新型全国性大数据系统被用来监测和追踪各种被称为“重点人员”的人士,包括精神障碍者,不满政府者,以及新疆地区被打压的维吾尔族穆斯林人口。

我们发现另一种大数据系统也被用来监视维吾尔人。这个系统名为“一体化联合作战平台”,可以侦测偏离“常态”的活动,例如欠缴电话费,并且以此作为个人可能在政治上“不可靠”的指标。该平台会自动举报异常人员,有关当局便以矫正思想的名义使他们遭受不经司法程序的无限期拘押

同时,中国政府又开始实施另一种称为“社会信用体系”的全国大数据系统,藉著对公民从购物习惯到网上言论的各种行为进行评分,逐步打造一个没有问题的社会。信用分数偏低者将四处碰壁,从报考公职到为孩子选择学校都成问题。

和剑桥分析丑闻不同的是,我们不会看到中国发生公开的抗议,不论是针对政府的高科技监控与数据分析,或是针对企业侵犯隐私,都是如此。中国媒体虽然也会报导私人公司滥用数据的问题,但相关讨论都受到严谨限制,防范它转为批评政府或任何政治议题。在中国境内,有关国家监控的报导悉遭封锁或抹消尽净。任何网民若将我们发布的警务云调查报导转贴到国内知名网络论坛,不出几小时,所有留言就会被感测系统澈底删除。

中国政府利用个人数据发展群众监控和人工智慧项目的做法,足以说明缺乏规管加上威权主义将对人权造成何等危险的后果。即使在民主国家,监控的权力也将侵蚀民主制度,使政府权力过分膨胀而凌驾人民。

我们需要更多、更适当的规则来保护隐私,避免数据采掘和人工智慧将我们送进一个难以忍受的世界。围绕剑桥分析而起的辩论,正是呼吁相关改革的契机。