Di Cina, kami tidak terkejut dengan keberadaan perusahaan-perusahaan media sosial yang memberikan informasi penggunanya kepada mereka yang mungkin menggunakannya untuk aktivitas yang meragukan dan melanggar hak. Perusahaan media sosial di Cina diharuskan menyimpan semua data pribadi di dalam negeri sehingga badan keamanan dapat dengan mudah mengaksesnya ketika diperlukan - seperti ketika mereka menyelidiki siapa pun yang berbicara menentang Partai Komunis Cina yang berkuasa.
Meski ada kekhawatiran yang berkembang tentang persaingan Intelektual Buatan (AI) antara Cina dan Amerika Serikat, hanya sedikit yang fokus pada bagaimana persaingan ini menjadi upaya menurunkan standar ketika berkaitan dengan perlindungan hak-hak dasar. Beberapa pengamat khawatir bahwa Cina akan mengambil alih Amerika Serikat dalam pengembangan AI karena alasan sederhana: para pengembang asal Cina dapat mengakses sejumlah besar data pribadi dengan pembatasan privasi yang jauh lebih sedikit daripada yang relatif lemah yang ditemukan di Amerika Serikat.
Di Cina, tentu saja, tak ada kebutuhan untuk mempertanyakan apakah perusahaan pemasaran data mungkin “ikut campur” dalam pemilu — tidak ada pemilu yang berarti untuk dicampuri. Dan kita tidak perlu bertanya-tanya perusahaan partai politik mana yang mungkin telah membantu melambungkan kekuasaan — di sana hanya ada satu partai. Bahkan, dukungan perusahaan untuk Partai Komunis begitu tertanam dalam budaya perusahaan Cina bahwa raksasa seperti Tencent, yang menjalankan Wechat — aplikasi mirip Facebook di mana banyak orang di Cina tak bisa hidup tanpanya — memiliki tanda yang mengatakan “Ikuti Partai “di depan markasnya.
Kami di Cina juga tak perlu khawatir tentang apakah analitik data besar dapat dimanfaatkan untuk memanipulasi populasi, kami sudah tahu itu. Memang, banyak sistem analisis data di Cina yang secara eksplisit dirancang untuk kontrol sosial. Di Amerika Serikat, penggunaan nilai kredit, piranti “penilaian resiko” terkait kebijakan prediktif, dan jaminan, dan perangkat lain yang mengandalkan algoritma bermasalah sudah memarginalkan atau menimbulkan risiko hak bagi masyarakat miskin dan kelompok-kelompok minoritas. Di Cina, konsekuensi analitik data tanpa perlindungan hak semakin lama semakin mengkhawatirkan. Sebuah sistem data besar nasional yang baru, Police Cloud, yang diungkap oleh Human Rights Watch pada November 2017, dirancang untuk memantau dan melacak kategori orang yang disebut “personel fokus.” Ini termasuk orang-orang dengan masalah kesehatan mental, orang-orang yang mengeluhkan pemerintah, dan minoritas Muslim Uighur yang sering diincar dan tinggal di wilayah barat laut Xinjiang.
Sistem data besar lainnya yang kami temukan juga dirancang untuk memantau Uighur. Sistem ini, yang diberi label “Platform Operasi Bersama Terpadu,” mendeteksi penyimpangan dari “keadaan normal,” seperti kelalaian membayar tagihan telepon, dan memperlakukan mereka sebagai indikator bahwa seseorang secara politis mungkin “tidak dapat dipercaya.” Platform itu kemudian menandai orang-orang tersebut untuk pihak berwenang, yang menjebloskan beberapa dari mereka ke dalam tahanan yang tidak sesuai hukum dan tak terbatas untuk memperbaiki pikiran mereka.
Pemerintah Cina sedang menyiapkan sistem data besar nasional lain, Sistem Kredit Sosial, untuk merancang masyarakat yang bebas masalah dengan memberi penilaian kepada warga pada kisaran perilaku mulai dari kebiasaan belanja mereka hingga cara bercakap di media online. Mereka yang memiliki nilai rendah dapat menghadapi kendala dalam segala hal mulai dari mendapatkan pekerjaan di pemerintahan hingga mengirimkan anak-anak mereka ke sekolah yang diinginkan.
Namun tidak seperti skandal Cambridge Analytica, jangan banyak berharap publik di Cina akan meluapkan kemarahan secara terbuka karena ada pengawasan berteknologi tinggi dan analisis data tinggi oleh pemerintah, atau pelanggaran yang dilakukan perusahaan terhadap privasi. Meski media Cina telah melaporkan pelanggaran data perusahaan swasta, diskusi semacam itu dibatasi dengan hati-hati untuk memastikan bahwa mereka tidak mengarah pada kritik terhadap pemerintah atau apa pun yang dianggap politis. Di Cina, melaporkan tentang pengawasan negara akan diblokir atau diberantas. Beberapa jam setelah warganet mempublikasikan laporan Police Cloud kami di forum populer Cina, sensor lantas menghapus seluruh diskusi.
Eksploitasi data pribadi oleh pemerintah Cina untuk mendorong pengawasan massal dan proyek-proyek AI-nya adalah contoh utama bagaimana kurangnya peraturan, ditambah dengan otoritarianisme, dapat menyebabkan sejumlah konsekuensi berbahaya bagi hak asasi manusia. Dan bahkan di negara-negara demokrasi, kekuatan pengawasan dapat mengikis lembaga-lembaga demokratis dan memberi pemerintah tingkat kekuasaan yang berakibat buruk atas warga negara mereka.
Kita perlu aturan yang lebih banyak dan tepat untuk melindungi privasi sebelum penambangan data dan para pengguna AI mengantar kita ke dunia di mana kita tidak ingin hidup. Perdebatan seputar Cambridge Analytica memberikan kesempatan untuk menyerukan reformasi semacam itu.
