Si Facebook était un pays, ce serait le plus peuplé au monde, avec plus de deux milliards d’habitants. Ce pays serait gouverné par un régime opaque, peu démocratique et ne devant rendre de comptes à personne. Les réseaux sociaux sont devenus l’équivalent moderne de la place publique, gérée par des algorithmes inédits pouvant manipuler notre accès à l’information et même influer sur nos humeurs du moment. Ils contrôlent notre discours et nos comportements grâce à un ensemble de règles byzantines grâce auxquelles les entreprises sont à la fois juges et jurés. Les médias sociaux suivent également le moindre de nos faits et gestes numériques sur le Web et monétisent les informations issues de l’exploitation de nos données, souvent de manière imprévue.
Bien que l’Internet ait été, à bien des égards, une aubaine pour le mouvement des droits humains, un long chemin a été parcouru depuis l’ivresse de la « révolution Twitter et Facebook » lors du printemps arabe en 2011. La confiance dans la Silicon Valley est tombée depuis à son plus bas alors que l’opinion publique a commencé à saisir pleinement le pouvoir que nous avons cédé en échange d’un accès à des services apparemment gratuits.
Les représailles apparentes de Facebook contre les critiques sont encore plus troublantes. Une enquête du New York Times en novembre 2018 a interpellé quant à la capacité de Facebook à s’en prendre à des critiques de premier plan tels que George Soros et la coalition Freedom from Facebook, notamment en demandant à des tiers d’inspirer un sentiment d’hostilité à leur égard ou de les discréditer. Dans une déclaration publiée en réponse à ce reportage, Facebook a reconnu avoir demandé à une compagnie de relations publiques de rechercher les motivations possibles des critiques, mais pas de diffuser de « fausses informations ». Human Rights Watch, qui n’accepte aucun financement de source gouvernementale, est partiellement financé par Soros.
La vérité qui dérange, c’est que les modèles commerciaux technologiques figurent souvent au cœur du problème. Les services gratuits, financés par la publicité, sont configurés pour attirer notre attention, collecter d’énormes quantités de données personnelles, créer des profils détaillés pour chacun d’entre nous et vendre à partir de ceux-ci des informations à des annonceurs et à des tiers.
La manière dont les entrerprises technologiques conçoivent leurs services peut avoir de graves répercussions sur les droits humains. Certains gouvernements, les « trolls » (ces internautes malveillants) et les extrémistes se servent désormais des réseaux sociaux comme d’une arme pour instrumentaliser l’opinion publique, propager la haine, harceler des communautés marginalisées et inciter à la violence. Ainsi, des enquêteurs de l’ONU ont constaté que les médias et les discours porteurs de haine avaient joué un « rôle déterminant » dans la campagne de nettoyage ethnique menée en Birmanie par les forces de sécurité contre les musulmans Rohingya. Les gouvernements de Russie et des Philippines ont mobilisé des armées de trolls pour disséminer des informations fallacieuses, harceler et prendre pour cible les critiques en ligne. Parallèlement, les détournements massifs de données et le scandale Cambridge Analytica, dans lequel un cabinet de conseil politique avait indûment eu accès aux données de millions d’utilisateurs de Facebook, ont mis en évidence le contrôle insuffisant que nous avons sur celles-ci.
Certains efforts ont commencé à tenir les entreprises technologiques pour responsables de leurs violations. En 2016, l’Union européenne a adopté le règlement le plus complet au monde en matière de protection des données, entré en vigueur en 2018. La loi permet aux utilisateurs de mieux contrôler leurs données en réglementant la manière dont les entreprises les collectent, les utilisent et les partagent. D’autres pays considèrent ces règles comme un modèle. Il faudra peut-être davantage de réglementation pour protéger la vie privée ou s’attaquer à d’autres préjudices, tout en veillant à ce que la loi ne porte pas atteinte à la liberté d’expression et ne renforce pas le rôle des entreprises technologiques comme arbitres de la sphère publique.
À cette fin, l’UE a engagé des poursuites judiciaires antitrust pour lutter contre les visées monopolistiques et Facebook a été l’objet d’enquêtes et à d’amendes pour l’utilisation illégale de données en sa possession. Des avocats américains réfléchissent à des tactiques similaires pour s’attaquer aux manœuvres visant à écraser la concurrence. Simultanément, les investisseurs font pression sur les entreprises en matière de protection de la vie privée et Facebook a accepté de procéder à des évaluations indépendantes pour lutter contre la discrimination raciale et l’incitation à la violence sur sa plateforme. Les experts de l’ONU ont appelé les entreprises à se soumettre à d’autres types d’audits des droits humains conduits par des tiers. Les techniciens eux-mêmes ont commencé à s’organiser pour faire en sorte que les services qu’ils conçoivent ne soient pas utilisés à des fins préjudiciables.
Ces efforts sont un bon début, mais pourraient s’avérer insuffisants à remettre en cause les modèles commerciaux sous-jacents. Les algorithmes des réseaux sociaux sont conçus pour maximiser « l’engagement des utilisateurs » (clics, préférences et partages), ce qui nous permet de fournir davantage de données générant toujours plus de revenus publicitaires. Mais en maximisant leur implication, les entreprises peuvent également accroître l’indignation et la polarisation de la société. Les algorithmes peuvent récompenser le contenu le plus incendiaire et partisan que les gens sont les plus susceptibles d’aimer et de partager.
Les algorithmes publicitaires permettent non seulement aux entreprises de cibler à l’extrême leurs messages à partir des données sociales spécifiques collectées sur les réseaux sociaux, mais également aux gouvernements et aux trolls de manipuler l’opinion publique. Pour atteindre leurs objectifs de revenus, les médias sociaux doivent également ajouter en permanence de nouveaux utilisateurs. Mais ils se sont parfois empressés de conquérir des marchés sans comprendre pleinement les sociétés et les environnements politiques auxquels ils ont affaire, avec des effets dévastateurs sur des groupes déjà vulnérables. Dans des pays comme la Chine, les gouvernements peuvent également demander aux entreprises de sacrifier la liberté d’expression et la vie privée des utilisateurs comme prix d’admission.
Le péché originel est peut-être le modèle commercial « gratuit » axé sur la publicité, qui a permis aux réseaux sociaux, au courrier électronique, aux recherches sur le Web et à d’autres services de se développer en vastes réseaux dominants. Ce modèle constitue également un obstacle important à la lutte contre les atteintes aux droits humains induites par le numérique, allant de la collecte de données incontrôlée au jeu des algorithmes pratiqués par les réseaux sociaux.
Si les régulateurs, les investisseurs et les utilisateurs veulent que les responsabilités soient assumées, ils doivent insister sur un réexamen nettement plus radical des modèles économiques du secteur technologique, en particulier des réseaux sociaux et des écosystèmes publicitaires. Et si les compagnies concernées veulent sérieusement rétablir la confiance des utilisateurs dans leurs services et protéger leurs droits, elles doivent prendre en compte les dommages que leur technologie et leurs modèles commerciaux peuvent causer.
-------------
Tweet
Les enjeux moraux des #MédiasSociaux : essai de @cynthiamw @hrw dans le Rapport mondial 2019 de HRW https://t.co/Z4pGCPDOmL #Rights2019 pic.twitter.com/bzLgbkFMUd
— HRW en français (@hrw_fr) 17 janvier 2019