منذ الغزو الروسي لأوكرانيا في 24 فبراير/شباط 2022، اتخذت الشركات التي تقدم خدمات التواصل الاجتماعي والتراسل مجموعة واسعة من الخطوات لمواجهة المعلومات المضللة الضارة، وتصنيف أو حجب وسائل الإعلام التي ترعاها الدولة أو التابعة لها، والتصدّي لتوجيه المنصات.
لأكثر من عقد، لعبت المنصات الرقمية دورا مهما ومتزايدا في الأزمات، والنزاعات، والحروب. كما هو الحال في إثيوبيا، والعراق، وإسرائيل/فلسطين، وليبيا، وميانمار، وسريلانكا، وسوريا، من بين دول أخرى، يستخدم الناس المنصات لتوثيق الانتهاكات الحقوقية في النزاعات، وإدانة الفظائع، ومناشدة المجتمع الدولي للعمل والاستعانة بمصادر خارجية للإغاثة والمساعدة. المنصات هي أيضا مساحات تنشر فيها الحكومات وغيرها المعلومات المضللة، والتحريض على العنف، وتنسيق الأعمال، وتجنيد المقاتلين. الحرب في أوكرانيا ليست استثناء.
تبحث هذه الأسئلة والأجوبة في ما قامت به الشركات ذات الشعبية التي تقدم خدمات التواصل الاجتماعي والتراسل خلال هذه الأزمة، وما إذا كان ذلك يفي بمسؤوليتها بشأن احترام حقوق الإنسان. تشرح الوثيقة ما لم تقم به الشركات في أوكرانيا قبل هذه الحرب، وما لم تفعله في كثير من الأحيان، أو فعلته بشكل سيئ، في أزمات أخرى حول العالم. وتعرض ما يجب على الشركات فعله لحماية حقوق الإنسان في حالات الأزمات، بما في ذلك الاستثمار في سياسات واضحة وتعديل المحتوى والشفافية.
لا تتناول الوثيقة دور شركات التكنولوجيا التي تمكّن خدماتها وأجهزتها وبرامجها وبنيتها التحتية الأشخاص من الوصول إلى الإنترنت. تتحمل هذه الشركات أيضا مسؤوليات حقوقية، ويزيد انسحابها من روسيا من خطر العزلة عن الإنترنت العالمية لسكان الدولة.
- ما هي المسؤوليات الحقوقية للشركات التي تقدم خدمات التواصل الاجتماعي والتراسل؟
- هل بذلت الشركات ما يكفي للوفاء بالتزاماتها الحقوقية في أوكرانيا قبل 24 فبراير/شباط 2022؟
- ما هي الخطوات التي اتخذتها شركات خدمات التواصل الاجتماعي والتراسل منذ 24 فبراير/شباط؟
- هل الخطوات التي اتخذتها وسائل التواصل الاجتماعي وتطبيقات التراسل في أوكرانيا تفي بمسؤولياتها الحقوقية؟
- ما الخطوات التي اتخذتها أوكرانيا وروسيا فيما يتعلق بشركات التواصل الاجتماعي وخدمات التراسل؟
- هل تفي وسائل التواصل الاجتماعي وشركات التراسل بمسؤولياتها الحقوقية في الحروب والأزمات على مستوى العالم؟
- ما الذي يجب أن تفعله وسائل التواصل الاجتماعي ومنصات التراسل لاحترام حقوق الإنسان بشكل أفضل في النزاعات وحالات الطوارئ؟
تتحمل الشركات مسؤولية احترام حقوق الإنسان وجبر الانتهاكات بموجب "مبادئ الأمم المتحدة التوجيهية بشأن الأعمال التجارية وحقوق الإنسان". وهذا يتطلب منها تجنب التعدي على حقوق الإنسان واتخاذ خطوات لمعالجة الآثار الحقوقية السلبية التي تنجم عن ممارساتها أو عملياتها. يجب أن تتماشى الإجراءات التي تتخذها الشركات مع المعايير الحقوقية الدولية، وأن تتم بطريقة شفافة وخاضعة للمساءلة، وأن تنفذ بطريقة متسقة.
كما وثقت "هيومن رايتس ووتش" والعديد من شركائها لسنوات، فإن شركات وسائل التواصل الاجتماعي تعاني من نقص مزمن في الاستثمار في الاستجابة لتحديات حقوق الإنسان في بلدان حول العالم حيث يعتمد الناس على خدماتها. أوكرانيا ليست استثناء.
حتى قبل احتلال روسيا للقرم ودعمها للنزاع في شرق أوكرانيا، نشرت روسيا آلة دعاية متقنة تقودها الدولة نشرت من خلالها مزيجا حارقا من التضليل الخبيث، واختلاق "الحقائق" والأكاذيب، والمبالغات الجامحة. من بين هذه المزاعم التي لا أساس لها من الصحة استيلاء "النازيين" على كييف، وتهديدات وجودية للإثنية الروسية في الشرق. لعب ذلك دورا حاسما في تصعيد التوترات في أوكرانيا وتأجيج النزاع منذ اندلاعه في 2014.
منذ 2014، حثت أوكرانيا الشركات مرارا وتكرارا على تحسين جهودها في أوكرانيا. وبحسب تقارير، حث الرئيس السابق "فيسبوك" على منع "الكرملين" من نشر معلومات مضللة على الشبكة الاجتماعية التي كانت تثير عدم الثقة في إدارته الجديدة (آنذاك) وتعزز دعم احتلال روسيا لأجزاء من أوكرانيا، بما في ذلك من خلال طرح سؤال على مارك زوكربيرغ خلال اجتماع عام في 2015. في مذكّرة قدّمتها عام 2021 إلى المقرر الخاص للأمم المتحدة المعني بحرية التعبير، أفادت أوكرانيا أن "التدابير التي اتخذتها شركات وسائل التواصل الاجتماعي، وممارسات حجب الملفات الشخصية المزيفة وأنشطة مدققي الحقائق كانت فعالة جزئيا فقط"، وأنه "من الصعب تقدير فعالية أنشطة شركات وسائل التواصل الاجتماعي الهادفة إلى مكافحة المعلومات المضللة وستستفيد من مستوى أعلى من الشفافية".
في سبتمبر/أيلول 2021، عقد وزير التحول الرقمي الأوكراني ميخايلو فيدوروف اجتماعا مع مسؤولي "غوغل" في "سيلكون فالي"، طالبا منهم تأسيس مكتب في أوكرانيا لأنه، في رأيه، أثناء العدوان العسكري، من الضروري أن يُشرف "يوتيوب" على المحتوى في أوكرانيا بدلا من روسيا.
قد تكون لدى الشركات أسباب وجيهة لعدم وجود موظفين داخل الدولة يشرفون على المحتوى أو يمثلون الشركة محليا، على سبيل المثال لحمايتهم من ضغوط الحكومة للامتثال لطلبات الرقابة التعسفية أو التهديدات بالسجن. بالإضافة إلى ذلك، من المهم أن توظف الشركات مشرفين على المحتوى لا يجيدون اللغات المحلية فحسب، بل ينسجمون مع السياق المحلي ويكونون قادرين على تقييم المحتوى بطريقة غير منحازة ومستقلة. كتبت "هيومن رايتس ووتش" إلى غوغل في 9 مارس/آذار مستفسرة عما إذا كان مشرفو المحتوى في أوكرانيا مقيمين في روسيا وما إذا كان لديها مكتب في أوكرانيا. لم ترد غوغل حتى نشر هذا التقرير.
منذ 24 فبراير/شباط، اتخذت الشركات التي تقدم خدمات التواصل الاجتماعي والتراسل العديد من الخطوات ردا على الحرب في أوكرانيا، وكان معظمها يهدف إلى مواجهة المعلومات المضللة الضارة، وتصنيف وسائل الإعلام التي ترعاها الدولة أو التابعة لها أو منعها، أو مكافحة التلاعب بالمنصات. تنطبق بعض هذه الإجراءات على أوكرانيا أو روسيا، وبعضها ينطبق على الاتحاد الأوروبي فقط، والبعض الآخر ينطبق على مستوى العالم. اتخذت بعض القرارات استجابة لطلبات الحكومة، وبعضها رفضا لطلبات الحكومة، والبعض الآخر استجابةً لضغوط الجمهور، أو بمبادرة من الشركات نفسها.
الحجم الكبير للإعلانات وسرعة تغيير السياسات في ما يتعلق بمجموعة واسعة من خدمات الشركة منذ 24 فبراير/شباط كانت فريدة من نوعها. لهذا السبب تراقب هيومن رايتس ووتش وآخرون عن كثب كيفية تعامل شركات وسائل التواصل الاجتماعي وتطبيقات التراسل ذات الشعبية مع الوضع المتطور، بما في ذلك كيفية استجابتهم لطلبات الحكومة والعقوبات. ما يزال تيليغرام يشذّ عن القاعدة (انظر الجدول أدناه).
في الوقت نفسه، فإن العديد من هذه الإجراءات التي أدخلتها الشركات ليست جديدة. في حالات أخرى، تبّنت الشركات إجراءات مماثلة بعد ضغوط حكومية أو عامة مستمرة، ولكن بطريقة محدودة أكثر (انظر قسم "هل تفي وسائل التواصل الاجتماعي وشركات التراسل بمسؤولياتها الحقوقية في الحروب والأزمات على مستوى العالم؟").
على سبيل المثال، لدى الشركة المعروفة سابقا باسم فيسبوك مجموعة من إجراءات "كسر الزجاج" للتعامل مع الحالات الاستثنائية، والتي قال نيك كليغ، رئيس الشؤون العالمية في فيسبوك الذي يسمى الآن "ميتا"، إنها "تسمح لنا – وإن كان لفترة مؤقتة – فعليا بإلقاء غطاء على الكثير من المحتوى الذي سيتم تداوله بحرية على أنظمتنا الأساسية". وفقا لكليغ، سيسمح هذا للشركة "بلعب دورنا كمسؤول قدر الإمكان لمنع هذا المحتوى عن قصد أو بغير قصد، من مساعدة وتحريض أولئك الذين يريدون الاستمرار في العنف والنزاع المدني الذي نراه على الأرض". تتضمن هذه الإجراءات تقييد انتشار الفيديو المباشر على منصاتها وتقليل احتمالية رؤية المستخدمين للمحتوى الذي تصنفه خوارزمياتها على أنه معلومات خاطئة محتملة. بحسب تقارير وضعت الشركة هذه الإجراءات في قائمة تسميها "البلدان المعرضة للخطر" مثل ميانمار، وإثيوبيا، وسريلانكا، والولايات المتحدة قبل الانتخابات الرئاسية لعام 2020.
كما أزالت المنصات وسائل إعلام تابعة للدول في الماضي استجابة للعقوبات والتصنيفات الإرهابية. على سبيل المثال، في 2019، ورد أن إنستغرام أزالت حسابات وكالات إعلامية مملوكة للحكومة الإيرانية وتابعة لـ "للحرس الثوري الإسلامي" مثل وكالة أنباء "تسنيم"، وصحيفة "إيران"، و"جماران نيوز". قال متحدث باسم فيسبوك، التي تمتلك إنستغرام، في ذلك الوقت، "نحن نعمل بموجب قوانين العقوبات الأمريكية، بما فيها تلك المتعلقة بتصنيف الحرس الثوري الإيراني وقيادته من قبل الحكومة الأمريكية".
أوقفت غوغل وفيسبوك الإعلانات السياسية مؤقتا قبيل يوم انتخابات 2020 في الولايات المتحدة، بينما طرحت تويتر ميزات جديدة لإضافة "الاحتكاك" إلى انتشار المعلومات المضللة. شكلت المنصات أيضا فرقا خاصة للاستجابة للأزمات وقدمت أو وجهت المستخدمين لتدابير أمنية خاصة استجابةً لحالات الطوارئ، مثل الفترة التي تبعت سقوط الحكومة الأفغانية في أغسطس/آب 2021.
في حين أن بعض تصرفات المنصات حول الحرب في أوكرانيا تشبه تلك الموجودة في مواقف أخرى، فإن بعضها يتعارض أيضا مع سياساتها في أماكن أخرى. على سبيل المثال، أعلنت ميتا في 11 مارس/آذار أنه يُسمح لمستخدمي فيسبوك وانستغرام في أوكرانيا مؤقتا بالدعوة إلى العنف ضد الروس والجنود الروس في سياق الغزو. ومع ذلك، لم يُعلن عن مثل هذه السياسة بالنسبة لسوريا، على سبيل المثال، حيث تقاتل روسيا بالشراكة مع القوات المسلحة السورية منذ سبتمبر/أيلول 2015، وحيث وثقت هيومن رايتس ووتش انتهاكات جسيمة ارتكبتها القوات الروسية تشمل ما بدا أنها جرائم حرب، وقد ترقى إلى جرائم ضد الإنسانية.
من المبكر جدا تقييم مدى كفاية الخطوات التي اتخذتها شركات التكنولوجيا منذ 24 فبراير/شباط بموجب مسؤولياتها في مجال حقوق الإنسان. تشير بعض التقارير إلى أن خطواتها لمواجهة المعلومات المضللة الضارة والمعلومات الخاطئة غير كافية.
لم تكن أي من شبكات التواصل الاجتماعي ومنصات التراسل شفافة تماما بشأن الموارد التي توجهها نحو سلامة المستخدمين والإشراف على المحتوى في أوكرانيا. كتبت هيومن رايتس ووتش إلى غوغل وميتا وتويتر في 9 مارس/آذار، وإلى تيليغرام وتيكتوك في 10 مارس/آذار للاستعلام عن عدد الناطقين بالأوكرانية الذين يراقبون المحتوى، وما إذا كانت هذه الشركات قد عيّنت موظفين في أوكرانيا مكلفين بمراقبة المحتوى، وكيف تتأكد من عمل المشرفين على المحتوى بطريقة آمنة وغير منحازة.
شاركت ميتا رابطا لمنشور من غرفة الأخبار التابعة لها، مع مجموعة معزّزة من التحديثات حول نهجها وإجراءاتها، والتي تشمل إنشاء مركز عمليات خاص يعمل به خبراء، بينهم أشخاص لغتهم الأم الروسية والأوكرانية، يراقبون المنصة على مدار الساعة، وميزات الأمان الجديدة، وخطوات مكافحة انتشار المعلومات المضللة وتوفير المزيد من الشفافية والقيود حول وسائل الإعلام التي تسيطر عليها الدولة. كما شاركت روابط لملخص عمل واستثمارات خاصة بـ "الدول المعرضة للخطر". لم تذكر الشركة ما إذا كانت أوكرانيا تعتبر "دولة معرضة للخطر" ولم ترد على أسئلتنا المحددة.
شاركت تيكتوك تحديثات لسياساتها على وسائل الإعلام التي تسيطر عليها الدولة، حيث ستعلق البث المباشر وتحميل محتوى جديد في روسيا للامتثال لقانون "الأخبار المزيفة" الجديد في روسيا وأنها تروج لمحو الأمية الرقمية وأدوات السلامة، كما هو مفصل على موقعها على الإنترنت. وقالت الشركة أيضا إنها أوقفت مؤقتا جميع الإعلانات في روسيا وأوكرانيا. قالت تيكتوك إنها لن تكشف عن معلومات حول عملياتها وموظفيها، إن وجدوا، في أوكرانيا لحماية الفريق الأوسع، وأن الشركة لا تقدم المواقع الدقيقة لمواقع الإشراف أو عدد المشرفين على المحتوى للمنصة. ومع ذلك، قالت إن فرق الإشراف على المحتوى في تيكتوك تتحدث أكثر من 60 لغة ولهجة، منها الروسية والأوكرانية.
حتى نشر هذا التقرير، لم تتلق هيومن رايتس ووتش ردودا من غوغل أوتيليغرام أو تويتر، لكنها ستحدّث هذه الوثيقة لتعكس أي ردود تتلقاها.
لإجراء تقييم كامل لفعالية استجابات الشركات في ما يتعلق باحترام حقوق المستخدمين وتخفيف المخاطر الحقوقية، فضلا عن تأثير اتخاذ الإجراءات من عدمه على حقوق الإنسان، هناك حاجة ملحة لأن تمنح الشركات الباحثين المستقلين إمكانية الوصول إلى البيانات، بما فيها تلك الموجودة في مجالات المعلومات المضللة عن حقوق الإنسان، وخطاب الكراهية، والتحريض على العنف، من بين أمور أخرى.
العديد من الإجراءات التي اتخذتها شركات وسائل التواصل الاجتماعي أثناء الحرب في أوكرانيا، مثل إزالة الحسابات، والحظر الجغرافي للقنوات الإعلامية التابعة للدولة، وإزالة المحتوى، وخفض ترتيب المحتوى، لها آثار على حرية التعبير. يجب أن تكون الشركات قادرة على إثبات كيف تتناسب أفعالها مع إطار حقوق الإنسان - تحديدا، ما إذا كانت القيود على حرية التعبير ضرورية ومتناسبة مع هدف مشروع، وما إذا كانت عادلة إجرائيا.
أيضا، من المهم تقييم ما إذا كانت هذه الإجراءات قد اتخذت نتيجة تدابير واضحة، وشفافة، وراسخة للاستجابة لطلبات الحكومات أو إنفاذ سياساتها، أو نتيجة للضغط السياسي، بالإضافة إلى العواقب المحتملة غير المقصودة لهذه الإجراءات.
اتخذت أوكرانيا عددا من الإجراءات لمكافحة المعلومات المضللة على مدار السنوات القليلة الماضية، منها تقييد الوصول إلى القنوات التلفزيونية الروسية ومنصات التواصل الاجتماعي.
في 2017، حظر الرئيس السابق بترو بوروشنكو العديد من شركات الإنترنت المملوكة لروسيا، بما في ذلك شركة "في كونتاكت" (VKontakte) وأودنوكلاسنيكي (Odnoklassniki)، وما لا يقل عن 19 موقعا إخباريا روسيا. في 2021، وقع الرئيس فولوديمير زيلينسكي على قرار مجلس الأمن الأوكراني بفرض عقوبات لمدة خمس سنوات على ثماني شركات إعلامية وتلفزيونية موالية لروسيا بزعم "تمويل الإرهاب". حينها، قالت هيومن رايتس ووتش إن "للحكومة الأوكرانية كل الحق في معالجة المعلومات المضللة والدعاية بإجراءات جادة. إلا أنه ليس هناك من ينكر أنه عند إغلاق البث، فإن العقوبات تقلل من تعددية وسائل الإعلام ويجب أن تخضع للتدقيق". في المذكرة التي قدمتها سنة 2021 إلى المقرر الخاص للأمم المتحدة المعني بحرية التعبير، وصفت أوكرانيا الحظر الذي فرضته بأنه "غير فعال" حيث لا يزال بإمكان القنوات العمل على وسائل التواصل الاجتماعي.
منذ 24 فبراير/شباط، أصدر وزير التحول الرقمي فيدوروف عددا كبيرا من الطلبات العامة لشركات التكنولوجيا، بما فيها التي توفر البنية التحتية للإنترنت. بعض الطلبات، بما فيها الموجهة إلى شركات "آبل" وغوغل وميتا وتويتر ويوتيوب و"مايكروسوفت" و"باي بال" و"سوني" و"أوراكل"، طلبت من هذه الشركات وقف عملياتها في الاتحاد الروسي، وفي بعض الحالات، طلبت حجب محتوى على وسائل الإعلام التابعة لروسيا على مستوى العالم.
صعّدت روسيا هجومها على التعبير عبر الإنترنت (وخارجه) خلال العام الماضي، وخاصة منذ غزوها أوكرانيا. في 2016، حجبت السلطات موقع "لينكد إن" لعدم امتثاله للتشريعات الروسية لمكافحة الإرهاب، والتي يشار إليها عادة باسم قانون "ياروفايا". حُظر تيليغرام في روسيا عام 2018، بعد أن رفضت الشركة تسليم بيانات المستخدمين. ألغي الحظر عام 2021.
في 25 فبراير/شباط، أعلنت 'شركة روسكومنادزور" الروسية الناظمة للإنترنت، أنها ستقيد جزئيا الوصول إلى فيسبوك في روسيا، ردا على حظر ميتا أربعة حسابات لوسائل إعلام حكومية روسية. نشر كليغ من ميتا في تويتر أنه في 24 فبراير/شباط "أمرت السلطات الروسية [ميتا] بوقف التحقق المستقل من الحقائق وتصنيف المحتوى المنشور على فيسبوك" من قبل وسائل الإعلام الأربعة المملوكة للدولة. بعد رفض ميتا، أعلنت الحكومة الروسية أنها ستقيد الوصول إلى خدمات ميتا. في 4 مارس/آذار، حظرت السلطات فيسبوك بالكامل. أكدت مجموعات تراقب الإنترنت وجود مشكلات في الوصول إلى فيسبوك.
في 26 فبراير/شباط، أعلن تويتر أن السلطات الروسية قيّدت الوصول إلى خدماته في روسيا. أكدت تقارير مجموعات مراقبة الإنترنت أن بعض مستخدمي تويتر في روسيا تعرضوا لانقطاعات كبيرة في استخدام المنصّة.
في 11 مارس/آذار، أعلنت روسكومنادزور الحظر الكامل لإنستغرام في روسيا، ليطبق في 14 مارس/آذار. جاء الحظر بعد أن أضافت ميتا استثناءات في سياستها للتعبير العنيف، مما سمح بدعوات إلى العنف ضد القوات المسلحة الروسية في أوكرانيا. رفع مكتب المدعي العام دعوى قضائية ضد ميتا في المحكمة، سعيا لحظرها باعتبارها "متطرفة". فتحت لجنة التحقيق، دائرة التحقيقات الجنائية الروسية، تحقيقا جنائيا ضد موظفي ميتا.
مستويات السيطرة والرقابة التي تسعى التدابير الروسية إلى تحقيقها تحرم الناس من حرية التعبير والحق في الوصول إلى المعلومات ذات المحتوى الهادف، ولا يمكن تبريرها بموجب القانون الدولي حتى في أوقات الحرب.
في السنوات الأخيرة، استجابت بعض شركات وسائل التواصل الاجتماعي لحالات الطوارئ أو الصراع من خلال اتخاذ خطوات للحد من انتشار التحريض المحتمل على العنف وخطاب الكراهية والمعلومات المضللة، بإزالة الحسابات التي تنتهك سياساتها، وإيقاف الإعلانات مؤقتا، وإنشاء مراكز عمليات خاصة لمراقبة منصاتها والاستجابة للقضايا الناشئة.
في الوقت نفسه، لا تستجيب المنصات بشكل كاف للعديد من النزاعات أو المواقف الخطيرة، وفي بعض الأماكن، أدى تقاعسها إلى تسهيل انتهاكات حقوق الإنسان.
يُظهر بحث داخلي أجراه فيسبوك، مثلا، أن القدرات اللغوية للشركة غير كافية للتصدي لانتشار المعلومات المضللة العالمية والتحريض على العنف، كما اتضح من تسريب لأحد المُبلّغين عن المخالفات ضم أمثلة من أفغانستان، وكمبوديا، والهند، وسريلانكا، وإسرائيل/فلسطين، والدول الناطقة بالعربية. ردا على مزاعم المُبلّغين عن المخالفات بأن الأبحاث الداخلية أظهرت أن الشركة لا تفعل ما يكفي للقضاء على الكراهية والمعلومات المضللة والتآمر، قالت ممثلة الشركة: "كل يوم، على فرقنا الموازنة بين حماية حق المليارات من الأشخاص في التعبير عن أنفسهم علانية والحاجة إلى الحفاظ على نظامنا الأساسي في مكان آمن وإيجابي. نواصل إجراء تحسينات كبيرة لمعالجة انتشار المعلومات الخاطئة والمحتوى الضار. ادعاء أننا نشجع المحتوى السيء ولا نفعل شيئا ليس صحيحا".
ردا على سؤال هيومن رايتس ووتش حول مزاعم المبلغين عن المخالفات، قدمت ميتا روابط لنهجها في البلدان المعرضة للخطر.
اتخذت الشركات خطوات للاستجابة لحالات الطوارئ والأزمات والصراعات، لكنها لم تكن دائما كافية، وفي بعض الأحيان كانت لها عواقب غير مقصودة. طريقة تنفيذ الخطوات لا تزال تثير مخاوف بشأن الشفافية والمساءلة. مثلا، تقيد المنصات بشكل غير قانوني المحتوى الذي يحرض على العنف أو يروج له بشكل غير قانوني، ولكن مثل هذا المحتوى، خاصة أثناء الأزمات والنزاعات، يمكن أن يكون له أيضا قيمة إثباتية محتملة يمكن للمحققين والباحثين والصحفيين والضحايا استخدامها لتوثيق الانتهاكات والمساعدة في تحميل المسؤولية للمتورطين فيها، من جميع الأطراف، ومحاسبتهم على الجرائم الخطيرة. أظهرت أبحاث هيومن رايتس ووتش وكذلك "مركز بيركلي لحقوق الإنسان" ومنظمتي "منيمونيك" و"ويتنس" أن الأدلة المحتملة على الجرائم الخطيرة تختفي، وأحيانا دون علم أحد.
وجهت منظمات للحقوق الرقمية، بما فيها من أوكرانيا، رسالة إلى بافيل دوروف، الرئيس التنفيذي والمؤسس المشارك لشركة تيليغرام، في ديسمبر/كانون الأول 2021 حثت فيها المنصة على معالجة مجموعة من مشاكل حقوق الإنسان التي تواجهها، بما ذلك سلامة المستخدمين ومراقبة المحتوى. أشارت الرسالة إلى الافتقار إلى سياسة محددة وإلى اتخاذ قرارات تعسفية حول مراقبة المحتوى والظروف التي بموجبها تشارك المنصة البيانات مع الحكومات. دعت المنظمات أيضا إلى آليات فعالة للإبلاغ عن الانتهاكات المحتملة من مستخدمي تيليغرام الآخرين ومعالجتها. لم ترد تيليغرام على الرسالة.
الشفافية والمساءلة في صنع القرار في المنصات أمران ضروريان لأنه يمكن لأفعالها أن تحمل آثارا سلبية حتى عندما لا تكون مقصودة، ويمكن أن تؤثر بشكل غير متناسب على أشخاص أو مجموعات معينة، ويمكن أن تشكل سوابق خطيرة قد تسعى الحكومات إلى استغلالها. يمكن أن يساعد توضيح شركة ما حول كيفية توصلها إلى قرار معين، بما فيه التبرير الحقوقي لهذا الإجراء، في التخفيف من هذه المخاطر. كما أنه يسهل معالجة الضرر الذي يلحق بالمستخدمين الأفراد وعلى مستوى السياسة العامة بشكل أكبر.
من الأمثلة على انعدام الشفافية والمساءلة تصرفات فيسبوك وإنستغرام حيال الأعمال العدائية التي اندلعت في إسرائيل وفلسطين في مايو/أيار 2021. يبدو أن الشركة اتخذت خطوات تتفق مع إجراءات "كسر الزجاج" الموضحة أعلاه، والتي تهدف ظاهريا إلى إبطاء انتشار المحتوى العنيف، رغم أنها لم تذكر ذلك صراحة. مع ذلك، تُظهر أبحاث هيومن رايتس ووتش وجماعات حقوقية أخرى أن فيسبوك أزال أو قمع محتوى نشره نشطاء، بما فيه عن انتهاكات حقوق الإنسان.
أرجعت الشركة العديد من عمليات الإزالة غير المشروعة وقمع المحتوى إلى "خلل تقني"، وهو تفسير غامض يثبط الجهود المبذولة لتحميل الشركة المسؤولية عن أفعالها وتعويض الضرر. بعد ضغوط من المجتمع المدني وتوصية من "مجلس الإشراف" على فيسبوك بإجراء فحص شامل لتحديد ما إذا كان طُبّق مراقبة المحتوى دون تحيز، طلب فيسبوك إجراء تقييم لتأثر حقوق الإنسان، والذي لا يزال قيد التنفيذ.
كتبت هيومن رايتس ووتش إلى فيسبوك في يونيو/حزيران 2021 لطلب تعليق الشركة والاستفسار عن الإجراءات المؤقتة والممارسات السابقة حول تعديل المحتوى المتعلق بإسرائيل وفلسطين. ردت الشركة بالإقرار بأنها اعتذرت مسبقا عن "تأثير هذه الإجراءات على مجتمعهم في إسرائيل وفلسطين وعلى الذين يتحدثون عن الشؤون الفلسطينية على مستوى العالم"، وقدمت مزيدا من المعلومات حول سياساتها وممارساتها. مع ذلك، لم تجب الشركة على أي من الأسئلة المحددة من هيومن رايتس ووتش ولم تتناول أيا من القضايا المثارة بشكل هادف.
في ميانمار، تتطلب استجابة فيسبوك المتأخرة وغير الكافية التي أدت إلى حملة التطهير العرقي ضد الروهينغا عام 2017 مزيدا من التدقيق. في أغسطس/آب 2018، خلص تقرير للأمم المتحدة إلى أن قوات الأمن في ميانمار ارتكبت انتهاكات ضد عرقية الروهينغا ترقى إلى جرائم ضد الإنسانية وجرائم حرب وإبادة جماعية محتملة. وجدت أيضا أن دور وسائل التواصل الاجتماعي في التحضير لفظائع ضد الروهينغا كان "مهم". بالتحديد، وجد تقرير الأمم المتحدة أن "فيسبوك كان أداة مفيدة للذين يسعون إلى نشر الكراهية في سياق يعتبر فيه معظم المستخدمين فيسبوك هو الإنترنت".
بعد وقت قصير من إصدار التقرير، أزال فيسبوك 18 حسابا و52 صفحة مرتبطة بجيش ميانمار، بما فيها صفحة القائد العام للجيش، الجنرال مين أون هلاينغ. جاءت هذه الخطوة بعد سنوات من إشارة منظمات المجتمع المدني في ميانمار إلى أمثلة واضحة للشركة على أدواتها المستخدمة في التحريض على العنف، ورد الفعل غير الكافي من فيسبوك. حتى بعد إزالة فيسبوك للحسابات الـ 18، وتوظيف مديري محتوى يتحدثون البورمية لمراقبة النظام الأساسي لخطاب الكراهية، وتطوير خوارزميات وذكاء اصطناعي لاكتشاف "الكراهية"، واصل المجتمع المدني في ميانمار الإبلاغ عن رؤية تحريض على العنف وخطاب الكراهية على المنصة.
بعد الانقلاب العسكري في 1 فبراير/شباط 2021 في ميانمار، في اعتراف ضمني بأنه يمكن فعل المزيد، أعلن فيسبوك وإنستغرام حظرا على ما تبقى من كيانات إعلام الدولة والجيش والمرتبطة بالجيش في ميانمار من فيسبوك وإنستغرام، وكذلك على إعلانات من الكيانات التجارية المرتبطة بالجيش. أعلن لاحقا أنه سيحظر الشركات التي يسيطر عليها الجيش من المنصة. أثار قرار فيسبوك تعطيل صفحة الأخبار الرسمية لجيش ميانمار بعض الانتقادات لأنها كانت إحدى الوسائل الرسمية القليلة لتلقي الاتصالات مباشرة من الجيش.
رغم أنّ الغزو الروسي لأوكرانيا يُعتبر تحديا غير مسبوق من بعض النواحي، إلا أنه سبق لهذه المنصات أن اضطُرّت للتعامل مع النزاعات الدائرة لسنوات، بما فيها في أوكرانيا. حان الوقت لتأخذ مسؤوليتها على محمل الجد.
بموجب مبادئ الأمم المتحدة التوجيهية بشأن الأعمال التجارية وحقوق الإنسان، على الشركات إجراء العناية الواجبة بحقوق الإنسان التي تشمل تحديد ومنع ووقف وتخفيف ومعالجة ومحاسبة الآثار السلبية المحتملة و/أو الفعلية على حقوق الإنسان. العناية الواجبة بحقوق الإنسان ليست فعلا لمرة واحدة، ولكنها عملية مستمرة تمكّن الشركات من تقييم المخاطر الجديدة بشكل دوري عند ظهورها. كخطوة أولى وأساسية، يجب على الشركات معالجة نقص الاستثمار المزمن في سلامة المستخدمين خارج أمريكا الشمالية وأوروبا الغربية. يتضمن ذلك نشر شروط الخدمة وإرشادات المجتمع باللغات ذات الصلة، والاستثمار في ممارسات الإشراف المسؤول البشري والآلي، والشفافية حول مكان تخصيص الموارد والسبب، من بين خطوات أخرى.
على الشركات مواءمة سياساتها مع المعايير الدولية لحقوق الإنسان، وإجراء تقييمات صارمة لتأثر حقوق الإنسان من أجل تطوير المنتجات والسياسات، والمشاركة في التقييم وإعادة التقييم المستمر والتشاور مع المجتمع المدني بطريقة هادفة.
على الشركات أيضا زيادة الشفافية والمساءلة بشكل جذري في ممارسات مراقبة المحتوى، على النحو المبين في "مبادئ سانتا كلارا"، التي أنشأتها مجموعات المجتمع المدني لوضع معايير أساسية لممارسات مراقبة محتوى المنصات مع مراعاة الإجراءات القانونية الواجبة وحقوق الإنسان. من بين التدابير الأخرى، تدعو مبادئ سانتا كلارا إلى دمج اعتبارات حقوق الإنسان والإجراءات القانونية الواجبة في جميع مراحل عملية مراقبة المحتوى، وقواعد وسياسات مفهومة، والكفاءة الثقافية بحيث يفهم الذين يتخذون قرارات المراقبة والاعتراض اللغة والثقافة والسياق السياسي والاجتماعي للمنشورات التي يراقبونها، ونزاهة وقابلية أنظمة المراقبة للفهم، بما فيها المكونات الآلية وغير الآلية، لضمان عملها بشكل موثوق وفعال.
على الشركات أيضا تعزيز سياساتها وإنفاذها. رغم أن منصات عديدة لديها سياسات لمواجهة المعلومات المضللة الضارة، وفرز وسائل الإعلام التي تسيطر عليها الدول أو الحكومات، ومواجهة التلاعب بالمنصة، لا تزال تجد نفسها غير مستعدة عند نشوء حالة صراع، ثم تُقدم على اتخاذ سياسات أو تدابير جديدة متسرعة. لماذا يستمر هذا الأمر؟
يجب أن تهتم منصات وسائل التواصل الاجتماعي ومنصات استضافة المحتوى الأخرى التي تختار إزالة المحتوى بشكل نشط بحفظ وأرشفة المحتوى المحذوف الذي قد يكون له قيمة إثباتية لانتهاكات حقوق الإنسان، بما فيه المحتوى الذي حددته منظمات حقوق الإنسان، مع ضمان خصوصية وأمن الأفراد المستضعفين المرتبطين بهذا المحتوى. هناك أيضا حاجة ملحة لتوفير الوصول إلى البيانات للباحثين المستقلين، بمن فيهم الذين يعملون في مجالات المعلومات المضللة عن حقوق الإنسان، وخطاب الكراهية، والتحريض على العنف من بين أمور أخرى، لتقييم مدى فعالية المنصات في تخفيف أو تعزيز الخطر على حقوق الإنسان الذي تيسره منصاتها، وتلبية مسؤولياتها في مجال حقوق الإنسان.
بشكل رئيسي، من الضروري معالجة نموذج الأعمال الأساسي الذي تستند إليه المنصات المهيمنة. يعتمد هذا النموذج على التتبع الشامل وتنميط المستخدمين الذي يتطفل على خصوصية الأشخاص، ويغذي الخوارزميات التي تعزز وتضخّم المحتوى المثير للانقسام والإثارة الحسية. تشير الدراسات إلى أن هذا المحتوى يحقق مزيدا من المشاركة، وبالتالي مزيدا من الربح للشركات. المراقبة الشاملة التي يُبنى عليها هذا النموذج تتعارض بشكل جوهري مع حقوق الإنسان، ولهذا السبب يجب حظر الإعلانات القائمة على المراقبة.
