أوراق فيسبوك: كيف فشلت المنصة الاجتماعية بمنع التحريض ضد المسلمين في الهند؟

نشرت صحيفة “نيويورك تايمز” ما قالت إنها “أوراق فيسبوك” التي تظهر كفاحا وفشلا في مواجهة التضليل وخطاب الكراهية والاحتفال بالعنف في أكبر سوق للشركة وهي الهند.

وفي تقرير أعدته كل من شيرا فرانكلين وديفي ألبا، قالتا فيه إن باحثة في فيسبوك فتحت في 4 شباط/ فبراير حسابا لتكتشف تجربة التعامل مع حساب على منصة التواصل الإجتماعي كشخص يعيش في كيرالا بجنوب الهند. وعمل الحساب في الأسابيع الأولى على أساس قاعدة بسيطة: اتبع كل التوصيات التي تولدها خوارزميات فيسبوك للانضمام إلى المجموعات وشاهد تسجيلات الفيديو وحاول البحث في المواقع الجديدة. وكانت النتيجة فيضان من خطاب الكراهية والتضليل والاحتفال بالعنف والتي تم توثيقها في تقرير داخلي نشر لاحقا في ذلك الشهر.

وكتبت الباحثة في التقرير: “بعد هذا الامتحان لعملية توليد الأخبار، شاهدت صور جثث أشخاص في الأسابيع الماضية أكثر مما شاهدت في كل حياتي”.

وكان التقرير واحدا من عدة دراسات ومذكرات كتبت على فيسبوك أعدها موظفون في فيسبوك كانوا يواجهون آثار المنصة على الهند.

وهي تقدم دليلا صارخا عن الانتقادات الجادة التي قام بها ناشطو حقوق إنسان وساسة على شركة تسيطر على العالم. فقد دخلت بلدا بدون أن تفهم أثرها المحتمل على الثقافة المحلية والساسة، وفشلت في نشر مصادرها للتحرك ومواجهة المشاكل عند حدوثها. وبـ340 مليون مستخدم لفيسبوك ومنصاتها الاجتماعية المتعددة، فالهند هي أكبر سوق للشركة.

وتمثل مشاكل فيسبوك في الهند صورة مكبرة عن المشاكل التي واجهتها حول العالم، ولكنها كانت الأسوأ بسبب غياب المصادر والخبرات في فهم والتعامل مع 22 لغة رسمية في الهند. وتعتبر الأوراق التي حصلت عليها مجموعة من المنظمات الإعلامية بما فيها نيويورك تايمز هي أكبر مجموعة من المواد “أوراق فيسبوك” وهي أوراق جمعتها فرانسيس هوغين، مديرة الإنتاج السابقة في فيسبوك والتي قدمت شهادة أمام الكونغرس حول سياسات شركة التواصل الاجتماعي.

وورد اسم الهند بشكل متفرق في الأوراق التي قدمتها هوغين في شكوى إلى هيئة الأمن والتبادل. وتشمل التقارير على حسابات مزيفة مرتبطة بالحزب الحاكم ورموز المعارضة التي تحدث فوضى في الانتخابات الوطنية. وتقدم تفاصيل حول خطة دعمها مارك زوكربيرغ، مدير فيسبوك للتركيز “على التفاعلات الاجتماعية الإيجابية” أو التفاعلات بين الأصدقاء والعائلة، لكنها أدت إلى عملية تضليل في الهند، خاصة عند انتشار فيروس كورونا. ولم يكن لدى فيسبوك المصادر الكافية، ولم يكن قادرا على التعامل مع المشاكل التي خلقتها الشركة هناك، بما في ذلك المنشورات المعادية للمسلمين، وذلك حسب الوثائق.

وتقول الصحيفة إن نسبة 87% من ميزانية الشركة خصصت للولايات المتحدة، أما النسبة الباقية منها وهي 13% فقد خصصت لبقية العالم. مع أن نسبة المستخدمين في الولايات المتحدة لا تتعدى نسبة 10% من المستخدمين حول العالم. وقال المتحدث باسم فيسبوك، أندي ستون، إن الأرقام ليست كاملة ولا تحتوي على فحص الطرف الثالث للأرقام، ومعظمهم خارج الولايات المتحدة. وهذا التركيز غير المتوازن على الولايات المتحدة، ترك تداعيات عدة في عدد من الدول غير الهند. فقد كشفت الوثائق أن فيسبوك وضعت خططا لوقف عمليات التضليل أثناء انتخابات تشرين الثاني/ نوفمبر في ميانمار، بما فيها عمليات التضليل التي قامت بها الطغمة العسكرية الحاكمة. لكن الشركة أوقفت هذه الإجراءات بعد الانتخابات رغم ما كشفت عنه الأبحاث من أنها خفضت من حجم المنشورات التحريضية بنسبة 48.5%. وبعد ثلاثة أشهر قام الجيش بانقلاب عنيف في البلاد. وقالت فيسبوك إنها أدخلت معايير بعد الانقلاب لمنع أي منشورات تقف وتدعم العنف في ميانمار. وأوقفت لاحقا استخدام الجيش لفيسبوك وانستغرام.

وفي سريلانكا، كان بإمكان الأشخاص إضافة مئات الآلاف من المستخدمين إلى مجموعات فيسبوك بشكل عرضهم للعنف والمحتوى الذي يدعو إلى الكراهية. وفي إثيوبيا، قامت الجماعات القومية الشبابية وبنجاح بتنسيق الدعوات للعنف عبر الفيسبوك ونشرت محتوى تحريضيا.

وقال ستون، المتحدث باسم الشركة، إن فيسبوك استثمرت أموالا كثيرة للعثور على خطاب الكراهية في عدة لغات بما فيها الهندية والبنغالية، اللغتان الأكثر استخداما على المنصة. وأضاف أن فيسبوك خفّض حجم خطاب الكراهية الذي يشاهده الناس حول العالم إلى النصف هذا العام. وقال إن “خطاب الكراهية ضد الجماعات المهمشة بمن فيهم المسلمون هو في تصاعد في الهند وحول العالم. ولهذا قمنا بتحسين سبل الضبط ونحن ملتزمون بتحديث سياساتنا مع تطور خطاب الكراهية على الإنترنت”.

وقالت كاتي هارباث، التي قضت 10 أعوام كمديرة للسياسة وعملت مباشرة لتأمين الانتخابات الهندية: “بالتأكيد هناك مشكلة في نقص المصادر” في الهند، لكن الجواب ليس “ضخ المال على المشكلة”. وقالت إن فيسبوك بحاجة للعثور على حل يمكن تطبيقه على بقية الدول حول العالم. وقام الموظفون في الشركة وعلى مدى السنوات الماضية بدراسات وفحوص في الهند، وزاد عملهم قبل انتخابات عام 2019. وفي نهاية كانون الثاني/ يناير من ذلك العام، سافر عدد من موظفي الشركة إلى الهند لمقابلة زملائهم والتحدث مع أعداد من مستخدمي فيسبوك.

وبحسب مذكرة كتبت عن الرحلة، طلب المستخدمون في الهند من فيسبوك “تحركا ضد أنواع التضليل المرتبطة بالضرر في العالم الحقيقي، وخاصة التوتر السياسي والديني”. وبعد عشرة أيام من فتح الباحثة حسابها لدراسة عملية التضليل، أدى هجوم انتحاري في منطقة كشمير إلى جولة تضليل ونظريات مؤامرة بين المواطنين الهنود والباكستانيين. وبعد الهجوم بدأت الجماعات التي انضم إليها الباحث بنشر المحتوى المعادي لباكستان. وفي تقرير آخر نشر في كانون الأول/ديسمبر 2019 وجد أن مستخدمي فيسبوك في الهند عادة ما ينضمون إلى جماعات أكبر يصل مستوى المشاركين فيها حوالي 140 ألف شخص.

وبعدما شاركت الباحثة نتائج بحثها مع عاملين آخرين، قال لها زملاؤها إنهم مهتمون بعمليات التضليل في الانتخابات المقبلة بالهند. وبعد شهرين من بدء الانتخابات الهندية، وضعت فيسبوك سلسلة من الخطوات للحد من عمليات التضليل وخطاب الكراهية في البلد، وذلك بحسب وثيقة داخلية “الانتخابات الهندية.. دراسة حالة”.

وقدمت هذه الدراسة صورة متفائلة حول جهود الشركة، وكيف قامت الجماعات التي تعاونت معها الشركة للحد من عمليات التضليل بحذف الكم المتزايد منه. لكن الدراسة لم تتحدث عن المشكلة الضخمة التي تواجه الشركة في الهند، خاصة الروبوتات، وكذا عمليات قمع الأصوات. ففي أثناء الانتخابات، لاحظ فيسبوك زيادة في الحسابات المزيفة المرتبطة بالجماعات السياسية المختلفة، والجهود لنشر التضليل الذي أثّر على فهم الناس لعملية التصويت.

وفي تقرير منفصل صدر بعد الانتخابات، وجدت فيسبوك أن 40% من أحسن الآراء في ولاية ويست بنغال كانت مزيفة. وحصل حساب غير حقيقي على 30 مليون معجب. وفي تقرير صدر في آذار/ مارس 2021، أظهر أن نفس المشاكل التي برزت في 2019 لا تزال قائمة. وفي وثيقة داخلية بعنوان “شبكات العداء الضارة: الهند كحالة للدراسة” لاحظ الباحثون في الشركة أن هناك جماعات وشبكات “حافلة بالمحتويات التحريضية والتضليلية ضد المسلمين”.

وأشار التقرير لعدد من المنشورات المهينة التي تشبّه المسلمين بـ”الخنازير” و”الكلاب” وزعمت خطأ وتضليلا أن القرآن الكريم يدعو الرجال المسلمين إلى اغتصاب بناتهم. ومعظم المواد التي انتشرت على مجموعات فيسبوك في الهند تدعو إلى “راشتريفا سواميسيفاك سانغ” وهي جماعة هندية متطرفة على علاقة قوية مع الحزب الحاكم في الهند وهو بهراتيا جاناتا. واتخذت الجماعة من موضوع النمو السكاني للمسلمين في ويست بنغال قضية للتحريض ودعت لطردهم وإصدار قانون يحدد الولادة.

وقال التقرير إن فيسبوك كانت تعرف بانتشار هذه المواد التحريضية على منصتها وأنها بحاجة لتحديث “المصنفات” وهي أنظمة آلية تقوم بالكشف وحذف المنشورات التي تحتوي على عنف أو لغة تحريضية. وترددت الشركة بتصنيف الجماعة الهندية المتطرفة كمنظمة خطيرة “لاعتبارات سياسية” وما سيتبع من تأثر عمليات الشركة في الهند. ومن بين 22 لغة رسمية، قالت فيسبوك إنها دربت أنظمة الذكاء الاصطناعي على خمسة منها، وأن لديها مراجعين بشر لبقية اللغات.

ولم يكن لدى الشركة قدرات بشرية مناسبة لمراقبة المحتوى المنشور بالهندية والبنغالية وكذا مراقبة معظم المحتوى الذي يستهدف المسلمين، و”لم تتحرك أو تحذر” كما جاء في التقرير. وقبل خمسة أشهر، قالت فيسبوك إنها لا تزال تواجه مشاكل في حذف خطاب الكراهية ضد المسلمين. وفي تقرير آخر كشف عن جهود جماعة متطرفة أخرى وهي باجرانع دال، وهي جماعة مرتبطة بالحزب الحاكم بهارتيا جاناتا لنشر مواد معادية للمسلمين.

وبحسب التقرير، فإن الشركة تفكر بتصنيف الجماعة كحركة خطيرة بأنها “تدعو للعنف الديني” على المنصة لكنها لم تفعل. وفي منشور للجماعة على فيسبوك، قالت “انضم للجماعة وساعد على إدارتها وزد من عددها والجماعات والأصدقاء، وقاتل من أجل الحقيقة والعدالة حتى يدمر الظلم”.

نيويورك تايمز