توفر وسائل التواصل الاجتماعي صوتاً للجميع، لكنها في الوقت نفسه تغذي خطاب الكراهية، خاصة ضد الفئات المهمشة، وتقول الباحثة في مرحلة الدكتوراه “إيفا ناف”: “بينما تحمي التشفيرات الطرفية النشطاء، فإنها أيضاً تتيح النشاط الإجرامي، مما يخلق نسخة أكثر سهولة من الإنترنت المظلم”.
مذبحة بدأت بشائعة
بدأ الأمر بشائعة مفادها أن أفراداً من الروهينجا ارتكبوا جريمة اغتصاب، وعلى الرغم من أن هذه الادعاءات ثبت كذبها لاحقاً، إلا أنها انتشرت على فيسبوك، وتلقى الروهينجا تهديدات بالقتل، كما ساعدت خوارزميات فيسبوك في رفع ظهور تلك المنشورات لتصل إلى عدد أكبر من الناس، وكانت النتيجة اضطهاداً جماعياً ضد الروهينجا، حيث قُتل العديد منهم وتعرضوا للاغتصاب والطرد من البلاد.
اليوم، يستخدم أكثر من خمسة مليارات شخص وسائل التواصل الاجتماعي للتواصل، وتُظهر مأساة الروهينجا كيف يمكن لخطاب الكراهية المنتشر على الإنترنت أن يؤدي إلى عواقب وخيمة في العالم الواقعي أيضاً، حيث أجرت “إيفا ناف” بحثاً لرسالة الدكتوراه حول خطاب الكراهية على الإنترنت، ودرست فيه مسؤولية منصات التواصل الاجتماعي في مكافحته.
أهمية الإشراف على المحتوى بما يتماشى مع حقوق الإنسان
تحتاج منصات التواصل إلى تحقيق توازن دقيق عند مراقبة المحتوى ويُعرف هذا بالمصطلح التقني “إدارة المحتوى”، يجب الإبقاء على المحتوى القانوني بينما يجب تقليل ظهور أو حذف أو الإبلاغ عن الرسائل والصور ومقاطع الفيديو غير القانونية.
تحذر “ناف” أيضاً من العواقب السلبية لسياسات الإشراف التي تحذف محتوى قانونياً: “نشر نشطاء سوريون مقاطع فيديو على يوتيوب توثق جرائم حرب، لكن المنصة حذفت هذه المواد دون أرشفتها كأدلة محتملة لتحقيقات جنائية مستقبلية أو مشاركتها مع جهات إنفاذ القانون.
في المقابل، يجب إزالة خطاب الكراهية الإجرامي مثل التحريض على العنف في أسرع وقت ممكن، وتقول ناف: في حالة إبادة الروهينجا، لم يكتفِ فيسبوك بعدم حذف المحتوى المحرض على الكراهية، بل ساهم في تضخيمه بعرضه تلقائياً في خاصية “الفيديو التالي”.
دور شركة “ميتا” في الإبادة الجماعية للروهينجا
تعرضت الروهينجا، وهي أقلية مسلمة في ميانمار، للقتل والاغتصاب والاضطهاد على يد الجيش، وصنّفت الأمم المتحدة هذه الجرائم كإبادة جماعية، واضطر مئات الآلاف من الروهينجا للفرار إلى بنغلادش، وخلال هذه الفترة تم نشر تقارير كاذبة ومحتويات محرضة على الكراهية ضدهم على فيسبوك.
وفقاً لتقارير صادرة عن منظمة العفو الدولية والأمم المتحدة، فإن خوارزميات فيسبوك ساهمت في إشعال العنف الواقعي ضدهم، وأكدت هذه التقارير أن شركة “ميتا”، المالكة لـ”فيسبوك”، لعبت دوراً رئيسياً في تأجيج الإبادة، ورغم علم “فيسبوك” بوجود هذه المحتويات، لم تقم بحذفها بل روجت لها، وفي عام 2018، اعترفت الشركة بأنها تأخرت في التصدي لخطاب الكراهية، وتجري حالياً دعاوى قضائية ضد “ميتا” لدورها في هذه المأساة.
المجموعات المشفرة الضخمة: “الدارك ويب” للجميع
أصبح الإشراف على المحتوى أكثر صعوبة مع انتشار قنوات الاتصال السرية، وتقدم منصات مثل “واتساب”، “سيغنال” و”فيسبوك” تشفيراً طرفياً، ما يعني أن الرسائل لا يراها سوى المُرسِل والمتلقي وهو أمر إيجابي من حيث حماية حرية التعبير والنشطاء الحقوقيين، وتقول ناف: “لهذا تسوّق سيغنال نفسها كمنصة للنشطاء، كونها اعتمدت التشفير الطرفي منذ البداية”.
لكن هذا التشفير يشكّل أيضاً تهديدات جديدة، “فعندما لا توجد أي رقابة، يصبح من السهل أن تنتشر الأنشطة الإجرامية داخل هذه المحادثات، وبذلك تصبح أشبه بإصدار مبسط من الدارك ويب”.
تشكل المحادثات الجماعية المشفرة المشكلة الأكبر، إذ تسمح لمئات أو حتى آلاف الأشخاص بالانضمام، في البداية كان التشفير يطبق على المحادثات الفردية فقط، لكن الآن أصبح يشمل المحادثات الجماعية أيضاً، وكلما زاد عدد المشاركين زاد خطر انتهاك حقوق الإنسان.
تضيف “ناف”، أن التوجه نحو دمج التشفير الطرفي في تطبيقات المراسلة الكبرى مثل “واتساب” التابعة لـ”ميتا”، يزيد من انتشار خطاب الكراهية، مشيرة إلى أن “واتساب” ارتبط سابقاً بحوادث قتل جماعي في الهند.
مكافحة خطاب الكراهية دون انتهاك الخصوصية
عملت “ناف” مع خبراء تقنيين على تطوير أداة لمراقبة المحتوى ضمن المجموعات المشفرة الكبيرة دون انتهاك خصوصية المستخدمين، وتعتمد الأداة على قاعدة بيانات تحتوي على عبارات تحريضية على العنف بلغات مختلفة، وعند رصد أي من هذه العبارات، يمكن للنظام أن يجمّد المجموعة أو يقسمها إلى مجموعات أصغر.
لكن قبل إطلاق الأداة، يجب توضيح ما تراقبه القاعدة للمستخدمين، يجب أن تمنع هذه الأداة التحريض على العنف، وأن تشجع على التواصل باحترام، مع تعزيز وعي المستخدمين بعدم مقبولية التحريض على العنف.
وتقر “ناف” بأن الأداة ليست مثالية، فالمستخدمون قد يغيرون مفرداتهم أو حجم المجموعة لتفادي الرصد، كما أن نجاح الأداة يتطلب تعاوناً موثوقاً مع السلطات، رغم وجود مخاوف من اختراق جهات متطرفة لهذه المؤسسات، كما هناك خطر من استخدام قاعدة البيانات لرصد محتوى لا يتضمن تحريضاً حقيقياً، مما قد يعرض الفئات المهمشة للخطر.
مكبر صوت للضحايا
رغم أن اقتراحات “ناف” تركز على الوقاية، إلا أنها تفكر أيضاً في الضحايا الحاليين مثل الروهينجا، وتقول: أحد الحلول الممكنة لجبر الضرر هو تضخيم أصوات من كانوا ضحايا لخطاب الكراهية، وتقترح أن تقوم “ميتا” بتعديل خوارزمياتها لنشر المحتوى الذي ينشره أفراد من المجتمعات المستهدفة، كنوع من التعويض المعنوي وتمكين الصوت المضاد للكراهية.
(الكاتبة: هيلينا ليساغت تعمل محررة أكاديمية في جامعة ليدن بهولندا، وتسهم في إيصال الأبحاث الأكاديمية إلى الجمهور العام بلغة واضحة، وتجمع في عملها بين الخبرة في التحرير العلمي والتعاون مع الباحثين، نشر المقال بموقع جامعة ليدن، وترجمته وكالة أنباء أراكان).
