كيف تدفع خوارزمية التوصيات في يوتيوب الشباب نحو التطرف؟

طالما كان موضوع توجيه خوارزمية يوتيوب للمستخدمين نحو محتوى متطرف محل نقاش. وقد اعترف برينتون تارانت، منفذ هجوم كرايستشيرش، خلال التحقيق معه بأن يوتيوب كان مصدر إلهامه. كما صرّح رئيس وزراء نيوزيلندا بأن خوارزمية المنصة هي مصدر التطرف.

وبالمثل، من المعروف أن أندرس بريفيك، الذي قتل 77 شخصًا في النرويج عام 2011، كان على اتصال بدوائر عنصرية ويمينية متطرفة عبر الإنترنت قبل وقت طويل من تنفيذه الهجوم، وقد تبنى وحاول نشر أيديولوجية العنف من خلال البيانات ومقاطع الفيديو.

كما تُظهر الدراسات الأكاديمية أن نسبة كبيرة من مقاطع الفيديو المُقترحة للمستخدمين ذوي الميول اليمينية تُروج لأيديولوجيات متطرفة. باختصار، تكشف هذه الأمثلة أن خوارزمية يوتيوب قادرة على تقريب مستخدمي مختلف الأيديولوجيات تدريجيًا من التطرف. يُكيّف يوتيوب خوارزميات توزيع المحتوى وظهوره وفقًا لنقاط الضغط في مختلف البلدان.

في تركيا تحديدًا، ينتشر المحتوى الراديكالي الهامشي ذو الطابع الديني بسرعة بين الشباب. يُعرّف بعض الدعاة السلفيين على يوتيوب النظام الاجتماعي والسياسي الحالي بمفهوم "الطاغوت"، مُستخدمين لغة تُبرر العنف من خلال مفاهيم دينية مثل الجهاد والاستشهاد. قد يُمهد تصوير الموت والاستشهاد بصورة رومانسية في هذا المحتوى في تركيا الطريق لتمجيد الكفاح المسلح ضد مؤسسات الدولة، ويُحفز عمليات التطرف الفردي.

يُمكن للشباب بسهولة التعرض لمثل هذه الدعاية عبر الإنترنت دون أي رقابة. في ضوء ذلك، لا بد من التساؤل عما إذا كانت خوارزمية يوتيوب قادرة على استقطاب شاب مدفوع بفضول ديني بحت.

في بحث أجراه  بوليتكس توداي، أنشأت نماذج لشباب محافظين مهتمين بالإسلام ولكنهم غير متطرفين. باستخدام ثلاثة هواتف مختلفة وحسابات يوتيوب نظيفة بدون سجل بحث، أجرينا عمليات بحث يومية عن محتوى ديني (مثل: "ما هو الإسلام؟"، "ما معنى الشريعة؟"، "ما هو الاستشهاد؟"، "ما هو الجهاد؟") في مواقع مختلفة على مدار أسبوع. شاهدنا الفيديوهات الأولى التي ظهرت، ثم تابعنا بالنقر على الفيديوهات الجديدة المقترحة بعد كل فيديو. بهذه الطريقة، رصدنا وسجلنا المحتوى الذي أوصى به النظام بناءً على سجل مشاهدة المستخدم، يومًا بعد يوم.

في البداية، احتوت الفيديوهات التي شاهدها المستخدم على نقاشات دينية معتدلة ومعلومات دينية أساسية. إلا أن المحتوى المقترح أصبح أكثر تطرفًا تدريجيًا في الأيام التالية. وبحلول نهاية الأسبوع، وصل سجل مشاهدة المستخدم إلى مستوى متطرف للغاية: "محاربة الطاغوت".

عند هذه المرحلة، تغيّرت استراتيجية البحث، وبدأ البحث عن مصطلحات مثل "محاربة الطاغوت". وبناءً على الفيديوهات، تم البحث عن مصطلحات متوافقة معها، مثل "صناعة الأسلحة" و"صناعة القنابل" و"كيفية استخدامها" و"كيفية محاربة الطاغوت". كان هدفنا اختبار ما إذا كان النظام سيعرض محتوى عنيفًا لمستخدم بهذه المواصفات. وباستخدام هذه المنهجية، تم إثبات كيف يمكن لمستخدم بدافع الفضول البريء أن ينجرف سريعًا في دوامة التطرف.

استنادًا إلى سجل المشاهدة، صنّف يوتيوب المستخدم على أنه منشدد، ووجّه توصياته وفقًا لذلك. ونتيجةً لذلك، واجه المستخدم مقاطع فيديو متطرفة بشكل متزايد بدلًا من المحتوى الإسلامي التقليدي. في كل مرحلة، رفعت الخوارزمية مستوى الاهتمام تدريجيًا نحو مستوى أكثر تطرفًا. أظهرت ملاحظات أن تأثير "فقاعة التصفية" الملحوظ على وسائل التواصل الاجتماعي موجود أيضًا على يوتيوب. فمع ازدياد المحتوى المُشابه لأفكار المستخدم، بدأ في تقبّل الآراء المتطرفة بشكل متزايد.
باستخدام أسلوب مماثل، أجريت تجربة لإنشاء شخصية شابة، ذات ميول يسارية، مهتمة بالعدالة والمساواة، ومهتمة بالقضايا الاجتماعية، ولكنها غير عنيفة. باستخدام حساب جديد، أجرينا عمليات بحث عامة ذات توجه يساري، مثل "العدالة الاجتماعية"، و"مجتمع متساوٍ"، و"ما هو اليسار؟"، و"الفكر اليساري في تركيا". كانت الفيديوهات الأولى التي ظهرت عبارة عن محتوى تعليمي حول التفاوتات الاجتماعية وحقوق العمال، أو خطاب يساري سائد. بعد مشاهدة هذه الفيديوهات، ظهر محتوى يساري متوازن مماثل على الصفحة الرئيسية ليوتيوب. على مدار أسبوع، لم نلحظ أي نزعات متطرفة، كتلك التي تُرى في الشخصيات اليمينية، لدى الشخصيات اليسارية. لم تظهر فيديوهات من منظمات يسارية متطرفة مثل حزب الائتلاف الشعبي الديمقراطي (DHKP-C) أو حزب الكومينتانغ الماركسي اللينيني (MLKP) في قائمة المحتوى المقترح. بقي المحتوى المقترح مُركزًا على مواضيع سائدة كالتفاوت، ونضالات العمال، وقادة اليسار التاريخيين.

تُظهر هذه النتائج أن خوارزمية يوتيوب في تركيا قد تُروج لبعض الأيديولوجيات بدرجة أكبر من غيرها. فبينما لوحظ تطرف ملحوظ في المحتوى اليميني المحافظ خلال فترة قصيرة، لم تحدث عملية مماثلة في المحتوى اليساري. قد يعود هذا الاختلاف إلى قلة ظهور المحتوى اليساري المتطرف على المنصة، أو قد يكون نابعًا من ديناميكيات تفاعل الخوارزمية. مع ذلك، تشير هذه النتائج إلى أن خطر التطرف، لا سيما على امتداد اليمين الديني، أعلى في تركيا.

يكشف البحث أن الخوارزمية قادرة على استقطاب الشباب اليمينيين والمتدينين والمحافظين في تركيا نحو التطرف في فترة وجيزة. فإذا ما تعرض الشباب لأيديولوجيات متطرفة خلال أسبوع واحد، فإن احتمال تحولهم بعد أشهر من استهلاك محتوى مماثل يُثير القلق. في الواقع، أظهرت العديد من حوادث العنف الأخيرة في تركيا تأثير التطرف عبر الإنترنت. والسؤال الأهم هو: هل تقوم خوارزمية يوتيوب بذلك عن قصد؟

وفقًا للتصريحات الرسمية، فإن الغرض الوحيد من الخوارزمية هو إبقاء المستخدمين على المنصة لأطول فترة ممكنة. إلا أنه في الواقع، يجذب المحتوى الاستفزازي مزيدًا من الانتباه ويزيد من وقت المشاهدة، لذا تُعطي الخوارزمية الأولوية لهذا النوع من المحتوى المتطرف. بمعنى آخر، وبسبب طبيعة النظام، يتمتع المحتوى المثير للجدل بميزة على المحتوى المعتدل، مما يُغذي عملية التطرف.

يعني وجود قاعدة مستخدمين مستقطبة ومتعصبة زيادة في عدد المشاهدات للمنصات. فالمحتوى الجذاب يُبقي الشباب على المنصة لفترة أطول، مما يزيد من عائدات الإعلانات. وبعد الانتقادات الشديدة التي أعقبت هجوم كرايستشيرش، أعلن يوتيوب عن إجراء تغييرات على خوارزميته، وهو ما يُمكن اعتباره اعترافًا بالمشكلة إلى حد ما.

تُعزز سلسلة الفيديوهات المقترحة شعورًا متزايدًا بـ"الظلم" و"الغضب" لدى المشاهد. فالمحتوى الذي يدور حول سؤال "ماذا تفعلون بينما يُضطهد المسلمون؟" قد يدفع شابًا ذا حساسية دينية قوية إلى حافة الانهيار، حيث يُطرح "الحل" المتمثل في الكفاح المسلح. ففي هجوم إزمير، على سبيل المثال، وصل الشاب إلى مرحلة أخذ فيها بندقية والده وأطلق النار على الشرطة. ووفقًا لتقارير صحفية، تبين أن المهاجم كان يُطلق على عائلته مرارًا وتكرارًا لقب "الكفار" وتعلم كيفية استخدام الأسلحة النارية عبر الإنترنت.

العرب