لماذا يسارع فايسبوك إلى حجب العُريّ.. بعكس الإرهاب؟

يُسارع \
يُسارع \"فايسبوك\" يومياً إلى إلغاء صور لصدور نساء عاريات


لماذا تعذّر على فايسبوك اكتشاف فيديو البث المباشر لمجزرة المسجدين في نيوزيلندا في الوقت المحدد، ولمذا لم يحذفه مباشرة، في الوقت الذي يُسارع يومياً إلى إلغاء صور لصدور نساء عاريات؟

انطلاقاً من هذا السؤال ناقشت صحيفة "لوموند" الفرنسية، في مقال نشرته مؤخراً، الانتقادات الواسعة التي تعرض إليها "فايسبوك" بسبب السماح بنشر فيديو المجزرة دون التدخل سريعاً لإيقاف البث أو حجب الفيديو، مشيرة إلى سؤال آخر في هذا السياق، وهو "لماذا فشل فايسبوك في حذف مئات الآلاف من التعليقات التي نشرها رواد الإنترنت في أنحاء العالم خلال الساعات والأيام التي أعقبت هجوم كرايست شيرش؟".

وقالت الصحيفة إن الإجابة على هذه الأسئلة تستوجب العودة إلى مسألة حدود الذكاء الاصطناعي والطريقة التي يدير بها "فايسبوك" المحتوى الارهابي، علماً أن الموقع يُشغّل أفضل المواهب في مجال التنمية والذكاء الاصطناعي في العالم، ما يساعده تقريبا على حذف جلّ المحتويات التي كان ينشرها "داعش" حتى قبل أن تنشر.

لكن "فايسبوك" يواجه نوعين من المحتوى الارهابي، الاول الذي يطّلع عليه مسبقاً على غرار الفيديو الخاص بمجزرة كرايست شيرش بعد تنفيذ الهجوم، وثانياً الفيديوهات الدعائية التي ينشرها تنظيم "داعش". ويتشارك الموقع مع شبكات اجتماعية أخرى مثل "تويتر" قاعدة بيانات لمقاطع فيديو من هذا النوع، ما يعني أنّه مع نشر الفيديو من المستخدم، يُجري "فايسبوك" مباشرة عملية مقارنة مع ما يخزنه من فيديوهات إرهابية في قاعدة البيانات ليحلل كل "بكسل" Pixel على حدة.

وأشارت "لوموند" إلى أن "فايسبوك" لا يحدد ظاهرة الإرهاب كما يفعل البشر، وإنما يراقب فقط ما إذا كان "بكسل" فيديو جديد يتماشى مع "بكسل" فيديو سبق للموقع أن اطلع عليه. ويقوم الموقع بحظر الفيديو إذا كان يحتوي على نسخ من محتوى الفيديوهات الإرهابية المسجلة لديه ضمن قاعدة البيانات. ويستخدم الموقع هذه الطريقة مع الفيديوهات التي تدعو إلى التطرف والفيديوهات التي تعرض محتويات متعلقة بالتحرش الجنسي بالأطفال، وهو كان قد اعترف بأن قرابة 300 ألف نسخة من الفيديوهات المباشرة ذات المحتوى الإرهابي يمكن نشرها في شبكته.

ولكن لماذا لم تستخدم هذه الطريقة مع الفيديو الذي نشره إرهابي كرايست شيرش خلال الساعات والأيام التي تلت العملية؟ خصوصا وأن هذه الحادثة أثارت كثيرا من الأسئلة، التي يجب على "فايسبوك" أن يجيب عنها.

يعترض "فايسبوك" أحياناً، بحسب "لوموند"، مقاطع فيديو ذات محتوى إرهابي تظهر على صفحاته لأول مرة، على غرار الصور الحية لعملية كرايست شيرش الإرهابية، التي بثت على المباشر، وذلك يعني أن الآلية التي ذُكرت آنفاً لا تتماشى مع محتوى فيديو إرهابي كرايست شيرش، لأن الفيديو تضمن محتوى جديدا. وكثيرا ما يعتمد "فايسبوك" على تشكيات مستخدميه. ووفقاً للموقع لم يبلغ أي من المستخدمين الذين شاهدوا الفيديو عن محتواه الإرهابي أثناء بثه على المباشر.

وعليه، تساءلت الصحيفة عما إذا كان يمكن لـ"فايسبوك" أن يدرب خوارزميات الذكاء الاصطناعي على عدم نشر فيديو إرهابي على المباشر، تماما كما يتعامل مع النساء اللواتي ينشرن مقاطع مباشرة وهن بصدور عاريات. لكن الحقيقة تقول إنّ "فايسبوك" يستطيع منع نشر مثل هذه الفيديوهات على المباشر، ولكن في بعض الأحيان لا يمكنه ذلك، إذا كان محتوى الفيديو له طابع فني أو توعوي.

والحال أن المشكلة تكمن أساساً في الذكاء الاصطناعي في حد ذاته، الذي لا زال ينقصه الذكاء، خصوصاً أن خوارزميات كشف المحتوى تعمل بشكل أفضل خلال تعاملها مع الصدور العارية مقارنة بالمحتوى الإرهابي. ويعزى ذلك إلى أنه في حياتنا اليومية، يستطيع المولود الجديد التعرف على الثدي، ولكنه لا يعي شيئا من خطاب أبي بكر البغدادي. ومن الممكن تقنيا اكتشاف الثدي عبر استخدام الآلية التي أشارت إليها الصحيفة مسبقا، تحديدا عبر وحدات البكسل ولونها. ولكن كيف يمكن سنّ آلية للتعرف على الإرهاب بما أن هذه الظاهرة تقبع في عقل ناشر أو مؤلف الفيديو، علاوة عن السياق الذي ينشر فيه مقطعه؟

وخلافاً للمحتوى الإرهابي، يمكن آليا التعرف على فيديو يسجل جريمة قتل عبر محتوى الفيديو في حد ذاته، على غرار الأسلحة والطلقات النارية، ولكن هذه العلامات لا تكفي لوحدها من أجل اعتبار أن الفيديو يروج لمحتوى إرهابي. كما أن برمجيات الاعتدال التلقائي غير قادرة بعد على تحديد تطلعات ناشر الفيديو أو منع بث الصور بشكل استباقي، باستثناء حظر جميع أنواع الصور أو المحتويات التي تتماشى مع التطلعات الإرهابية أو الرامية لشن عمل إرهابي، لكن بصفة عشوائية.

تعليقات: