وفقاً لدراسة حديثة، تواجه بعض أكبر منصات التواصل الاجتماعي تحديات في اكتشاف وإزالة المحتوى الخطير الذي يشمل الانتحار وإيذاء النفس. تُظهر البيانات أن "بنترست" و"تيك توك" كانا الموقعين الوحيدين اللذين نجحا في اكتشاف وإزالة أكثر من 95% من هذا المحتوى، وذلك من بين أكثر من 12 مليون قرار بتعديل المحتوى اتخذته ست من أكبر المنصات.
المنصات الأربع الأخرى المذكورة في التقرير هي" فايسبوك"، "إنستغرام"، "إكس" و"سناب شات"، حيث وجدت مؤسسة Molly Rose، وهي منظمة خيرية مقرّها المملكة تهدف إلى الوقاية من الانتحار وموجهة خاصة نحو الشباب دون سن الـ25، أن استجابتها لمثل هذا المحتوى كانت غير متسقة وغير متساوية وغير مناسبة للغرض.
وأشارت المؤسسة إلى أن "إنستغرام" و"فايسبوك" اللذين يتبعان لشركة "ميتا"، كانا مسؤولين عن 1% فقط من جميع محتوى الانتحار وإيذاء النفس الذي اكتُشف، بينما كان "إكس" مسؤولاً عن 700 قرار فقط بشأن المحتوى.
تُحذّر المؤسسة الآن من أن قانون السلامة عبر الإنترنت الحالي لا يكفي لمعالجة ما تعتبره “إخفاقات منهجية واضحة” في نهج تعديل المحتوى لدى شركات وسائل التواصل الاجتماعي. وتُظهر الدراسة أن المواقع تفشل روتينياً في اكتشاف المحتوى الضار، خاصةً في الأجزاء الأكثر خطورة من خدماتها. على سبيل المثال، تم اكتشاف مقطع فيديو واحد فقط من كل 50 منشوراً للانتحار وإيذاء النفس بواسطة "إنستغرام"، على الرغم من أن ميزة الفيديو القصيرة "ريلز" Reels تمثل الآن نصف الوقت الذي يقضيه المستخدمون على التطبيق.
رداً على الدراسة، أكد متحدث باسم "ميتا" أن المحتوى الذي يشجع على الانتحار وإيذاء النفس يخالف قواعدهم، مشيراً إلى أن الإحصائيات المقدمة في التقرير لا تعكس جهود الشركة. وأضاف أنه في العام الماضي وحده، أزالت الشركة 50.6 مليون قطعة من هذا النوع من المحتوى على "فايسبوك" و"إنستغرام" على مستوى العالم، وتم اتخاذ إجراءات بشأن 99% منها قبل الإبلاغ عنها.
من جانبه، صرّح متحدث باسم "سناب شات" بأن سلامة ورفاهية المجتمع تُعد أولوية قصوى، مؤكداً أن المنصّة مُصمّمة ليكون مختلفاً عن المنصات الأخرى، مع توفير اعتدال للمحتوى قبل التوزيع العام. وأضاف أن المنصّة تحظر بشدة المحتوى الذي يروّج لإيذاء النفس أو الانتحار، وتشارك موارد الوقاية والدعم مع أعضاء المجتمع الذين قد يكونون في محنة.
وأشار متحدث باسم وزارة العلوم والابتكار والتكنولوجيا البريطانية إلى أن شركات وسائل التواصل الاجتماعي تتحمل مسؤولية واضحة للحفاظ على سلامة الأشخاص الذين يستخدمون منصاتها. وتحت قانون السلامة على الإنترنت، يواجه الأشخاص الذين يشجعون على إيذاء النفس عمداً عقوبة تصل إلى خمس سنوات في السجن. ومع تنفيذ القانون بالكامل، ستكون المنصات ملزمة أيضاً بإزالة المحتوى غير القانوني الذي يشجع على إيذاء النفس إيذاءً خطيراً ومنع الأطفال من رؤية المواد التي تروج لإيذاء النفس أو الانتحار.
