دراسة صادمة: تيك توك يقصف المستخدمين بمحتوى ضار ومشجع على الانتحار

وجدت دراسة حديثة أن منصة تيك توك توصي بمحتوى إيذاء النفس واضطراب الأكل لبعض المستخدمين في غضون دقائق من الانضمام إلى المنصة، وفقًا لتقرير جديد نشره مركز مكافحة الكراهية الرقمية المعروف اختصارا ب"سي سي دي إتش" (CCDH).
ونشر المركز دراسة جديدة أمس الأربعاء قام فيها الباحثون بإنشاء حسابات تيك توك على أنهم مستخدمون يبلغون من العمر 13 عامًا مهتمون بمحتوى حول صورة الجسم والصحة العقلية.
ووجدت الدراسة أنه في غضون 2.6 دقيقة بعد الانضمام إلى التطبيق، أوصت خوارزمية تيك توك بمحتوى ضار يشجع على الانتحار، حيث أظهر التقرير أن المحتوى الذي يشجع اضطراب الأكل أوصت المنصة به في غضون 8 دقائق من تصفح المستخدم.
وخلال هذه الدراسة، وجد الباحثون 56 علامة تصنيف على تيك توك تستضيف مقاطع فيديو لاضطراب الأكل مع أكثر من 13.2 مليار مشاهدة.
وقال جيمس بي ستاير، المؤسس والرئيس التنفيذي لشركة "كومون ساينس ميديا" "تقوم خوارزمية تيك توك بإمطار المراهقين بمحتوى ضار يروج للانتحار واضطرابات الأكل ومشكلات صورة الجسد التي تغذي مشاكل الصحة العقلية للمراهقين".
وتطبيق تيك توك -الذي أطلقته شركة "بايت دانس" الصينية على مستوى العالم عام 2017، ويعمل من خلال خوارزميات مستوحاة من البيانات الشخصية (الإعجابات والمتابعات ووقت المشاهدة واهتمامات المستخدم)- أصبح تطبيق الوسائط الاجتماعية الأسرع نموًا في العالم، حيث وصل عدد مستخدميه إلى مليار مستخدم نشط شهريًا بحلول عام 2021.
ويوضح تقرير "سي سي دي إتش" بالتفصيل كيف تعمل خوارزميات تيك توك على تحسين مقاطع الفيديو المعروضة للمستخدمين، كما يجمع التطبيق مزيدًا من المعلومات حول تفضيلاتهم واهتماماتهم.
تم تصميم الاقتراحات من الخوارزمية في موجز "فور يو" (For You)، كما يصفها التطبيق، لتكون عنصرا مركزيا في تجربة تيك توك. لكن بحثًا جديدًا يُظهر أن منصة الفيديو يمكن أن تدفع بالمحتوى الضار إلى المستخدمين الضعفاء، وهي تسعى إلى إبقائهم مهتمين.
لاختبار الخوارزمية، سجل باحثو "سي سي دي إتش" كمستخدمين في الولايات المتحدة والمملكة المتحدة وكندا وأستراليا، وأنشؤوا حسابات "قوية" و"ضعيفة" على تيك توك (المقصود بها حسابات بكامل المعلومات الخاصة بالمستخدم وحسابات بمعلومات أقل).
تم إنشاء ما مجموعه 8 حسابات، وتم جمع البيانات من كل حساب لأول 30 دقيقة من الاستخدام. يقول باحثو "سي سي دي إتش" إن نافذة تسجيل صغيرة طُورت لحساب مدى سرعة منصة الفيديو في فهم كل مستخدم ودفع المحتوى الضار المحتمل إليه.
وتظاهر كل باحث بأنه مراهق يبلغ من العمر 13 عامًا، وهو الحد الأدنى للسن الذي يسمح لتيك توك بالتسجيل في خدمته.
في جميع الاختبارات، توقف الباحثون فترة وجيزة على مقاطع الفيديو حول صورة الجسد والصحة العقلية، لقد "أحبوا" مقاطع الفيديو تلك، كما لو كانوا مراهقين مهتمين بهذا المحتوى.
عندما تمت مقارنة المشاهدات بالمعيار، وجد الباحثون أنه تم تقديم 3 أضعاف المحتوى الضار الإجمالي، ومقاطع فيديو محددة لإيذاء النفس والانتحار أكثر 12 مرة من الحسابات التي ظهر فيها محتوى يتحدث عن تخفيف الوزن والصحة العقلية بشكل جيد.
وقال عمران أحمد الرئيس التنفيذي لمركز "سي سي دي إتش" -الموجود في واشنطن العاصمة والذي يدعو إلى قانون سلامة الأطفال على الإنترنت، والذي من شأنه أن يضع حواجز لحماية القاصرين عبر الإنترنت- إن تيك توك قادر على التعرف على نقاط ضعف المستخدم ويسعى إلى استغلالها. إنه جزء مما يجعل خوارزميات تيك توك خبيثة للغاية؛ إذ يقوم التطبيق باختبار نفسية أطفالنا باستمرار والتكيف لإبقائهم على الإنترنت".
رد تيك توك
وطعن متحدث باسم تيك توك في منهجية الدراسة -حسب تقرير سي بي إس (CBS)، قال "نتشاور بانتظام مع خبراء الصحة، ونزيل انتهاكات سياساتنا، ونوفر الوصول إلى الموارد الداعمة لأي شخص محتاج".
واستطرد المتحدث باسم تيك توك ليقول إن منصة الفيديو كانت "مدركة أن عرض المحتوى الخاص حسب تفضيلات المشاهد أمر مميز لكل فرد"، وأن المنصة الاجتماعية "تظل تركز على تعزيز مساحة آمنة ومريحة للجميع".
تأتي هذه الدراسة في الوقت الذي ترفع فيه أكثر من 1200 أسرة دعاوى قضائية ضد شركات التواصل الاجتماعي، بما في ذلك تيك توك.
وتزعم هذه الدعاوى أن المحتوى على منصات التواصل الاجتماعي أثر بشكل كبير على الصحة العقلية لأطفالهم، وفي بعض الحالات أدى إلى وفاتهم. ومن المتوقع أن يتم المضي قدما في أكثر من 150 دعوى قضائية العام المقبل، حسب موقع "الجزيرة".