كتبت: بسنت الفرماوي
تواجه منصة تيك توك ضغوطاً كبيرة بشأن سياساتها المتعلقة بحماية المستخدمين من المحتوى الضار. وكشف تقرير داخلي سري تم الحصول عليه من قبل بلومبرغ في 4 أغسطس، أن المنصة استبعدت حوالي 10% من مستخدميها في الولايات المتحدة من تحديثات الأمان الخوارزمية في أوائل عام 2022. وكان هذا يعني شمول نحو 15 مليون شخص، من بينهم تشايس ناسكا، البالغ من العمر 16 عاماً، الذي توفي بانتحار في فبراير 2022.
أسباب القلق حول المحتوى الضار
أظهر الفحص اللاحق لحساب ناسكا أنه كان محصورا في فقاعة غير صحية من الفيديوهات المتعلقة بالانتحار، والأذى الذاتي، والاكتئاب. حسب التقرير، لم تُطبق استراتيجيات تيك توك لتفكيك تلك التوصيات المتكررة على هذا المستخدم لأنه كان ضمن المجموعة الضابطة.
استراتيجيات تيك توك لتفكيك التوصيات المتكررة
في عام 2021، اعترفت تيك توك أن خوارزميتها قد تظهر للمستخدمين محتوى مزعج بشكل متكرر. وقد بدأ اختبار أساليب جديدة لتفكيك الأنماط المكررة لتلك المواد. وفي وقت لاحق، تم تقديم تحديث نظام التوصيات لـ90% من المستخدمين في الولايات المتحدة، في حين ظل 10% آخرين يعملون على الإصدار القديم.
التجارب الداخلية وتأثيرها على المستخدمين
سمح هذا التوزيع لتيك توك بإجراء اختبارات مقارنة، التي تسعى لمقارنة النتائج بين المجموعة التي حصلت على ميزة أمان والمجموعة التي لم تحصل عليها. ورغم أن هذه التجارب تعد جزءًا من ممارسات التقنية المعتادة، إلا أن الغرض هنا كان حماية المستخدمين من المحتوى الخطير.
نتائج الفحص اللاحق لحساب ناسكا
بعد مرور أكثر من عام على وفاة ناسكا، بدأت تيك توك بإعادة تقييم حسابه. تم تحليل 7,563 فيديو تم عرضها له في الأسبوعين الأخيرين من حياته. وأظهرت النتائج أن 73% من هذه الفيديوهات تحتوي على مواضيع تتعلق بالصحة النفسية والانتحار، مما يعكس النمط المقلق الذي سعت تيك توك إلى تفكيكه.
ردود فعل تيك توك وتعهدها بتحسين الأمان
تعهدت تيك توك بتقليل عدد المستخدمين الذين يستبعدهم من ميزات الأمان من 10% إلى أقل من 1%. ومع ذلك، لا يزال هناك 1.8 مليون مستخدم لم يحصلوا على هذه الميزات. وأظهرت الشركة، في ردودها على الأسئلة من الجهات التشريعية في مايو 2023، أنها كانت تستخدم اختبارات A/B لتقييم استراتيجيات الأمان.
الحاجة إلى ضمان سلامة المستخدمين، خاصة الفئات الشابة، كانت محور حديث الرئيس التنفيذي لشركة تيك توك، شو تشو، أمام الكونغرس، وأكد التزام الشركة بالشفافية ورفاهية المستخدمين. ومع استمرار التدقيق في سياسات المنصة، يظهر التقرير الداخلي كيف توازن تيك توك بين الأمان وقياس المؤشرات التي تحافظ على جذب المستخدمين.
يمكنك قراءة المزيد في المصدر.
لمزيد من التفاصيل اضغط هنا.