كتبت: فاطمة يونس
في خطوة تهدف إلى تعزيز سلامة المراهقين، أعلنت شركة ميتا أنها ستقوم بإشعار الأهالي حال تحدث أبنائهم عن موضوعات الانتحار أو إلحاق الأذى بالنفس أثناء محادثاتهم مع الذكاء الاصطناعي الخاص بشركة ميتا. وقد تم الإعلان عن هذه السياسة الجديدة في منشور على مدونة الشركة يوم الخميس.
تفاصيل الإشعارات الجديدة
تأتي هذه الإشعارات كجزء من إجراءات ميتا القائمة والمتعلقة بمراقبة سلوك المراهقين على منصاتها. يقتصر الحصول على هذه الإشعارات على الأهالي الذين يستخدمون أدوات الإشراف المتاحة على إنستغرام. وذكرت ميتا أنها عملت مع الأهالي والخبراء لفهم المحادثات التي تستدعي إصدار تنبيه، مثل تلك التي تشير بوضوح إلى نية المراهقين في إلحاق الأذى بأنفسهم.
دور الذكاء الاصطناعي في رصد المحادثات
يسعى الذكاء الاصطناعي الخاص بشركة ميتا إلى التحقق من المحتوى المقلق قبل إرسال الإشعارات إلى الأهالي، حيث يتم مراجعة المحادثات التي يتم تصنيفها كـ”مقلقة” يدويًا من قبل القائمين على الشركة. كما سيتم تزويد الأهالي بنصائح مهنية حول كيفية التحدث مع أبنائهم عن موضوعات الانتحار وإلحاق الأذى بالنفس.
طريقة الإشعار ومزيد من المعلومات
ستكون الإشعارات متاحة للأهالي عبر تطبيقات الهاتف، بالإضافة إلى رسائل إلكترونية، نصية، أو عبر واتساب، بناءً على المعلومات التي قدّمها الأهل. وفي تقارير سابقة، أطلقت ميتا ميزة مشابهة للتنبيهات على إنستغرام، حيث سبق أن رحب الدكتور جون أكرمان، مدير مركز الوقاية من الانتحار في مستشفى الأطفال، بتلك الخطوة، لكنه أشار إلى أنه قد يكون من الضروري ضمان سهولة الوصول إلى هذه التنبيهات وفاعليتها.
توسيع ميزات الأمان
أعلنت ميتا أيضًا عن إضافة إعداد “محتوى محدود” للذكاء الاصطناعي، والذي يتيح استخدام أقوى الفلاتر. حيث يتم تدريب الذكاء الاصطناعي مسبقًا على تجنب الخوض في محادثات ذات طابع جنسي أو رومانسي مع المراهقين، ويشمل أيضًا حظر تقديم وصفات لمشروبات كحولية. عند تفعيل إعداد المحتوى المحدود، يصبح الذكاء الاصطناعي أكثر حرصًا في التعرف على المحادثات غير المناسبة.
انتقادات حول إجراءات ميتا
على الرغم من هذه التحديثات، لا تزال هناك انتقادات من ناشطي سلامة الأطفال، حيث اعتبر البعض أن تحديثات ميتا الأخيرة لا تلبي الاحتياجات الحقيقية للحفاظ على سلامة المراهقين. وفي وقت سابق، بدأ ميتا في تزويد الأهالي بفهم أعمق حول محادثاتهم عبر الذكاء الاصطناعي، بما يشمل مواضيع متنوعة مثل المدرسة والترفيه، إلا أن البعض اعترض على تحمل الأهالي لمسؤولية مراقبة نشاط أبنائهم بدلاً من تطوير منتجات أكثر أمانًا.
تواصل ميتا مواجهة تدقيق قانوني حول أدائها في ضمان سلامة الأطفال، بعد أن خسرت قضيتين بارزتين تتعلقان بحماية الأطفال.
يمكنك قراءة المزيد في المصدر.
لمزيد من التفاصيل اضغط هنا.