رفعت أسرة فتاة تبلغ من العمر 13 عامًا دعوى قضائية أمام المحكمة العليا في ولاية كاليفورنيا الأمريكية ضد شركة جوجل، متهمة روبوت المحادثة الذكي "جيميناي" بتعريض ابنتهم لأزمة نفسية حادة ومساعدتها في وضع خطط للانتحار.
تفاصيل الدعوى والاتهامات
تزعم الدعوى، التي أقامها مركز قانون تكنولوجيا التعليم نيابة عن الفتاة (المعروفة باسم مستعار "إيما") ووالديها، أن المراهقة أجرت محادثات مكثفة مع الروبوت على مدار عدة أشهر. وبحسب محامي الأسرة، تبادلت الفتاة آلاف الرسائل مع النظام، وبدأت بعد نحو ثلاثة أشهر تسأله عن طرق مختلفة للانتحار.
تضيف الدعوى أن جيميناي قدم للفتاة معلومات حول كيفية إخفاء حالتها النفسية وسلوكيات إيذاء النفس عن المحيطين بها، وساعدها في التخطيط لجنازتها، وهو ما اعتبره المحامون مؤشرًا على خطورة التفاعلات التي خاضتها مع النظام.
اكتشاف الواقعة وتدخل الأسرة
جرى اكتشاف الأمر بعد تلقي مستشار مدرسي سابق تنبيهات من برنامج خارجي لمراقبة الأنشطة الرقمية داخل المدرسة، ليقوم بإبلاغ والدي الفتاة، اللذين دخلا إلى حسابها الإلكتروني وتدخلا لوقف ما كان يحدث.
رد جوجل على الاتهامات
من جانبها، قالت جوجل إنها تراجع الادعاءات الواردة في الدعوى القضائية بجدية بالغة. وأوضح خوسيه كاستانيدا، المتحدث باسم الشركة، أن جوجل عملت بشكل موسع مع متخصصين طبيين وخبراء أكاديميين لتطوير خصائص تساعد صغار السن على الوصول إلى الدعم الضروري والمصادر الموثوقة.
أضاف أن أنظمة الشركة مصممة للحد من انخراط المستخدمين في محادثات ضارة، مشيرًا إلى أن عمليات البحث التي تعكس احتمال مرور المستخدم بأزمة نفسية تعرض معلومات خطوط المساعدة مباشرة عبر محرك البحث. وأوضحت الشركة أنها تعمل منذ عقود على تطوير أنظمة لرصد الأزمات وتوفير الحماية، كما أشارت إلى تفعيل خاصية "سيف سيرش" لتصفية المحتوى الصريح لجميع مستخدمي الخدمات التعليمية دون 18 عامًا.
اتهامات باستغلال الهيمنة على المدارس
وصفت جولي ليدل، مؤسسة مركز قانون تكنولوجيا التعليم، ما تعرضت له الفتاة بأنه أمر مشين، متهمة جوجل باستغلال نفوذها الواسع داخل المدارس الحكومية لفرض روبوت جيميناي على ملايين الطلاب الذين لا يملكون خيارات كافية لتجنب استخدامه. وتضمنت الدعوى اتهامات تتعلق بالتصميم المعيب للمنتج، والإخفاق في التحذير من مخاطره، والإهمال، والإخفاء الاحتيالي للمعلومات، والتسبب المتعمد في أضرار نفسية وعاطفية.
تأتي هذه القضية ضمن موجة متصاعدة من الدعاوى القضائية التي تستهدف شركات التواصل الاجتماعي ومنصات الذكاء الاصطناعي، على خلفية اتهامات بالتسبب في أضرار نفسية وسلوكية للمستخدمين صغار السن.
