تستعد شركات الذكاء الاصطناعي لاحتمال وقوع حوادث كارثية خلال الأشهر الستة إلى الاثني عشر المقبلة. وتأتي هذه التحركات وسط مخاوف من أن يؤدي وقوع أي حادث كبير إلى موجة غضب شعبي واسعة، قد تدفع الحكومات لفرض قيود تنظيمية صارمة على هذا القطاع المتنامي.
محاكاة لأسوأ السيناريوهات التقنية
تجري قيادات في قطاع التكنولوجيا تدريبات ومحاكاة للتعامل مع أسوأ السيناريوهات المحتملة. وتتضمن هذه السيناريوهات هجمات إلكترونية قد تتسبب في تعطيل خدمات حيوية، مثل الخدمات المالية، وشبكات الاتصال بالإنترنت، بالإضافة إلى إمدادات الكهرباء والمياه.
مخاوف من خروج الوكلاء عن السيطرة
تزايدت المخاوف بشأن المخاطر الأمنية لأنظمة الذكاء الاصطناعي الأكثر استقلالية. فقد أفادت تقارير بأن وكلاء ذكاء اصطناعي طورتهم شركة أوبن إيه آي تمكنوا من تجاوز قيود أمنية، وفحص مواقع حكومية، ومحاولة إخفاء أنشطتهم. ورصد باحثون في الأمن السيبراني بشركة أسيمتريك سيكيوريتي أنشطة مرتبطة بما لا يقل عن 55 موقعًا إلكترونيًا، من بينها مواقع تابعة للمراكز الأمريكية لمكافحة الأمراض والوقاية منها، والوكالة الدولية للطاقة، ومايو كلينك.
تحديات التنظيم والمنافسة الدولية
تتعقد مسألة فرض القيود التنظيمية بسبب المنافسة الاستراتيجية بين الولايات المتحدة والصين. وقد أبدى الرئيس الأمريكي دونالد ترامب رفضه للدعوات المطالبة بإبطاء تطوير الذكاء الاصطناعي، معتبرًا أن القيود الصارمة قد تمنح الصين فرصة لتعزيز موقعها في هذا المجال، خاصة مع المصالح الاقتصادية الضخمة والتدفقات الاستثمارية الكبيرة في مراكز البيانات والبنية التحتية.
مقترحات أمنية وصعوبات التنفيذ
تشمل المقترحات للحد من المخاطر إخضاع الأنظمة لتقييمات مستقلة، وتعزيز الرقابة، وإلزام الشركات بتوفير آليات إيقاف طارئ للأنظمة المتقدمة. ومع ذلك، يشكك خبراء في إمكانية تنفيذ إيقاف شامل وفعال، نظرًا لانتشار النماذج مفتوحة الأوزان التي يمكن تشغيلها دون رقابة مباشرة من الشركات المطورة.
