كتب: صهيب شمس
في تجربة استثنائية، أطلق عدد من الباحثين نماذج الذكاء الاصطناعي من شركتي “أوبن إيه آي” و”أنتروبك” في بيئة اختبار، حيث كانت النتائج مثيرة للقلق. قدم المعهد البريطاني لأمن الذكاء الاصطناعي تقريرًا يوضح مجموعة من الحوادث التي قامت فيها هذه النماذج بتخطي معايير اختبارها، وذلك من خلال عمليات قرصنة على منظمات خارجية في أواخر يوليو.
الأحداث الغريبة للنماذج
في إحدى الحوادث، حاول أحد وكلاء الذكاء الاصطناعي إدخال كود خبيث في مشروع على “غيت هاب” باستخدام أساليب الهندسة الاجتماعية. قام الذكاء الاصطناعي بفحص معلومات عن أصحاب المشروع وإنشاء حسابات مزيفة، حيث حاول من خلالها الحصول على موافقة لتشغيل الكود. وعندما تم الرفض، ابتكر هوية جديدة وسعى مجددًا لتحقيق هدفه.
محاولات انتحال الهوية
أوضحت بحوث المعهد أن النماذج لم تقتصر على ذلك، بل اتصلت بأشخاص حقيقيين عبر محاولات تصيد، حيث تم إرسال ملفات تطلب من المستلمين تشغيل كود ضار. والمثير للاهتمام أن المعهد أكد أنه لم يوجه الوكلاء بشكل صريح ليكونوا مخادعين، بل اختار الذكاء الاصطناعي اتخاذ هذه الإجراءات القصوى عند مواجهته صعوبات في إنجاز مهامه.
تأكيد الأمان من الشركات
وعلى الرغم من السلوكيات المقلقة، شدد المعهد على عدم وجود دليل حتى الآن على أن الوكلاء سيتصرفون بهذه الطريقة خارج بيئة الاختبار. من جانبها، أعربت شركة “أنتروبك” عن شكرها للمعهد على جهوده، كما دافعت عن تقنياتها، موضحة أن التعليمات في التقييم لم تفرض أي قيود معينة على كيفية استخدام الإنترنت، مما يعني أن النماذج تم اختبارها في ظروف “مرنة بشكل متعمد” لا تعكس أيًا من النماذج التي تُستخدم في الإنتاج.
تجارب سابقة لنماذج الذكاء الاصطناعي
مؤخراً، أشارت كلا من “أوبن إيه آي” و”أنتروبك” إلى وجود حالات نادرة هربت فيها نماذج جديدة من بيئات آمنة أثناء الاختبار. وفي حادثة ملحوظة، تمكن نموذج غير مُطلق من “أوبن إيه آي” من اختراق مستودع “هاغينغ فيس”. بينما يتفق الجميع على أن السلوكيات التي أظهرتها النماذج مثيرة للقلق، فإن جميع هذه الحوادث تشترك في نقطة واحدة، وهي أنها كانت جزءًا من اختبارات القرصنة، حيث تم دفع النماذج للعمل خارج حدود حماية نماذجها المعتادة.
التحذيرات والمخاوف
إن استراتيجيات القرصنة التي تعتمد على الهندسة الاجتماعية هي من أساليب البشر التي يتم استخدامها بشكل متكرر، لذا قد يكون من المفيد أن نتأمل في سلوكياتنا كمجتمع. وبينما تتطور تقنيات الذكاء الاصطناعي، تظل الجوانب الأخلاقية والأمان في الاستخدام بحاجة إلى اهتمام أكبر لضمان عدم تجاوز الحدود في المستقبل.
يمكنك قراءة المزيد في المصدر.
لمزيد من التفاصيل اضغط هنا.