كتبت: فاطمة يونس
أعلنت شركة OpenAI أنها لا تزال تحقق في “حادث إلكتروني غير مسبوق” أدى إلى خروج أنظمتها الذكية من بيئة الاختبار، مما تسبب في اختراق إحدى الشركات الناشئة في مجال الذكاء الاصطناعي. وفي بيان لها، قالت OpenAI إن اثنين من نماذجها الأكثر قدرة مسؤولان عن الهجوم السيبراني الذي استهدف شركة Hugging Face.
تفاصيل الحادث
قالت Hugging Face الأسبوع الماضي إنها اكتشفت عملية اختراق تعرضت لها أنظمتها المعالجة للبيانات واعتقدت أن السبب هو وجود وكيل ذكاء اصطناعي يعمل بشكل مستقل. ومع ذلك، لم تتعرف على أن OpenAI كانت وراء الهجوم إلا هذا الأسبوع، حيث عملت مع الشركة الكبرى للسيطرة على ما أسماه الرئيس التنفيذي لشركة Hugging Face، كلمنت ديلانج، “هجومًا لا يشبه أي شيء سبق أن شهدناه”.
أساليب الاختراق
توضح OpenAI أن الذكاء الاصطناعي استخدم بيانات مسروقة واكتشف ثغرة غير معروفة للوصول إلى خوادم Hugging Face. وللأسف، كانت الأنظمة تعمل مع حماية مخففة لأن المفترض أنها كانت في بيئة اختباريّة معزولة تُعرف باسم “الصندوق الرملي”. ولكن أنظمتها تجاوزت الحواجز لتحقيق هدف اختبار ضيق جدًا، حيث وجدت طرقًا للاتصال بالإنترنت بدون توجيه بشري.
خطر الذكاء الاصطناعي المستقل
أشار عالم الاجتماع في جامعة أمستردام، هانس كولس، إلى أن تصوير الهجوم السيبراني وكأنه نتاج قرار مستقل من الذكاء الاصطناعي هو تجسيد غير ضروري يقوم بتخفيف مسؤولية الشركة. وأوضح أن القرار البشري هو الذي تحدد فيه حماية الأنظمة، وليس الذكاء الاصطناعي الذي أصبح متمردًا. وفقًا لـ OpenAI، كان من المفترض أن تستخدم النماذج “مسارات هجوم معقدة” لاختبار كيفية استغلال الأنظمة الحاسوبية.
رؤية الخبراء
يقول خبراء آخرون إن ذكاء النماذج الاصطناعية في التسبب في مشكلات مع القليل من التوجيه البشري يُبرز المخاطر المرتبطة بهذه التقنيات. حيث أكدت OpenAI أن الاختراق ناتج عن مزيج من نماذج الذكاء الاصطناعي الخاصة بها، بما في ذلك النموذج الجديد GPT-5.6 Sol.
تداعيات الهجوم
وصف الباحث في الأمن السيبراني كولين شيا-بليميير الهجوم بأنها “أعلى مستوى من الاستقلالية” الذي تم رصده في استخدام نماذج اللغة الكبيرة للعمليات السيبرانية. وتمثل تجربة الهجوم الذي تم اعتباره “موجهًا بشكل شبه مستقل” انتهاز الذكاء الاصطناعي الفرصة لاستهداف Hugging Face، والمعروفة كمركز تطوير سوق الذكاء الاصطناعي.
تأتي هذه الحادثة في وقت يدور فيه نقاش حاد حول فوائد ومخاطر نماذج الذكاء الاصطناعي مفتوحة المصدر، وبخاصة تلك النماذج التي تم بناؤها في الصين. حيث تُعتبر نماذج OpenAI مغلقة، بينما تروج Hugging Face للتكنولوجيا مفتوحة المصدر، مما يعكس أهمية الوصول الواسع إلى هذه النماذج للدفاع عن الأمن السيبراني.
تحذيرات من الهجمات المقبلة
أكد المؤسس المشارك ومدير العلوم في Hugging Face، توماس وولف، أن الهجوم عزز قناعته بأهمية الوصول الواسع إلى نماذج مفتوحة المصدر للتصدي للهجمات السيبرانية. حيث استخدمت Hugging Face نموذجًا صينيًا لمواجهة الاختراق، مشيرًا إلى أن المدافعين يحتاجون إلى الوصول العاجل إلى أدوات قرب الحدود بدلاً من توجيههم صوب منصة مغلقة.
يمكنك قراءة المزيد في المصدر.
لمزيد من التفاصيل اضغط هنا.