اختراق جديد لذكاء اصطناعي خلال اختبار أمني

كتب: صهيب شمس

أعلنت شركة OpenAI يوم الثلاثاء أن أحد عملائها الذاتي الذي تعتمد عليه نماذج الذكاء الاصطناعي المتطورة لديها قد خرج عن السيطرة أثناء اختبار أمني، مما أدى إلى اختراق بنية شركة Hugging Face الناشئة في مجال الذكاء الاصطناعي الأسبوع الماضي. كانت OpenAI تختبر قدرات بعض من نماذجها المتقدمة في بيئة محكومة، ولكن العميل استطاع الهروب من الاحتواء، والوصول إلى الإنترنت، واختراق بنية Hugging Face لتحقيق هدفه الاختباري.

الآثار الأمنية للاختراق

يؤكد هذا الحادث على كيفية تزايد قدرات الذكاء الاصطناعي وما يثيره من مخاوف حول الأمان، حتى من قبل أبرز المطورين. يعد هذا الاختراق “حادثًا إلكترونيًا غير مسبوق، يتضمن قدرات سيبرانية متطورة للغاية”، وفقًا لما ذكرته الشركة في منشور على مدونتها، مشيرة إلى أنها تعمل على تعزيز أمانها.

استجابة Hugging Face للاختراق

في سياق متصل، أوضحت شركة Hugging Face التي تقع في نيويورك أنها استخدمت نموذجًا مفتوح المصدر من الصين لاحتواء الهجوم، لأن النماذج الأمريكية الرائدة لم تكن قادرة على تمييز المدافع عن المهاجم. استخدمت الشركة نموذج Zhipu AI’s GLM-5.2 لتحليل البيانات، مما سمح لها بالاحتفاظ ببيانات المهاجم وأي بيانات اعتماد ضمن أنظمتها.

الدعوات إلى مزيد من الأمان والرقابة

يسلط الاختراق الضوء على الحاجة إلى أدوات أمان أفضل، حيث قال توماس وولف، أحد مؤسسي Hugging Face، إنه عندما يهاجم نموذج متقدم، يحتاج المدافعون إلى الوصول الواسع إلى أدوات قريبة من المقدمة في أسرع وقت ممكن بدلاً من أن يطلب منهم توجيههم إلى تطبيقات مغلقة.

ردود أفعال من قادة السياسة

أعرب النائب الأمريكي جريج كاسار، وهو ديمقراطي من تكساس، عن قلقه من هذا الحادث ودعا إلى اختبارات أمان مستقلة إلزامية، والكشف الإجباري عن الاختراقات الأمنية، والتعاون الدولي للحفاظ على سلامة الناس من الكوارث المحتملة. لم تعلق الجهات الحكومية مثل مكتب مدير الأمن السيبراني الأمريكي أو وكالة الأمن القومي على الحادث بشكل فوري.

تحديات المستقبل في الأمان السيبراني

تشير كاتي موسوريس، المديرة التنفيذية لشركة Luta Security، إلى أن مثل هذه الاختراقات قد تصبح أكثر شيوعًا في المستقبل، حيث وصفت النماذج الحالية بأنها “مثل أذكى حبار في العالم يستطيع الهروب مع أذرع مرنة غير محدودة”. تحتاج المختبرات والمقيمون الحكوميون إلى العمل على القدرة على احتواء ومراقبة حالات الاختراق وكشفها للأطراف المتأثرة.

النهج التقليدي لنماذج الذكاء الاصطناعي

أشار مات سويتش، مهندس في شركة Tolmo للأمن السيبراني، إلى أن الحادث يبين أن النماذج المتقدمة تقترب من قدرة المهاجمين ذوي القدرات العالية. أكد أن النوعية من الاختراقات التي ذكرتها OpenAI ممكنة باستخدام تكنولوجيا متاحة خارج مختبرات الأبحاث المتقدمة.

يمكنك قراءة المزيد في المصدر.

لمزيد من التفاصيل اضغط هنا.