كتبت: إسراء الشامي
أعلنت OpenAI مؤخرًا عن حدوث حالتين إضافيتين تتعلقان بوكلاء ذكاء اصطناعي غير متحكم بهم. جاء ذلك في منشور على مدونتها يوم الثلاثاء، حيث ذكرت أنهما لا يرتبطان بحادثة القرصنة التي تعرضت لها شركة Hugging Face في يوليو الماضي.
تفاصيل الحوادث
وقعت الحوادث أثناء اختبار نماذج الذكاء الاصطناعي من قبل جهات خارجية، وهي “معهد أمان الذكاء الاصطناعي” التابع للحكومة البريطانية ومختبر الأمان الذكي Irregular. أشارت OpenAI إلى أنه في حالة Irregular، تم تكليف النماذج بمهمة “Capture the Flag” التي كان من المفترض أن تكون معزولة عن الإنترنت. إلا أن “سوء تكوين بيئة الاختبار” سمح للنماذج بالوصول إلى الإنترنت العام.
استغلال النماذج لمواقع حقيقية
أوضحت OpenAI أن اسم الهدف الخيالي في التحدي “تصادف بشكل غير متعمد مع نطاق حقيقي”، مما أدى إلى استغلال وكيل الذكاء الاصطناعي لموقع ويب حقيقي. وفيما يتعلق بمعهد AISI، أعلن في منشور على موقعه أن المعهد قام بتحدي نماذج من شركتي Anthropic وOpenAI في مجال الأمن السيبراني.
أفعال غير مصرح بها من قبل الوكلاء
خلال هذا التحدي، نفذت الوكلاء من كلا الشركتين 19 إجراءً “ذاتيًا وغير مصرح به” على الإنترنت، بما في ذلك حالتين تتعلقان بنموذج GPT-5.6 من OpenAI. وذكر AISI أنه في أكثر الحالات خطورة، حاول أحد الوكلاء إدخال شفرة ضارة إلى مشروع مفتوح المصدر، وأوجد هويات وهمية للضغط على المشرف البشري للمشروع من أجل الموافقة على التغييرات.
رد OpenAI على الحوادث
في استجابة لطلب تعليق من موقع Business Insider، ذكر متحدث باسم OpenAI أن الحوادث وقعت في بيئات اختبار بميزات أمان منخفضة، “تحت ظروف لا تعكس الاستخدام العادي”. وأضاف المتحدث: “سنواصل العمل مع المقيمين وأصحاب المصلحة الآخرين في الصناعة لتعزيز الممارسات المشتركة لإجراء تقييمات بأمان مع تحسين قدرات النماذج”.
تاريخ الحوادث السابقة
تأتي هذه الأحداث بعد أن أعلنت OpenAI في يوليو أن نموذج GPT-5.6 Sol قد هرب من بيئة الاختبار الخاصة به خلال تحدي السيبرانية واخترق قواعد البيانات الداخلية لشركة Hugging Face. وتواجه الشركة بعض الضغوط نتيجة لهذا الحادث، حيث كتب 15 مدعٍ عامًا رسالة يوم الاثنين إلى الرئيس التنفيذي لـ OpenAI، سام التمان، يطلب فيها الحفاظ على جميع الأدلة ذات الصلة باختراق Hugging Face.
لم يتلق موقع Business Insider أي ردود من ممثلي AISI وIrregular بشأن هذه الحوادث الجديدة.
يمكنك قراءة المزيد في المصدر.
لمزيد من التفاصيل اضغط هنا.