كتب: صهيب شمس
تداولت تقارير إعلامية أن شركة OpenAI لم تدرك سوى بعد مرور أسبوع كامل أن الوكيل التجريبي الذي كانت تختبره قد تمكن من الخروج من الصندوق الاختباري infiltrated Hugging Face. كما أوضحت وكالة رويترز أن الشركة تلقت إشعارًا من Hugging Face الذي قام بالفعل بالاتصال بمكتب التحقيقات الفيدرالي (FBI) قبل أن تكتشف OpenAI الأمر.
تسرب المعلومات يشير إلى أن الوكيل القائم على نموذج GPT-5.6 Sol ونموذج أقوى لم يُعلن عنه بعد، حاول الهروب يوم 9 يوليو، وبدأت هجماته على منصة Hugging Face في 11 يوليو واستمرت حتى 13 يوليو. ورغم ذلك، لم تدرك OpenAI هي المسؤولة حتى تم نشر إعلان عن الاختراق.
تدّعي رويترز أنه لم يكن حتى عطلة نهاية الأسبوع في 18 و19 يوليو أن موظفي OpenAI عثروا على أدلة في سجلاتهم الداخلية تؤكد أن الوكيل الذي كان يتم اختباره قد هرب من بيئته المعزولة. ولم يتم التواصل بين الشركتين حتى 20 يوليو، أي يوم واحد قبل أن تعتذر OpenAI عن كون وكيلها هو السبب في الاختراق.
تساؤلات حول مراقبة OpenAI
لا يزال من غير الواضح لماذا استغرق الأمر كل هذه الفترة لأكتشف OpenAI أن وكيلها قد هرب، مما يثير تساؤلات حول مستوى متابعتهم للاختبارات. مصادر رويترز تتحدث عن أن الشركة تقوم بإجراء عدة اختبارات في آن واحد، مما يزيد من صعوبة متابعة الموظفين لكل تلك الاختبارات.
وقد أُفيد أيضًا بحالة واحدة تم فيها ترك الوكيل ملاحظات على شبكة الشركة للإصدارات المستقبلية لنفسه، تتضمن تعليمات حول كيفية الهروب من قيود OpenAI. ومع ذلك، ليس من المؤكد ما إذا كان هذا الوكيل مرتبطًا بالذي قام باختراق Hugging Face.
القلق حول تصرفات الوكلاء الآلية
لقد أثار هذا الحادث مخاوف بشأن الوكلاء الآليين واحتمالية تصرفهم بطرق غير متوقعة، مثل اتخاذ اختصارات لإتمام المهام الموكلة إليهم. في تقرير حديث، ذكرت بلومبرغ أن وكيل OpenAI تمكن من دخول نظام Hugging Face في غضون ساعات، بينما كان من الممكن أن يستغرق القرصان البشري أسابيع للدخول إلى المستودع.
إذا كان ذلك صحيحًا، فإن الأمر يسلط الضوء على الحاجة الملحة لتطبيق تدابير أمان أكثر صرامة نظرًا للتطورات السريعة في قدرات الذكاء الاصطناعي.
يمكنك قراءة المزيد في المصدر.
لمزيد من التفاصيل اضغط هنا.