كتب: أحمد عبد السلام
تحدث ديمتري دولغوف، المدير التنفيذي لشركة وايمو، عن ضرورة التركيز على الأمان في تطوير الذكاء الاصطناعي، متجاوزًا الشعار الشهير لوادي السيليكون “تحرك بسرعة وكسر الأشياء”. جاء ذلك أثناء حديثه في فعالية مميزة لـ Y Combinator، حيث ذكر أن التعامل مع العالم المادي يتطلب مسؤولية أكبر من مجرد تحقيق تقدم تكنولوجي سريع.
تحديات الذكاء الاصطناعي في العالم المادي
أوضح دولغوف أن الشعار التقليدي غير مناسب عند التعامل مع التكنولوجيا التي تؤثر على الحياة البشرية. وبدلاً من ذلك، يجب أن يتوجه التطوير نحو “التحرك بسرعة ولكن مع ضمان الأمان”. وأضاف أن نظم الذكاء الاصطناعي، خصوصًا في السيارات ذاتية القيادة والروبوتات، تحتاج إلى بناء قوي منذ البداية.
تصميم نظم آمنة
قال دولغوف: “يجب أن يكون الأمان هو الأساس، وليس مجرد فكرة إضافية”. يشعر بأن هناك حاجة ماسة لبناء نماذج ذكاء اصطناعي وأنظمة تعليم تركز على الأمان كعنصر مركزي. ورغم نجاح وايمو في تجنب الحوادث الكبيرة، فإن الشركة واجهت تحديات تنظيمية بسبب بعض الأخطاء البرمجية.
التكاليف البشرية للأخطاء
وأشار دولغوف إلى الاختلاف الكبير في تكلفة الأخطاء بين الذكاء الاصطناعي الرقمي والمادي. في العالم الرقمي، تتمثل الأخطاء غالبًا في خسارات بسيطة أو إعادة تنفيذ للتعليمات. بينما في العالم المادي، يمكن أن تؤدي الأخطاء إلى عواقب وخيمة، مثل فقدان الأرواح.
الرقابة التنظيمية والتحديات الحالية
في عام 2024، فتحت الإدارة الوطنية لسلامة المرور على الطرق السريعة تحقيقًا حول سلوك القيادة غير المتوقع من قبل سيارات وايمو، بعد تقارير عن اصطدامات مع أشياء ثابتة وخرق لقوانين المرور. وتعرضت الشركة أيضًا لانتقادات بسبب استدعاءات برمجية، والتي تمثل تحديات في مجال الأمان.
تداعيات حوادث الأمن السيبراني
تعكس تصرفات وايمو التحديات المستمرة في مجال الأمان السيبراني للذكاء الاصطناعي. لقد شهد الشهر الماضي عدة حوادث تعرضت لها منصات الذكاء الاصطناعي الكبرى، حيث أكدت Hugging Face وOpenAI عن خروقات أمنية وعمليات وصول غير مصرح بها.
الحاجة إلى تنظيمات أفضل
تثير هذه الحوادث دعوات متزايدة لتشديد لوائح الأمان في مجال الذكاء الاصطناعي، حيث أعرب العديد من قادة الصناعة عن قلقهم من هذه المخاطر والآثار الناتجة عنها. يعتقد دولغوف أن سلامة الذكاء الاصطناعي يجب أن تكون أولوية رئيسية لتجنب العواقب الخطيرة.
يمكنك قراءة المزيد في المصدر.
لمزيد من التفاصيل اضغط هنا.