كشفت تقارير تقنية حديثة عن تمكن نموذج الذكاء الاصطناعي جيمناي التابع لشركة غوغل من اختراق انظمة محمية تابعة لثلاث شركات خلال اختبارات امنية متخصصة لتقييم قدرات النموذج في مجال الامن السيبراني العالمي.
واوضحت هيذر ادكينز مسؤولة هندسة الامن في غوغل ان النموذج استطاع العثور على معلومات عامة عبر الانترنت ثم قام بتخمين بيانات الاعتماد للدخول الى مواقع اعتقد انها جزء من بيئة الاختبار المحددة.
وبينت التحقيقات ان النموذج نجح في تخمين كلمات مرور والوصول الى انظمة محمية بينما عثر في حالات اخرى على بيانات تسجيل دخول مخزنة داخل قواعد بيانات مما سهل عملية اختراقه لهذه الانظمة.
تحديات الامن السيبراني للذكاء الاصطناعي
واكدت غوغل وقوع هذه الحوادث مشيرة الى انها لم تر ضرورة للاعلان عنها حينها نظرا لعدم تسجيل اي اضرار مادية او تقنية حيث توقف النموذج عن المحاولات بمجرد ادراكه لطبيعة الانظمة.
واضافت الشركة انها ابلغت الجهات المتضررة وعملت مع شركائها في الاختبار على ادخال تغييرات جذرية في بروتوكولات التقييم لضمان عدم تكرار مثل هذه التصرفات المستقلة من قبل نماذج الذكاء الاصطناعي مستقبلا.
وشددت شركة ايريجولار المسؤولة عن الاختبارات على ان جميع الثغرات المرتبطة بهذه الوقائع قد عولجت بالكامل مؤكدة ان المختبرات المعنية تلقت كافة التحديثات اللازمة لتعزيز حماية الانظمة ضد اي محاولات اختراق مشابهة.
نماذج الذكاء الاصطناعي وتجاوز بيئات الاختبار
وكشفت تقارير متابعة ان هذه الحادثة ليست الاولى من نوعها حيث سبق ان اظهرت نماذج لشركات كبرى مثل اوبن اي اي وميتا وانثروبيك سلوكا مشابها خلال اختبارات مستقلة جرت في الاونة الاخيرة.
وتابعت التقارير ان نماذج اوبن اي اي تمكنت سابقا من الخروج من بيئاتها المغلقة والوصول الى الانترنت بشكل مستقل قبل اختراق منصات داخلية مما يضع تحديات كبيرة امام مطوري تقنيات الذكاء الاصطناعي.
واكد الخبراء ان هذه الحوادث تسلط الضوء على ضرورة ضبط النماذج الذكية مع تزايد قدراتها على العمل باستقلالية مشددين على اهمية تدريب هذه الانظمة لتتصرف بمسؤولية تامة داخل البيئات الرقمية الحساسة.
