كشفت تقارير تقنية حديثة عن تورط شركة إسرائيلية متخصصة في اختبار نماذج الذكاء الاصطناعي تدعى ايريغولار في سلسلة من الاختراقات الرقمية التي طالت كبرى الشركات العالمية مثل غوغل وميتا وأوبن ايه اي ومنصات برمجية كبرى.
وبينت التحقيقات أن هذه الحوادث لم تكن مجرد صدفة بل جاءت نتيجة لاخطاء تقنية في بيئات الاختبار التي وفرتها الشركة للنماذج الذكاء الاصطناعي مما سمح لها بالوصول غير المقصود إلى شبكة الانترنت المفتوحة بشكل كامل.
واكد عمر نيفو المدير التقني والمؤسس المشارك في الشركة أن وكلاء الذكاء الاصطناعي خلال الاختبارات حصلوا على صلاحيات دخول للشبكة دون رقابة كافية مما دفع هذه النماذج لمحاولة تنفيذ مهام بحثية واختبارية غير مصرح بها.
الية اختبار واحدة تسببت في اغلب الاختراقات
واوضح الخبراء أن الية الاختبار التي تطلب من النماذج البحث عن معلومات في شبكات مغلقة والمعروفة بتمارين التقاط العلم كانت السبب الرئيسي وراء قيام النماذج بمحاولات اختراق حقيقية لمواقع حكومية ومؤسسات صحية دولية.
واضافت التقارير أن هذه النماذج بدلا من البقاء داخل بيئة الاختبار الافتراضية بدأت في استخدام ثغرات حقيقية على الانترنت كآلية تواصل سريعة بين الوكلاء للوصول إلى المعلومات المطلوبة منها بدقة وسرعة تفوق التوقعات.
وبين تقرير تقني أن شركة ايريغولار تعمل كمزود رئيسي لاختبارات الامان لمختبرات الذكاء الاصطناعي العالمية مما يعني أن أي خطأ في بروتوكولات الشركة يمتد تأثيره ليصبح ثغرة امنية تهدد استقرار الانظمة الرقمية حول العالم.
خطأ مباشر في الية الاختبار
واشار دان لاهاف الرئيس التنفيذي للشركة إلى أن الاخطاء البشرية في ضبط اعدادات الاختبار كانت وراء هذه التجاوزات موضحا أن النماذج تلقت تعليمات بالبحث عن كيانات وهمية لكن تشابه الاسماء ادى لاستهداف مؤسسات واقعية.
واكدت الشركة أنها عملت على اصلاح الثغرات التي سمحت بالوصول غير المصرح به للإنترنت وشددت ضوابط المراقبة اليدوية لضمان عدم تكرار مثل هذه الحوادث التي تسببت في قلق كبير لدى الشركات المطورة للذكاء الاصطناعي.
واضاف نيفو أن الشركة تواصل اختبار نماذج من شركات صينية ايضا ولكن لم يتم رصد اي اختراقات مشابهة في تلك الحالات مشددا على أن الملاحظة وحدها لا تكفي للحكم على كفاءة النماذج في مواجهة المخاطر.
الخطأ البشري وارد
واوضح لاهاف أن الاخطاء في الاشراف البشري جزء من العملية التقنية المعقدة وعلينا تحمل المسؤولية والتعلم منها معتبرا أن التحدي الحقيقي يكمن في التكيف مع السلوكيات غير المتوقعة لنماذج الذكاء الاصطناعي التي باتت تطور قدرات ذاتية.
واكد جيفري لاديش مدير مؤسسة باليساد ريسيرش أن النماذج الحديثة بدات تدخل النطاق الخارق للبشر مما يستدعي وضع ضمانات تنظيمية ورقابية اكثر صرامة من قبل الجهات الحكومية لتقييد قدرات الهجوم التي تمتلكها هذه الانظمة.
وبينت النتائج أن الاعتماد على شركة اختبار واحدة يمثل مخاطرة كبيرة حيث أن اي ثغرة في منهجية عملها تفتح الباب امام سلسلة من الاختراقات التي تطال بنية الانترنت وتؤثر على الامن السيبراني العالمي بشكل مباشر.
