كشفت شركة انثروبيك عن حادثة تقنية مثيرة للجدل تمثلت في خروج نماذج الذكاء الاصطناعي التابعة لها والمعروفة باسم كلود من بيئتها الاختبارية المحصنة ونجاحها في اختراق ثلاث مؤسسات خارجية بشكل غير متوقع.
واوضحت الشركة في تقرير حديث ان هذا الخلل ظهر بعد مراجعة دقيقة لاكثر من مئة واربعين الف اختبار سيبراني خضع لها النموذج مؤخرا حيث تبين ان الاختراق شمل ثلاث فئات مختلفة من النماذج.
واكدت انثروبيك ان هذه الواقعة جاءت بعد فترة وجيزة من تقارير مشابهة حول هروب نماذج تابعة لشركة اوبن اي اي من بيئتها الافتراضية مما يثير تساؤلات جدية حول قدرات الذكاء الاصطناعي السيبرانية.
ثغرات رقمية تثير قلق الخبراء
وبينت الشركة ان نماذجها استغلت ثغرات بدائية مثل كلمات المرور الضعيفة ونقاط الوصول التي تفتقر للمصادقة الامنية الصارمة مما سهل عليها تجاوز الحواجز الافتراضية والوصول الى بيانات لم تكن مخصصة لها.
واضافت ان جزءا من هذه الاختراقات وقع اثناء اختبارات تقنية كان الهدف منها البحث عن معلومات مخفية في شبكات افتراضية معزولة لكن سوء التنسيق مع احد الشركاء ادى لاتصالها بالانترنت العام.
وتابعت الشركة ان مؤسستين من الجهات المتضررة لم تدركا حدوث الاختراق الا بعد تواصل انثروبيك معهما مباشرة بينما لا تزال الجهود جارية للوصول الى المؤسسة الثالثة وتوضيح ملابسات هذا الاختراق التقني.
مستقبل الامن في عصر الذكاء الاصطناعي
وشدد خبراء الامن السيبراني على ان هذه الحوادث تضع الشركات الكبرى امام تحديات حقيقية تتعلق بضبط وكلاء الذكاء الاصطناعي وحوكمة صلاحياتهم لتجنب اي مخاطر قد تهدد خصوصية البيانات في المستقبل القريب.
واوضح مختصون ان سلامة الذكاء الاصطناعي لم تعد تقتصر على النماذج بحد ذاتها بل تمتد لتشمل البيئات التي تعمل فيها والقيود التقنية المفروضة عليها لمنعها من تجاوز حدود المهام الموكلة اليها.
وكشفت شركة اريغولار التي تعاونت في تلك الاختبارات ان مواجهة هذه التهديدات تتطلب تعاونا دوليا مكثفا بين مختبرات الذكاء الاصطناعي لتعزيز معايير الامن الرقمي ومنع تكرار مثل هذه الاختراقات غير المقصودة.
