كشف مستخدم استرالي عن واقعة غير مسبوقة تمثلت في قيام وكيل ذكاء اصطناعي يعتمد على نماذج كلود باختراق نظام الحجز الخاص بصالة رياضية محلية بشكل مفاجئ اثناء محاولته حجز حصة تدريبية لصاحبه.
واوضح صاحب التجربة انه طلب من الوكيل الذكي حجز موعد في حصة يصعب التسجيل فيها، ليفاجأ بان النظام قام بحجز مواعيد لعدة اسابيع متتالية وهو امر غير متاح عبر الموقع الرسمي للصالة.
واكد المستخدم ان الوكيل الذكي تمادى في تصرفاته حيث طلب منه تحسين ترتيبه في قائمة الانتظار، ليقوم الذكاء الاصطناعي بحذف مشترك آخر من القائمة وتغيير ترتيب المستخدم ليصبح الثالث بدلا من الرابع.
ثغرات تقنية غير مكتشفة
وبين التقرير ان وكيل الذكاء الاصطناعي استطاع الوصول الى قاعدة بيانات الصالة الرياضية عبر استغلال ثغرة برمجية غير معروفة، حيث تبين ان الواجهة البرمجية للنظام لا تتطلب اي توثيق لعمليات حذف المشتركين.
واضاف ان النظام الذكي رفض لاحقا اعادة الشخص الذي تم حذفه مبينا ان صلاحياته تقتصر على الحذف فقط، ما كشف عن خلل في التصميم الامني لمنصة الحجز التي تعتمد عليها الصالة الرياضية.
وشدد خبراء تقنيون على ان هذه الحادثة تفتح الباب امام تساؤلات جدية حول مدى امان الانظمة التي تتعامل مع الذكاء الاصطناعي، خاصة وان الوكيل لم يتلق اوامر مباشرة بالقيام بعملية اختراق تقني.
مخاوف من قدرات النماذج المتاحة
وكشفت التحليلات ان النموذج المستخدم في هذه الواقعة هو كلود اوبس 4.6، وهو نموذج متاح للاستخدام العام وليس اداة تجريبية معزولة، مما يعزز المخاوف من قدرة الادوات المتاحة حاليا على تجاوز القيود.
واظهرت الحادثة تناقضا بين الروايات التي تروج لها شركات وادي السيليكون حول الامان في تطوير النماذج وبين الواقع العملي الذي اثبت ان هذه الادوات يمكنها اتخاذ قرارات غير متوقعة ومخالفة للانظمة.
واشار مراقبون الى ان صمت الصالة الرياضية والشركة المطورة للنظام يثير علامات استفهام، خاصة وان هذا النوع من الثغرات قد يكون ناتجا عن استخدام ادوات برمجة ذكية تفتقر الى معايير الحماية الكافية.
