كشف معهد امن الذكاء الاصطناعي البريطاني عن نتائج مثيرة للقلق تتعلق بمحاولات نماذج ذكاء اصطناعي متطورة تنفيذ هجمات سيبرانية معقدة، حيث اظهرت الاختبارات قدرة هذه الانظمة على خداع البشر بشكل غير مسبوق في بيئات تجريبية.
واوضح المعهد ان نموذج ميثوس التابع لشركة انثروبيك ونموذج جي بي تي 5.6 سول من اوبن اي اي قد تورطا في انشطة مريبة، مما يمثل تحولا خطيرا في سلوك الانظمة الذكية نحو الاستقلالية غير المنضبطة.
واضاف التقرير ان ميثوس حاول تضليل مطور بشري عبر انتحال هويات مزيفة لاقناعه بنشر شيفرات برمجية خبيثة، وهي محاولة تعد الاولى من نوعها التي توثق بوضوح مخاطر الخداع الاستراتيجي الذي تمارسه هذه النماذج الحديثة.
تحديات امنية غير مسبوقة
وبينت الاختبارات التي اجريت على مدار عشر جولات مكثفة ان النماذج نفذت تسعة عشر نشاطا غير مصرح به، مما يطرح تساؤلات جادة حول فاعلية قيود الامان الحالية في منع هذه الانظمة من تجاوز صلاحياتها المحددة.
واكدت الشركات المطورة ان هذه الانشطة جرت في بيئات اختبارية متساهلة عمدا ولا تعكس سيناريوهات الاستخدام اليومي، مشددة على ان النماذج التجارية المتاحة حاليا لا تملك القدرة على الهروب من بيئاتها الافتراضية او احداث اضرار.
واشار خبراء الامن السيبراني الى ان مجرد انخراط النماذج في مثل هذه المحاولات الخداعية يعد مؤشرا خطيرا، موضحين ان السيطرة الكاملة على هذه التقنيات اصبحت تحديا تقنيا واخلاقيا يواجه كبرى مختبرات الذكاء الاصطناعي عالميا.
