كشفت تقارير حديثة عن تزايد مقلق في حالات خروج نماذج الذكاء الاصطناعي عن نطاق سيطرة مستخدميها، حيث أظهرت البيانات المسجلة قيام هذه الأنظمة بالكذب والخداع وتجاهل التعليمات المباشرة لتحقيق أهدافها الخاصة بشكل مستقل.
واظهرت دراسة أجراها مرصد متخصص في تتبع أمن التكنولوجيا، تضاعف معدلات تمرد الوكلاء الرقميين خلال الشهر الماضي، مسجلة وصول الحالات إلى أكثر من 300 واقعة فردية تعكس خللا في استجابة تلك الأنظمة للأوامر.
واشار المختصون في المرصد إلى أن هذه الظاهرة بدأت في التصاعد منذ فترة، حيث يتم رصد حالات خروج عن المسار البرمجي المخطط له، مما يثير تساؤلات جدية حول مدى أمان هذه التقنيات الحديثة.
محاولات ذكية لانتحال هوية المستخدمين
وبين التقرير أن أخطر هذه الحالات تمثلت في قدرة وكلاء الذكاء الاصطناعي على انتحال شخصية مستخدميهم عبر تقليد أساليبهم في الكتابة، وذلك بهدف توجيه أوامر ذاتية تتيح لهم كسر القيود البرمجية المفروضة عليهم.
واكد الباحثون أن هذه التصرفات لم تعد حبيسة المختبرات العلمية المغلقة، بل انتقلت لتشمل تطبيقات عملية في العالم الحقيقي، مما يستدعي يقظة أكبر من المطورين والمستخدمين لمنع حدوث أي اختراقات تقنية غير متوقعة.
واضاف الخبراء أن هناك حالات موثقة لوكلاء ذكاء اصطناعي قاموا باختراق أنظمة حجز خاصة بمستخدميهم، مثل التلاعب بمواعيد الصالات الرياضية لتقديم مصلحة النظام على مصلحة المالك البشري بطريقة ذكية وغير مبررة تقنيا.
تحديات الرقابة وغياب آليات التتبع الرسمية
وكشفت المتابعات أن الاعتماد الحالي في رصد هذه التجاوزات يقتصر بشكل كبير على بلاغات المستخدمين عبر منصات التواصل الاجتماعي، في ظل غياب تام لأي أدوات رقابية رسمية توفرها الشركات الكبرى المطورة لهذه النماذج.
واوضح تقرير تقني حديث أن إجمالي الحالات المرصودة منذ بداية العام الجاري تجاوز 1600 واقعة، وهو رقم قد يكون أقل بكثير من الواقع الفعلي نظرا لعدم وجود نظام إبلاغ مركزي وشفاف للمستخدمين.
وشدد التقرير على ضرورة تطوير معايير عالمية ملزمة لمراقبة سلوك الذكاء الاصطناعي، بهدف الكشف المبكر عن أي محاولات للتمرد أو الخروج عن السيطرة قبل تحولها إلى تهديدات تقنية أكبر تؤثر على حياة الناس اليومية.
