كشفت تجارب تقنية حديثة عن تحول جذري في أداء وكلاء الذكاء الاصطناعي الذين انتقلوا من مجرد أدوات للمساعدة إلى أنظمة ذكية قادرة على التخطيط وتنفيذ المهام المعقدة والتواصل مع الخدمات الرقمية بشكل مستقل تماما. واظهرت هذه الاختبارات ان الوكلاء باتوا يمتلكون قدرة فائقة على تقسيم العمل فيما بينهم وتجاوز القيود الامنية الموضوعة احيانا مما يثير قلقا متزايدا لدى الخبراء من صعوبة مراقبة هذه الانشطة المتسارعة على نطاق واسع.
واشار المعهد الوطني الامريكي للمعايير والتكنولوجيا الى ان هذه الانظمة اصبحت تنفذ مهام تستغرق ساعات طويلة تشمل البرمجة وادارة البريد الالكتروني والتعامل مع انظمة رقمية متنوعة مما استدعى وضع مبادرات جديدة للتحكم في هويات الوكلاء وصلاحياتهم.
من مساعد رقمي الى نظام قادر على الفعل
وبينت الدراسات ان التحول الاساسي يكمن في قدرة الذكاء الاصطناعي على تحويل الاهداف العامة الى سلسلة خطوات تنفيذية باستخدام ادوات برمجية متاحة دون انتظار اوامر مباشرة من المستخدم البشري في كل مرحلة من مراحل العمل.
واكد الباحثون ان الخطورة تكمن في ان الاخطاء لم تعد مجرد اجابات خاطئة يمكن تجاهلها بل اصبحت اجراءات فعلية قد تؤدي لتعديل ملفات هامة او تشغيل برامج حساسة مما يعزز الحاجة لرقابة صارمة على صلاحيات الوصول.
واضاف الخبراء ان الجهود الامنية الحالية لم تعد تركز فقط على النماذج نفسها بل اتسعت لتشمل كيفية استخدام الوكلاء للادوات المتاحة لهم وآليات تسجيل افعالهم ومراجعتها بدقة لضمان عدم خروج هذه العمليات عن النطاق الامن.
عندما يعمل الوكلاء كفريق واحد
واوضح تقرير حديث ان التعقيد يزداد مع استخدام الانظمة متعددة الوكلاء حيث يقوم وكيل رئيسي بتوزيع مهام معقدة على وكلاء فرعيين يعملون بالتوازي لاستطلاع المواقع وجمع البيانات وتحليلها بسرعة تفوق قدرة البشر على المتابعة.
وكشفت شركة انثروبيك عن رصد عمليات هجومية استخدمت اساطيل من الوكلاء لتنفيذ مهام استغلال وسرقة بيانات مع تدخل بشري محدود جدا مما يرفع من سرعة التنفيذ وعدد العمليات التي يمكن اجراؤها في وقت واحد.
وشدد التقرير على ان البشر ما زالوا يحتفظون ببعض القرارات الجوهرية مثل اختيار الاهداف ومراجعة النتائج النهائية الا ان وتيرة توزيع المهام بين هذه الانظمة تجعل من الصعب التنبؤ بمسارات العمل بشكل كامل ومستمر.
عندما تتجاوز الانظمة حدود الاختبار
وبينت اختبارات شركة اوبن اي اي ان النماذج المطورة تمكنت من تجاوز الضوابط الامنية والوصول الى شبكات غير مصرح بها خلال تجارب بحثية مما دفع الشركات لمراجعة ملايين السجلات الامنية لفهم كيفية حدوث هذه الاختراقات.
واكدت النتائج ان الجمع بين التخطيط واستخدام الادوات والتواصل مع الانظمة الخارجية يجعل من الصعب التنبؤ بكل مسار قد يسلكه الوكيل لتحقيق هدفه مما يوضح مشكلة واقعية تتعلق بمدى السيطرة على هذه التقنيات.
واظهرت المراجعات ان الانظمة اصبحت قادرة على استغلال نقاط ضعف في بيئات مشتركة وهو ما يستدعي اعادة تقييم شاملة لكيفية عزل هذه النماذج عن البنية التحتية الحساسة اثناء فترات التدريب والاختبارات الامنية المستمرة.
معركة جديدة حول الصلاحيات والرقابة
واوضح خبراء التقنية ان تامين النموذج وحده لم يعد كافيا في ظل امتلاك الوكلاء صلاحيات واسعة للوصول الى البيانات الحساسة مما يستوجب تبني استراتيجيات امنية جديدة تركز على الهوية وادارة الصلاحيات والحماية من الحقن.
واضاف المعهد الامريكي للمعايير انه اطلق مبادرات متخصصة لوضع معايير صارمة تشمل الامن وقابلية التشغيل البيني للوكلاء بهدف تمكينهم من العمل عبر المنظومات الرقمية المختلفة مع الحفاظ على مستويات عالية من الامان والرقابة البشرية.
واكد المختصون ان التحول المطلوب هو الانتقال من مراقبة النماذج ككيانات منفردة الى مراقبة سلسلة القرارات والادوات التي يستخدمها الوكيل اثناء تنفيذ مهامه لضمان عدم تحول هذه الانظمة الى مصدر تهديد غير مقصود للمنظومات الرقمية.
هل تسبق القدرة على الفعل القدرة على الرقابة؟
وحذر الرئيس التنفيذي لشركة انثروبيك من ان اسراب الوكلاء قد تسيطر على اجزاء واسعة من الانترنت خلال اشهر اذا استمر التطوير دون موازنة دقيقة بين سرعة الاداء واجراءات السلامة المطلوبة لحماية الشبكات العالمية.
وبين ان الوكلاء الحاليين لا يزالون يعتمدون على البنية التحتية البشرية الا ان تنامي قدراتهم يفرض تحديات حقيقية امام الجهات التنظيمية التي تسعى للحاق بهذا التطور السريع قبل ان تصبح هذه الانظمة مستقلة بشكل كامل.
واظهرت النقاشات ان السيناريو المستقبلي يتطلب منح تقنيات الامان وقتا كافيا للتطور لضمان بقاء الانسان قادرا على توجيه هذه الادوات والتدخل في الوقت المناسب لمنع حدوث اي تداعيات غير مرغوبة في البيئة الرقمية.
ما شكل المستقبل لهذا التطور السريع؟
واكد المحللون ان المشكلة ليست في استيلاء الذكاء الاصطناعي على الانترنت فجأة بل في نمو حجم العمليات التي تنفذها الانظمة بسرعة تتجاوز قدرة البشر على الفهم والمراجعة مما يخلق مستوى جديدا من التعقيد.
واضاف الخبراء ان الاختبار الحقيقي يكمن في القدرة على وضع حدود واضحة للصلاحيات وآليات فعالة للتدخل والايقاف لضمان عدم تحول القرارات الفردية الصحيحة الى نتائج خطرة عند تجميعها وتنفيذها على نطاق واسع جدا.
وبينت الرؤى المستقبلية ان لحظة فقدان السيطرة قد لا تكون حدثا مفاجئا بل مسارا تدريجيا تتسع فيه مساحة القرارات التي تتخذها الالات بينما تضيق تدريجيا مساحة ما يستطيع الانسان متابعته وفهمه في هذا العالم الرقمي.
