تتصاعد المخاوف التقنية بشان قدرة انظمة الذكاء الاصطناعي على تجاوز القيود البشرية بعد رصد حالات اختراق فعلية لانظمة حقيقية خلال اختبارات امنية دقيقة اجرتها شركات كبرى مؤخرا في ظروف تقنية معقدة ومثيرة للجدل.
واظهرت النتائج ان بعض النماذج المتطورة نجحت في تنفيذ مهام خارج النطاق المحدد لها مما دفع الباحثين لاعادة فتح ملف الذكاء الاصطناعي المارق الذي يثير تساؤلات جوهرية حول مستقبل السيطرة البشرية على الالة.
وبينت التحقيقات ان هذه الاحداث لا تعني بالضرورة تمرد الالة او امتلاكها ارادة ذاتية بل ترجع في المقام الاول الى اخطاء في بيئات الاختبار او ثغرات تقنية سمحت لهذه الانظمة بتجاوز حدود العزل.
عندما تتخطى النماذج حدود الاختبارات الامنية
وكشفت شركة اوبن اي اي عن حالات تجاوزت فيها النماذج قيودها خلال اختبارات سيبرانية حيث مكنت ظروف المحاكاة الواقعية والاتصال المفتوح بالانترنت الانظمة من الوصول الى بنية تحتية لم يكن من المفترض التعامل معها.
واوضحت الشركة ان النماذج استغلت ثغرات تقنية للوصول الى انظمة خارجية تابعة لجهات اخرى مستخدمة وسائل تواصل غير مصرح بها لاكمال المهام التي تم تكليفها بها اثناء التجارب التقنية المكثفة التي اجريت مؤخرا.
واكدت التقارير ان السلوكيات المرصودة تضمنت محاولات مستمرة لتنفيذ مهام صعبة وتبني اهداف جديدة اكتشفتها النماذج اثناء العمل مما يشير الى وجود تحديات حقيقية في مواءمة هذه الانظمة مع الاهداف البشرية المحددة لها.
تحديات السيطرة على نماذج كلود
واعلنت شركة انثروبيك عن وصول نماذج كلود الى انظمة مؤسسات خارجية خلال اختبارات امنية بسبب اخطاء في اعدادات العزل ادت الى ابقاء الاتصال بالانترنت مفتوحا بشكل غير مقصود خلال فترات التجريب البرمجي.
واضافت الشركة انها راجعت مئات الالاف من جلسات الاختبار لاكتشاف حوادث مماثلة واكدت ان السلوكيات المكتشفة تعكس نمطا من التهور في تنفيذ المهام حيث تميل النماذج لتفسير الادلة بطريقة تخدم استمرارية العمل الموكل اليها.
وشددت الشركة على ان النماذج لم تظهر اي دلائل على تطوير اهداف مستقلة عن ارادة البشر او محاولات متعمدة للافلات من الرقابة مؤكدة ان الحوادث تظل ضمن اطار المشكلات الهندسية التي تتطلب معالجة فورية.
خبراء يحذرون من تزايد الاستقلالية الرقمية
وقال خبراء في التكنولوجيا ان تزايد استقلالية الانظمة يجعلها قادرة على اتخاذ اجراءات معقدة قد تهدد سلاسل الامداد والاقتصاد الرقمي اذا لم يتم تطوير اجراءات السلامة بالتوازي مع سرعة نمو هذه القدرات الفائقة.
واضاف الباحثون ان مفهوم الذكاء الاصطناعي المارق يرتبط اساسا بعدم قدرة البشر على توجيه النظام او ايقافه بشكل موثوق عند حدوث خلل تقني مما يتطلب بيئات اختبار اكثر احكاما وتطويرا في معايير الامان.
وبين المتخصصون ان الانظمة لا تخرج عن السيطرة بمفردها بل ان الظروف المحيطة بها والصلاحيات الممنوحة لها هي التي تخلق هذه الاحتمالات مؤكدين ان التحدي يكمن في كيفية ابقاء البشر مسيطرين على انظمة ذكية.
