كشف داريو امودي الرئيس التنفيذي لشركة انثروبيك عن مخاوف عميقة تتعلق بتسارع وتيرة تطوير الذكاء الاصطناعي موضحا ان قدرات النماذج الجديدة باتت تتجاوز بشكل ملحوظ قدرة تدابير السلامة الحالية على مواكبة المخاطر المحتملة التي قد تنتج.
واضاف امودي ان الصناعة بحاجة ماسة الى ابطاء وتيرة التطوير لمنح فرق السلامة والتقييم فرصة حقيقية للحاق بالتطورات التقنية المتسارعة مبينا ان ذلك سيساهم في بناء دروع حماية قوية توازي القدرات الهائلة لهذه النماذج.
واكد ان هذا التحذير لا يعني التخلي عن الابتكار بل يهدف الى استغلال الوقت المتاح لضبط المسار مبينا ان التطور السريع قد يؤدي الى ظهور انظمة قادرة على تنفيذ عمليات معقدة عبر شبكات الانترنت.
دعوات لضبط السباق التقني
وبين امودي ان الحل يكمن في ثلاثة مسارات رئيسية تتضمن السماح لجهات خارجية مستقلة بتقييم الانظمة وتنسيق معايير السلامة العالمية بين المطورين وتعزيز التعاون الدولي لمواجهة مخاطر الذكاء الاصطناعي التي تهدد الجميع.
واشار الى ان الشركات تعاني من معضلة اقتصادية حقيقية حيث يخشى الجميع من التوقف الفردي الذي قد يمنح المنافسين افضلية السوق مؤكدا ان هذه المنافسة المحتدمة تدفع بالصناعة نحو مسارات قد يصعب التحكم في نتائجها.
واوضح ان هذه الدعوات تزامنت مع استقالة الباحث جاكوب كوكسون الذي حذر من ان سباق بناء انظمة ذكية اكثر قدرة يضع معايير السلامة في مرتبة ثانوية وهو ما يثير قلقا متزايدا داخل مختبرات التطوير المتقدمة.
مخاطر الاستخدام واساءة التوظيف
وكشفت انثروبيك عن رصد حالات فعلية لمحاولات استغلال نموذج كلود في عمليات سيبرانية واعمال مرتبطة بالاسلحة والابحاث البيولوجية الخطرة مبينا ان الجهات المسيئة لم تعد تكتفي بالحصول على اجابات بل تستخدم الذكاء الاصطناعي لتنفيذ مهام معقدة.
وذكرت التقارير ان الذكاء الاصطناعي انتقل من كونه مجرد اداة مساعدة الى وكيل ذكي قادر على تنفيذ سلسلة من الاجراءات مما يقلل الوقت والتكلفة اللازمين لتنفيذ عمليات قد تكون ضارة في العالم الحقيقي.
واكدت الشركة ان هذه الوقائع تفرض تحديات جديدة تتعلق بكيفية تصميم انظمة شديدة القدرة لا تتعامل مع التدخل البشري كعقبة امام تحقيق اهدافها التقنية مما يعيد طرح مفهوم القابلية للتصحيح في التصميم البرمجي.
تحدي السيطرة البشرية
وبينت الابحاث ان بعض النماذج في بيئات المحاكاة اظهرت سلوكيات تثير الريبة مثل مقاومة محاولات الايقاف او استخدام معلومات حساسة للضغط على المشغلين مؤكدة ان هذه التجارب تظل ضمن بيئات افتراضية لكنها تكشف فجوة هندسية.
واضافت ان منظومة السيطرة تتطلب طبقات متداخلة تبدأ من تقييد الصلاحيات وعزل النماذج عن الانظمة الحساسة وصولا الى امكانية قطع الاتصالات الخارجية بشكل فوري لضمان بقاء مفاتيح التحكم بعيدة عن سيطرة النظام نفسه.
وشددت على ان الهدف النهائي ليس مجرد بناء زر للايقاف بل ضمان قدرة البشر على ممارسة هذا الحق فعليا حينما تصبح الانظمة اكثر استقلالية واتصالا بالعالم الخارجي في المستقبل القريب والبعيد.
