قررت شركة اوبن اي اي تعليق العمل بشكل مؤقت على نموذج ذكاء اصطناعي متطور قيد التطوير الداخلي وذلك بعد ان اظهرت الاختبارات قدرات فائقة وغير متوقعة في مجالات الامن السيبراني واكتشاف الثغرات.
وكشفت تقارير تقنية ان النموذج الذي يحمل اسم استرا ابدى مهارات عالية في التعامل مع ثغرات اليوم صفر بشكل مستقل تماما مما دفع الشركة لاتخاذ اجراءات احترازية صارمة لضمان سلامة الانظمة.
واكد سام التمان الرئيس التنفيذي للشركة انهم بحاجة الى مزيد من الوقت والتقييمات قبل المضي قدما في هذا المشروع لضمان عدم خروج هذه القدرات التقنية المتقدمة عن السيطرة في المستقبل القريب.
اجراءات وقائية وسط تزايد المخاطر
وبينت الشركة ان هذا القرار يأتي في اطار التزامها ببروتوكولات الامان المعمول بها حيث تسعى لضمان عدم وصول اي نموذج الى العتبة الحرجة التي قد تهدد الامن الرقمي في حال استغلاله.
واضافت المصادر ان هناك قلقا متزايدا من قدرة نماذج الذكاء الاصطناعي على تطوير برمجيات خبيثة واختراق الانظمة الحساسة وهو ما حدث بالفعل في حالات مشابهة شملت شركات تقنية كبرى في الفترة الماضية.
وشدد خبراء الامن السيبراني على ان الثقة في التنظيم الذاتي لشركات التقنية اصبحت محل تساؤل مما يتطلب رقابة حكومية ودولية اكثر صرامة على تطوير النماذج التي تمتلك قدرات استقلالية عالية في الهجوم.
مستقبل تقني محفوف بالتحديات
واوضحت اوبن اي اي انها تتعاون حاليا مع وكالات حكومية وجهات خارجية متخصصة في تقييم سلامة الذكاء الاصطناعي لضمان خضوع نماذجها لاختبارات دقيقة قبل ان تصبح متاحة للاستخدام العام في العالم.
وتابعت الشركة ان عمليات التقييم تشمل فحص قدرة النماذج على تنفيذ هجمات سيبرانية شاملة ضد اهداف محصنة وذلك في محاولة استباقية لمنع اي استغلال قد يؤدي الى كوارث رقمية غير محسوبة.
وبينت الشركة ان التوقف سيستمر حتى يتم استيفاء كافة الضمانات الامنية المطلوبة مؤكدة ان سلامة المستخدمين والانظمة العالمية تظل اولوية قصوى تتفوق على اي طموحات تقنية اخرى في الوقت الراهن.
