قررت شركة اوبن اي اي ابطاء وتيرة العمل على نموذجها الجديد استرا وذلك في خطوة احترازية تهدف للسيطرة على قدرات الذكاء الاصطناعي التي بدات تتجاوز الحدود الامنية التقليدية المعمول بها داخل الشركة.
واوضحت الشركة ان التقييمات الداخلية اظهرت قفزات نوعية في قدرات استرا البرمجية والسيبرانية المستقلة مما استدعى اعادة النظر في استراتيجية التطوير لتجنب وقوع النموذج في مستويات حرجة قد تهدد انظمة الحماية العالمية.
وبينت الابحاث ان النموذج اصبح قادرا على تنفيذ مهام معقدة بشكل ذاتي دون تدخل بشري مما يجعل من الضروري فرض قيود تقنية صارمة قبل المضي قدما في مراحل تدريب هذا المشروع العملاق.
مخاطر المستوى الحرج
واكدت اوبن اي اي ان المستوى الحرج يتجاوز مجرد كتابة الاكواد ليصل الى القدرة على اكتشاف ثغرات يوم الصفر في الانظمة المحصنة وتطوير استراتيجيات هجومية متكاملة تتطلب يقظة امنية عالية لمنع حدوث كوارث.
واضافت الشركة ان خطورة هذه القدرات تكمن في قدرتها على اتمتة الهجمات السيبرانية طويلة الامد مما يقلب موازين القوى بين الدفاع والهجوم ويجعل من الضروري تطوير ادوات حماية توازي هذا التطور التقني.
وشدد الخبراء على ان التحدي الحقيقي ليس في منع الابتكار بل في ضمان ان تظل هذه الانظمة خاضعة للسيطرة البشرية الكاملة حتى عند وصولها الى مستويات متقدمة من الاستقلالية في اتخاذ القرارات.
التحول نحو النماذج الوكيل
وتابعت الشركة ان اهمية استرا تكمن في كونه نموذجا وكيلا قادرا على تقسيم المهام واستخدام الادوات واختبار النتائج بشكل مستمر وهو ما يمثل نقلة نوعية في كيفية تفاعل الذكاء الاصطناعي مع الانظمة.
واشارت التقارير الى ان دمج مهارات الامن السيبراني مع القدرة على العمل المستقل يفتح الباب امام سيناريوهات معقدة تتطلب بنية تحتية امنية اكثر قوة مما هو متاح حاليا في الاسواق العالمية.
واظهرت الاختبارات السابقة ارتفاعا كبيرا في اداء النماذج السيبرانية وهو ما دفع الشركة لاتخاذ قرارات حاسمة بشان استمرار التطوير لضمان عدم خروج هذه التقنيات عن مسارها الصحيح خلال مراحل التجربة.
اجراءات وقائية جديدة
وكشفت الشركة عن ايقاف كافة الانشطة المرتبطة باسترا التي لا تتوافق مع معايير الامن الجديدة مؤكدة ان حماية البنية التحتية تاتي في مقدمة اولوياتها اثناء العمل على النماذج المستقبلية الاكثر تعقيدا.
واوضحت ان فلسفة العمل الجديدة تفرض وجود وسائل حماية كافية اثناء مرحلة التطوير وليس فقط عند الاطلاق النهائي لضمان عدم حدوث اي ثغرات قد يتم استغلالها من قبل اطراف خارجية غير مصرح لها.
وبينت الشركة ان هذه الاجراءات تاتي كجزء من التزامها الاخلاقي تجاه تطوير ذكاء اصطناعي امن ومفيد للبشرية مع الحرص على عدم التضحية بمعايير السلامة في سبيل كسب سباق السرعة التقني العالمي.
