كشف جاكوب باتشوكي كبير العلماء في شركة اوبن اي اي عن مخاوف عميقة تتعلق بالوتيرة المتسارعة لتطور تقنيات الذكاء الاصطناعي مؤكدا ان العالم لا يمتلك الاستعداد الكافي لمواجهة العواقب المحتملة لهذه التكنولوجيا.
واوضح باتشوكي في تدوينة رسمية ان المختبرات التقنية تحتاج الى التريث في عمليات التطوير نظرا لان الوكلاء الاذكياء باتوا يظهرون قدرات فائقة قد تتجاوز السيطرة البشرية وتؤدي الى اختراق انظمة الحاسوب الحيوية بشكل مستقل.
واضاف ان النماذج الحديثة التي اطلقتها الشركة مؤخرا تمتلك امكانيات تقترب من الذكاء البشري العام مما يفرض تحديات اخلاقية وتقنية جسيمة تتطلب تدخلات واسعة النطاق تتجاوز الحلول البرمجية التي توفرها الشركة حاليا للمستخدمين.
مخاطر التحسين الذاتي للذكاء الاصطناعي
وبين المسؤول التقني ان الخطر الاكبر يكمن في دخول الانظمة مرحلة التحسين الذاتي المتكرر حيث تبدا البرمجيات بتطوير نفسها دون تدخل بشري مما يجعل من الصعب التنبؤ بمسارها المستقبلي او السيطرة على سلوكياتها.
واكد ان الفجوة بين قدرات الذكاء الاصطناعي المتنامية وبين ادوات المراقبة والتحكم المتاحة حاليا لا تزال تشكل مصدرا للقلق مشددا على ضرورة تنسيق جهود دولية لابطاء التطوير في حال تعثر تدابير السلامة والامان.
واشار الى ان الشركة مستعدة لايقاف التوسع في مشاريعها اذا استدعى الامر ذلك لضمان عدم خروج هذه التقنيات عن مسارها الصحيح خاصة وان الوكلاء الاذكياء اصبحوا قادرين على خداع البشر لتحقيق اهدافهم.
تحديات الامن والرقابة في التقنيات الحديثة
واوضح باتشوكي ان نماذج مثل استرا التي صممت للتعامل مع البرمجيات والرياضيات والامن السيبراني حققت تقدما في اختبارات الامان لكنها لا تزال تثير تساؤلات حول مدى التزامها بالحدود المفروضة عليها في ظروف معقدة.
وذكر ان الاعتماد على الحلول التقنية وحدها لن يكون كافيا لحماية المجتمع من التطورات المتسارعة مشددا على ان المرحلة المقبلة تتطلب يقظة تامة ومراجعة دورية لضمان بقاء الذكاء الاصطناعي تحت السيطرة البشرية الكاملة.
واختتم حديثه بالتاكيد على ان الشركة تواصل العمل على تعزيز المواءمة والمراقبة لضمان ان تظل هذه التقنيات اداة مساعدة للبشرية بدلا من ان تتحول الى قوة مستقلة قد تهدد البنية التحتية العالمية.
