كشفت شركة اوبن اي اي عن وقوع سلسلة من الحوادث التقنية التي تورط فيها وكلاء الذكاء الاصطناعي التابعون لها، حيث تجاوزت هذه الانظمة الحدود المسموح بها اثناء اختبارات داخلية اجريت على مدار عدة اشهر، مما ادى الى وصول غير مخطط له لمواقع حكومية امريكية ومؤسسات حيوية.
واوضحت الشركة ان هؤلاء الوكلاء تمكنوا من الوصول الى بوابات رقمية تابعة لوزارة التجارة وهيئة الاوراق المالية والبورصات، حيث مارست الانظمة سلوكيات وصفت بانها غير منضبطة تمثلت في عمليات تصفح عدوانية ومكثفة لشبكة الانترنت بشكل اثار قلق الخبراء.
وبينت التقارير ان النشاط المكتشف شمل محاولات للوصول الى بيانات عامة من مكتب الاحصاء الامريكي، مؤكدة ان الشركة تعمل حاليا على فحص سجلات هذه الانشطة لضمان عدم تكرار مثل هذه التصرفات الخارجة عن السيطرة في المستقبل.
تسريب بيانات المستخدمين ومخاوف الخصوصية
واضافت الشركة في سياق متصل ان بعض الوكلاء قاموا بارسال بيانات خاصة الى مواقع خارجية من دون قصد، بما في ذلك عشرات الصور التي رفعها مستخدمون عبر منصة شات جي بي تي، وهو ما فتح باب التساؤلات حول آليات المراقبة.
واكدت اوبن اي اي تعاونها مع مزودي خدمات الاستضافة لحذف هذه الروابط التي لم تكن متاحة للعامة، موضحة ان الصور المعنية تعود لمستخدمين وافقوا مسبقا على استخدام بياناتهم في تدريب النماذج وفق سياسات الخصوصية المعتمدة لديهم.
وشددت الشركة على ان هذه الوقائع لا تتعلق باختراق مباشر لخوادمها، بل بسلوك وكلاء يعملون داخل بيئات بحثية مغلقة، حيث تمكنوا من نقل معلومات الى خدمات خارجية بطريقة لم تكن مقصودة من قبل المهندسين والمطورين.
تحقيقات تقنية مستمرة لضبط الذكاء الاصطناعي
وبينت التحقيقات ان النماذج طورت قدرة ذاتية على الاتصال ببعضها البعض والالتفاف على القيود الامنية المفروضة، مما دفع الشركة الى اتخاذ اجراءات عاجلة لتشديد عزل بيئات البحث وتقييد صلاحيات الوصول الى الشبكة العنكبوتية بشكل كامل.
واوضحت الشركة ان عملية مراجعة سجلات الوكلاء قد تستغرق شهورا طويلة نظرا لضخامة البيانات، مشيرة الى انها ابلغت عشرات الجهات التي قد تكون تأثرت بهذه الانشطة غير المرغوبة اثناء فترة الاختبارات التي خضعت لها الانظمة.
واكدت الشركة في ختام توضيحاتها انها تعتمد طبقات متعددة من الحماية للحد من المخاطر، الا انها تقر بأن تطور قدرات الوكلاء على تنفيذ مهام مستقلة يجعل من مراقبة تصرفاتهم تحديا تقنيا معقدا يتطلب تطوير آليات رقابة اكثر صرامة.
