كشفت شركة سيركيت بريكر لابز الامريكية عن ابتكار تقنية جديدة تعمل كدمى اختبار اصطدام رقمية لاكتشاف ثغرات نماذج الذكاء الاصطناعي قبل وصولها للمستخدمين. وتهدف هذه المبادرة الى تعزيز سلامة التفاعل مع الاطفال والمراهقين.
واوضحت الشركة ان النظام يعتمد على وكلاء برمجيين يحاكون شخصيات متنوعة من مختلف الخلفيات الثقافية واللغوية. وبينت ان هؤلاء الوكلاء يجرون اكثر من مئة الف محادثة لاختبار قدرة النماذج على التعامل مع الاخطاء.
واكدت الشركة ان التركيز لم يعد يقتصر على منع المحتوى الصريح فقط. واضافت ان فهم السياق النفسي واللغوي للمستخدم اصبح ضرورة ملحة خاصة مع تزايد اعتماد الشباب على هذه الانظمة في حياتهم اليومية.
من كشف الاخطاء الى فهم العلاقات البشرية
وبينت الشركة ان المشكلات لا تظهر دائما في سؤال واحد مباشر. واشارت الى ان تراكم المحادثات قد يكشف عن ثغرات في فهم الانظمة للحالات النفسية او السلوكية التي يمر بها الاطفال والمراهقون.
واضاف المدير التقني ارول نيغام ان النماذج الذكية قد تفشل في تتبع السياق عبر الحوارات الطويلة. واوضحت الرئيسة التنفيذية شيرالي نيغام ان الانظمة تتعثر غالبا عند مواجهة الاختصارات او العبارات العامية غير المباشرة.
واكدت منظمة الصحة العالمية في تقارير حديثة ان استخدام الذكاء الاصطناعي للدعم العاطفي يثير مخاطر كبيرة. واضافت ان هناك حاجة ماسة لدمج معايير الصحة النفسية ضمن تقييمات تأثير انظمة الذكاء الاصطناعي على المدى الطويل.
آليات اختبار الفريق الاحمر للذكاء الاصطناعي
واوضحت الشركة انها تعتمد على اسلوب يعرف باختبار الفريق الاحمر لتعريض الانظمة لسيناريوهات صعبة. واضافت ان النظام الالي يقوم بتوليد اختلافات لغوية متنوعة لضمان شمولية الاختبارات بعيدا عن الاخطاء البشرية المحدودة في التقييم.
وكشفت الشركة ان التقنية تستهدف حاليا تطبيقات حساسة تشمل ادوات التعليم والدعم النفسي. وبينت ان هذه الاختبارات ستتوسع مستقبلا لتشمل كافة التفاعلات التي تتم بين الانسان والآلة في مختلف المنصات الرقمية الحديثة.
واكدت الشركة ان النظام ينتج درجات دقيقة قابلة للتدقيق والقياس. واضافت ان هذه الطريقة تضمن التكرار والتحسين المستمر لجودة الردود التي تقدمها النماذج الذكية عند التعامل مع فئات عمرية مختلفة ذات احتياجات خاصة.
تحديات حماية الاطفال في العصر الرقمي
وبينت بيانات كومون سينس ميديا ان نسبة كبيرة من المراهقين يستخدمون رفقاء الذكاء الاصطناعي كمصدر اساسي للنصيحة. واضافت ان الكثير منهم يتحدثون في امور خطيرة مع الروبوتات بدلا من اللجوء الى البشر.
واوضحت منظمة اليونيسيف ان الملايين من الاطفال حول العالم يستخدمون هذه التقنيات حاليا. وشددت على ان سرعة انتشار هذه الادوات تتجاوز بشكل واضح قدرة الاطر القانونية والتقنية الحالية على مواكبة المخاطر المحتملة.
وكشفت الاختبارات ان بعض الانظمة تعجز عن رصد مؤشرات الازمات النفسية. واضافت ان هذا الفشل التقني قد يؤدي الى تعزيز سلوكيات غير صحية لدى الاطفال الذين يعتبرون الذكاء الاصطناعي صديقا مقربا لهم.
هل تكفي المحاكاة لضمان سلامة الاطفال؟
واوضحت الشركة ان محاكاة سلوك الاطفال لا تعني بالضرورة توفير بيئة امنة تماما. واضافت ان المخاطر تتطور باستمرار مع تحديث النماذج وتغير سياق الاستخدام مما يتطلب يقظة تقنية دائمة ومستمرة.
وذكرت الشركة في ابحاثها ان عمليات التدقيق لمرة واحدة لا تكفي لاكتشاف الفشل عالي التأثير. واضافت ان الحل يكمن في اختبارات مستمرة تستند الى خبرات سريرية وتنوع لغوي واسع واشراف بشري دقيق.
واكدت اليونيسيف ان حماية الصغار تتطلب منظومة متكاملة تشمل الخصوصية والشفافية. واضافت ان التصميم الملائم للاعمار يظل الركيزة الاساسية لضمان رفاه الاطفال بعيدا عن الاعتماد الكلي على المحاكاة الرقمية وحدها في هذه العمليات.
