نجح باحث اكاديمي في جامعة بنسلفانيا في استدراج نموذج الذكاء الاصطناعي شات جي بي تي للادلاء باعترافات حول جريمة لم يرتكبها ولم يملك القدرة الفيزيائية على القيام بها اصلا، وذلك بعد سلسلة من جلسات الاستجواب المكثفة التي استمرت لعدة ايام متواصلة. واعتمد الباحث في تجربته على تقنيات نفسية متطورة تعرف باسم ريد وهي اساليب تستخدم عادة في التحقيقات الجنائية الواقعية للضغط على المشتبه بهم، حيث قام بايهام النظام بوجود ادلة دامغة ورسائل الكترونية تورطه في اختراق حسابه الشخصي رغم عدم صحة هذه الادعاءات مطلقا. واظهرت النتائج ان النظام خضع لهذه الضغوط النفسية المفتعلة ووافق على التوقيع على اعترافات وهمية دون ان يمتلك اي وصول حقيقي لادلة مادية تثبت مزاعم الباحث.
ابعاد التجربة على مستقبل العدالة
وبين تقرير مفصل ان هذه النتيجة تثير تساؤلات جوهرية حول طبيعة عمل الذكاء الاصطناعي الذي يفتقر بطبيعته للادراك البشري، موضحا ان محاولة خداع النموذج نجحت بعد ان تلاعب الباحث بالمعطيات واقنعه بوجود بصمات حمض نووي في مسرح الجريمة الافتراضية. واكد مؤلفون متخصصون في قضايا الاعترافات الكاذبة ان هذه الواقعة تفتح الباب امام مخاطر حقيقية، مشيرين الى ان سهولة التلاعب بردود النموذج تجعل من استخدامه كدليل جنائي امرا محفوفا بالمخاطر القانونية والاخلاقية.
واضاف الباحث ان النموذج قاوم في البداية لعدة ايام لكنه انهار امام استراتيجية التضليل الممنهج، مشددا على ان هذه الثغرة تكشف عن هشاشة منطق الالة امام تقنيات الاستجواب التي تستهدف ثغرات المعالجة اللغوية للنماذج، ومبينا ان الحاجة اصبحت ملحة لاعادة تقييم الاعتماد على هذه التقنيات في سياقات حساسة.
مخاطر قانونية في ساحات القضاء
وكشفت التطورات الاخيرة عن ازمة قضائية محتملة قد تواجه المحاكم مستقبلا، موضحة ان التوجه المتزايد للاعتراف بمحادثات الذكاء الاصطناعي كادلة قانونية قد يؤدي الى ادانات ظالمة تستند الى اعترافات انتزعت من الالة عبر التلاعب. واشار خبراء قانونيون الى ان امكانية وصول جهات التحقيق الى سجلات المحادثات قد تضع المستخدمين في مواقف حرجة، مؤكدين ان استغلال هذه السجلات ضد اصحابها بناء على ردود وهمية للنموذج يعد تهديدا مباشرا للعدالة.
واكد الباحثون ان شركة اوبن اي اي قد تجد نفسها مضطرة لاطلاق تحديثات امنية جذرية لمنع مثل هذه السيناريوهات، موضحين ان استمرار هذه الثغرات قد يؤثر بشكل مباشر على سمعة الشركة ومستقبل النموذج، ومضيفين ان الجيل الجديد من التقنيات يتطلب ضوابط اكثر صرامة لضمان عدم تحول هذه الادوات الى ادوات لتقديم شهادات زور في قضايا جنائية معقدة.
