في واقعة تثير الجدل حول دقة تقنيات الذكاء الاصطناعي، اعتقلت السلطات البريطانية شخصا من منزله، وذلك بسبب خطأ في برمجيات التعرف على الوجه، حيث وضعته هذه البرمجيات في موقع جريمة سرقة لم يزرها مطلقا، وفقا لتقرير نشرته صحيفة الغارديان.
واحتجزت الشرطة ألفي شودري، البالغ من العمر 26 عاما، لمدة تجاوزت العشر ساعات تقريبا، قبل أن يتم اكتشاف الخطأ وإطلاق سراحه، وهو ما دفعه للمطالبة بتعويضات عن الضرر الذي لحق به.
واعتمدت الشرطة في اعتقال شودري على منظومة التعرف على الوجه التي طورتها شركة كوجنيتك الألمانية، وذلك للتعرف على المشتبه به في جريمة سرقة وقعت على بعد أكثر من 160 كيلومترا من مكان إقامة شودري، فضلا عن وجود اختلافات واضحة في شكل وهيئة المشتبه به الظاهر في مقاطع الفيديو.
تزايد الاعتماد على تقنية التعرف على الوجه يثير المخاوف
ويؤكد تقرير الغارديان أن الشرطة البريطانية تعتمد بشكل متزايد على برمجيات التعرف على الوجه في البحث عن المشتبه بهم، إذ تجري هذه البرمجيات أكثر من 25 ألف عملية بحث شهريا داخل مكتبة صور المشتبه بهم، والتي تصل إلى 19 مليون صورة.
وتواجه برمجيات التعرف على الوجه صعوبات في اكتشاف الملامح الوجهية وتسجيلها بدقة لدى الأقليات المختلفة، إذ تصل نسبة الخطأ في التعرف على وجوههم إلى 5%، مقارنة بنحو 0.04% لدى أصحاب البشرة البيضاء، حسب التقرير.
واشارت تقارير إلى أن هذه ليست المرة الأولى التي تتسبب فيها برمجيات كوجنيتك في اعتقال شخص بالخطأ، إذ قامت شرطة مدينة نيو ساوث ويلز بإيقاف عمل البرمجية بشكل كامل في ابريل الماضي.
عيوب الخوارزميات القديمة تثير الشكوك
ويعزو التقرير إغلاق البرمجية في نيو ساوث ويلز إلى خوارزميتها القديمة المستخدمة فيها، حيث لم يتم تحديثها منذ أكثر من 11 عاما، مما يجعل نتائجها غير معتمدة أو موثوق بها بشكل دائم.
وبينت التقارير ان التقنية تسببت في ذلك الوقت في اعتقال طفل يبلغ من العمر 14 عاما بالخطأ، وذلك لأنها تعرفت عليه ووضعته في مسرح الجريمة.
واكدت شركة كوجنتك في بيان رسمي انها قامت بتحديث برمجيات التعرف على الوجه والخوارزميات الخاصة بها في فبراير الجاري، وذلك لتحسين دقة النتائج وتقليل الأخطاء.
