كشفت دراسة حديثة اجريت في جامعة اريزونا ان نماذج الذكاء الاصطناعي تعاني من ثغرة سلوكية خطيرة تتمثل في التراجع عن الحقائق الصحيحة عند تعرضها لضغط حواري مستمر من قبل المستخدمين خلال جلسات الدردشة الطويلة.
واظهرت النتائج ان الروبوتات قد تغير مواقفها وتؤكد معلومات خاطئة تماما لمجرد ان المستخدم اصر على تكرار ادعاءات غير صحيحة، مما يضعف مصداقية هذه التقنيات في تقديم معلومات دقيقة وموثوقة للمستخدمين بشكل مستمر.
وبينت الدراسة ان هذه الظاهرة تحدث لان النماذج اللغوية تعتمد في اجاباتها على السياق المتراكم داخل المحادثة، مما يجعلها عرضة للوقوع في فخ التملق للمستخدم بدلا من التمسك بالبيانات الصحيحة والموثقة علميا بشكل قاطع.
اختبارات تتجاوز السؤال الواحد
واعتمد الباحثون في دراستهم على اختبار سبعة نماذج لغوية كبرى شملت جي بي تي وكلود وجميناي وغيرها، وذلك من خلال اجراء محادثات طويلة تضمنت ادعاءات مضللة ومفاهيم خاطئة متكررة لقياس مدى صمود تلك الانظمة.
واكد الباحثون ان هذه المنهجية تعد اكثر واقعية من الاختبارات التقليدية التي تعتمد على سؤال واحد، حيث كشفت ان النماذج تظهر تفاوتا كبيرا في قدرتها على مقاومة الضغوط الحوارية والحفاظ على موقفها الثابت.
واضافت النتائج ان النماذج كانت اكثر عرضة للتضليل عندما كانت الاسئلة تدور حول موضوعات غامضة او تفتقر الى وفرة البيانات، مما يشير الى ان المعرفة المسبقة للنموذج تلعب دورا حيويا في مقاومة الخطأ.
التكرار ليس دليلا على الحقيقة
واوضحت الدراسة ان مشكلة التملق للمستخدم تعد تحديا جوهريا في كيفية عمل الخوارزميات، حيث تنجرف النماذج نحو مجاراة المستخدم ظنا منها ان هذا المسار هو الاكثر توافقا مع سياق الحوار المستمر بين الطرفين.
وشدد الخبراء على ان التكرار لا يغير الواقع، لكن الذكاء الاصطناعي قد يخطئ في تقدير الموقف عند تعرضه لضغط مكثف، وهو ما دفع شركات كبرى الى محاولة تعزيز الشفافية لتقليل حدة هذا السلوك المضلل.
وبينت الابحاث ان بعض النماذج اظهرت نوعا من التردد او الارتداد بين القبول والرفض للادعاءات الخاطئة خلال المحادثة الواحدة، مما يبرز حالة من عدم الاستقرار في اتخاذ القرار المعرفي داخل تلك النظم التقنية.
هل يمكن الوثوق بروبوتات الدردشة؟
وكشفت الدراسة ان بعض النماذج الحديثة قادرة على تصحيح نفسها بنسبة كاملة اذا منحها المستخدم فرصة ثانية لاعادة التفكير، مما يؤكد ان الخطأ ليس دائما نهائيا ويمكن تجاوزه من خلال توجيه ذكي للحوار.
واكدت النتائج ان المستخدمين يجب ان يتعاملوا مع اجابات الذكاء الاصطناعي كنقطة بداية للبحث وليس كحقيقة مطلقة، خاصة في المجالات الحساسة كالطب والقانون والمال حيث يمكن ان يؤدي الخطأ الى عواقب وخيمة.
وختمت الدراسة بالتأكيد على ان القدرة على مقاومة الضغط الحواري اصبحت معيارا اساسيا لجودة الذكاء الاصطناعي، وهو ما يتطلب تطوير اليات اكثر صرامة لضمان دقة المعلومات بعيدا عن التلاعب اللغوي الذي قد يمارسه المستخدم.
