سحبت شركة غوغل ميزة تقنية حديثة اطلقتها في تطبيق غوغل ايرث بعد اقل من يوم واحد على طرحها، وذلك بسبب قدرتها الفائقة على توليد صور واقعية مضللة تنتهك سياسات الاستخدام الامن للمنصة.
وكشفت تقارير تقنية ان الازمة بدات حين نجح صحفي استقصائي في اختبار الاداة الجديدة، حيث تمكن من تزييف مشاهد طبيعية بدقة عالية جدا، مما دفع غرف اخبار عالمية للتحذير من خطورة هذه الاداة.
وبين الصحفي ان تقنيات الذكاء التوليدي باتت تشكل تحديا كبيرا امام مدققي المعلومات والباحثين، اذ اصبح من الصعب التمييز بين الصور الحقيقية الملتقطة بالاقمار الصناعية وتلك التي صنعها الذكاء الاصطناعي بشكل كامل ومضلل.
مخاطر تزييف الواقع الرقمي
واضافت شركة غوغل في بيان مقتضب عبر منصة اكس انها قررت ايقاف الميزة مؤقتا، مؤكدة انها ستعمل على تطوير ضوابط اكثر صرامة لضمان عدم استغلال هذه التقنيات في تضليل المستخدمين او تزييف الحقائق الجغرافية.
واكدت الشركة ان الاداة كانت تستهدف في الاصل اغراضا علمية وجغرافية بحتة، مشيرة الى ان الصور المولدة كانت تحمل علامات مائية خفية، الا ان هذه التدابير لم تكن كافية لمنع التلاعب بالمشاهد الطبيعية.
واوضحت التقارير ان المستخدمين استطاعوا توليد صور تبدو وكأنها التقطت من اقمار صناعية حقيقية، مما يفتح الباب امام مخاطر جسيمة تتعلق بنشر معلومات مغلوطة حول مواقع استراتيجية او طبيعية حساسة حول العالم.
التلاعب بالصور والذكاء الاصطناعي
وبين الخبراء ان الميزة كانت تعتمد على نموذج نانو بانانا 2 لتوليد الصور، حيث يكفي كتابة امر نصي بسيط للحصول على مشاهد فائقة الواقعية، مما يجعل اكتشاف التزييف امرا شبه مستحيل للجمهور.
وكشفت تجارب ميدانية ان بعض المستخدمين تمكنوا من خداع ادوات كشف الذكاء الاصطناعي عبر لقطات الشاشة، وهي ثغرة بسيطة سمحت بتجاوز العلامات المائية التي وضعتها غوغل لحماية المحتوى الخاص بها من التلاعب.
واكدت تقارير فوربس ان غوغل ايرث يعتبر مصدرا موثوقا للمعلومات، وان اي تلاعب في صوره قد يؤدي الى قرارات كارثية او نشر اخبار كاذبة تضر بالمصداقية العامة للبيانات الجغرافية المتاحة للجميع.
توسع غوغل في تقنيات الذكاء
واضافت الشركة ان هذا التوجه ياتي في اطار دمج الذكاء الاصطناعي في كافة خدماتها، بدءا من محرك البحث وصولا الى الخدمات السحابية، في محاولة منها لمواكبة التطور التقني المتسارع في هذا المجال.
واشار مراقبون الى ان غوغل ليست الوحيدة، حيث سبق لشركة ميتا ان اوقفت ميزات مشابهة بعد انتقادات واسعة، مما يبرز حالة من التخبط التقني في ضبط ادوات الذكاء الاصطناعي قبل طرحها.
وبينت الشركة في ختام توضيحاتها انها ستواصل العمل على تحسين تقنياتها لجعل الذكاء الاصطناعي اكثر امانا وشفافية، مع التزامها بوضع علامات واضحة تميز المحتوى المصطنع عن المحتوى الحقيقي في كافة منصاتها الرقمية.
