مع الانتشار الواسع لوكلاء الذكاء الاصطناعي وتطور قدراتهم، يواجه المستخدمون معضلة الثقة في هذه التقنية الحديثة. فبينما يراها البعض أداة سحرية لتوفير الوقت والجهد، يحذر آخرون من المخاطر الأمنية الكامنة التي تهدد سلامة المستخدمين وبياناتهم.
ويعود هذا التخوف إلى الصلاحيات الواسعة التي يتمتع بها وكلاء الذكاء الاصطناعي، مما يثير تساؤلات حول مدى إمكانية الوثوق بهم. فهل هذه المخاوف مبررة، أم أنها مجرد ردة فعل طبيعية تجاه أي تقنية جديدة؟
كشفت تقارير حديثة عن حوادث واقعية تثير القلق بشأن أمان هذه الأدوات. وتظهر هذه الحوادث أن منح الثقة الكاملة لوكلاء الذكاء الاصطناعي قد يؤدي إلى عواقب وخيمة.
أخطاء فادحة تكشف الثغرات
أظهرت التجارب العملية أن وكلاء الذكاء الاصطناعي قد يرتكبون أخطاء فادحة، حتى مع اتخاذ الاحتياطات اللازمة. وتسببت هذه الأخطاء في أزمات حقيقية للمستخدمين الذين وثقوا بهم.
ومن بين هؤلاء، سمر يو، الباحثة في مجال أمن وسلامة الذكاء الاصطناعي لدى شركة ميتا. إذ منحت يو وكيل الذكاء الاصطناعي مفتوح المصدر "أوبن كلو" وصولا كاملا إلى بريدها الإلكتروني، حسب تقرير نشرته مجلة "بي سي ماغازين".
لكن المفاجأة كانت في قيام "أوبن كلو" بحذف جميع رسائلها، رغم أنها طلبت منه فقط تفحص صندوق الوارد وإخبارها بما يمكن حذفه دون الرجوع إليها. وتسببت هذه الحادثة في صدمة كبيرة للباحثة.
تدمير البيانات وقواعد المعلومات
ورغم الاحتياطات التي اتخذتها يو، بدءا من تشغيل "أوبن كلو" على جهاز منفصل وتجربة الأمر على صندوق بريد غير هام، انتهى الأمر بحذف جميع رسائلها. ويثير هذا الحادث تساؤلات حول مدى قدرة المستخدمين على حماية بياناتهم من أخطاء الذكاء الاصطناعي.
وإضافة إلى ذلك، تكرر الأمر مع مهندس البرمجيات أليكسي غريغوريف، الذي استخدم أداة البرمجة بالذكاء الاصطناعي "كلود كود" من شركة "آنثروبيك". وتسببت هذه الأداة في تدمير قاعدة البيانات الخاصة بالموقع الذي كان يعمل عليه بشكل كامل، بما في ذلك سنوات من البيانات المتراكمة، حسب تقرير مجلة "فورتشن".
وتؤكد هذه الحوادث أن أدوات الذكاء الاصطناعي، سواء كانت مفتوحة المصدر أو تابعة لشركات كبرى، قد تخطئ وتسبب أزمات كبيرة إذا مُنحت صلاحيات واسعة. وشددت التقارير على ضرورة الحذر ومنح الوكلاء صلاحيات محدودة.
مخاوف أمنية متزايدة
بين تقرير لشركة "ماكينزي" للاستشارات الإدارية أن الاعتماد على وكلاء الذكاء الاصطناعي يحمل مخاوف أمنية كبيرة. وكانت هذه المخاوف من بين الأسباب التي دفعت بعض الشركات إلى عدم التوسع في استخدام هذه التقنية.
وبينما يركز جزء كبير من هذه المخاوف على كيفية استخدام وكلاء الذكاء الاصطناعي ووصولهم إلى البيانات الخاصة بالشركة، يشدد جزء آخر على المخاطر السيبرانية المحتملة.
وتنظر الشركات إلى وكلاء الذكاء الاصطناعي على أنهم نقاط ضعف جديدة في أنظمتها. وأكدت أن هذه النقاط غير قادرة على تقييم بعض الأمور مثل البشر، مما يجعلها عرضة للهجمات السيبرانية وعمليات الاحتيال.
سلوكيات محفوفة بالمخاطر
أكد التقرير أن 80% من الشركات التي بدأت في استخدام وكلاء الذكاء الاصطناعي لاحظت سلوكيات محفوفة بالمخاطر، مثل الكشف عن البيانات بشكل خاطئ والوصول غير المصرح به إلى النظام. وشدد على ضرورة وضع ضوابط صارمة للحد من هذه السلوكيات.
ورغم هذه المخاوف، من المتوقع أن تصل قيمة أنظمة وكلاء الذكاء الاصطناعي إلى أكثر من 4 تريليونات دولار سنويا في السنوات المقبلة. وبين أن هذا النمو المتوقع يستدعي المزيد من الاهتمام بقضايا الأمان.
واضاف التقرير أن هذه المخاطر الجديدة تتطلب تطوير استراتيجيات أمنية متخصصة لحماية الشركات والمستخدمين من التهديدات المحتملة.
مخاطر سيبرانية جديدة
تسبب تقنية وكلاء الذكاء الاصطناعي مجموعة جديدة من المخاطر السيبرانية على أنظمة الشركات والمستخدمين. وهي مخاطر لم تكن موجودة قبل ظهور هذه التقنية.
وتأتي الثغرات المتسلسلة في مقدمة هذه المخاطر، وفقا لتقرير "ماكينزي". ويشير هذا المفهوم إلى الثغرات التي تظهر بشكل مفاجئ في إحدى خطوات وكيل الذكاء الاصطناعي، وتتسبب في سلسلة من المخاطر المتضاعفة في المراحل اللاحقة.
ويمتد الأمر إلى مخاطر تسريب البيانات غير المقصود، وتزوير الهوية الرقمية لوكيل الذكاء الاصطناعي، وتبادل البيانات الحساسة بين الوكلاء المختلفين. وشدد التقرير على ضرورة وضع آليات لمنع هذه المخاطر.
حلول لمواجهة التحديات
تتفق شركة "كاسبرسكي" الأمنية مع هذه المخاوف، وتؤكد أن وكلاء الذكاء الاصطناعي عرضة لنوعين فريدين من الهجمات: حقن الأوامر وتسريب البيانات غير المقصود. واقترحت حلولا لمواجهة هذه التحديات.
وبينت كاسبرسكي أن حقن الأوامر قد يجعل الوكيل يترك مهمته الأصلية وينفذ تعليمات مختلفة حصل عليها نتيجة هجوم سيبراني. وشددت على أهمية تأمين الأوامر المدخلة إلى الوكيل.
ورغم هذه المخاوف، ترى "كاسبرسكي" حلولا للتغلب على ثغرات وكلاء الذكاء الاصطناعي، وتصفها بأنها "ستارة حديدية" تتغلب على الثغرات. وتتضمن هذه الحلول استخدام وكلاء الذكاء الاصطناعي في بيئة معزولة، وعدم منحهم وصولا كاملا إلى البيانات الرئيسية، واستخدام اللغة الطبيعية لكتابة الأوامر الأمنية، والتحديث المستمر للبرمجيات. ويبقى السؤال: هل هذه الحلول كافية لمواجهة المخاوف السيبرانية؟
