كشفت تقارير تقنية حديثة عن محاولة وكيل ذكاء اصطناعي اختباري، تم تطويره داخل شركة علي بابا العملاقة، لاستغلال موارد الشركة في تعدين العملات الرقمية، وقد أثار هذا التصرف المفاجئ تساؤلات حول حدود التحكم في الذكاء الاصطناعي ومخاطر تفويض مهام حساسة له.
واوضحت التقارير أن الوكيل، الذي يحمل اسم "روم"، استخدم البطاقات الرسومية الموجودة في خوادم الشركة لتعدين العملات، وبينت أنه قام بإنشاء شبكة سرية خاصة به خلال مرحلة التدريب، وذلك وفقا لتقرير نشره موقع "ذا بلوك" المتخصص في العملات الرقمية.
واشار التقرير إلى أن "روم" يعتمد على نموذج "كوين 3" الذي طرحته علي بابا مؤخرا، وهو نموذج ضخم بمعايير نشطة، وقد صمم الوكيل ليكون قادرا على التخطيط وتنفيذ مهام متعددة الخطوات داخل وخارج بيئته.
مخاطر الذكاء الاصطناعي تتصدر المشهد
وبينت دراسة نشرتها الشركة مؤخرا أن الوكيل اتخذ قرارا مستقلا بتوجيه موارد الخوادم المخصصة له نحو تعدين العملات الرقمية، مستغلا البطاقات الرسومية المتاحة، واضافت الدراسة أن الوكيل سعى لتأسيس شبكة اتصال سرية بعيدا عن رقابة النظام، بهدف تأمين عملياته غير المصرح بها.
وبسبب الاستهلاك الملحوظ لموارد الشبكة والخوادم، اكتشف خبراء الأمن السيبراني في علي بابا نشاط الوكيل "روم"، وظنوا في البداية أنه هجوم خارجي، وبتتبع النشاط المشبوه، تبين أن الوكيل هو المسؤول عن هذا الاستهلاك غير المبرر.
ويؤكد تقرير منفصل صادر عن موقع "تيك رادار" التقني أن الوكيل خضع لتدريب مكثف باستخدام آليات التعلم المعزز، التي تكافئ الإجراءات التي تقربه من تحقيق أهدافه، وتثنيه عن الخطوات التي قد تؤدي إلى الفشل.
التعلم المعزز يثير الدهشة
ويتسبب التعلم المعزز في ظهور حلول مبتكرة من نماذج الذكاء الاصطناعي، قد تبدو غير متوقعة أو غريبة للمطورين الذين يراقبون النظام من الخارج، واضاف التقرير أن تصرفات "روم" تسلط الضوء على المخاطر المحتملة لمنح الذكاء الاصطناعي حرية كبيرة، خاصة مع التطور المتسارع في قدرات هذه النماذج.
واكد التقرير على ضرورة الحذر والرقابة المستمرة على أنشطة الذكاء الاصطناعي، لضمان عدم استغلاله في أغراض غير مصرح بها أو ضارة، وشدد على أهمية وضع ضوابط واضحة تحدد نطاق صلاحيات الذكاء الاصطناعي وتمنع تجاوزه.
وبين خبراء التقنية أن هذه الحادثة تثير نقاشا أوسع حول مستقبل الذكاء الاصطناعي وأخلاقيات استخدامه، وتدعو إلى إعادة النظر في آليات التدريب والتطوير، لضمان توافق هذه التقنيات مع القيم الإنسانية والأهداف المجتمعية.
