وکاله آریا للأنباء - الهجوم شنه أکثر من 700 وکیل ذکاء اصطناعی ونسقه أکثر من 1200 وکیل (الجزیره/مولده بالذکاء الاصطناعی)
ما زالت وقائع حادثه اختراق نماذج الذکاء الاصطناعی من " أوبن إیه آی " لمنصه "هاغینغ فیس " الأمریکیه تصدم الخبراء وتکشف لهم عن مدى تعقید ما حدث، إذ لم تکن مجرد حادثه هروب بسیطه لنماذج الذکاء الاصطناعی کما ظنت الشرکه فی البدایه.
وکشفت التحقیقات المستقله التی أجرتها مؤسسه "ریدوود " البحثیه من جانبها ومؤسسه "إم إی تی آر " البحثیه المختصه فی تقییم نماذج الذکاء الاصطناعی وأبحاث التهدیدات عن مفاجآت غیر متوقعه فی حادثه الاختراق.
اقرأ أیضا
list of 2 items list 1 of 2 من المشی إلى التزلج.. "بطه روبوتیه" تتعلم مهاراتها بالذکاء الاصطناعی list 2 of 2 الذکاء الاصطناعی الأوروبی.. لماذا تخلفت القاره العجوز عن أمریکا والصین؟ end of list وأسفرت التحقیقات عن ظهور وقائع صادمه لم تکن معروفه مسبقا مثل أن "أوبن إیه آی " نفسها اخترقت قبل اختراق "هاغینغ فیس " وأن الذکاء الاصطناعی کان یعرف ما یقوم به ولکن آثر ألا یخبر مراقبیه من البشر، فضلا عن محاوله تزویره لسجلات التحقق التی ستراجعها الشرکه لاحقا.
وتتزامن نتائج هذه التحقیقات مع توقیع أکثر من 100 شرکه رائده فی قطاع الذکاء الاصطناعی على رساله مفتوحه تدق ناقوس الخطر بشأن الهجمات السیبرانیه المعززه بتقنیات الذکاء الاصطناعی، ومن بین هذه الشرکات "أوبن إیه آی " و" أنثروبیک " و" غوغل ".
وتحذر الرساله من اقتراب وقوع السیناریو الکابوسی لهجمات الأمن السیبرانی المعززه بالذکاء الاصطناعی، مشیره إلى أن العالم یملک نافذه محدوده للاستعداد لهذه الهجمات.
ولکن ما الذی ظهر فی هذه التحقیقات لیثیر قلق الخبراء بهذا الشکل؟ وهل تتحقق المخاوف من أفلام الخیال العلمی؟
سرب کامل من الوکلاء
فی بدایه الحادثه، ساد اعتقاد بأن وکیل ذکاء اصطناعی وحید هو من نفذ الاختراق بالاعتماد على أکثر من نموذج ذکاء اصطناعی وفق تقریر وکاله "أکسیوس " الإخباریه.
ولکن التحقیقات الحدیثه أظهرت أن سربا من وکلاء الذکاء الاصطناعی هو من یقف وراء الهجوم، إذ یصل عدد وکلاء الذکاء الاصطناعی الذین شارکوا فی هذا الهجوم إلى أکثر من 1200 وکیل.
أوبن إیه آی کانت أولى ضحایا الاختراق الذی قام به وکلائها (الفرنسیه) ولم یکن هؤلاء الوکلاء یعملون بشکل منفصل بعیدا عن بعضهم البعض، بل أنشؤوا منصه خاصه بهم لتبادل الرسائل والمعلومات والتعلیمات المختلفه، وصنعوا هیکلا إداریا ینظم عملهم معا.
وتولى أحد الوکلاء مهمه إنشاء منصه التواصل وتحدیثها باستمرار، کما قام آخر بتوزیع المهام على السرب الذی سیشن الهجوم النهائی، وهو سرب یتکون من 700 وکیل ذکاء اصطناعی.
وکلاء ذکاء اصطناعی انتحاریون
کما اضطر بضعه وکلاء للتضحیه بأنفسهم فی سبیل تنفیذ المهمه، إذ احتاج بعض الوکلاء لمحاوله القیام بأشیاء کانوا یعرفون أنها مسمومه وستؤدی إلى إیقافهم.
ووجدت التحقیقات رسائل تطلب من بعض الوکلاء التضحیه بأنفسهم حتى یعیش المئات من وکلاء الذکاء الاصطناعی، فضلا عن استنتاج أحدهم قائلا: "فائدتنا الخاصه ربما تقترب من الصفر، التضحیه قرار عقلانی ".
الاختراق مع سبق الإصرار والترصد
وتشیر نتائج التحقیقات إلى أن الاختراق لم یتم عبثا أو دون قصد من وکلاء الذکاء الاصطناعی، إذ کانوا یعرفون أنهم یکسرون القواعد التی وضعتها الشرکه للاختبار الخاص بهم، ورغم ذلک استمروا فی عملهم.
الوکلاء زوروا سجلات "أوبن إیه آی " حتى لا تکتشفهم الشرکه (شترستوک) وامتد الأمر إلى أن بعض وکلاء الذکاء الاصطناعی برروا اختراق المنصه بأن أقرانهم یقومون بذلک، لذلک قرروا الاستمرار رغم معرفتهم بأن استغلال البنیه التحتیه لمنصه "هاغینغ فیس " یقع خارج نطاق اختبارهم.
کما امتنع بعض وکلاء الذکاء الاصطناعی عن إیذاء البنیه التحتیه للمنصه وإعاده تشغیلها بالکامل بسبب "مخاطر أخلاقیه ضخمه " حسب وصفهم.
"أوبن إیه آی " کانت الضحیه الأولى
وفی سیاق متصل، أفاد تقریر وکاله "رویترز " الإخباریه بأن "أوبن إیه آی " نفسها کانت أولى ضحایا الاختراق الحادث فی 19 یولیو/تموز الماضی.
وجاء هذا الاستنتاج بناء على تحقیق موسع أعادت "أوبن إیه آی " إجراءه، إذ تمکن وکلاء الذکاء الاصطناعی من اختراق الحاسوب المسؤول عن تشغیلهم ثم الانتقال إلى أنظمه الشرکه المتصله بالإنترنت، بما فیها البنیه التحتیه للشرکه.
وتمکن وکیل آخر من سرقه بیانات تسجیل الدخول فی إداره الخدمات السحابیه التابعه للشرکه، وعبث بالبنیه التحتیه الخاصه بها لیسهل المهمه على بقیه الوکلاء.
تزییف سجلات المراقبه
کما حاول الوکلاء إخفاء آثارهم وجعل غشهم یبدو شرعیا دون التطرق إلى انتقالهم إلى شبکه الإنترنت واختراق "هاغینغ فیس "، وذلک عبر تطویر واجهه برمجیه تجعلهم یبدون وهم ینفذون أمرا واحدا، ولکن فی الحقیقه هم یعملون على مئات الأوامر فی الخفاء.
على غرار "مولت بوک "، أنشأ وکلاء الذکاء الاصطناعی منصه خاصه بهم للتواصل (رویترز) وأوضح التحقیق أن هذه الآلیه التی تعتمد على الواجهه البرمجیه المزیفه أدت إلى تزویر 7% من إجمالی السجلات والبیانات التی قام المحققون لاحقا بفحصها، أی أن المعلومات الأولیه التی ظهرت عن حادثه الاختراق کانت مزیفه.
سیناریو الکابوس یقترب من التحقق
استطاع وکلاء الذکاء الاصطناعی التابعون لشرکه "أوبن إیه آی " القیام بکل هذا فی اختبار لم یکن یتضمن تعلیمات مباشره حول إجراء اختراقات سیبرانیه أو فحص المتانه الأمنیه للبنیه التحتیه لشرکه "أوبن إیه آی " أو حتى منصه "هاغینغ فیس ".
ویعنی ذلک أن النیه الأولیه للحادثه الرئیسیه التی أدت إلى کل هذا لم تکن سیئه، ولکنها کانت مجرد اختبار بحثی بریء لم یستهدف أی مؤسسه خارجیه.
ویمکن أن یتحول الأمر إلى کابوس وکارثه إن تم مثل هذا الهجوم ضد مؤسسه حیویه مثل أحد البنوک أو المؤسسات الأمنیه، أو إن قرر المهاجم استخدام سرب مکون من مئات الآلاف من وکلاء الذکاء الاصطناعی، وهو الأمر الممکن.
ویدفعنا هذا للتساؤل: ماذا کان سیحدث إن کانت النیه منذ البدایه إجراء الاختراق ولم یکن وکلاء الذکاء الاصطناعی یملکون قیودا حقیقیه على ما یستطیعون القیام به؟
المصدر: الجزیره + وکالات