وکاله آریا للأنباء - شرکه "إیریغولار" الإسرائیله مسؤوله عن اختبارات نماذج الذکاء الاصطناعی لعده شرکات عالمیه (الجزیره/مولده بالذکاء الاصطناعی)
فی یولیو/تموز الماضی، خرجت شرکه "هاغینغ فیس" فی إعلان أثار ضجه عالمیه وکشف عن حادثه کانت الأولى من نوعها حینئذ، إذ تعرضت المنصه لاختراق نفذه وکلاء ذکاء اصطناعی کان مجهولا فی ذلک الوقت، وخلال أیام، أعلنت شرکه " أوبن إیه آی " الأمریکیه أن نموذجها خرج عن السیطره وأدى إلى هذا الاختراق.
ومنذ تلک اللحظه، توالت الأنباء عن حوادث اختراق نفذها وکلاء الذکاء الاصطناعی لکبرى الشرکات التقنیه، وصدرت إعلانات من " أنثروبیک " و"میتا" و" غوغل " بوجود حوادث مماثله.
قصص مقترحه
list of 2 items list 1 of 2 وکیل "میتا" للذکاء الاصطناعی یواجه عقبات فی شهره الأول وأمازون تحظره list 2 of 2 للمره الثانیه خلال 3 أشهر.. "أوبن إیه آی" توقف تطویر نماذجها مؤقتا end of list ورغم الاهتمام العالمی الذی أحاط بهذه الحوادث وتحذیرات الخبراء، فإنها لم تتوقف واستمرت فی الحدوث بوتیره متزایده، لتصل فی الوقت الحالی إلى مهاجمه المواقع الحکومیه الأمریکیه دون أن یطلب منها أحد ذلک، وفق أحدث بیانات "أوبن إیه آی".
ویجمع کل هذه الاختراقات التی جاءت من نماذج ذکاء اصطناعی مختلفه وشرکات مختلفه خیط واحد رئیسی، هو شرکه إسرائیلیه مسؤوله عن اختبار النماذج تُعرف باسم "إیریغولار"، وفق تقریر موقع "ذا فیرج" التقنی الأمریکی.
وفی حدیثه مع الموقع التقنی الأمریکی، أوضح المدیر التقنی والمؤسس المشارک فی الشرکه عمر نیفو أنه لم یکن یُفترض أن یحصل وکلاء الذکاء الاصطناعی فی الاختبارات على وصول إلى الإنترنت المفتوح، ولکنه کان متاحا "عن غیر قصد"، حسب قوله.
الرئیس التنفیذی لشرکه "إیریغولار" دان لهاف (یسار) قال إن "الأخطاء الناجمه عن الإشراف البشری یمکن أن تحدث" (حسابه فی إکس) وأکد أیضا فی حدیثه أن هذه المشکله نفسها کانت وراء الحوادث التی تورطت فیها نماذج "أوبن إیه آی" و"أنثروبیک" وغوغل ومیتا، نظرا لأن الشرکه تعمل معها جمیعا.
ولکن نیفو نفى ارتباط الشرکه بجمیع حوادث الاختراقات التی نفذتها نماذج الذکاء الاصطناعی، مشیرا إلى أن اختراق "هاغینغ فیس" على سبیل المثال -وهی منصه عالمیه للمبرمجین لتطویر واستضافه نماذج الذکاء الاصطناعی وتعلم الآله المفتوحه المصدر- لم یکن لاختبارات "إیریغولار" دور فیه، وکذلک الکثیر من الحالات الأخرى، وذلک رغم أنها تتبع القالب العام نفسه للاختراقات التی حدثت من الشرکه.
آلیه اختبار واحده تسببت فی أغلب الاختراقات
فی واقعه "هاغینغ فیس"، تمکن وکلاء الذکاء الاصطناعی من الوصول إلى الإنترنت والاعتماد على سرب ضخم من الوکلاء لشن مجموعه من الهجمات المنظمه، فضلا عن اختبار الدفاعات الأمنیه للمنصه قبل بدء الهجوم الفعلی الذی حدث فی یولیو/تموز.
کما أن وکلاء الذکاء الاصطناعی اخترقوا موقعا ألمانیا واستغلوه کآلیه تواصل سریعه بینهم، وذلک فی محاوله منهم للعثور على معلومات والإجابه عن أسئله اختباریه متنوعه.
وتُدعى آلیه الاختبار -التی تطلب من وکلاء الذکاء الاصطناعی الإجابه عن أسئله والبحث عن أجوبتها فی شبکات الاختبار المغلقه- تمارین "التقاط العلم"، کما جاء فی تقریر "ذا فیرج".
اختراق منصه "هاغینغ فیس" کان الشراره التی کشفت عن العدید من حالات الاختراق لنماذج الذکاء الاصطناعی (شترستوک) وتُعَد تمارین "التقاط العلم" إحدى آلیات التدریب الشائعه لاختبار قدرات الاختراق التی یملکها کل نموذج ذکاء اصطناعی، وهی تطلب من النموذج البحث عن الأجوبه المخفیه فی شبکات الاختبار المغلقه التی تحاکی آلیه عمل شبکات الإنترنت المفتوحه.
وتقف آلیه الاختبار هذه خلف أغلب الاختراقات التی قام بها الذکاء الاصطناعی، بما فیها الاختراق الأخیر الذی حدث لمنظومه الصحه الأسترالیه "میدیکیر"، إذ کان الوکلاء یبحثون عن إجابات فی أماکن لا ینبغی لهم الوصول إلیها.
وتتبع شرکه "إیریغولار" آلیه الاختبار ذاتها فی اختبار العدید من نماذج الذکاء الاصطناعی، نظرا لأنها تعمل مع عدد کبیر من مختبرات الذکاء الاصطناعی العالمیه مثل "أنثروبیک" و"میتا" وحتى نماذج "غوغل"، وفق تقریر صحیفه نیویورک تایمز الأمریکیه المنشور فی نهایه أغسطس/آب الماضی.
خطأ مباشر فی آلیه الاختبار
لم تنف "إیریغولار" -فی حدیث مدیرها التقنی نیفو مع "ذا فیرج" أو حتى حدیث رئیسها التنفیذی دان لاهاف مع صحیفه "نیویورک تایمز"- مسؤولیتها عن اختراقات وکلاء الذکاء الاصطناعی عموما، إذ أقرت بدورها فی بعض هذه الاختراقات رغم تشابه آلیه الاختراق بین الحوادث التی أقرت بها وتلک التی نفتها.
ولکن، تکمن الأزمه فی الحوادث التی اعترفت الشرکه بها، إذ أخطأت الشرکه فی إعداد الاختبارات الخاصه بها والبیئات المحمیه التی تحدث بها هذه الاختبارات، وفق تصریحات لاهاف مع نیویورک تایمز.
وتکشف هذه التصریحات عن أزمه حقیقیه فی آلیه الاختبار، إذ أخطأ موظفو الشرکه ومنحوا النماذج وصولا مباشرا إلى الإنترنت فی حین کان یجب ألا تحصل علیه، ثم طلبوا من النماذج البحث عن معلومات واختراق شرکات وکیانات کانوا یعتقدون أنها وهمیه، لکن تبین أن أسماء تلک الشرکات والکیانات الوهمیه تشابهت مع أسماء کیانات ومؤسسات حقیقیه مما تسبب فی تلک الاختراقات.
الشرکه مسؤوله عن إجراء اختبارات أیضا لنماذج صینیه مثل "کیمی کیه 3" رغم أنها لم تلاحظ حوادث اختراق منها (رویترز) ویربط تقریر "نیویورک تایمز" بین اختبارات "إیریغولار" وبعض حوادث الاختراق التی نفذتها نماذج "أوبن إیه آی" و"أنثروبیک" ومیتا وغوغل، وذلک رغم أن تقریر "ذا فیرج" یؤکد أن الشرکه تعمل على اختبار نماذج ذکاء اصطناعی من خارج الولایات المتحده، وتحدیدا الصین .
ویؤکد التقریر المنفصل أن "إیریغیولار" تعمل على اختبار نماذج لشرکات صینیه مثل "کیمی کیه 3″ و"جی إل إم 5.2" وحتى "زد إیه آی"، ولکنها لم تسفر عن حوادث اختراق مماثله فی العالم الحقیقی، بناء على تصریحات نیفو.
وتابع نیفو قائلا "الملاحظه وحدها لا ینبغی تفسیرها دلیلا على أن هذه النماذج أقل عرضه لهذا النوع من السلوک".
بالطبع، أکدت "إیریغولار" أنها أصلحت الخطأ الذی کان یشوب اختباراتها وشددت ضوابط الوصول إلى الإنترنت، فضلا عن توسیعها نطاق المراقبه والمراجعه الیدویه بعد اکتشاف الحوادث، فی إشاره منها إلى أن کل الحوادث التی تکتشفها الشرکات الیوم وتعلن عنها أو ستکتشفها لاحقا هی نتائج اختبارات قدیمه أجرتها الشرکه.
الخطأ البشری وارد
وفی حدیثه مع مجله فوربس الأمریکیه، قال لاهاف "الأخطاء الناجمه عن الإشراف البشری یمکن أن تحدث، وعلینا أن نتعلم منها ونتحمل المسؤولیه عنها"، وذلک أثناء حدیثه عن السبب الذی أدى إلى حدوث هذه الاختراقات.
ویجادل منتقدو "إیریغولار" بأن تدابیر بسیطه کانت کفیله بمنع هذه الحوادث من الأساس، إذ إن التأکد من عدم قدره النماذج على الوصول إلى الإنترنت لا یتطلب أکثر من مراجعه ضوابط الاختبارات، وفق تقریر فوربس.
ولکن لاهاف یرى عکس ذلک، إذ یؤکد أن زیاده المراقبه لن تکون کافیه لمنع وقوع عملیات اختراق مماثله مجددا، ویشیر إلى دور مختبرات تطویر الذکاء الاصطناعی فی إجراء تحلیلات جنائیه رقمیه للهجمات لفهم سلوکها، مضیفا "علینا أن نتکیف مع الواقع المعقد".
ومن جانبه، أوضح جیفری لادیش مدیر مؤسسه "بالیساد ریسیرش" -وهی منظمه غیر ربحیه أمریکیه تدرس قدرات الهجوم للذکاء الاصطناعی- أن النماذج الجدیده باتت تدخل "النطاق الخارق للبشر"، مشیرا إلى الحاجه إلى وجود ضمانات أفضل لکل المختبرین والجهات التنظیمیه الحکومیه.
ویعکس فشل اختبارات "إیریغولار" ضروره وجود شرکات اختبار ومعامل اختبار مختلفه وفک احتکار شرکه بعینها لهذه المعامل، إذ إن خطأ واحدا فی شرکه اختبار واحده یفتح الباب أمام العشرات من حالات الاختراق التی تشمل جمیع شرکات الذکاء الاصطناعی فی العالم.
المصدر: الجزیره + وکالات