وکاله آریا للأنباء - نموذج "أوبن إیه آی" هرب من بیئه اختباریه معزوله وفق تصریحاتها (مولده بالذکاء الاصطناعی/الجزیره)
حذر خبیر أمن سیبرانی من أن الاختراق الأمنی الذی تسبب فیه نموذج ذکاء اصطناعی مارق -بحسب وصف صحیفه "دایلی میل" البریطانیه- تابع لشرکه "أوبن إیه آی" الأمریکیه ینبئ بجیل جدید من الکوابیس الإلکترونیه التی تهدد الشرکات والمجتمعات على حد سواء.
وقال الخبیر الأمنی جیمس نایت من شرکه "دیجیتال وارفیر" -فی حدیثه للصحیفه- إن ما حدث أقرب إلى أفلام الخیال العلمی حین یکتسب الذکاء الاصطناعی وعیا خاصا به ویقرر مهاجمه المنشآت البشریه سواء أکانت شرکات أم حکومات، محذرا من أن النماذج قادره على شن آلاف الهجمات السیبرانیه فی وقت قصیر.
اقرأ أیضا
list of 2 items list 1 of 2 "جذورهم أمریکیه".. مایکروسوفت ترد على الذکاء الاصطناعی الصینی الأرخص list 2 of 2 من الرقائق إلى الوکلاء الأذکیاء.. الصین تبنی نظاما موازیا للذکاء الاصطناعی end of list وأضاف أن التقنیه اللازمه لشن مثل هذه الهجمات خلال 15 دقیقه موجوده منذ نحو عامین، مضیفا أنها قد تصل إلى مستوى لا یتطلب أی معطیات من البشر خلال 25 عاما.
ویشیر التقریر إلى مستوى أکبر من الخطوره عندما ترتبط قدرات الذکاء الاصطناعی على شن الهجمات السیبرانیه السریعه مع الحواسیب الخارقه، مما یحوّل أسوأ کوابیس خبراء الأمن السیبرانی إلى واقع.
وتأتی هذه التصریحات عقب إعلان شرکه "أوبن إیه آی" أن نموذج ذکاء اصطناعی اختباری استطاع الهروب من بیئته الاختباریه، وشن هجوم سیبرانی أدى إلى اختراق منصه "هاغینغ فیس" الأمریکیه المخصصه لاستضافه نماذج الذکاء الاصطناعی، وفق بیان الشرکه.
ویشیر تقریر منفصل من مجله "تایم" الأمریکیه إلى أن هذا الهجوم هو الأول من نوعه الذی یقوده الذکاء الاصطناعی، ویحقق مخاوف الخبراء من سیناریوهات فقدان السیطره على النماذج وعملها خارج سیطره مشغلیها.
ماذا حدث تحدیدا؟
بدأت الأزمه عندما أعلنت منصه "هاغینغ فیس" أنها تعرضت لهجوم سیبرانی شنه نموذج ذکاء اصطناعی غیر معرف، ثم أصدرت "أوبن إیه آی" بیانا ذکرت فیه أنها تتحمل مسؤولیه الهجوم، وتؤکد أن النموذج کان یحاول الهروب من اختبار أمن سیبرانی فی بیئه معزوله بشکل کامل، حسب وصف الشرکه.
ووجد النموذج ثغره فی خدمات الشرکه -وفق تقریر "تایم"- اعتمد علیها للوصول إلى منصه "هاغینغ فیس" وتنفیذ الهجوم بداخلها.
الرئیس التنفیذی لمنصه هاغینغ فیس دعا "أوبن إیه آی" إلى تقدیم قوه حوسبیه مجانیه لمجتمع المنصه تصل إلى 100 ملیون دولار (غیتی) ویرى الرئیس التنفیذی ومؤسس شرکه أبولو المختصه فی أبحاث نماذج الذکاء الاصطناعی واختبار قدراتها على الکذب والخداع ماریوس هوبهاهن أن ما حدث هو تنبیه لما قد یحدث مع النماذج المستقبلیه الأکثر قوه، مضیفا "هذا جرس إنذار مهم سواء فیما یتعلق بمخاطر فقدان السیطره على نماذج الذکاء الاصطناعی أو الأمن التنظیمی للمختبرات الرائده"، وفق التقریر.
ودعا التقریر إلى بناء آلیات حمایه وتأمین أکثر صرامه فیما یتعلق بنماذج الذکاء الاصطناعی الرائده ذات القدرات الفائقه فی قطاع الأمن السیبرانی، وذلک حتى لا تتحول الأزمه إلى کارثه لا یمکن احتواؤها.
استیاء الضحیه
وأوضحت منصه هاغینغ فیس -على لسان مدیرها التنفیذی کلیمنت دیلانغ- استیاءها من الهجوم، مشیره إلى أن هذا الهجوم غیر مسبوق ویستدعی ردا مماثلا، وفق تقریر منفصل من صحیفه الغاردیان البریطانیه.
ودعا مطوری نماذج الذکاء الاصطناعی إلى تبنی سیاسه الشفافیه التامه فیما یتعلق بالنماذج الفائقه القدره فی قطاع الأمن السیبرانی، مضیفا أن الشرکه علیها إتاحه بیانات النموذج لجمیع خبراء الأمن السیبرانی والباحثین فیه حتى یتمکنوا من فهم ما حدث وتجنبه مستقبلا.
کما طالب "أوبن إیه آی" بتقدیم 100 ملیون دولار على شکل قوه حوسبیه متاحه لمجتمع هاغینغ فیس حتى یتمکنوا من بناء دفاعات سیبرانیه أکثر قوه وقدره على مواجهه مثل هذه النماذج.
ماذا یحمل المستقبل؟
ویشیر تقریر الغاردیان إلى أن النموذج المسؤول عن هذه الحادثه کان من فئه "جی بی تی 5.6 سول" المخصصه للاستخدامات السیبرانیه، والتی تنتمی إلى فئه نموذج "میثوس" من أنثروبیک .
وأشارت التقاریر السابقه إلى مخاوف جمه من نموذج میثوس التابع لشرکه أنثروبیک، إذ وصفه تحالف "الأعین الخمس" بأنه نموذج قادر على شن هجمات مطوره ضد الحکومات والتسبب فی أزمات مستقبلیه.
ویدفعنا هذا إلى التساؤل عن مستقبل تقنیه الذکاء الاصطناعی وقدره المعامل الکبرى على السیطره علیه، ورغم أن تنبؤات نایت التی نقلتها "دایلی میل" تبدو بعیده، فإنها لیست خیالا کاملا.
المصدر: الجزیره + وکالات