وکاله آریا للأنباء - حذرت دراسه أمنیه من أن تطور الذکاء الاصطناعی، خصوصا النماذج مفتوحه المصدر، قد یسهل على جهات خبیثه الوصول إلى معلومات لتطویر أسلحه کیمیائیه وبیولوجیه.
وبحسب تقریر أعدته مجموعه الأبحاث Crimson Flare، فإن بعض نماذج الذکاء الاصطناعی المتاحه تجاریا یمکن تعدیلها لإزاله أنظمه الحمایه المدمجه فیها، بما یسمح لها بالإجابه عن أسئله ترفض النماذج الأصلیه التعامل معها.
ویحذر باحثون أمنیون من أن هذه التطورات قد تخفض الحواجز التقنیه أمام أشخاص لا یمتلکون خبره متخصصه، بعدما کانت المعرفه اللازمه للتعامل مع مواد شدیده الخطوره محصوره إلى حد کبیر بین العلماء والمتخصصین.
ویعرف أحد الأسالیب المستخدمه لتجاوز قیود السلامه فی نماذج الذکاء الاصطناعی بشکل غیر رسمی باسم "التدمیر"، ویهدف إلى إزاله أجزاء من النموذج مسؤوله عن رفض بعض الطلبات. وبحسب التقریر، یمکن تنفیذ هذه العملیه خلال فتره قصیره وباستخدام أدوات متاحه على الإنترنت ومعرفه أساسیه بالبرمجه.
ولا یقتصر الخطر على إمکانیه تعدیل النماذج، إذ یمکن أیضا العثور على نسخ معدله مسبقا وتحمیلها من الإنترنت. وقالت صحیفه "دیلی میل" إنها تمکنت خلال دقائق من العثور على عده نسخ توصف بأنها "غیر خاضعه للرقابه" من نماذج متاحه للاستخدام.
ظهور ذکاء اصطناعی قوی ومجانی ینافس أبرز النماذج العالمیه ویثیر جدلا حول هویه مطوره
ویشیر التقریر إلى أن بعض هذه النماذج لا یقدم سوى معلومات عامه، فیما قد تقدم نماذج أخرى إجابات أکثر تفصیلا، وهو ما یثیر مخاوف بشأن إمکانیه استخدامها فی أنشطه خطره.
ویحذر التقریر من أن نماذج اللغه الکبیره مفتوحه المصدر، والقویه وغیر الخاضعه للرقابه، قد تمثل تهدیدا متزایدا للأمن القومی، خصوصا عندما یمکن تشغیلها محلیا دون الحاجه إلى الاتصال بخوادم الشرکات المطوره.
وتختلف هذه النماذج عن خدمات الذکاء الاصطناعی التی تعمل عبر الإنترنت، إذ یستطیع المستخدم تنزیل النموذج وتشغیله مباشره على جهازه. وهذا یجعل مراقبه استخدامه أکثر صعوبه، بحسب الباحثین، لأن البیانات والطلبات لا تمر بالضروره عبر خوادم خارجیه یمکن للشرکات أو الجهات المختصه مراقبتها.
ویرى التقریر أن هذا التطور یمثل تغیرا مهما مقارنه بالسنوات الماضیه، عندما کانت القدره الحاسوبیه اللازمه لتشغیل نماذج الذکاء الاصطناعی المتقدمه محلیا محدوده ومتاحه لعدد قلیل من المستخدمین.
ویقدر الباحثون أن نحو 87٪ من الأسر أصبحت قادره على تشغیل بعض أنظمه الذکاء الاصطناعی محلیا باستخدام المعدات المتاحه لدیها حالیا، ما یعنی أن الوصول إلى هذه التقنیات لم یعد مقتصرا على المؤسسات الکبیره أو المختبرات المتخصصه.
وقال البروفیسور ألیستر های، عالم السموم البریطانی والخبیر فی الحرب الکیمیائیه، إن الذکاء الاصطناعی یخفض مستوى الخبره التقنیه المطلوبه للتعامل مع مواد خطره، بعدما کانت المعرفه اللازمه لذلک تشکل حاجزا أمام غیر المتخصصین.
وأضاف های أن تطور المختبرات السحابیه وأدوات الذکاء الاصطناعی قد یسمح بتفویض جزء من المعرفه والخبره اللازمه إلى الأنظمه الرقمیه.
وبعد الاطلاع على إجابات قدمها أحد نماذج الذکاء الاصطناعی، قال های للباحثین إن المعلومات التی وفرها النموذج تشبه "وصفه"، معتبرا أنها تقترب من مستوى المعرفه التی یمتلکها طلاب المختبرات.
ومع ذلک، یؤکد التقریر أن خطر تنفیذ هجوم إرهابی باستخدام أسلحه کیمیائیه أو بیولوجیه لا یزال منخفضا، بسبب العوائق التقنیه والعملیه الکبیره المرتبطه بإنتاج هذه الأسلحه والتعامل معها.
لکن الباحثین یحذرون من أن تطور الذکاء الاصطناعی قد یغیر طبیعه هذه المخاطر مستقبلا، عبر تسهیل الوصول إلى المعرفه التی کانت تتطلب فی السابق تدریبا علمیا متخصصا، وهو ما یفرض تحدیات جدیده أمام الحکومات وشرکات التکنولوجیا لمنع إساءه استخدام هذه النماذج.
المصدر: دیلی میل