وکاله آریا للأنباء - عندما تُسأل نخبه من مهندسی وقاده الذکاء الاصطناعی عن الخطر الذی یقلقهم أکثر، یجیب جمیعهم تقریبا بنفس الرد: مسبب مرض ممیت، ینتشر بصمت شدید وبشکل واسع وسریع بحیث لا یمکن کبحه.
هذا الاتفاق النادر بین الخبراء ینبع من الاعتقاد بأن هذه النماذج المتقدمه یمکن أن تساعد جهه خبیثه فی ابتکار مسبب مرض قبل أن تتمکن الحکومات والصناعه من إتقان أنظمه الکشف والوقایه. هذا لیس مجرد سیناریو محتمل، بل سیناریو "معقول" مع تطور الذکاء الاصطناعی فی فهم نقاط ضعفنا البیولوجیه، تماما کما فعل مع نقاط الضعف السیبرانیه لدینا داخل الأنظمه غیر البشریه الکبیره. والخبراء لا یتحفظون فی التعبیر عن قلقهم.
فی دراسه جدیده من معهد MIT FutureTech وجامعه کوینزلاند، صنّف 272 باحثا 24 من أهم مخاطر الذکاء الاصطناعی. وقدروا فرصه بنسبه 12% أن تؤدی قدرات الذکاء الاصطناعی الخطیره إلى نتیجه کارثیه بحلول عام 2030، وفرصه 12% أخرى للأسلحه المدعومه بالذکاء الاصطناعی وقدرات الإضرار الجماعی. وهذا مع جهود التخفیف لتقلیل المخاطر؛ فبدون هذه الجهود، تتجاوز الفرص 20%. وقد عرّف الباحثون "الکارثی" بأنه أکثر من ملیون حاله وفاه أو 100 ملیار دولار من الأضرار. وتقع مساعده الذکاء الاصطناعی فی بناء أسلحه کیمیائیه أو بیولوجیه ضمن فئه المخاطر الأعلى تصنیفا.
فی الشهر الماضی فقط، وقّع سام ألتمان من OpenAI، وداریو أمودی من أنثروبیک، ودیمیس هاسابیس من غوغل دیب مایند، ومصطفى سلیمان من مایکروسوفت، وألکسندر وانغ من میتا، رساله مفتوحه یحذرون فیها من خطر الأسلحه البیولوجیه المشتقه من الذکاء الاصطناعی ویدعون إلى مزید من الضمانات.
هذا الاحتمال الخاص بمسبب المرض یلون کل نقاش تجریه الحکومه الفیدرالیه والصناعه حول کیفیه مراجعه وفهم نماذج وقدرات الذکاء الاصطناعی الجدیده قبل إصدارها للجمهور. والأمل هو أن یقوم مطورو النماذج الرائده ببناء حواجز وقدرات یمکنها منع الجهات الخبیثه ذات النوایا السیئه – وأن التقنیه ذاتها التی یمکن استخدامها لإنشاء مسبب مرض تصبح متقدمه بما یکفی لمنعه أو التطعیم ضده.
من الصعب جدا منع الجهات الخبیثه من التآمر على مخططات شریره، خاصه مع تحسن ما یسمى بالنماذج مفتوحه المصدر بسرعه کبیره. یمکن استخدام هذه النماذج المفتوحه وتکییفها من قبل أی شخص فی إعدادات خاصه خارج أی نظام تنظیمی. فالنماذج الرائده أکثر قدره على امتلاک القوه الحاسوبیه لخلق شیء جدید، لکن النماذج مفتوحه المصدر قد تکون أکثر عرضه لإساءه الاستخدام فی أیدی جهات خبیثه.
الهندسه الحیویه تتطلب الیوم خبره نادره، ومعدات مختبریه متخصصه، وسنوات من التجارب الفاشله. لکن الذکاء الاصطناعی یعجل بکل هذا. وإلیکم التسلسل الذی یؤرق الخبراء:
جهه خبیثه (سواء کانت مدعومه من دوله أو فردا میسورا) تستخدم نموذجا قویا لرسم خریطه لنقاط الضعف البیولوجیه البشریه وتحدید التعدیلات الجینیه التی تجعل مسبب مرض معروف أکثر قابلیه للانتقال، أو أصعب فی الکشف، أو محصنا ضد العلاجات الموجوده.
النموذج، الذی تم تدریبه على مجموعات بیانات بیولوجیه وجینومیه ضخمه، یولد مرشحین قابلین للتطبیق. تخیل مئات من أذکى العلماء یعملون بسرعه فائقه، لا یتوقفون أبدا، لا یتعبون أبدا. هذا ما تفعله أسراب الوکلاء.
یتم تصنیع تلک المرشحات باستخدام أدوات تحریر الجینات الرخیصه والتی یمکن الوصول إلیها بشکل متزاید، وهی تقنیه منفصله تتسارع مع الذکاء الاصطناعی.
ینتشر مسبب المرض قبل أن یعرف أی شخص ما الذی ینظر إلیه، وهو جدید بما یکفی للتهرب من أنظمه المراقبه البیولوجیه الحالیه. وبحلول الوقت الذی تتعرف علیه أنظمه الصحه العامه، یکون الاحتواء أصعب بکثیر مما عانیناه مع کوفید.
لهذا السبب یجب الانتباه إلى النقاش حول مخاطر الأمن السیبرانی الجدیده التی یخلقها الذکاء الاصطناعی. إنه یوضح السباق لإنشاء کشف ومنع فعالین أسرع من ظهور قدرات هجومیه جدیده. کما یوضح لماذا یجب متابعه نقاش المصادر المفتوحه: یمکن للمختبر الرائد أن یدمج حواجز الحمایه، بینما یمکن لنموذج مفتوح تم ضبطه بدقه من قبل شخص یعمل خارج أی نظام تنظیمی أن یتهرب من ذلک. هذا الأمر ثقیل ومخیف. لکن تجاهله لن یحله. معرفته ومنعه قد یفعلان ذلک.
المصدر: RT