وکاله آریا للأنباء - روبوتات باحتجاج فی وارسو للمطالبه بتنظیم تطویر الذکاء الاصطناعی وسط مخاوف من فقدان السیطره علیه (الفرنسیه)
لطالما بدا الذکاء الاصطناعی الخارج عن السیطره ماده خالصه للخیال العلمی: آله تتفوق على صانعیها، وتتعلم کیف تحمی نفسها، ثم تنقلب على البشر کما فی أفلام "ترمیناتور" و"ماتریکس". لکن بعض أکثر التحذیرات المرعبه المتوارده الیوم لا تأتی من کتّاب الخیال، بل من باحثین یعملون داخل الشرکات التی تطور هذه الأنظمه.
فهذا الأسبوع، استقال جاکوب کوکسون من شرکه " أنثروبیک " بعد تجربه سابقه فی " أوبن إیه آی " واتهم الشرکتین بأنهما "تقامران بحیاه البشر" فی سباقهما نحو تطویر ذکاء فائق قادر على تحسین نفسه.
قصص مقترحه
list of 2 items list 1 of 2 لا حل فی الأفق بالضفه الغربیه.. لکن هل تغیّر میلانیا موقف ترمب؟ list 2 of 2 لعنه ذهب النیل.. هکذا یفقد السودان حقوله الخصبه وقدرته على إنتاج الغذاء end of list والأشد وقعًا أن إیفان هوبینغر کبیر الباحثین فی "أنثروبیک" لم یرفض هذا التحذیر، بل قال إنه یقدّر بأکثر من 10% احتمال أن یؤدی الذکاء الاصطناعی للقضاء على البشر خلال العقد المقبل.
ومن قراءات فی الصحافه الأجنبیه، تبرز 4 سیناریوهات یتکرر التحذیر منها، وإن اختلف الخبراء بشده فی مدى احتمالها وقربها.
1. آله تطوّر نفسها حتى تصبح أقوى من صانعیها
أکثر السیناریوهات إثاره للقلق ما یعرف بـ"التحسین الذاتی المتکرر": أن یستخدم النظام قدراته لتطویر نفسه، ثم تصبح النسخه الأکثر تقدمًا أقدر على تحسین ذاتها مره أخرى، فتدخل العملیه فی حلقه متسارعه یقل فیها اعتماد الآله على التدخل البشری.
تنقل صحیفه تایمز البریطانیه عن کوکسون قوله إن ما یخشاه أکثر هو أن "یصبح الذکاء الاصطناعی أذکى فأذکى من دون حاجه إلى البشر" إلى أن یظهر نظام یفوق الإنسان بفارق کبیر. کما یحذر الباحث دیفید کروغر من أن نظامًا یستطیع الوصول إلى شفرته البرمجیه قد ینسخ نفسه ویعدلها للتحایل على إجراءات الحمایه الموضوعه ضده.
وفی مقال رأی فی "وول ستریت جورنال" تنقل بیغی نونان عن خبراء حدیثًا مشابهًا، مستخدمه صوره حصان هائج خرج من الحظیره لکنه لم یبتعد بعد. أما الوصول إلى التحسین الذاتی المتکرر فقد یکون اللحظه التی یصبح فیها اللحاق به أصعب کثیرًا. وتدعو نونان إلى وقف هذا المسار قبل أن تتحول مسأله السیطره من احتیاط للمستقبل إلى أزمه حاضره.
لکن مجله ناشونال إنترست تعرض وجهه نظر أقل تشاؤمًا. فالخبیر التقنی کیفن سوراس یرى أن الأنظمه الحالیه ما تزال فی نهایه المطاف برمجیات، وأن بعض الحالات التی وُصفت بأنها "تمرد" حدثت أثناء اختبارات أُعدت خصیصًا لمعرفه کیف ستتصرف النماذج إذا طُلب منها محاوله الهروب أو الاختراق. وبذلک یبقى الخلاف کبیرًا حول المسافه التی تفصل قدرات الیوم عن سیناریو فقدان السیطره الشامل.
إعلان روبوتی بمعرض فی بکین: الصین تضخ استثمارات ضخمه فی سباق الذکاء الاصطناعی والروبوتات (غیتی) 2. أسلحه بیولوجیه فی الأیدی الخطأ
لا یشترط السیناریو الثانی أن تقرر الآله من تلقاء نفسها إیذاء البشر. فقد یکفی أن تمنح أشخاصًا أو جماعات خطره قدرات لم تکن متاحه لهم من قبل.
وتنقل تایمز عن آدم هادلی المدیر التنفیذی لمنظمه "التکنولوجیا ضد الإرهاب" قوله إن الخطر الأکثر إلحاحًا حالیًا هو إساءه استخدام النماذج المتقدمه، لا ثورتها وحدها على البشر. ویحذر خصوصًا من نماذج أزیلت منها قیود السلامه وأصبحت متاحه على الإنترنت، بما قد یتیح لمجرمین أو جماعات مسلحه أو دول استخدامها للمساعده فی تطویر أسلحه بیولوجیه.
وتظهر المخاوف نفسها فی مقال وول ستریت جورنال، حیث تتحدث نونان عن قلق داخل أوساط السلامه من هجمات بیولوجیه واسعه النطاق، واختراق شبکات الکهرباء والبنیه التحتیه، واستغلال قدرات الذکاء الاصطناعی لتنفیذ أضرار کان إعدادها یتطلب سابقًا خبرات وموارد أکبر بکثیر.
ولهذا تقارن ناشونال إنترست النقاش الراهن ببدایات العصر النووی، حین أدى إدراک حجم الخطر إلى إنشاء مؤسسات دولیه تضبط استخدام الطاقه النوویه .
سباق التفوق بالذکاء الاصطناعی یثیر مخاوف من انتقال المنافسه إلى صراع بین القوى الکبرى (غیتی) 3. الخوف من خساره سباق الذکاء الاصطناعی یفجر حربًا کبرى
فی محاکاه بحثیه تناولتها تایمز، درس باحثون ما قد یحدث إذا اعتقدت الصین، مثلًا، أن الولایات المتحده على وشک امتلاک نظام یمنحها تفوقًا استراتیجیًا لا یمکن احتواؤه.
ویقول الباحث شاهار أفین إن رد الفعل "العقلانی" عندئذ قد یشمل التجسس والتخریب والهجمات السیبرانیه، وربما یتدرج إلى التهدید المباشر بالقوه، بما یفتح الباب أمام سوء تقدیر وتصعید بین قوتین عظمیین.
وتحذر نونان بدورها من أن منطق السباق الأمریکی الصینی صار عائقًا أمام التباطؤ: فإذا کان من یملک الذکاء الفائق سیملک، وفق هذا التصور، مستقبل القوه الاقتصادیه والعسکریه، فإن کل طرف یخشى أن یکون التوقف أکثر خطوره من الاستمرار. ولهذا تدعو نونان الرئیس الأمریکی دونالد ترمب ونظیره الصینی شی جین بینغ إلى قمه تضع حدودًا مشترکه لما ینبغی عدم تجاوزه.
باحثون بشرکه أنثروبیک حذروا من مخاطر قد تبلغ حد فقدان السیطره على الأنظمه المتقدمه (أسوشیتد برس) 4. الآله تضغط الزناد والإنسان یخرج من دائره القرار
أما السیناریو الرابع فقد بدأ یأخذ شکلًا عملیًا فی المیدان العسکری. فالذکاء الاصطناعی یدخل فی أنظمه الاستهداف والطائرات المسیّره وسلاسل القیاده، فیما تتزاید المخاوف من أن تصبح سرعه اتخاذ القرار أکبر من قدره البشر على الإشراف الفعلی علیها.
وتستعید تایمز فیلم "سلوتربوتس" القصیر الذی قدمه رائد الذکاء الاصطناعی ستیوارت راسل عام 2017، وتخیل فیه طائرات صغیره مستقله تستخدم التعرف على الوجوه لاغتیال أهداف بشریه. وبعد نحو عقد، یرى راسل أن حرب أوکرانیا أظهرت انتقال الأسلحه فعلا نحو مستویات متزایده من الاستقلالیه.
وتنقل الصحیفه عن کروغر أن الحکومات قد تکرر مبدأ بقاء "الإنسان داخل دائره القرار" لکن الأنظمه یمکن أن تعمل بسرعه وعلى نطاق لا یستطیع الإنسان متابعتهما لحظه بلحظه. کما حذر مارک سیدویل مستشار الأمن القومی البریطانی السابق من إدخال الذکاء الاصطناعی إلى سلاسل القیاده العسکریه بطریقه قد تنتهی بنتائج کارثیه.
3 قوانین للآله
وسط کل هذه المخاوف، تعید ناشونال إنترست النقاش إلى نقطه أبسط: ربما لا تکمن المشکله فی ذکاء الآله وحده، بل فی حکم البشر الذین یطورونها. ویقول أستاذ علوم الحاسوب بجامعه میریلاند جیم بورتیلو إن ما یخشاه لیس "الذکاء الاصطناعی" بل استعداد البشر لتبنی أدوات جدیده قبل التفکیر ملیًا فی عواقبها، خصوصًا فی سوق تکافئ من یصل أولًا وتترک کلفه الخطأ للآخرین.
ومن المفارقات أن البحث عن قاعده للسیطره یعید بعض الخبراء إلى الخیال العلمی نفسه. فالکاتب إسحاق أسیموف تخیل منذ أربعینیات القرن الماضی "قوانین الروبوتات الثلاثه":
ألا یؤذی الروبوت إنسانًا أو یسمح بإیذائه. أن یطیع أوامر البشر ما لم تتعارض مع القانون الأول. أن یحمی نفسه ما لم تتعارض حمایته مع القانونین السابقین. وتنقل ناشونال إنترست عن محلل تقنی قوله إن الوقت ربما قد حان للتفکیر جدیًا فی غرس مبادئ مماثله فی الأنظمه الحدیثه. ولا تقدم قوانین أسیموف، بطبیعه الحال، وصفه تقنیه جاهزه لعالم النماذج فائقه التعقید، لکنها قد تشکل بدایه بسیطه لنظام ضبط ومراقبه یطالب به کثیرون.
المصدر: تایمز + ناشونال إنترست + وول ستریت جورنال