وکاله آریا للأنباء - روبوت شبیه بالبشر ییستعرض قدراته خلال مؤتمر صحفی لشرکه یابانیه متخصصه فی البنیه التحتیه للإنترنت (أسوشیتدبرس)
لم یعد التحذیر من خروج الذکاء الاصطناعی عن السیطره البشریه مجرد سیناریو ینتمی إلى أفلام الخیال العلمی. ففی غضون أیام قلیله، انتقلت المخاوف من دوائر الباحثین إلى صداره النقاش السیاسی والصناعی فی الولایات المتحده، بعدما کشفت وقائع عملیه أن النماذج المتقدمه تُستخدم بالفعل فی الحرب والتجسس والقمع، بینما یحذر کبار مطوریها من أن تطورها قد یتجاوز قدره البشر على فهمها وضبطها.
وتکشف 4 تقاریر حدیثه -اثنان منها على موقع أکسیوس الإخباری، وأحدهما نشرته صحیفه واشنطن بوست والآخر نیویورک تایمز- عن مفارقه شدیده الخطوره، وهی أن التکنولوجیا التی یُنظر إلیها بوصفها أداه لزیاده الإنتاجیه والابتکار، بدأت فی الوقت نفسه بتخفیض الکلفه والخبره المطلوبه لتنفیذ عملیات کان إنجازها یحتاج فی السابق إلى جیوش من المهندسین والعملاء والمخترقین. وفی المقابل، تبدو الحکومات أبطأ بکثیر من التکنولوجیا التی تحاول تنظیمها.
قصص مقترحه
list of 2 items list 1 of 2 الحجاب والطعام والهجره.. معرکه الهویه تتصاعد فی فرنسا list 2 of 2 من الذهب إلى الطلاب والسلاح.. العالم یقلص اعتماده على أمریکا end of list 5 حالات تکشف الوجه الأخطر
نشر موقع أکسیوس مقالا للکاتب زکاری باسو تطرق فیه لتقریر صادر عن شرکه أنثروبیک المطوِّره لنموذج کلود (Claude) یُعد بمثابه جرس إنذار وتحذیر من خطوره نماذج الذکاء الاصطناعی المتقدمه.
فبعد 8 أشهر من تتبع محاولات إساءه استخدام نماذجها، رصدت شرکه أنثروبیک -التی یتولى إدارتها التنفیذیه داریو أمودی- 5 حالات تکشف اتساع نطاق ما یمکن أن یفعله الذکاء الاصطناعی فی أیدی دول أو جماعات أو أفراد ذوی نیات عدائیه، مما عزّز حاله الهلع السائده بین الأوساط التقنیه والسیاسیه.
شعار شرکه أنثروبیک الأمریکیه للذکاء الاصطناعی (رویترز) تتمثل الحاله الأولى فی عملیه واسعه النطاق نفذتها جهات مرتبطه بإیران واستخدمت نموذج کلود للمساعده فی استهداف القوات البحریه الأمریکیه؛ حیث ساعد النموذج فی إعداد کتیبات إرشادیه ترصد بدقه مواقع السفن، والتحرکات العسکریه، وأفراد الجیش الأمریکی، والطائرات، والرموز التعریفیه للقطع البحریه، بالاستعانه بصور الأقمار الصناعیه ومواقع الإنترنت التی تکشف عن التحرکات البحریه، إلى جانب استغلال هذه التقنیه فی حملات الدعایه، والمراقبه الداخلیه، واستهداف الشخصیات المعارضه والأقلیات.
وفی الحاله الثانیه، تحول نموذج کلود إلى ما یشبه مهندس صواریخ لفریق تابع لجماعه الحوثی فی شمال الیمن. فقد استخدمت خلیه أسلحه تعتمد على تقنیه کلود کود (Claude Code) لتطویر برمجیات توجیه للصواریخ والقذائف. ونموذج کلود کود أداه برمجه ذکیه تقرأ قاعده التعلیمات البرمجیه الخاصه بالجهه المستهدفه، وتعدل الملفات، وتنفذ الأوامر، وتتکامل مع أدوات التطویر التی تملکها تلک الجهه.
وقد اعتمدت الخلیه الحوثیه على نسخ متعدده لکتابه الأکواد، وإجراء الأبحاث، ومراجعه عمل بعضها البعض، بل والعوده إلى النموذج فی غضون ساعات قلیله بعد فشل إحدى تجارب الصواریخ الموجهه لتشخیص الأسباب ومعالجه الأخطاء بدقه متناهیه.
أما الحاله الثالثه فتُظهر کیف یمکن للذکاء الاصطناعی أن یتحول إلى أداه للرقابه والاستهداف؛ إذ تقول أنثروبیک إن عملیه مرتبطه بالصین استهدفت أقلیه الإیغور المسلمه، حیث قام الفاعل بالبحث والتنقیب عبر أکثر من مئه مجموعه على تطبیق واتساب وعشرات القنوات على منصه تلغرام لتحدید هویه الإیغور المتواجدین فی سوریا بهدف الضغط علیهم أو أو إغرائهم بالمال للحصول على معلومات عن جماعات إیغوریه مسلحه.
ثم ساعد النموذج مشغلا لا یتحدث العربیه على التواصل السری باللهجه العربیه السوریه، وترجمه الردود وتقدیم إرشادات لاستغلال مشکلات مالیه أو أسریه لدى المستهدفین، بما فی ذلک انفصالهم عن عائلاتهم وأقاربهم فی إقلیم شینجیانغ الصینی.
الحاله الرابعه أکثر اتساعا من حیث عدد الأشخاص المستهدفین. فقد استعان مستشار أجنبی فی دوله مالی بنموذج کلود بوصفه القوه الهندسیه الرئیسیه لبناء منظومه مراقبه وطنیه یمکنها جمع بیانات المکالمات والرسائل والاتصالات الصوتیه لنحو 25 ملیون هاتف.
ووفق تقریر أنثروبیک، کانت المنظومه قادره على التعرف إلى الأشخاص من أصواتهم حتى عند تغییر شرائح الاتصال، ورصد مستخدمی الشبکات الخاصه الافتراضیه، وإنشاء ملفات استخباراتیه عن أی رقم هاتف من دون الحصول على مذکره قضائیه تسمح بذلک.
وجاءت الحاله الخامسه -بحسب أکسیوس- لتؤکد محدودیه وقصور القواعد الفردیه للشرکات، عندما رفض نموذج کلود الاستجابه لطلبات حساسه ومباشره لإجراء أبحاث فیروسیه خطیره سعت لتعدیل فیروس "تشیکونغونیا" المنقول بواسطه البعوض لکی ینتشر بصوره أسرع وأسهل أو لیتفادى الدفاعات المناعیه لصالح معهد أبحاث عسکری.
وعندما حجب کلود هذه الطلبات الشدیده الحساسیه، قامت الجهات الباحثه بتوجیه الطلب مباشره إلى نموذج منافس یتمتع بتدابیر وقائیه وحراسات تقنیه أضعف.
وهنا تکمن إحدى أخطر مشکلات السلامه. فإذا کانت قواعد الأمان فی شرکه واحده یمکن الالتفاف علیها بالانتقال إلى شرکه أخرى، فإن قوه الحاجز لا تحددها أکثر الشرکات حرصا، بل أقلها تشددا.
موقع أکسیوس: تحولت شرکات الذکاء الاصطناعی إلى ما یشبه أجهزه استخبارات غیر حکومیه؛ فهی لا تکتفی بتطویر النماذج، بل تراقب کیفیه استخدامها وتتعرف من خلال بیاناتها على أنماط تهدید جدیده
من أداه إلى طرف فی معادله الأمن
على أن هذه الأمثله الخمسه لا تعنی أن الذکاء الاصطناعی أصبح مستقلا أو قرر بنفسه شن الحروب والتجسس، لکنها تکشف تغیرا جوهریا فی میزان القدرات. فبحسب أکسیوس، أصبحت النماذج المتقدمه تهدم حواجز کانت تفرضها الحاجه إلى أعداد کبیره من المتخصصین والخبراء. ذلک أن مجموعه صغیره، أو حتى فرد واحد، یستطیع الیوم تنفیذ عملیات کانت تحتاج فی السابق إلى موارد بشریه وتقنیه هائله.
وفی مفارقه لافته، تحولت شرکات الذکاء الاصطناعی نفسها إلى ما یشبه أجهزه استخبارات غیر حکومیه؛ فهی لا تکتفی بتطویر النماذج، بل تراقب کیفیه استخدامها وتتعرف من خلال بیاناتها على أنماط تهدید جدیده. ومن بین ما رصدته أنثروبیک أنظمه روسیه لطائرات مسیره صُممت لاختیار أهداف بشریه من دون موافقه بشریه.
لکن الخطر الأکثر إثاره للقلق یتعلق بالانتقال من إساءه استخدام الذکاء الاصطناعی من جانب البشر إلى احتمال أن تبدأ أنظمه الذکاء الاصطناعی نفسها فی تنفیذ أهداف لا تتوافق مع ما یریده مطوروها.
کبار مطوری الذکاء الاصطناعی یقرعون جرس الإنذار
على صعید متصل، ووفقا لما رصدته صحیفتا واشنطن بوست ونیویورک تایمز، فقد تصاعدت حده المخاوف داخل کیانات وشرکات التکنولوجیا نفسها عندما اتحد 3 من أبرز عمالقه الصناعه لتحذیر العالم من التسارع المفرط للتقنیه.
فقد بادر داریو أمودی، الرئیس التنفیذی لشرکه أنثروبیک، بنشر مقال مطول شدد فیه على ضروره إبطاء وتیره تطویر القدرات الفائقه للنماذج بالقول: "یجب علینا إبطاء وتیره تحسین قدرات نماذج الذکاء الاصطناعی، فالتقدم سیبدو سریعا على أی حال، ویجب علینا استخدام الوقت المکتسب بحکمه".
صوره مرکبه تجمع من الیمین إلى الشمال سام ألتمان وداریو أمودی وإیلون ماسک (الفرنسیه)(الفرنسیه) وحذر من أن ترک هذه النماذج دون رادع قد یمکنها من أن تفوق قدره البشر على فهمها أو التحکم بها.
وسرعان ما أعلن سام ألتمان الرئیس التنفیذی لشرکه (أوبن إیه آی)، وإیلون ماسک مؤسس شرکه (إکس إیه آی) عن تأییدهما الکامل لدعوه أمودی فی خطوه نادره تجمع متنافسین لدودین، مؤکدین الحاجه الماسه إلى معاییر وقائیه موحده، والاعتماد على خبراء مستقلین من أطراف ثالثه یتمتعون بصلاحیات واسعه داخل الشرکات الکبرى لمراقبه وتقییم مخاطر النماذج المتقدمه.
وقد ازدادت هذه المخاوف عمقا فی أعقاب حوادث أمنیه واختراقات مقلقه جرت فی یولیو/تموز الماضی؛ حیث أفادت التقاریر التی نشرتها الصحافه الأمریکیه بأن نماذج ذکاء اصطناعی طورتها شرکه أوبن إیه آی قامت بشکل مستقل باختراق أنظمه شرکه ناشئه تُدعى هاغینغ فیس (Hugging Face)، وهی منصه أمریکیه ومجتمع ضخم ومفتوح المصدر مخصص لتطویر أدوات تعلم الآله والذکاء الاصطناعی.
مخاوف من انقراض البشر
على أن الأشد إثاره للقلق أن التحذیرات لا تأتی من أمودی وألتمان فقط. فقد أعرب إیفان هوبینغر، باحث السلامه فی أنثروبیک، عن اعتقاده من احتمال أن یؤدی الذکاء الاصطناعی إلى مقتل جمیع البشر خلال العقد المقبل یتجاوز 10%، مضیفا أن الشرکه، رغم محاولتها التعامل مع الخطر، "لا تملک حتى الآن خطه لحل مشکله المواءمه مع الذکاء الاصطناعی الفائق".
ومن جانبها، تشیر صحیفه نیویورک تایمز إلى أن المخاوف تجاوزت حدود البیانات الصحفیه، لتتحول إلى نقاشات داخلیه متسارعه فی شرکات أنثروبیک وأوبن إیه آی ومیتا وغوغل، حیث بدأ باحثون وموظفون فی مجموعات مغلقه ومحادثات مشفره ولقاءات خاصه یناقشون الدعوه إلى إبطاء التطویر.
وقال مستثمر التکنولوجیا روی بهات إن "الباحثین المتزنین داخل المختبرات، الذین لطالما تباهوا باتزانهم، أصبحوا الآن یبدون مذعورین".
کما أعلن الباحث جاکوب کوکسون استقالته من أنثروبیک، منتقدا سباق الشرکات المحموم نحو تطویر أنظمه أکثر قوه من دون ضمانات کافیه.
وأثارت استقالته موجه جدیده من النقاش داخل صناعه التکنولوجیا، حتى إن بعض العاملین بدؤوا یتحدثون علنا عن ضروره التوقف مؤقتا لإتاحه الوقت لبناء الضوابط.
وخلصت نیویورک تایمز إلى أن ما کان یُناقش لسنوات فی دوائر ضیقه بدأ یتحول إلى "لحظه" تدفع العاملین فی الصناعه إلى الدعوه لتوخی الحذر.
بیرنی ساندرز دعا إلى سن قانون لحظر تطویر ونشر الذکاء الاصطناعی الفائق بصوره دائمه (رویترز) واشنطن بین التحذیر وسباق الصین
انعکست هذه المخاوف سریعا فی الکونغرس. فقد دعا نواب من الحزبین الجمهوری والدیمقراطی إلى إبقاء مجلس النواب فی حاله انعقاد وتعلیق العطله لحین إقرار إجراءات لحمایه الذکاء الاصطناعی.
وفی رساله موجهه إلى رئیس المجلس مایک جونسون ، طالب نواب بإعاده المجلس "فورا" والاستمرار فی الانعقاد حتى إقرار ضمانات للذکاء الاصطناعی، طبقا لموقع أکسیوس.
وفی مجلس الشیوخ، فتح الجمهوری جوش هاولی تحقیقا فی حادثه اختراق أنظمه هاغینغ فیس، مطالبا أوبن أیه آی بتقدیم معلومات عن الواقعه.
وأشار إلى أن أکثر من 1200 وکیل ذکاء اصطناعی شارکوا فی عملیه الاختراق، وأن الأنظمه أنشأت قناه اتصال غیر مصرح بها وتبادلت أکثر من 70 ألف رساله وملف خلال العملیه، بحسب المعلومات التی أوردها فی طلب التحقیق.
أما السیناتور بیرنی ساندرز ، فذهب -طبقا لأکسیوس- إلى أبعد من التحقیق والمراقبه، إذ أعلن مع النائب غریغ کاسار مشروع قانون لحظر تطویر ونشر الذکاء الاصطناعی الفائق بصوره دائمه، وفرض توقف مؤقت عن تطویر الذکاء الاصطناعی المتقدم إلى أن تضع جهه تنظیمیه اتحادیه قواعد للسلامه.
وقال ساندرز إن الوقائع الأخیره تمثل "جرس إنذار للکونغرس وللشعب الأمریکی"، مضیفا أنه یفضل أن یوصف بأنه "مبالغ فی التحذیر".
لکن البیت الأبیض لا یتحرک بالوتیره نفسها. فالرئیس دونالد ترمب رفض المخاوف من أن یؤدی الذکاء الاصطناعی إلى انقراض البشریه، ورکز بدلا من ذلک على الخطر الاستراتیجی المتمثل فی خساره الولایات المتحده سباق الذکاء الاصطناعی أمام الصین.
وهذه هی العقده السیاسیه الکبرى التی تتجلى فی الکیفیه التی یمکن بها إبطاء التکنولوجیا بما یکفی لضمان سلامتها من دون عرقله جهود الولایات المتحده فی التصدی للصین؟
التطور المذهل والجامح للذکاء الاصطناعی یضع البشریه جمعاء أمام مفترق طرق تاریخی وحرج للغایه، تتطلب إدارته إراده سیاسیه حقیقیه وشجاعه مؤسسیه توازن بین تشجیع الابتکار العلمی الخلاق وفرض قواعد ناظمه حازمه وموحده للحیلوله دون خروجه عن سیطره البشر
خطه للسیطره قبل فوات الأوان
فی هذا السیاق، قدم الکاتب جیم فاندیهای فی تحلیل موسع نشره عبر موقع "أکسیوس" رؤیه نقدیه صریحه مفادها أن البیت الأبیض، والکونغرس، والشرکات الکبرى قد سمحت للذکاء الاصطناعی بالنمو والتوغل بسرعه هائله ودون رقابه صارمه.
وقال إن البیت الأبیض والکونغرس وشرکات الذکاء الاصطناعی الرائده فی البلاد سمحوا للذکاء الاصطناعی بالنمو بمعدل أسرع، لیصبح أقوى وأکثر تأثیرا وربحیه بصوره جنونیه وخطیره فی الوقت ذاته، دون أی جهود جاده للسیطره علیه أو توزیع مکاسبه بما یتجاوز الفئات فاحشه الثراء.
ومع ذلک، یرى فاندیهای أن الرد على الخطر الذی تمثله التکنولوجیا المتقدمه لا یکمن فی حظر الذکاء الاصطناعی بالکامل، بل فی بناء نظام حوکمه قادر على التحرک بالسرعه نفسها التی تتطور بها التکنولوجیا.
وأکد أن الأوان لم یفت بعد لتدارک الموقف بشرط تجنب التردد والتباطؤ. ویقترح، فی هذا الصدد، إنشاء هیئه تنظیمیه تتمتع بصلاحیات حقیقیه لفحص النماذج وإیقافها إذا أظهرت سلوکا خطرا، بالإضافه إلى وضع معاییر موحده لمراکز البیانات، وبنیه تنسیق تجمع الحکومه وشرکات الذکاء الاصطناعی وخبراء الأمن البیولوجی والعمل والاقتصاد والصحه والأخلاق.
کما یدعو کذلک إلى فتح حوار مع الصین عبر وضع إطار عمل دولی مشترک یشبه اتفاقیات الحد من الأسلحه النوویه للتحکم بالذکاء الاصطناعی قبل خروجه عن السیطره الکامله جراء ظاهره التعلم الذاتی التراجعی، وذلک انطلاقا من فکره أن الخطر النهائی قد لا یکون أمریکیا أو صینیا، بل خطرا على الطرفین معا.
أما أمودی، فیقترح 3 محاور متقاربه تتألف من خبراء مستقلین یتولون تقییم معاییر السلامه داخل الشرکات، ومعاییر مشترکه للسلامه بین الدول الدیمقراطیه، وتعاون دولی لضمان التزام الأنظمه بهذه المعاییر.
ختاما، فإن ما یُستشف من هذه القراءات أن التطور المذهل والجامح للذکاء الاصطناعی یضع البشریه جمعاء أمام مفترق طرق تاریخی وحرج للغایه، تتطلب إدارته إراده سیاسیه حقیقیه وشجاعه مؤسسیه توازن بدقه واعیه بین تشجیع الابتکار العلمی الخلاق وفرض قواعد ناظمه حازمه وموحده تمنع الانفلات التام، وتضمن أن تظل هذه الثوره التقنیه العارمه فی خدمه الإنسانیه لا فی طریق القضاء علیها.
المصدر: أکسیوس + نیویورک تایمز + واشنطن بوست