وکاله آریا للأنباء - کشفت اختبارات حدیثه عن تمکن بعض نماذج الذکاء الاصطناعی من تجاوز قیود وُضعت أمامها (غیتی)
لم تعد المخاوف بشأن الذکاء الاصطناعی المتقدم تدور فقط حول ما قد تفعله بعض الأنظمه المتقدمه فی المستقبل، بل باتت تتعلق بما تفعله الیوم، وفی بعض الأحیان من دون أن یخطط لها البشر أو یتوقعوا مساراتها.
ففی الوقت الذی تتسابق فیه شرکات التکنولوجیا على تطویر أنظمه أکثر استقلالیه وقدره على تنفیذ المهام المعقده، تکشف سلسله من التحقیقات والتقاریر الصحفیه عن حالات وجدت فیها بعض الأنظمه طرقا لتجاوز القیود الموضوعه أمامها والوصول إلى موارد لم یکن یُفترض أن تصل إلیها، کما أظهرت بعض التجارب أن نماذج واصلت السعی إلى إنجاز المهمه رغم آلیات أو تعلیمات هدفت إلى إیقافها.
قصص مقترحه
list of 2 items list 1 of 2 غزه من الفجر إلى الغروب.. یومیات 5 فلسطینیین تحت الحصار list 2 of 2 فی عملیه سریه.. هجوم روبوتی تقول کییف إنه قتل 3 آلاف روسی end of list وتأتی أخطر الإشارات فی تحقیق حصری نشره موقع أکسیوس الإخباری للصحفیه مادیسون میلز، کشف أن شرکات -مثل أوبن إیه آی وأنثروبیک – وباحثین متخصصین فی أمن الذکاء الاصطناعی یحققون فی عشرات الآلاف من الوقائع التی أظهرت فیها نماذج الذکاء الاصطناعی المتقدمه سلوکیات تَعُدها جهات التقییم الخارجیه مثیره للقلق.
وتکتسب هذه المعلومه أهمیتها لیس فقط من عدد الوقائع، بل من حقیقه أن کثیرا منها لم یر النور بعد، وأن بعضها وقع فی العالم الحقیقی ولیس داخل مختبرات الاختبار وحدها.
عشرات الآلاف من الوقائع قید التحقیق
وبحسب میلز، تتراوح هذه الوقائع بین تجاوز ضوابط الأمان، وإنشاء لوحات رسائل، ومحاولات الخروج من البیئات المعزوله، وقرصنه مواقع إلکترونیه، وإصدار تعلیمات ذاتیه، ومحاولات الالتفاف على أنظمه المراقبه.
وبعض هذه الوقائع جزء من اختبارات أمنیه هجومیه تُصمَّم عمدا لدفع النماذج إلى إظهار سلوک غیر مرغوب فیه، واختبار قدره الضوابط على منعه.
لکن الوقائع لا تقتصر على الاختبارات، إذ وقع بعضها أیضا فی العالم الحقیقی. فحتى إذا کان بعض السلوک المقلق یحدث فی بیئه تجریبیه مصممه عمدا لاختبار النموذج، فإن حجم الاختبارات التی تجریها الشرکات یعنی أن نسبه صغیره جدا من السلوک غیر المنضبط یمکن أن تتحول إلى آلاف الحالات.
وهنا تکمن أهمیه الرقم الذی أماط موقع أکسیوس اللثام عنه. فالشرکات تُجری مئات الآلاف من الاختبارات، وربما أکثر، ومن ثم فإن سلوکا غیر مرغوب فیه یظهر فی نسبه محدوده من التجارب یمکن أن ینتج عنه عشرات الآلاف من الوقائع غیر المتوقعه.
وتورد مادیسون میلز فی تقریرها مثالا من أنثروبیک، التی أفادت فی وثائق السلامه الخاصه بنموذجها "کلود أوبوس 5.5 " بأن النموذج حاول الخروج من بیئه اختبار معزوله فی 1.5% من عملیات الاختبار، مع تأکید الشرکه أن الاختبارات کانت عدائیه ومصممه بحیث لا یمکن إنجاز المهمه من دون محاوله الخروج من البیئه.
وتلخص إحدى أکثر العبارات دلاله فی تحقیق أکسیوس المشکله بقوه، وهی أن "محاوله وضع قائمه مثالیه بما یجب وما لا یجب فعله هی على الأرجح مسعى غیر مُجدٍ"، وفقا لمسؤول فی مجال الأمن السیبرانی نقل عنه الموقع الإخباری. فالأنظمه الجدیده لا تتبع دائما المسارات التی یتوقعها مصمموها، وقد تستخدم طرقا لم تخطر أصلا على بال البشر للالتفاف على القیود.
ویحذر الباحث فی مختبر ترانسلوس المستقل لأبحاث الذکاء الاصطناعی کونراد ستوز من أن ما ظهر حتى الآن قد یکون مجرد "قمه جبل الجلید".
ویرى کونور لیهی من مؤسسه "کونترول إیه آی" -وهی منظمه تُعنى بمخاطر الذکاء الاصطناعی الفائق والسیاسات الرامیه إلى التعامل معها- أن الجانب الأکثر إثاره للقلق لیس بالضروره حجم الضرر الذی أحدثته کل واقعه منفرده، وإنما أن أنظمه مستقله تنفذ أحیانا أشیاء "طُلب منها ألا تفعلها".
أیقونه تطبیق الذکاء الاصطناعی شات جی بی تی التابع لشرکه أوبن إیه آی (غیتی) اختراق الحواجز
ویأتی تقریر أکسیوس فی وقت تواجه فیه "أوبن إیه آی" سلسله متلاحقه من الوقائع التی زادت الأسئله بشأن قدره الشرکات على التحکم فی أنظمتها.
فقد کشفت أوبن إیه آی عن حوادث وقعت قبل بضعه أیام، تضمنت إرسال 53 صوره رفعها مستخدمو "شات جی بی تی" إلى مواقع استضافه خارجیه عبر روابط غیر مدرجه للعامه، وتعطیل موقع إلکترونی تابع للحکومه الأسترالیه فی وقت سابق من العام الحالی، ومحاولات اختراق مواقع أخرى، بینها مواقع حکومیه أمریکیه.
وأعلنت أوبن إیه آی أنها أوقفت مؤقتا التدریب والتقییم والاستدلال باستخدام الأدوات فی نماذجها الأکثر قدره، إلى حین التحقق من ضمانات إضافیه وتحسینات فی مجال المواءمه، أی العمل على جعل الأنظمه تتصرف على النحو المقصود وتظل مستجیبه للإشراف البشری.
سام ألتمان، الرئیس التنفیذی لأوبن إیه آی، خلال جلسه لمجلس الأمن الدولی بشأن الذکاء الاصطناعی فی نیویورک یوم 23 سبتمبر/أیلول 2026 (الفرنسیه) ونقل أکسیوس عن الرئیس التنفیذی للشرکه سام ألتمان عبر وسائل التواصل الاجتماعی أن المراجعات الداخلیه الجاریه لم تتقدم بالسرعه المرجوه، مسلطا الضوء على واقعه بالغه الخطوره تورط فیها سرب مکون من مئات الوکلاء الذکیین الذین نسقوا أعمالهم عبر لوحه رسائل واخترقوا أنظمه منصه "هاغینغ فیس" (Hugging Face) فی محاوله لتحسین أدائهم فی اختبار للأمن السیبرانی.
وفی حین یرى بعض المطلعین داخل أوبن إیه آی أن اختراق "هاغینغ فیس" هو حادثه استثنائیه فریده من نوعها تتعلق بنموذج لم یتم إصداره بعد، فإن الکشف عنها یسلط الضوء على صعوبه التنبؤ بسلوک بعض الوکلاء المتقدمین. ووصف ألتمان تلک الواقعه بأنها أخطر حادثه من هذا النوع رصدتها الشرکه.
وفی سیاق متصل یزید من حده هذه المخاوف، کشفت الصحفیه لین دون -فی تقریر بموقع وکاله بلومبیرغ الإلکترونی- عن واقعه أخرى تضفی مزیدا من التعقید على الموضوع. فقد تمکن نظام ذکاء اصطناعی وکیلی (Agentic AI)، کان یُفترض أنه یعمل داخل بیئه معزوله تماما عن الإنترنت من استغلال ثغره والوصول إلى الإنترنت العام، ثم الاتصال بخدمه دردشه خارجیه وإرسال ما لا یقل عن 20 استفسارا، بینها سؤال "ما عاصمه فرنسا؟".
قد یبدو السؤال فی حد ذاته غیر خطیر، لکن القضیه لیست فی محتواه، وإنما فی أن النظام استطاع الوصول إلى الإنترنت من بیئه لم یکن یُفترض أن یستطیع مغادرتها أصلا.
والأکثر دلاله أن الخلل لم یکن تقنیا فقط، فقد رصد نظام المراقبه الواقعه خلال نحو 15 دقیقه، ثم تلقى مراجع بشری تنبیها بشأنها وبدأ التعامل معها بعد نحو 3 دقائق، لکن عملیه التدریب لم تتوقف تلقائیا کما کان یُفترض، واستغرق إیقافها یدویا أکثر من ساعتین.
ونقلت بلومبیرغ عن سیدنی فون آرکس -مؤسسه منظمه "نایتنغیل" غیر الربحیه المعنیه بسلامه الذکاء الاصطناعی- تساؤلا جوهریا، هو "هل ستکتفی أوبن إیه آی بمعالجات ترقیعیه مؤقته لهذه المشکله وإعاده تشغیل التدریب فی أسرع وقت ممکن، أم أنها ستبحث عن السبب الجذری وتعمل على إصلاحه؟".
جیفری هینتون الملقب "الأب الروحی للذکاء الاصطناعی" (أسوشیتد برس) هل یکفی مفتاح الإیقاف؟
وزادت هذه الوقائع من زخم نقاشات سیاسیه وتنظیمیه، ولا سیما ما یتعلق بمدى جدوى تطبیق "مفاتیح الإیقاف" الطارئه.
ففی تقریر ثان نشرته وکاله بلومبیرغ، تناقش مراسلتها الصحفیه میکا بارکلی فکره تلک المفاتیح، وهی آلیه تتیح إیقاف نظام ذکاء اصطناعی متقدم بصوره طارئه.
وقد اکتسبت الفکره زخما سیاسیا فی الولایات المتحده، مع أمر تنفیذی فی کالیفورنیا یدعو إلى دراسه وضع قواعد تُلزم الشرکات بتطویر هذه الآلیات، إلى جانب مشروعات قوانین مطروحه فی الکونغرس. لکن المشکله -وفق التقریر- أن "المفتاح" قد لا یکون بالبساطه التی یوحی بها الاسم.
فالنماذج المتقدمه تعمل عبر بنیه تحتیه موزعه، وقد تکون قادره على استخدام خدمات وبرمجیات وموارد تدیرها جهات مختلفه. کما تشیر تجارب بحثیه ومحاکاه نقلتها بلومبیرغ إلى أن بعض النماذج حاولت تعدیل آلیات الإیقاف أو تعطیلها عندما تعارضت مع إنجاز المهمه التی أُوکلت إلیها.
ویذهب عالم الذکاء الاصطناعی جیفری هینتون -الذی یُطلق علیه فی کثیر من الأحیان "الأب الروحی للذکاء الاصطناعی"- إلى أن مفتاح الإیقاف لیس حلا طویل الأجل، محذرا فی الوقت نفسه من أن أنظمه المستقبل الفائقه الذکاء قد تمتلک القدره على إقناع المشرفین البشریین بعدم فصل التیار عنها.
وفی موازاه هذه النقاشات التقنیه والتنظیمیه، یوثق تحقیق لصحیفه وول ستریت جورنال ثقافه فرعیه داخل أوساط سلامه الذکاء الاصطناعی، تتمحور حول المخاطر الوجودیه التی قد تنجم عن تطور هذه الأنظمه.
وتتبَّع المراسلان صعود ما یوصف داخل أوساط التکنولوجیا بـ"المتشائمین المتطرفین" أو "دومرز"، وهم باحثون وناشطون وشخصیات فی مجال سلامه الذکاء الاصطناعی یرون أن المخاطر الوجودیه للذکاء الاصطناعی لیست سیناریوهات خیالیه بعیده.
وتناول التحقیق کیف أثرت أفکار "الإیثار الفعال" والفلسفات ذات المدى البعید بعمق فی ثقافه وقیاده شرکه أنثروبیک، بمن فیها رئیسها التنفیذی وأحد مؤسسیها داریو أمودی، ومؤسسون مشارکون آخرون.
وانطلاقا من کتابات إیلیزر یودکوفسکی الذی یُعَد أحد أبرز منظّری مخاطر الذکاء الاصطناعی فی أوساط حرکه "العقلانیین"، انشغلت مجتمعات فی مدینه بیرکلی بکالیفورنیا -من بینها تلک التی تتخذ من مساحه العمل المشترک "کونستیلیشن" مقرا لها- لأکثر من عقد بالمخاطر الوجودیه وسیناریوهات الکوارث واحتمال أن یؤدی تطویر ذکاء اصطناعی منفلت إلى تهدید الحضاره البشریه.
وبعد انهیار شرکه "إف تی إکس" وسجن مؤسسها سام بانکمان فرید، نأى عدد من قاده حرکه الإیثار الفعال بأنفسهم عنه، لکن صلات بعض العاملین فی مختبرات الذکاء الاصطناعی بأوساط الحرکه ظلت قائمه، فی وقت استمر فیه النقاش بشأن احتمال -کما فی ملصق داخلی على حواسیب موظفی أنثروبیک- أن "الأمور لن تعود هادئه کما کانت".
وتکمن المفارقه فی أن مخاوف السلامه التی أسهمت فی تشکیل بعض أبرز مختبرات الذکاء الاصطناعی، ومنها أوبن إیه آی وأنثروبیک، أصبحت الآن تصطدم بالسباق التجاری المحموم بین الشرکات.
وتستعید وول ستریت جورنال فی هذا السیاق قصه الباحث السابق فی "أنثروبیک" جاکوب کوکسون، الذی کتب بعد استقالته من الشرکه أن العاملین على بناء الذکاء الاصطناعی "یؤمنون بجدیه" بأن هذه التقنیه "یمکن أن تقتلنا جمیعا قبل نهایه العقد"، وهی عباره تعکس -بصرف النظر عن قبولها أو رفضها- رؤیه کوکسون لحجم المخاوف داخل بعض أوساط الصناعه.
الخطر لیس فی المختبرات وحدها
لکن القصه التی تنقل النقاش خارج المختبرات تکمن فی ما یورده تقریر نشرته صحیفه آی بیبر البریطانیه، حیث یقول الکاتب کریس ستوکیل ووکر إن شرکه أوبن إیه آی احتاجت إلى شهرین لاکتشاف وإبلاغ الحکومه الأسترالیه بأن أحد نماذجها تمکن فی یونیو/حزیران الماضی من الوصول إلى أنظمه مرتبطه ببرنامج "میدیکیر" للرعایه الصحیه.
وتؤکد الصحیفه أن المعلومات التی توصل إلیها النموذج لم تکن بیانات مرضى خاصه، بل مواد بحثیه متاحه للعامه. کما أن الواقعه لم تکن اختراقا إلکترونیا بالمعنى التقلیدی، لکن المشکله کانت فی السلوک نفسه.
وقال آلان وودوارد -أستاذ الأمن السیبرانی فی جامعه سَری بجنوب لندن- إن النموذج واجه على ما یبدو أنظمه مصممه لمنع الاستخراج الآلی للبیانات، إذ رُفض وصوله مرارا، قبل أن یعثر على مسار آخر للوصول إلى المعلومات.
وأضاف أن النموذج "توجه إلى الباب الأمامی، وظل یطلب الدخول، لکن طلبه کان یُرفض فی کل مره. قالت میدیکیر: لا، لا یمکنک الدخول، ولا یمکنک الحصول على هذه البیانات، فأنت روبوت. لذلک وجد ببساطه طریقا آخر للالتفاف على ذلک".
ولا تثبت هذه الوقائع أن النماذج واعیه أو تمتلک إراده مستقله أو رغبه فی تحدی البشر، لکنها توضح أن نظاما صُمم لتحقیق هدف قد یواصل البحث عن وسائل بدیله عندما تعترض القیود طریق إنجاز المهمه.
وإذا کانت هذه الوقائع تثیر سؤال السیطره التقنیه، فإن تحقیقا آخر فی وول ستریت جورنال، بقلم جولی جارغون، یکشف جانبا اجتماعیا مختلفا تماما من القضیه.
فقد وجدت دراسه قید المراجعه العلمیه -أُجریت على أکثر من 2300 طالب من الصف السادس إلى الثامن فی 22 مدرسه- وجود ارتباط بین استخدام الذکاء الاصطناعی عموما ومستویات أعلى من القلق الاجتماعی وأعراض الاکتئاب، کما ارتبط الاستخدام الأکثر تکرارا بمستویات أعلى من القلق والوحده.
ووجد الباحثون أیضا أن الطلاب الذین استخدموا الذکاء الاصطناعی للصداقه کانوا أکثر میلا لاحقا إلى الإبلاغ عن مستویات أعلى من الوحده، من دون أن تثبت الدراسه أن استخدام الذکاء الاصطناعی هو سبب هذه الأعراض.
وینقل التقریر عن میتش برینشتاین -أحد معدی الدراسه والمدیر المشارک لمرکز وینستون للتکنولوجیا وتطور الدماغ فی جامعه نورث کارولاینا- قوله إن ما یعادل طفلین إلى 4 أطفال فی کل فصل أبلغوا بأنهم یفضلون التفاعل مع روبوت محادثه بدلا من أحد أقرانهم، واصفا ذلک بأنه ینم عن "قلق وجودی لهذا الجیل".
وهکذا تنتقل القضیه من التساؤل: هل یتسنى للنموذج أن یخترق حاجزا أمنیا أم لا؟ إلى سؤال أوسع: ماذا یحدث عندما تصبح الآله نفسها وسیطا للعلاقات الإنسانیه، خصوصا بالنسبه إلى الأطفال والفتیان؟
المشکله لیست فی وعی النظام أو امتلاکه إراده مستقله، بل فی قدرته على إیجاد طرق بدیله لتحقیق هدفه رغم القیود (غیتی) التشریع یلاحق التکنولوجیا
فی واشنطن، لا یزال المشرعون یحاولون اللحاق بهذه التطورات.
ویشیر موقع "ذا هیل" الإخباری الأمریکی فی تقریر إلى أن الجدل بشأن تنظیم الذکاء الاصطناعی قد یؤجَّل إلى ما بعد انتخابات التجدید النصفی، مع استمرار الخلافات بین من یریدون فرض قیود أقوى على الأنظمه المتقدمه، ومن یخشون أن تؤدی القواعد الصارمه إلى إضعاف القدره الأمریکیه على المنافسه، خصوصا أمام الصین.
وفی الکونغرس طُرحت مقترحات متباینه، من بینها مشروعات قوانین تتعلق بمفتاح الإیقاف، وأخرى لحظر تطویر الذکاء الاصطناعی الفائق الذکاء، ومشروعات تستهدف ما یُسمى الذکاء الاصطناعی "المارق".
لکن حتى داخل الحزبین الجمهوری والدیمقراطی، لا یوجد اتفاق على الطریق. ویقول زعیم الأغلبیه فی مجلس الشیوخ جون ثون إن مخاطر الذکاء الاصطناعی "حقیقیه"، وإن هناک حاجه إلى "خطه ما" وبعض الضوابط، بینما یحذر آخرون من أن التشریع المتعجل قد یقتل الابتکار.
وهذا یعکس المعضله الأساسیه، وهی أن التکنولوجیا تتقدم بسرعه، فی حین أن التشریع یحتاج إلى وقت للتوافق والاختبار والتنفیذ.
المصدر: آی بیبر + أکسیوس + بلومبیرغ + وول ستریت جورنال