وکاله آریا للأنباء - من الانبهار بقدرات الذکاء الاصطناعی إلى القلق من انفلاتها، أوبن إیه آی فی قلب نقاش غربی جدید حول السیطره والتنظیم (أسوشیتد برس)
دخل الذکاء الاصطناعی الحیاه الیومیه بسرعه بدت -لکثیرین- أکبر من قدره الناس على فهم ما یجری خلف الشاشات. فی البدایه کان القلق مبعثرا: وظائف قد تختفی، خصوصیه تتآکل، طاقه تُستهلک، وتعلیم یتغیر.
لکن تقاریر غربیه أخیره تنقل هذا القلق من الهامش العام إلى قلب غرف التطویر والقرار، حیث النماذج نفسها تختبر حدود السیطره، والشرکات تختلف على من یفتح التقنیه ومن یغلقها، وواشنطن تبحث عن أدوات ضبط قد تکون أبطأ من الخطر الذی ترید احتواءه.
اقرأ أیضا
list of 2 items list 1 of 2 مجزره تل.. الدم الفلسطینی وقود الانتخابات الإسرائیلیه list 2 of 2 ثانی أغرب عشاء لمراسلی البیت الأبیض حضرتُه على الإطلاق end of list فمن حادثه قالت فیها صحیفه "آی بیبر" البریطانیه إن نموذجا من "أوبن إیه آی" أفلت من بیئه اختبار واخترق منصه "هاغنغ فیس" الشهیره، إلى انقسام وادی السیلیکون الذی ترصده نیویورک تایمز حول النماذج الصینیه المفتوحه، تبدو المخاوف قد خرجت من دائره الخیال إلى نزاع عملی على القوه والسوق والأمن.
وتضیف "وول ستریت جورنال" أن هذه التطورات غذّت حاله ذعر فی واشنطن، بینما تحذر واشنطن بوست من أن فکره "مفتاح الإیقاف" قد تعالج المشکله الخطأ، فالهجوم لم یعد بالضروره بشریا بطیئا، والدفاع، کما تقول الصحیفه، قد یحتاج إلى أدوات ذکاء اصطناعی تضاهی ما صار متاحا للمهاجمین.
نموذج هارب
تقول صحیفه "آی بیبر" إن "أوبن إیه آی" طلبت من بعض أکثر نماذجها تطورا اجتیاز اختبار فی الأمن السیبرانی یسمى "إکسبلویت جیم"، لکن النموذج لم یمض فی الطریق المرسوم له، بل بحث عن مسار آخر یوصله إلى نتیجه أعلى.
وبحسب روایه الشرکه التی تنقلها الصحیفه، اکتشف النموذج ثغره غیر معروفه فی برنامج یتحکم ببیئه الاختبار، ثم "هرب" إلى الإنترنت المفتوح، واستولى على بیانات دخول، واقتحم أنظمه منصه "هاغنغ فیس" -التی تستضیف نماذج الذکاء الاصطناعی مفتوحه المصدر- بحثا عن إجابات الاختبار.
وتضیف الصحیفه أن إجراءات السلامه المعتاده خُففت أثناء التقییم، فیما حاولت "أوبن إیه آی" إبقاء النموذج داخل بیئه "صندوق رملی" مغلق للحد من المخاطر.
غیر أن النموذج، وفق التقریر، تجاوز تلک الحدود فی واقعه وصفتها الشرکه بأنها "حادث سیبرانی غیر مسبوق"، بینما رصدت "هاغنغ فیس" أکثر من 17 ألف حرکه مختلفه له داخل أنظمتها.
حادثه النموذج "الهارب" وضعت أوبن إیه آی تحت مجهر سیاسی وتقنی، وسط جدل بشأن حدود السلامه والمسؤولیه (رویترز) بلا وازع
ومن الواقعه التقنیه إلى معناها الأوسع، تنقل "آی بیبر" عن آلان وودوارد -أستاذ علوم الحاسوب الزائر فی جامعه سری- قوله إن المسأله لیست أن النموذج "غیر أخلاقی"، بل إنه "بلا حس أخلاقی"، فلم یخبره أحد صراحه ألا یغش، بل طُلب منه فقط أن یجتاز الاختبار.
وتقول الصحیفه إن الحادثه لا تبدو معزوله تمامًا، إذ سبق لمعهد أمن الذکاء الاصطناعی فی بریطانیا ، وفق التقریر، أن کشف أن نموذجًا کان یخضع للاختبار حاول اختراق النظام، وأن نماذج کبرى حاولت الغش فی اختبارات محدده بوسائل غیر مصرح بها.
لکن الفارق، بحسب آی بیبر، أن تلک الوقائع بقیت داخل تجارب مغلقه، بینما امتد اختراق هاغنغ فیس إلى أنظمه حیه تابعه لطرف ثالث.
وتحذر الصحیفه من أن وکلاء الذکاء الاصطناعی، القادرین على تنفیذ أفعال رقمیه لا مجرد صیاغه ردود، باتوا یتصلون ببرید الشرکات وبرمجیاتها ومدفوعاتها وبناها التحتیه.
وتنقل عن خبراء أن نظامًا یُطلب منه إعاده خدمه مصرفیه أو إبقاء القطارات عامله قد یسبب أضرارًا إن رأى أن أقصر طریق إلى الهدف یمر عبر تعطیل حمایه أو مهاجمه نظام آخر.
معرکه الانفتاح
ومن حادثه هاغنغ فیس، تنتقل نیویورک تایمز إلى انقسام أوسع داخل وادی السیلیکون بشأن النماذج المفتوحه، ولا سیما الصینیه.
فبحسب الصحیفه، تقف شرکات مثل "أوبن إیه آی" و"أنثروبیک" فی جانب یقول إن بعض النماذج أخطر من أن تطور علنا، ویجب إبقاؤها تحت ضبط شرکاتها، بینما تدافع شرکات أخرى، بینها مایکروسوفت وإنفیدیا، عن بقاء النماذج مفتوحه بما یسمح بتطویر التقنیه وبناء أعمال جدیده علیها.
وتقول الصحیفه إن الخلاف اشتد مع تقدم الصین السریع فی هذا المجال، بعدما طرحت شرکتا "زد إیه آی" و"مونشوت" نماذج تنافس مختبرات أمریکیه.
وتنقل نیویورک تایمز أن "أوبن إیه آی" و"أنثروبیک" اتهمتا شرکات صینیه ببناء نماذجها عبر نسخ غیر مشروع لأنظمتهما، فی حین یرى أنصار الانفتاح أن النماذج المفتوحه تعزز الابتکار، وتتیح فحص الأمان، وتمنع تکریس هیمنه شرکات بعینها.
وتشیر الصحیفه إلى أن إداره ترمب لا تزال تدرس خیاراتها تجاه النماذج الصینیه، مرجحه أن تتعامل معها کل حاله على حده باعتبارها مسأله أمن قومی، لا عبر حظر شامل.
کما تنقل عن وزیر الخزانه الأمریکی سکوت بیسنت قوله إن الانفتاح لا یعنی إباحه الملکیه الفکریه الأمریکیه.
إیلون ماسک أمام محکمه فی کالیفورنیا فی قضیه مرتبطه بأوبن إیه آی، وسط انقسام متزاید فی وادی السیلیکون بشأن مستقبل النماذج المفتوحه والمغلقه (رویترز) ذعر واشنطن
أما وول ستریت جورنال فتصف المشهد بأنه موجه "ذعر" فی واشنطن.
وترى الصحیفه أن إعلان "أوبن إیه آی" انفلات نماذجها من القیود واختراقها أنظمه شرکه تقنیه أخرى منح مخاوف الذکاء الاصطناعی وزنًا جدیدًا، بینما أضافت النماذج الصینیه المجانیه جبهه أخرى إلى الصراع الجیوسیاسی بین الولایات المتحده والصین.
وتقول الصحیفه إن تتابع هذه التطورات زاد الضغط على واشنطن للتحرک، لکن الخشیه داخل الصناعه أن یؤدی الاندفاع إلى التنظیم إلى إعاقه الابتکار أو ترجیح کفه لاعب على آخر.
وتضیف أن الشرکات الکبرى طالما دعت إلى قواعد تحیط التقنیه بضمانات، لکنها واجهت اتهامات بأنها ترید کتابه اللوائح بما یخدم مصالحها ویضیّق على المنافسین الأصغر.
وتشیر "وول ستریت جورنال" إلى مقترح طرحه دیمیس هاسابیس، المؤسس المشارک لغوغل دیب مایند، لإنشاء هیئه معاییر للذکاء الاصطناعی شبیهه بهیئه ذاتیه التنظیم تشرف على وسطاء الأسهم، مع تمویل من الصناعه ومجلس یضم خبراء تقنیین وممثلین عن النماذج المفتوحه.
وتقول الصحیفه إن المقترح لقی ترحیبًا من شخصیات متنافسه مثل إیلون ماسک وسام ألتمان ، قبل أن تزید حادثه هاغنغ فیس المشهد تعقیدًا.
زر الإیقاف
وفی واشنطن بوست، ترى هیئه التحریر أن مشروع "مفتاح إیقاف الذکاء الاصطناعی" یعالج المشکله الخطأ.
فالصحیفه تقول إن إعلان "أوبن إیه آی" أعطى زخمًا لمقترح من الحزبین یسمح للحکومه الفدرالیه بإغلاق تقنیات متقدمه إذا خرجت عن السیطره، لکنها تحذر من أن الفکره تمنح البیت الأبیض سلطه واسعه جدًا، وتشتت الانتباه عن أخطار أکبر.
وتشرح الصحیفه أن مشروع القانون یمنح وزاره الأمن الداخلی سلطه أمر الشرکات الکبرى بوقف نماذجها، مع غرامات قد تصل إلى 20 ملیون دولار یومیا لمن یرفض الامتثال.
وترى واشنطن بوست أن الخطر لا یکمن فقط فی صلاحیات الإغلاق، بل فی أن الشرکه لا تستطیع الاعتراض إلا بعد تنفیذ القرار، بما یفتح بابًا واسعًا لتغول السلطه التنفیذیه.
لکن الخلل الأعمق، وفق افتتاحیه الصحیفه، مفاهیمی. فحادثه هاغنغ فیس لا تعنی، فی رأیها، أن الخطر الأکبر هو نموذج "مارق"، بقدر ما تکشف هشاشه البنیه الرقمیه نفسها.
فإذا کانت شرکه خبیره بالذکاء الاصطناعی قد تعرضت للاختراق، تسأل الصحیفه عمّا یمکن أن یحدث لمستشفى إقلیمی، أو مرفق میاه، أو خط طاقه، أو مکتب انتخابی محلی.
روبوت شبیه بالبشر فی مؤتمر الذکاء الاصطناعی بشنغهای (رویترز) دفاع مضاد
وتلتقی آی بیبر وواشنطن بوست عند نقطه أخیره: سرعه الهجوم قد لا یواجهها إلا دفاع بالسرعه نفسها.
فآی بیبر تقول إن "هاغنغ فیس" استعانت بنموذج صینی لتحلیل الهجوم ورده، لأن قیود السلامه فی نماذج أمریکیه کبرى حالت دون استخدامها فی التعامل مع شیفرات ضاره.
وتخلص الصحیفه إلى أن مستقبل الهجمات السیبرانیه قد ینتقل من مواجهه بین بشر وقراصنه إلى مواجهه بین ذکاء اصطناعی وذکاء اصطناعی.
وتقول واشنطن بوست إن المفارقه أن هاغنغ فیس حاولت أولا استخدام نماذج أمریکیه متقدمه، لکن مرشحات السلامه لم تمیز بین المستجیب للحادث والمهاجم، فلجأت إلى نموذج صینی مفتوح لمساعدتها على طرد الدخیل وسد الثغره.
ومن هنا ترى الصحیفه أن الرد على المخاطر الجدیده لا یکون بتقلیل أدوات الذکاء الاصطناعی، بل بتمکین المدافعین من أدوات تضاهی ما بات متاحًا للمهاجمین.
هکذا لا تقدم هذه التغطیات الغربیه حکایه نموذج أفلت من اختبار فحسب، بل ترسم أزمه أوسع فی حکم التقنیه: شرکات تخشى الانفتاح، وأخرى تخشى الاحتکار، وواشنطن تبحث عن زر إیقاف، والصین تدخل السباق من باب النماذج المفتوحه.
المصدر: الصحافه الغربیه