وکاله آریا للأنباء - دیفید روبنسون نشر مقالا عن أسباب استقالته بعنوان "أستقیل من أوبن إیه آی لأن ثقافتها معتله" (حسابه على لینکد إن)
شهد قطاع الذکاء الاصطناعی هزه جدیده فی أروقته القیادیه، عقب إعلان قائد تقاریر السلامه والأمان فی شرکه " أوبن إیه آی " دیفید روبنسون، استقالته الرسمیه من منصبه، مترافقا مع تحذیرات حاده علنیه أکد فیها أن الثقافه التنظیمیه داخل الشرکه التی تقود ثوره الذکاء الاصطناعی أصبحت "معتله".
ویرى المحللون فی قطاع التقنیه أن استقاله روبنسون لیست حدثا معزولا، بل هی امتداد لـ"تآکل مستمر" فی جبهه الأمان داخل مجتمع الذکاء الاصطناعی، وذلک أن مغادرته تأتی بالتزامن مع إعلان الشرکه قبل أیام إنهاء خدمات 3 باحثین بسبب تسریب معلومات حساسه، وبعد أشهر قلیله من استقاله رئیس أنظمه السلامه السابق یوهانیس هایدیکی، وقبلهما قاده فریق "التوائم الفائق" (Superalignment)، مثل إیلیا سوتسکیفر ویان لایک، الذین غادروا جمیعهم بالحجه ذاتها: تقدیم الطابع التجاری والربحی على حساب أبحاث الأمان الجوهریه.
قصص مقترحه
list of 2 items وتکتسب استقاله روبنسون -الذی یتولى مسؤولیه إعداد وتقییم التقاریر الأمنیه المصاحبه لکل إطلاق لنماذج شات جی بی تی الجدیده- أهمیه خاصه، إذ أتبعها بنشر مقال تفصیلی عبر مجله "ذا أتلانتیک" تحت عنوان "أستقیل من أوبن إیه آی لأن ثقافتها معتله"، أوضح فیه أن السباق المحموم والانتقال السریع من إطلاق منتج إلى آخر تسببا فی إخفاق الشرکه فی تحقیق أدنى مستویات الحذر المطلوبه لضمان سلامه هذه التقنیات.
وکتب روبنسون: "أتفق مع الموظفین الآخرین الذین غادروا مؤخرا على أن الشرکات التی تُطوّر هذه التقنیه لا تتوخى الحذر الکافی. لکننی أعتقد أننا بحاجه إلى النظر إلى ما هو أبعد من مجرد قواعد محدده أو قوانین جدیده. نحن بحاجه إلى مناقشه ثقافه الشرکه".
واستشهد المسؤول المستقیل بأحداث ناتجه عن السلوکیات الذاتیه للذکاء الاصطناعی، مثل الحادثه التی شن فیها "سرب" من وکلاء "أوبن إیه آی" المطورین ذاتیا هجوما غیر محدد الأهداف على منصه "هاغینغ فیس" دون أی تدخل أو إشراف بشری، مؤکدا أن هذه الحوادث لم تعد استثنائیه، بل أصبحت شائعه وتجسد الطبیعه العشوائیه التی یُدار بها هذا القطاع.
وشدد المسؤول المستقیل على أن المشکله أعمق بکثیر من مجرد صیاغه قوانین أو لوائح جدیده، مشیرا إلى أن مختبرات الذکاء الاصطناعی التنافسیه تفتقر إلى الثقافه التی استوعبتها الصناعات الخطره الأخرى عبر العقود.
شرکه "أوبن إیه آی" شهدت عاصفه من الاستقالات فی الأشهر الأخیره (رویترز) وأوضح أنه یتوجب على شرکات التقنیه المتقدمه أن تُدار بنفس الصرامه وطبقات الأمان المتعدده المتبعه فی إشراف وتحدیث المفاعلات النوویه أو تنظیم حرکه الطیران فی المطارات المزدحمه، حیث یضمن التخطیط الدقیق منع خطأ بشری بسیط من التسبب فی کارثه محققه.
وأضاف أن وادی السیلیکون یفتقر إلى الوعی بـ"کیفیه التعامل مع التکنولوجیا الخطیره" و"ما یعنیه الاهتمام بالناس"، وقال محذرا: "تخیل وجود وکلاء ذکاء اصطناعی (مارقین) یعملون مثل فرق من قراصنه الإنترنت ولکن دون الحاجه إلى النوم أبدا".
فی المقابل، جاء رد "أوبن إیه آی" لیعکس محاولات للتهدئه؛ حیث أکد متحدث باسم الشرکه استمرار المؤسسه فی تعزیز وتحدیث ممارسات السلامه والأمن لمواجهه المخاطر الحالیه والمستقبلیه، مشیرا إلى أن الشرکه تُقدم على إیقاف العملیات التدریبیه أو تأجیل إطلاق النماذج متى ما استدعت دواعی السلامه تقیید التسارع التکنولوجی.
غیر أن استقاله روبنسون لا تأتی معزوله عن سیاقها؛ إذ تُعد أحدث حلقه فی سلسله متصله من الانسحابات والاستقالات التی ضربت کبرى شرکات التکنولوجیا فی الفتره الأخیره.
فقبل أسابیع قلیله، تقدم الباحث جاکوب کوکسون باستقالته من شرکه أنثروبیک المنافسه، محذرا من أن الوتیره الحالیه لنمو الذکاء الاصطناعی قد تحمل مخاطر وجودیه تهدد البشریه بحلول نهایه العقد، وهو رأی أیده موظف آخر فی أنثروبیک حذّر من وجود احتمال یتجاوز 10% بأن یقضی الذکاء الاصطناعی على البشریه خلال العقد المقبل.
ویتقاطع هذا أیضا مع الانقسامات والاستقالات الشهیره التی شهدتها "أوبن إیه آی" سابقا، حین غادرها کبار قادتها المعنیین بالأمان والأبحاث مثل إیلیا سوتسکیفر ویان لایک لتجاهل التوصیات الأمنیه وتغلیب الرهانات التجاریه.
وتعکس هذه الظاهره المتکرره فی جوهرها أزمه بنیویه داخل بیئه الذکاء الاصطناعی والتکنولوجیا الفائقه؛ تتلخص فی الصراع المحتدم بین الرغبه فی تحسین نتائج الریع المالی والهیمنه على الأسواق بالوصول المبکر للذکاء الاصطناعی العام، وبین صدمه الفرق البحثیه المختصه بالأمان أمام خطوره النماذج الذاتیه التی تحمل خصائص اختراق سیبرانی غیر محکومه.
ومع غیاب الأطر التنظیمیه الحازمه من قِبَل الحکومات، بات التوتر بین صانعی هذه التقنیات وحراس أمانها صراعا مفتوحا یخرج للعلن فی کل مره یقرر فیها أحدهم التخلی عن منصبه ورفع ناقوس الخطر.
المصدر: الجزیره + وکالات