وکاله آریا للأنباء - کوکسون حذر من التقلیل من شأن الذکاء الاصطناعی، متوقعا أن تصل الأنظمه مستقبلا إلى مستویات تتجاوز قدرات البشر (أنثروبیک)
أعلن الباحث فی مجال الذکاء الاصطناعی جاکوب کوکسون استقالته من شرکه الذکاء الاصطناعی الأمریکیه أنثروبیک ، متهما الشرکه ومواطنتها أوبن إیه آی بالمضی فی سباق خطیر لتطویر أنظمه ذکاء اصطناعی فائقه قادره على تحسین قدراتها ذاتیا، ومحذرا من أن هذه المنافسه قد تعرض البشریه لمخاطر غیر مسبوقه.
وقال کوکسون، الذی عمل خلال السنوات الثلاث الماضیه فی أبحاث التدریب المسبق لدى الشرکتین، إن کلتیهما لا تتصرفان بمسؤولیه، وإنهما "تتسابقان مباشره نحو ذکاء فائق قادر على تحسین نفسه".
قصص مقترحه
list of 2 items list 1 of 2 کیف تحولت نماذج الذکاء الاصطناعی المفتوحه إلى سلاح فی الحرب السیبرانیه؟ list 2 of 2 بعد تحدیث "آی أو إس 27".. 6 مزایا قد تغیّر طریقه استخدام آیفون end of list وأثارت تصریحاته اهتماما واسعا، خصوصا بعد أن أیدها إیفان هوبینغر، الباحث فی أنثروبیک والمتخصص فی مواءمه الذکاء الاصطناعی مع الأهداف والقیم البشریه.
"لا تستهینوا بقوه هذه التکنولوجیا"
وفی منشور عبر منصه إکس ، قال کوکسون إن على الناس عدم الاستهانه بقدرات الذکاء الاصطناعی، محذرا من أن الأنظمه المقبله قد تتفوق على البشر فی مجالات متعدده، وتصبح قادره على اختراق أنظمه مختلفه، وإحداث تغییرات واسعه فی مجالات عده خلال فتره قصیره، فضلا عن امتلاک قدرات للوصول إلى موارد وقوه حقیقیه.
ویرى الباحث أن التطور فی هذه المجالات لا یتباطأ، وأن الأشخاص الذین یبنون أنظمه الذکاء الاصطناعی یدرکون فی قراره أنفسهم احتمال وصول التکنولوجیا إلى مستوى بالغ الخطوره خلال هذا العقد، لکن کوکسون لا یرى المشکله فی قدرات الذکاء الاصطناعی وحدها، بل فی السباق بین الشرکات لتطویرها أولا.
لماذا تواصل الشرکات السباق؟
ویتساءل کوکسون بأنه إذا کان العاملون فی هذه الشرکات یؤمنون فعلا بالمخاطر، فلماذا یستمرون فی تطویر التکنولوجیا؟
وبحسب الباحث، فإن کثیرا من العاملین فی أوبن إیه آی لم یستوعبوا بعد، على نحو عمیق، حجم المخاطر التی قد تمثلها هذه الأنظمه على الحضاره. أما فی أنثروبیک، فیقول إن المخاطر مفهومه بدرجه أکبر، لکن الشرکه عالقه فی سباق للوصول أولا، انطلاقا من اعتقاد أن المنافسین قد لا یتصرفون بالمسؤولیه نفسها.
ویحذر کوکسون من أن قبول هذا المنطق والدخول فی ما یسمیه "نهایه اللعبه" یمثل "مقامره متغطرسه"، مطالبا بالتفکیر فی بدائل أکثر أمانا قبل إطلاق أنظمه فائقه الذکاء، کما دعا إلى مزید من التنسیق بین مختبرات الذکاء الاصطناعی، وإلى اتفاقات تحد من سرعه التطویر، معتبرا أن استمرار السباق العالمی قد یجعل إجراءات أکثر تکلفه، مثل الوقف المؤقت لتحسین قدرات النماذج، أمرا ضروریا.
الخطر قد یتجاوز 10%
وتحذیرات کوکسون اکتسبت أهمیه أکبر بعد أن أعاد إیفان هوبینغر نشرها، مؤیدا جوهر مخاوفه، وقال هوبینغر إن العاملین فی مجال الذکاء الاصطناعی یؤمنون بجدیه بإمکان أن تؤدی التکنولوجیا إلى موت جمیع البشر، وقدر احتمال وقوع مثل هذا السیناریو بأکثر من 10% خلال العقد المقبل، کما أشار إلى عدم وجود خطه مکتمله حتى الآن لضمان بقاء الذکاء الاصطناعی الفائق متوافقا مع الأهداف والقیم البشریه.
وتحدث هوبینغر أیضا عن قلقه من عملیات "التطویر الذاتی المتکرر " (Recursive Self-Improvement)، التی یمکن أن یصبح فیها النظام قادرا على المساهمه فی تحسین قدراته، بما قد یؤدی إلى تسارع التطور بصوره تتجاوز التوقعات.
ولکن نسبه الـ10% التی ذکرها هوبینغر تعتبر تقدیرا شخصیا لباحث فی مجال السلامه، ولیست توقعا علمیا متفقا علیه أو تقدیرا رسمیا لشرکه أنثروبیک.
هل یستطیع البشر إبطاء السباق؟
تکشف استقاله کوکسون والتأیید الذی تلقاه من هوبینغر عن انقسام داخل قطاع الذکاء الاصطناعی نفسه، فالمخاوف لا تأتی فقط من منتقدین خارجیین للتکنولوجیا، بل من باحثین شارکوا فی تطویر أنظمتها ویعتقدون أن سرعه التقدم قد تصبح مشکله بحد ذاتها.
ولا یعنی ذلک أن الذکاء الاصطناعی الفائق بات واقعا، أو أن انقراض البشریه نتیجه حتمیه، کما لا توجد أدله تثبت أن الأنظمه الحالیه قادره على تنفیذ السیناریوهات القصوى التی یحذر منها هؤلاء الباحثون.
لکن جوهر التحذیر یتمثل فی شیء آخر، قد تصل قدرات الأنظمه المتقدمه إلى مستویات جدیده قبل أن یمتلک البشر فهما کافیا لکیفیه تصرفها، أو أدوات موثوقه لضمان بقائها تحت السیطره.
ومن هنا، لا تبدو المعرکه المقبله مرتبطه فقط بمن سیطور أقوى نموذج، بل بمن یستطیع إقناع المنافسین بأن التباطؤ أحیانا قد یکون أکثر أمانا من الفوز بالسباق.
المصدر: الجزیره + وکالات