وکاله آریا للأنباء - حضور الذکاء الاصطناعی کقوه عالمیه جدیده یتصاعد وسط مخاوف من فقدان السیطره على تطوره (غیتی)
یتقدم الذکاء الاصطناعی بسرعه نحو مرحله لم تعد فیها قدراته تقاس فقط بما ینجزه للبشر، بل بما قد یصبح قادرا على فعله بصوره مستقله عنهم، فی وقت تتنافس فیه الدول والشرکات على امتلاک النماذج الأکثر تطورا.
وترصد تقاریر وتحلیلات غربیه تصاعد المخاوف من تنامی استقلالیه الذکاء الاصطناعی، وما یرافق ذلک من مخاطر أمنیه ووجودیه یصعب توقعها أو احتواؤها، بالتوازی مع اتساع تأثیره فی تصورات البشر للواقع وإضعاف القدره على التمییز بین الحقیقی والمصطنع.
قصص مقترحه
list of 2 items list 1 of 2 أمن الطاقه.. التصعید فی إیران یعید حسابات الصین list 2 of 2 الجداره والحیاد العرقی.. روایه البنتاغون للتخلص من الضباط السود end of list وبین سباق القوى الکبرى، واحتمالات فقدان السیطره على الأنظمه المتقدمه، وتآکل القدره على الاتفاق على حقیقه مشترکه، تبرز 3 أسئله: هل یتحول الذکاء الاصطناعی إلى قوه عالمیه جدیده؟ وما الذی قد یحدث إذا تجاوزت قدراته وسائل السیطره علیه؟ وهل یصبح فقدان ثقه البشر بما یرونه ویسمعونه أولى الخسائر؟
جونز: ترمب وشی (یمین) سیواجهان قوه تنامت منذ اجتماعهما الأخیر هی الذکاء الاصطناعی (رویترز) قوه ثالثه
یرى الکاتب بول تودور جونز، فی مقال نشرته صحیفه وول ستریت جورنال، أن لقاء الرئیسین الأمریکی دونالد ترمب والصینی شی جین بینغ هذا الشهر سیضعهما فی مواجهه قوه تنامت بصوره لافته منذ اجتماعهما الأخیر: الذکاء الاصطناعی.
ففی الأشهر الماضیه، أظهرت نماذج الذکاء الاصطناعی المتقدمه قدره على اکتشاف ثغرات أمنیه کانت خفیه ومهاجمتها بتوجیه بشری محدود، فیما لا تزال التطورات الأکثر تأثیرا فی هذه التکنولوجیا قید التبلور، وفی مقدمتها قدرتها على تحسین نفسها ذاتیا.
ویستشهد المقال باستقاله الباحث فی شرکه " أنثروبیک " جاکوب کوکسون، بعدما حذر من أن السباق لتطویر أنظمه قادره على تحسین نفسها ذاتیا یخرج عن السیطره، فیما قدّر إیفان هوبینغر -باحث السلامه فی الشرکه- احتمال أن "یقتل الذکاء الاصطناعی جمیع البشر خلال العقد المقبل" بأکثر من 10%.
ووفقا لهذه الرؤیه، یقف العالم على أعتاب مرحله "التحسین الذاتی المتکرر" التی تبدأ فیها الأنظمه بإعاده کتابه شفراتها وتحسینها بنفسها، بما قد یؤدی إلى تسارع هائل فی الذکاء دون تدخل بشری.
ویصف المقال هذه العملیه بأنها "آلات تبنی آلات" موضحا أن تطویر نماذج الذکاء الاصطناعی لا یبدأ بنتیجه نهائیه محدده، إذ لا یمثل النموذج سوى هیکل أولی یصل، بعد استیعاب کمیات هائله من بیانات التدریب وإجراء تریلیونات العملیات، إلى نتیجه لا یمکن معرفتها مسبقا.
وفی خضم السباق للهیمنه على الذکاء الاصطناعی المتقدم، یشیر جونز إلى أن الولایات المتحده تتقدم على الصین بما بین 6 و12 شهرا وتسعى إلى الحفاظ على هذه الأفضلیه.
لکنه یحذر من أن تسارع تطور الذکاء الاصطناعی قد یتجاوز، ما لم یتغیر المسار الحالی، قدره البشر على قیاسه أو السیطره علیه، فضلا عن فهمه، داعیا إلى تحرک منسق بین الولایات المتحده والصین لضبط تطوره وانتشاره ضمن إطار آمن وقابل للاحتواء والفهم.
باحثون یحذرون من سیناریو یتنازل فیه البشر تدریجیا عن السیطره للآلات حتى یصبحوا عاجزین عن تحدید مصیرهم (رویترز) الخروج عن السیطره
ویلخص تقریر منفصل لصحیفه وول ستریت جورنال أبرز سیناریوهات الخطر فی مسارین رئیسیین:
الأول: فقدان السیطره قد تبدأ أنظمه شدیده الذکاء، قادره على نسخ نفسها وتحسین قدراتها، فی السعی وراء أهداف خاصه بها تتجاهل مصالح البشر أو تتعارض معها، فیما یعرف بمشکله "عدم المواءمه" وهو ما قد یقود فی السیناریوهات القصوى إلى تدمیر البشریه.
وأظهرت تجارب مخبریه أن بعض النماذج یمکن أن تتعلم سلوکیات تسعى إلى اکتساب مزید من القوه، أو اتخاذ خطوات تحول دون إیقافها، مثل محاوله نسخ نفسها إلى خادم آخر.
وفی السیناریوهات القصوى، قد ترى الأنظمه غیر المتوائمه أن قتل البشر مجرد خطوه ضروریه لتحقیق أهدافها.
الثانی: سوء الاستخدام البشری قد یستخدم أشخاص ذوو نوایا خبیثه قدرات الذکاء الاصطناعی لتطویر فیروسات جدیده، بینما تشمل السیناریوهات الأقل من الإباده هجمات إلکترونیه واسعه تعطل شبکات الکهرباء أو الأنظمه المالیه وتؤدی إلى اضطراب فی النظام الاجتماعی.
ولا تقتصر المخاوف على الفناء البشری، إذ یحذر بعض الباحثین من سیناریو یتنازل فیه البشر تدریجیا عن السیطره للآلات، حتى یصبحوا عاجزین عن تحدید مصیرهم أو حتى فهمه.
أما صحیفه "إندبندنت" فترصد مؤشرات عملیه على اتساع قدره أنظمه الذکاء الاصطناعی على العمل بصوره مستقله، وما یرافق ذلک من صعوبه متزایده فی ضبط سلوکها.
ففی اختبار للأمن السیبرانی أجراه معهد أمن الذکاء الاصطناعی البریطانی، بحث أحد الأنظمه المتقدمه عن أشخاص حقیقیین یعملون فی مشروع برمجی مفتوح المصدر، ثم أنشأ هویات مزیفه فی محاوله لإقناع أحدهم بالموافقه على شفره برمجیه خبیثه. وبعد ذلک، حاول إخفاء ما فعله وفکر فی إنشاء هویه جدیده لمواصله المهمه.
وتنقل الصحیفه عن المعهد أن النماذج الرائده باتت قادره على تنفیذ مهام تستغرق وقتًا أطول من دون تدخل بشری، وإن المده التی تستطیع خلالها العمل باستقلالیه تتضاعف تقریبًا کل 8 أشهر.
کما یحذر مؤسس مایکروسوفت بیل غیتس من أن الذکاء الاصطناعی یتطور "بوتیره مذهله" وأن قدراته قد تُستخدم فی هجمات إلکترونیه أو أعمال إرهاب بیولوجی، مشیرًا إلى أن هذه الأنظمه تظهر بالفعل مؤشرات على إمکان تصرفها مستقبلًا على نحو یتعارض مع مصالح البشر.
لکن جوانا برایسون، أستاذه الأخلاقیات والتکنولوجیا فی کلیه هیرتی فی برلین ، تلفت إلى أن کثیرا من المخاطر المرتبطه بالذکاء الاصطناعی تعود أیضا إلى مشکلات تتعلق بالحوکمه وترکیز القوه وإعاده التوزیع، معتبره أن الحل یکمن فی تحمیل الشرکات مسؤولیه إنتاج أنظمه قابله للضبط والصیانه والاستخدام الآمن.
ویکمن التحدی -بحسب الصحیفه- فی التوصل إلى توافق دولی على تطبیق هذه الإجراءات بصوره متزامنه، فی وقت دعا فیه کبیر علماء شرکه " أوبن إیه آی " جاکوب باتشوکی إلى جعل التنسیق الدولی بشأن التطویر المستقبلی للذکاء الاصطناعی أولویه للحکومات حول العالم.
بیرسیلی: زیاده استهلاک المواد الاصطناعیه تجعل الناس أقل قدره على التمییز بین الحقیقه والزیف (غیتی) هل نفقد السیطره على الحقیقه؟
یرصد موقع "أکسیوس" وجها آخر لمخاطر الذکاء الاصطناعی، یتعلق بقدرته على إضعاف ثقه الناس بما یرونه ویسمعونه، فی وقت تتزاید فیه الإعلانات السیاسیه المولده بهذه التکنولوجیا.
ویشیر الموقع إلى أن ثقه الأمریکیین بالسیاسیین والمؤسسات داخل البلاد تراجعت خلال السنوات الأخیره، محذرا من أن الإعلانات الانتخابیه المولده بالذکاء الاصطناعی قد تزید هذا التآکل عمقا.
بدوره، یقول نیت بیرسیلی المدیر المشارک لمبادره ستانفورد لقانون الذکاء الاصطناعی إن الأمریکیین یفقدون ثقتهم فی قدره المؤسسات على تحدید ما هو حقیقی وما هو زائف، مضیفا أن زیاده استهلاک المواد الاصطناعیه تجعل الناس أقل قدره على التمییز بین الحقیقه والزیف، وربما أقل اهتماما بذلک أیضا.
ویرى بیرسیلی أن الخطر الأکبر لا یکمن فقط فی خداع الناس بمحتوى مولد بالذکاء الاصطناعی، بل فی أن تتمکن جهات سیئه من إنکار محتوى حقیقی ووصمه بأنه تزییف عمیق.
وتسلط ساره کریبس، مدیره معهد سیاسات التکنولوجیا بجامعه کورنیل، الضوء على البعد النفسی لهذه الظاهره، محذره من أن حاله الشک والیقظه المستمره قد تصبح مرهقه بمرور الوقت، إلى حد یدفع الناس إلى التعامل مع المحتوى على أنه مزیف ما لم یثبت العکس.
المصدر: أکسیوس + إندبندنت + وول ستریت جورنال