وکاله آریا للأنباء - التطور المتسارع للذکاء الاصطناعی قد یجعله یخرج عن السیطره (مولده بالذکاء الاصطناعی/الجزیره)
حذر کبیر علماء شرکه الذکاء الاصطناعی أوبن إیه آی ، جاکوب باتشوکی، فی منشور على مدونه الشرکه من أن مختبرات الذکاء الاصطناعی بحاجه إلى التریث وأن لا أحد مستعد لعواقب التطور السریع والمتواصل لهذه التقنیه.
ویأتی تحذیر باتشوکی بعد أیام من إطلاق الشرکه نموذجا جدیدا عالی الکفاءه وصفه رئیس الشرکه غریج بروکمان بأنه نموذج ذکاء اصطناعی عام فائق، وأن قدراته تقارب قدرات البشر وتفوقها.
اقرأ أیضا
list of 2 items list 1 of 2 جیمینای یتحول إلى استودیو موسیقی.. غوغل تطلق أقوى نماذجها لصناعه الأغانی list 2 of 2 أوبن إیه آی تطرح أسترا "أقوى" نماذجها للذکاء الاصطناعی.. فماذا یقدم؟ end of list وأعرب باتشوکی فی منشور مطول على مدونه الشرکه أمس الأحد تحت عنوان "عقل فضائی " ( An Alien Mind ) عن قلقه من أن "لا أحد مستعد لعواقب التطور السریع والمتواصل للذکاء الاصطناعی".
وأضاف أنه على الرغم من سعی أوبن إیه آی لإیجاد حلول تقنیه داخلیه لتحسین التحکم فی وکلاء الذکاء الاصطناعی الأقویاء، "إلا أن هناک حاجه إلى تدخلات أوسع نطاقا". وأشار تحدیدا إلى مخاوف من أن الوکلاء المستقلین بشکل متزاید قد یتعلمون التهرب من الرقابه البشریه، واختراق أنظمه الحاسوب، وخداع الناس لتحقیق أهدافهم.
وحذر کبیر علماء أوبن إیه آی من أن الذکاء الاصطناعی قد یدخل قریبا مرحله التحسین الذاتی المتکرر، حیث تبدأ أنظمه الذکاء الاصطناعی ذات القدرات المتزایده فی قیاده تطویر الجیل القادم من الذکاء الاصطناعی.
وقال إنه یتوقع بشده، استنادا إلى نتائج أوبن إیه آی الداخلیه، أن یستمر معدل التقدم الحالی فی الذکاء الاصطناعی فی مرحله التحسین الذاتی المتکرر.
وکتب: "إذا استمر تطویر الذکاء الاصطناعی على مساره الحالی، فمن المرجح أن تمثل الأنظمه التی سنشهدها فی السنوات القلیله المقبله قفزات نوعیه فی القدرات، مساویه أو أکبر من حیث الحجم، وأن تقود تطویرها الذاتی بشکل متزاید ".
بعض نماذج الذکاء الاصطناعی تؤدی مهاما تتفوق فیها على البشر (مولده بالذکاء الاصطناعی/الجزیره) ودعا إلى وجوب التعامل مع هذا الأمر "بحذر شدید"، محذرا من أنه یخشى ألا یکون أحد مستعدا لعواقب الصعود السریع المستمر فی ذکاء الآله.
وأضاف أن نماذج الذکاء الاصطناعی أصبحت قادره بشکل متزاید على اختراق أنظمه الحاسوب والهروب منها، مما قد یسمح لوکلاء الذکاء الاصطناعی بالتأثیر المباشر على البنیه التحتیه الحیویه دون وجود کیان مادی.
وتأتی هذه التصریحات بعد أیام من طرح أسترا الذی تصفه أوبن إیه آی بأنه نموذجها الأکثر ذکاء وأمانا حتى الآن. وصمم للتعامل مع استخدام الحاسوب، والتصفح، وهندسه البرمجیات، والریاضیات، والأمن السیبرانی ، وسیر العمل المؤسسی.
وتؤکد الشرکه أن أسترا حقق تقدما کبیرا فی اختبارات الأمان والالتزام بالتعلیمات، وأصبح أکثر موثوقیه بشکل کبیر، مشیره إلى أنه یلتزم بالقواعد والحدود المفروضه علیه تماما مقارنه بالنسخ الأخرى التی قد تتصرف بشکل غیر مصرح به إذا رُفعت عنها أنظمه الحمایه.
ومع ذلک، صرّح باتشوکی بأنه على الرغم من إحراز الشرکه تقدما فی مجال الأمان والالتزام بالتعلیمات، فإن الفجوه بین قدرات الذکاء الاصطناعی والقدره على مراقبه هذه القدرات والتحکم بها لا تزال مصدر قلق.
وأضاف أن الشرکه ستواصل العمل على تعزیز المواءمه والمراقبه، وهی على استعداد لإیقاف أی توسع إضافی إذا لزم الأمر. لکنه جادل بأن الحلول التقنیه وحدها لن تکون کافیه، ودعا إلى تدخلات أوسع، بما فی ذلک جهود منسقه لإبطاء تطویر الذکاء الاصطناعی عندما تعجز تدابیر السلامه عن مواکبه هذا التطور.
المصدر: الجزیره + وکالات