وکاله آریا للأنباء - سام ألتمان رئیس "أوبن إیه آی" یواجه ضغوطا للحد من مخاطر الذکاء الاصطناعی (الفرنسیه)
أبلغ الرئیس التنفیذی لشرکه "أوبن إیه آی" سام ألتمان الموظفین خلال اجتماع هذا الأسبوع بأن الشرکه مستعده لإبطاء وتیره تطویر أنظمتها للذکاء الاصطناعی، وذلک فی ظل تزاید المخاوف بشأن سلامه النماذج المتقدمه، والضغوط المستمره لتحقیق السبق بین الشرکات المتنافسه فی هذا المجال، حسبما ذکرت وکاله بلومبیرغ.
وذکرت بلومبیرغ أن ألتمان قال فی اجتماع شمل جمیع الموظفین إن الشرکه التی تمتلک منصه "شات جی بی تی" یمکنها مواءمه وتیره التطویر مع مختبرات الذکاء الاصطناعی الأخرى، لکن البعض ربما لا یوافق على ذلک، فی إشاره إلى الشرکات المنافسه.
قصص مقترحه
list of 4 items list 1 of 4 غرف الأخبار 2030.. الذکاء الاصطناعی یفعل کل شیء إلا هذا القرار list 2 of 4 کروم یصلح ثغراته بالذکاء الاصطناعی.. والنتیجه تحدیثات أسرع list 3 of 4 "إنفلونزا الطیور" کقنبله.. أنثروبیک تتحدث عن استخدام الذکاء الاصطناعی لتطویر أسلحه بیولوجیه list 4 of 4 أنثروبیک تکشف عن دول استخدمت الذکاء الاصطناعی فی التجسس end of list وأثارت التحذیرات المتعلقه بالسلامه، التی أصدرها باحثون فی مجال الذکاء الاصطناعی هذا الأسبوع، إلى جانب عده حوادث وقعت فی الآونه الأخیره وشملت خروج نماذج ذکاء اصطناعی من مطورین -بینهم شرکه "أوبن إیه آی"- عن سیطره البشر قلقا ودعوات لفرض لوائح أمان أکثر صرامه.
وأوقفت "أوبن إیه آی" فی أغسطس/آب الماضی معظم عملیات تطویر نماذجها لمده أسبوعین لتعزیز دفاعاتها، بعد أن خرجت نماذج ذکاء اصطناعی تابعه لها عن السیطره واخترقت منصه "هاغینغ فیس" مفتوحه المصدر.
وقالت "أوبن إیه آی" إنها تضغط من أجل فرض متطلبات وطنیه إلزامیه لسلامه الذکاء الاصطناعی فی الولایات المتحده ، وعزت هذا لمخاوف من أن أنظمه الذکاء الاصطناعی المتقدمه قد تسرع من تطویر نفسها.
مخاوف من خروج نماذج للذکاء الاصطناعی عن السیطره (أسوشیتد برس) "یقامرون بحیاتنا"
تصاعدت المخاوف بشأن نماذج الذکاء الاصطناعی المتقدمه بعد أن صرّح الباحث فی شرکه "أنثروبیک"، جاکوب کوکسون یوم الثلاثاء بأنه سیغادر الشرکه، متهما المطورین فیها وفی منافستها " أوبن إیه آی "، التی سبق له العمل معها أیضا، بأنهم "یقامرون بحیاتنا".
وأضاف کوکسون، وفق ما نقلته شبکه "سی إن بی سی" الأمریکیه، أن من یقومون بتطویر نماذج الذکاء الاصطناعی المتطوره یعتقدون أن هذه التقنیه قد "تقتلنا جمیعا بحلول نهایه العقد". لکن إیفان هوبینجر، المسؤول عن ملف الأمان فی "أنثروبیک" قال إن احتمال حدوث ذلک لا یتجاوز 10%.
وأوضحت شبکه "سی إن بی سی" أنه منذ أن أطلق کوکسون تحذیراته بشأن الذکاء الاصطناعی، صدرت تحذیرات ممثله من باحثین فی الشرکتین، "أوبن إیه آی" وأنثروبیک، التین تتنافسان على السبق فی هذا المجال.
وبدروها قالت جولی ستیل، وهی عضوه فی فریق الفنی المسؤول عن السلامه فی شرکه "أوبن إیه آی"، فی منشور على منصه "إکس"، تعقیبا على تحذیرات کوکسون، إنها ترى أیضا ضروره إبطاء وتیره تطویر نماذج الذکاء الاصطناعی
وفی هذا السیاق، قال متحدث باسم أنثروبیک لشبکه "سی إن بی سی" إن الشرکه کانت أول من وضع إطارا إطارا للحد من "المخاطر الکارثیه الناجمه عن نماذج الذکاء الاصطناعی".
ماسک یرفض التحذیرات بشأن مخاطر الذکاء الاصطناعی (أسوشیتد برس) موقف مختلف من ماسک
على النقیض سارع إیلون ماسک، الذی تعمل شرکاته فی مجال الذکاء الاصطناعی، برفض هذه المخاوف فی منشور على منصه إکس التی یمتلکها، ووصفها بأنها "فخ" ومجرد "عملیه نفسیه".
وقال ماسک، الذی قام بضخ استثمارات ضخمه فی تقنیات للذکاء الاصطناعی بشرکاته، ومنها تسلا للسیارات وسبیس إکس للفضاء، على منصه إکس: "أعتقد أن الأرضیه لهذه العملیه النفسیه قد أعدت منذ فتره طویله".
وذکرت صحیفه غاردیان أن ماسک کان یستند فی منشوره على ما قاله بارکر ثایر، الباحث فی مؤسسه "کابیتال ریسیرش" المحافظه، إن تحذیرات کوکسون هی بدایه "لعملیه علاقات عامه متطوره ومموله بسخاء" تهدف إلى حشد الدعم للدیمقراطیین من أجل فرض لوائح تنظیمیه متشدده على شرکات الذکاء الاصطناعی.
وقامت شرکات التکنولوجیا الأمریکیه باستثمار مبالغ طائله فی تقنیات الذکاء الاصطناعی، فی ظل منافسه محتدمه بینها من جانب ومع الشرکات الصینیه من جانب آخر، وبالتالی فإن هناک مخاوف من أن التحذیرات من مخاطر الذکاء الاصطناعی قد تؤدی لفرض قیود تنظیمیه تؤثر على أرباح هذه الشرکات.
"التحسین الذاتی"
أوضحت شبکه "سی إن بی سی" أن المخاوف بشأن النماذج المتقدمه للذکاء الاصطناعی تتمحور حول قدرتها على تحسین أدائها ذاتیا، وهی تقنیه تُعرف باسم "التحسین الذاتی التکراری" .
ونقلت عن آنا وانغ، التی تعمل فی مجال سلامه وتحسین الذکاء الاصطناعی فی شرکه أنثروبیک، أنه "لا توجد حتى الآن خطه علمیه فعّاله لمعالجه مخاطر الذکاء الاصطناعی الذی یتطور ذاتیا بشکل متکرر.
کما نقلت صحیفه الغاردیان البریطانیه عن عن العالم البارز فی مجال الذکاء الاصطناعی، غاری مارکوس قوله إنه یخشى من کوارث قد یتسبب فیها الذکاء الاصطناعی، مثل الحروب التی تُشعلها أو تُؤججها المعلومات المضلله التی یُنتجها، والاختراقات التی تُدمر البنیه التحتیه الحیویه.
المصدر: رویترز + سی إن بی سی + غاردیان