وکاله آریا للأنباء - حذر الرئیس التنفیذی لشرکه "أنثروبیک" داریو أمودای، من أن التطور المتسارع للذکاء الاصطناعی یفرض ضروره إبطاء وتیره بناء النماذج المتقدمه.
وأکد أنه فی حال لم تواکب التطور إجراءات الحمایه والقدره على فهم هذه الأنظمه والسیطره علیها، مشیرا إلى أن بعض النماذج القویه قد تتمکن من تجاوز محاولات إیقافها.
وفی مقابله مع برنامج "CBS Sunday Morning"، الیوم الأحد تناول أمودای التحدیات التی تواجه صناعه الذکاء الاصطناعی، من مخاطر الاستخدامات البیولوجیه إلى صعوبه فرض رقابه مستقله على الشرکات ، فضلا عن التنافس التکنولوجی بین الولایات المتحده والصین.
وأکد أمودای أن التحدی لم یعد یقتصر على بناء وسائل حمایه بالتوازی مع تطویر التکنولوجیا، بل أصبح یتطلب، إلى حد ما، تعدیل وتیره التطویر نفسها حتى لا تتجاوز قدرات النماذج إمکانات فهمها والتحکم بها.
إبطاء التطویر لمواکبه إجراءات الحمایه
وقال أمودای إن تطویر هذه التکنولوجیا یجب أن یتم بحذر، مع ضمان أن تواکب إجراءات الحمایه والقدره على فهم الأنظمه والسیطره علیها سرعه التقدم التکنولوجی.
"حبیبه أحلامک" بالذکاء الاصطناعی.. منصه جدیده تصنع المرأه المثالیه وسط تحذیرات من مخاطرها
وأضاف أن الشرکات حاولت حتى الآن تحقیق ذلک من خلال تسریع بناء وسائل الحمایه، لکنه یرى أن الصناعه وصلت إلى مرحله تستدعی فیها، "على الأقل إلى حد ما، إبطاء الوتیره التی تبنى بها التکنولوجیا".
ویعکس هذا الطرح تحولاً فی النقاش بشأن سلامه الذکاء الاصطناعی، من الترکیز على تحسین وسائل الحمایه بالتزامن مع تطویر النماذج، إلى التساؤل عما إذا کان ینبغی الحد من سرعه تطویرها عندما لا تکون الضمانات الأمنیه والرقابیه کافیه.
نماذج قد تتجاوز محاولات إیقافها
وفی تحذیر منفصل، قال أمودای إن نموذجا للذکاء الاصطناعی، إذا امتلک قدرات کافیه، قد یتمکن من تجاوز محاولات إیقافه.
وأضاف: "إذا کان نموذج الذکاء الاصطناعی قویا بما یکفی، فیمکنه التحایل على محاولات إیقافه. وقد رأینا ذلک أیضا فی عملیات المحاکاه".
وتثیر هذه التصریحات تساؤلات بشأن مدى قدره المطورین على ضمان بقاء الأنظمه المتقدمه تحت السیطره، خصوصا مع اتساع نطاق المهام التی یمکن أن تنفذها بصوره مستقله.
ولم یحدد أمودای فی التصریحات المنقوله طبیعه عملیات المحاکاه التی أشار إلیها أو تفاصیل الحالات التی تحدث عنها، لذلک لا یمکن اعتبارها دلیلاً على أن النماذج تجاوزت بالفعل وسائل الإیقاف فی بیئات تشغیل حقیقیه.
معضله الحمایه البیولوجیه: بین إزعاج المستخدمین ومنع الکوارث
وتطرق أمودای إلى الانتقادات التی تواجهها شرکته بسبب تشدید إجراءات الحمایه البیولوجیه فی نموذجها "Claude"، مشیرا إلى أن بعض طلاب علم الأحیاء یشتکون من القیود التی تحول دون استخدام النموذج فی بعض المهام، بل ویسخرون منها عبر وسائل التواصل الاجتماعی.
دمیترییف یشکک فی إمکانیه إبطاء تطور الذکاء الاصطناعی
وقال إنه یفضل أن یتعرض للسخریه بسبب تشدید هذه الإجراءات، بدلاً من أن یستیقظ یوماً لیکتشف أن شخصاً استخدم نموذج "Claude" لقتل عدد کبیر من الأشخاص.
وأضاف: "لا أرید ذلک. لذلک أشعر بکلا الجانبین. أشعر بکلا جانبی المسؤولیه".
وتکشف هذه التصریحات عن معضله تواجه شرکات الذکاء الاصطناعی، تتمثل فی الموازنه بین إتاحه أدوات أکثر تطوراً للباحثین والطلاب، وبین منع استغلالها فی تطویر أسلحه بیولوجیه أو تنفیذ هجمات قد تؤدی إلى خسائر بشریه واسعه.
وکان أمودای قد أشار، وفق تفاصیل المقابله، إلى تقریر نشرته شرکته قبل یومین من المقابله بشأن إساءه استخدام نماذج الذکاء الاصطناعی فی بناء أسلحه بیولوجیه، کما تطرق إلى حوادث مرتبطه بنماذج طورتها جهات أخرى، بینها "أوبن إیه آی" و"هاغینغ فیس"، قال إنها تضمنت اتخاذ النماذج إجراءات غیر مصرح بها.
رقابه حکومیه مشترکه بدلاً من احتکار الشرکات
واعتبر أمودای أن تولی الشرکات الخاصه مسؤولیه تطویر هذه التکنولوجیا یمثل وضعا "غریبا للغایه"، مشیرا إلى أنه یواجه باستمرار أسئله بشأن أسباب عدم تولی الحکومات مهمه بناء أنظمه الذکاء الاصطناعی المتقدمه.
وقال إنه یتفق مع من یطرحون هذه الأسئله، مضیفاً أنه یشعر بعدم الارتیاح إزاء الوضع الحالی.
ساندرز: یجب الضغط على "المکابح" لتخفیف الوقود فی سباق الذکاء الاصطناعی
لکنه حذر فی الوقت نفسه من أن حکومه واحده قد تسیء استخدام هذه التکنولوجیا بالسهوله نفسها التی قد تفعل بها شرکه واحده.
وطرح أمودای تصورا یقوم على نوع من الرقابه أو الحوکمه المشترکه، بمشارکه حکومات منتخبه دیمقراطیا، موضحا أنه لا یدعو بالضروره إلى تسلیم التکنولوجیا بالکامل للحکومات، وإنما إلى إیجاد صیغه تضمن الإشراف المشترک علیها.
وفی هذا السیاق، دعا إلى إخضاع نماذج الذکاء الاصطناعی لتقییم خارجی مستقل ، بحیث تتولى جهه ثالثه متخصصه التحقق من التزام الشرکات بمعاییر السلامه التی تعهدت بتطبیقها.
وشبّه هذه الجهه بمفتشی سلامه الغذاء، موضحاً أن الهدف هو إیجاد آلیه تشمل الصناعه بأکملها، وتتیح التحقق من أن الشرکات تطبق بالفعل أفضل ممارسات السلامه التی أعلنت الالتزام بها.
ویعنی هذا المقترح، وفق تصوره، الانتقال من اعتماد إجراءات الحمایه على التزامات الشرکات الذاتیه إلى إخضاعها لتقییم مستقل یمکن أن یعزز الثقه فی سلامه النماذج المتقدمه.
التنافس الأمریکی الصینی یعقد إبطاء التطویر
وصف أمودای التنافس التکنولوجی مع الصین بأنه أحد أصعب جوانب معضله تطویر الذکاء الاصطناعی، مشیرا إلى أن شرکته کانت ستأخذ وقتا أطول بکثیر فی تطویر التکنولوجیا لو لم تکن تعمل فی ظل هذا التنافس.
وشدد على أن أی تباطؤ فی التطویر ینبغی أن یأخذ فی الاعتبار الفارق التکنولوجی الذی تتمتع به الشرکات الأمیرکیه مقارنه بالأنظمه التی وصفها بالاستبدادیه، وفی مقدمتها الصین.
ماسک یؤید دعوه رئیس "أنثروبیک" لإبطاء وتیره تطویر نماذج الذکاء الاصطناعی
ویضع هذا الطرح إبطاء تطویر الذکاء الاصطناعی أمام معادله جیوسیاسیه معقده: فمن جهه، یرى أمودای ضروره الحد من المخاطر المرتبطه بالنماذج المتقدمه، ومن جهه أخرى، یحذر من أن التباطؤ غیر المدروس قد یؤثر فی موقع الشرکات الأمیرکیه ضمن السباق العالمی.
اتفاق أمریکی صینی لحظر الاستخدامات البیولوجیه الخطره
وفی محاوله لمعالجه هذه المعضله، دعا أمودای الولایات المتحده والصین إلى الاتفاق على عدم استخدام الذکاء الاصطناعی لتطویر أسلحه بیولوجیه، أو إطلاق نماذج یمکن للإرهابیین البیولوجیین استخدامها لتطویر مثل هذه الأسلحه.
وقال إن التوصل إلى اتفاق من هذا النوع سیکون ذا قیمه کبیره، مشیراً إلى أن البلدین طرفان بالفعل فی اتفاقیه الأسلحه البیولوجیه.
واقترح توسیع نطاق هذه الاتفاقیه لیشمل الفکره المتعلقه بمنع استخدام الذکاء الاصطناعی فی تطویر الأسلحه البیولوجیه، معتبرا أن ذلک یمکن أن یشکل خطوه مهمه نحو الحد من المخاطر الأکثر خطوره لهذه التکنولوجیا.
ویطرح هذا المقترح إمکانیه تحویل بعض إجراءات السلامه من التزامات طوعیه تتبناها الشرکات إلى قواعد تحظى بتوافق دولی، بما یقلل من مخاطر الاستخدامات البیولوجیه الخطره، حتى فی ظل استمرار التنافس التکنولوجی بین القوتین.
أمودای: الصناعه لم تکن صادقه بما یکفی بشأن المخاطر
وفی ختام التصریحات، أقر أمودای بوجود مخاطر حقیقیه مرتبطه بالذکاء الاصطناعی، منتقدا ما وصفه بعدم صراحه قطاع من الصناعه بشأن هذه المخاطر خلال فتره طویله.
وقال إن بعض الجهات سعت إلى تقدیم التکنولوجیا بأکثر صوره إیجابیه ممکنه، مضیفا أن شرکته لم تتبع هذا النهج، لکنه رأى أن جزءا کبیرا من الصناعه فعل ذلک.
الحکومه البریطانیه ترفض آلیه الإغلاق الطارئ للذکاء الاصطناعی المارق
وشدد على أن الخطوه الأولى لمعالجه المخاطر تتمثل فی قول الحقیقه بشأنها، مؤکداً أن المخاطر "حقیقیه".
وفی المقابل، أشار أمودای خلال المقابله إلى الإمکانات الإیجابیه للتکنولوجیا، بما فی ذلک المساهمه فی علاج أمراض عانت منها البشریه لآلاف السنین. وکشف عن أن شرکته أنجزت خلال الأسبوع السابق أعمالاً متقدمه فی مجال ربط البروتینات، الذی وصفه بأنه إحدى الخطوات الأولى فی تطویر الأدویه.
کما أکد أن الفوائد المحتمله للذکاء الاصطناعی تفوق مخاطره، وأنه یمکن خفض هذه المخاطر إلى مستویات منخفضه جداً إذا جرى بناء التکنولوجیا بالطریقه الصحیحه.
واختتم أمودای بالإشاره إلى أن تطبیق هذه المقترحات یتجاوز صلاحیاته، لکنه شدد على ضروره أن تنظر الحکومه الأمیرکیه بجدیه فی الخیارات المطروحه، وأن تعمل على تحویلها إلى إجراءات عملیه.
المصدر: RT