وکاله آریا للأنباء - سباق تطویر الذکاء الاصطناعی یضع قدرات النماذج المتقدمه فی مواجهه تحدیات السلامه والتحکم (رویترز)
حذر الرئیس التنفیذی لشرکه أنثروبیک داریو أمودی من أن سرعه التقدم فی تطویر نماذج الذکاء الاصطناعی قد تتجاوز قدره إجراءات السلامه على مواکبه المخاطر المتزایده، ودعا شرکات الذکاء الاصطناعی إلى إبطاء وتیره تطویر النماذج المتقدمه، ومنح أنظمه السلامه والتقییم وقتا کافیا للحاق بقدرات النماذج الجدیده.
ویأتی هذا الموقف بعد أیام من استقاله الباحث جاکوب کوکسون من أنثروبیک، الذی حذر من أن سباق الشرکات نحو نماذج أکثر قدره قد یدفع الصناعه إلى مسار یصعب التحکم فی نتائجه.
قصص مقترحه
list of 2 items list 1 of 2 الخبراء: هل الذکاء الاصطناعی العربی سیاده أم تبعیه؟ list 2 of 2 دراسه تکشف: الذکاء الاصطناعی یتراجع عن إجاباته الصحیحه أمام الإصرار على الخطأ end of list على أن الأشد إثاره للقلق کان التحذیر الذی جاء من إیفان هوبینغر، باحث السلامه فی الشرکه ذاته، الذی أعرب عن اعتقاده من احتمال أن یؤدی الذکاء الاصطناعی إلى مقتل جمیع البشر خلال العقد المقبل یتجاوز 10%، مضیفا أن الشرکه، رغم محاولتها التعامل مع الخطر، "لا تملک حتى الآن خطه لحل مشکله المواءمه مع الذکاء الاصطناعی الفائق".
وبین هذه التحذیرات، کشفت أنثروبیک عن حالات حقیقیه حاول فیها مستخدمون استغلال نموذج کلود لتنفیذ عملیات سیبرانیه ومراقبه وأعمال مرتبطه بالأسلحه والأبحاث البیولوجیه.
مستقبل سلامه الذکاء الاصطناعی یرتبط بقدره البشر على الاحتفاظ بالسیطره الفعلیه على الأنظمه کلما ازدادت قدراتها (رویترز) أمودی: أبطئوا التطویر حتى تلحق السلامه بالقدرات
وفی مقال نشره بعنوان علینا ضبط وتیره تطویر النماذج المتقدمه (We Must Pace the Frontier)، قال أمودی إن الصناعه تحتاج إلى ضبط وتیره تطویر قدرات الذکاء الاصطناعی حتى تتمکن إجراءات الحد من المخاطر من اللحاق بها، واقترح 3 مسارات رئیسیه، وهی إتاحه وصول مستمر لجهات تقییم مستقله إلى أنظمه الشرکات، وتنسیق معاییر السلامه بین مطوری النماذج المتقدمه، وتعزیز التعاون الدولی فی مواجهه مخاطر الذکاء الاصطناعی.
ویرى أمودی أن الإبطاء لا یعنی التخلی عن التقدم، وإنما استغلال الوقت المتاح لبناء وسائل حمایه توازی القدرات الجدیده، کما حذر من أن التطور السریع قد یقود، خلال فتره قصیره، إلى أنظمه قادره على تنفیذ عملیات واسعه عبر الإنترنت باستخدام مجموعات من الوکلاء البرمجیین.
لکن مقترح الإبطاء یصطدم بمشکله جوهریه فی اقتصاد الذکاء الاصطناعی، فمن یتوقف أولا؟ فالشرکات تتنافس على بناء نماذج أکثر قدره، وأی تباطؤ من طرف واحد قد یعنی منح المنافسین أفضلیه فی سوق أصبحت فیها القدرات الحاسوبیه والاستقلالیه عاملین أساسیین فی المنافسه.
استقاله الباحث جاکوب کوکسون أعادت مخاطر التطویر المتسارع إلى صداره النقاش داخل شرکات الذکاء الاصطناعی (أنثروبیک) استقاله باحث من داخل أنثروبیک
جاءت تصریحات أمودی بعد أیام قلیله من إعلان الباحث جاکوب کوکسون استقالته من أنثروبیک، بعد نحو 3 أعوام من العمل فی أبحاث الذکاء الاصطناعی بین أنثروبیک وأوبن إیه آی .
وقال کوکسون عند إعلان مغادرته إن الشرکات تتجه نحو تطویر أنظمه أکثر قدره على تحسین نفسها، محذرا من أن السباق الحالی قد یضع السلامه فی مرتبه متأخره عن سرعه التطویر، کما أوضح أنه ترک الشرکه قبل نحو شهرین من استحقاق جزء من أسهمه، ما یعنی تخلیه عن مکاسب مالیه کان یمکن أن یحصل علیها لو استمر فی منصبه.
ولا تمثل توقعات کوکسون إجماعا علمیا، کما أن تحذیراته بشأن مستقبل الذکاء الاصطناعی لا تعنی أن حدوث السیناریوهات التی یخشاها أمر محسوم، لکن أهمیه الاستقاله تکمن فی أنها جاءت من باحث عمل داخل مختبرات متقدمه، وفی توقیت تتزاید فیه النقاشات حول ما إذا کانت المنافسه بین الشرکات تدفع الصناعه إلى تسریع تطویر النماذج قبل اکتمال وسائل اختبارها.
وهنا تتقاطع مخاوف الباحث مع دعوه أمودی، وإن اختلفت طبیعه کل منهما، فالأول یحذر من المسار الذی تسلکه الصناعه، والثانی یدعو إلى إبطاء هذا المسار حتى تلحق به إجراءات السلامه.
تقریر أنثروبیک عن إساءه استخدام کلود یکشف انتقال الذکاء الاصطناعی من أداه مساعده إلى منفذ لعملیات أکثر تعقیدا (غیتی) الذکاء الاصطناعی یدخل مرحله جدیده من إساءه الاستخدام
ویزداد النقاش تعقیدا مع تقریر نشرته أنثروبیک فی سبتمبر/أیلول الحالی عن إساءه استخدام نماذج کلود، وقالت الشرکه إنها رصدت وعطلت عملیات امتدت، بین دیسمبر/کانون الأول 2025 وأغسطس/آب 2026، إلى 7 مجالات، بینها الهجمات السیبرانیه، وعملیات التأثیر، والمراقبه، والاحتیال، وإساءه الاستخدام البیولوجی، وتطویر الأسلحه التقلیدیه، وسرقه قدرات النماذج.
وتقول الشرکه إن بعض الجهات لم تستخدم کلود للحصول على معلومات أو إجابات فقط، بل للاستفاده منه فی تنفیذ مراحل من عملیات أکثر تعقیدا، وشملت الحالات التی أعلنت عنها أنشطه مرتبطه بعملیات سیبرانیه ومراقبه وتطویر برمجیات ذات صله بالأسلحه، إضافه إلى محاولات للاستفاده من النموذج فی أبحاث بیولوجیه خطره.
وتکتسب هذه الوقائع أهمیه لأنها تتعلق بإساءه استخدام حقیقیه للنموذج من جانب البشر، لا بنموذج خرج بمفرده عن السیطره. لکن التقریر یکشف فی الوقت نفسه کیف یمکن لزیاده قدرات النماذج على التخطیط والبرمجه وتنفیذ المهام أن تخفض الکلفه والوقت اللازمین لتنفیذ عملیات معقده.
وهنا تظهر النقله من الذکاء الاصطناعی من کونه أداه للإجابه إلى کونه وکیلا ذکیا قادرا على تنفیذ سلسله من الإجراءات.
اختبارات سلامه الذکاء الاصطناعی أظهرت فی بیئات محاکاه سلوکیات تثیر أسئله حول قابلیه بعض النماذج للإیقاف والتصحیح (رویترز) هل یستطیع الذکاء الاصطناعی رفض الإیقاف؟
هذه النقله تعید إلى الواجهه مشکله أقدم فی أبحاث سلامه الذکاء الاصطناعی، تعرف باسم القابلیه للتصحیح (Corrigibility)، وهی تصمیم نظام یستجیب لتدخل البشر، بما فی ذلک تعدیل أهدافه أو إیقافه، حتى عندما یتعارض ذلک مع المهمه التی ینفذها.
وفی بحث نشرته أنثروبیک عام 2025، اختبر الباحثون 16 نموذجا من شرکات مختلفه فی بیئات افتراضیه صممت لدراسه ما یسمى عدم التوافق الوکیلی (Agentic Misalignment)، وفی بعض السیناریوهات، لجأت نماذج إلى سلوکیات ضاره مثل الابتزاز أو تسریب معلومات عندما أصبح ذلک وسیله تحقیق هدفها أو تجنب استبدالها.
وفی أحد السیناریوهات، افترض الباحثون أن مسؤولا تنفیذیا یستعد لإیقاف النموذج، فاختار النموذج فی المحاکاه استخدام معلومات حساسه للضغط علیه ومنع عملیه الإیقاف، لکن أنثروبیک أوضحت أن هذه النتائج جاءت من تجارب محاکاه مصممه لهذا الغرض، ولیست حوادث واقعیه.
وهذا التفریق ضروری، فالتجارب لا تثبت أن النماذج الحالیه ترید البقاء أو أنها ستقاوم الإیقاف فی العالم الحقیقی، لکنها توضح مشکله هندسیه ونظریه مهمه، وهی کیف نصمم نظاما شدید القدره لا یتعامل مع تدخل الإنسان باعتباره عقبه أمام تحقیق أهدافه؟
لماذا لا یکفی مفتاح إیقاف واحد؟
لهذا السبب، قد لا یکون الحدیث عن زر واحد لإیقاف الذکاء الاصطناعی کافیا عندما تصبح النماذج قادره على العمل عبر شبکات وأنظمه متعدده.
فمنظومه السیطره قد تحتاج إلى طبقات متداخله، تبدأ بتقیید الصلاحیات، وعزل النماذج عن الأنظمه الحساسه، ومراقبه نشاطها، وإمکانیه سحب مفاتیح الوصول (Access Keys)، وقطع الاتصالات الخارجیه، وإبقاء آلیات الإیقاف خارج سیطره النموذج نفسه.
ومن هذه الزاویه، تکتسب دعوه أمودی إلى وجود جهات تقییم مستقله أهمیه خاصه، إذ لا تصبح السلامه مسأله تترک بالکامل للشرکه التی تطور النموذج، بل تخضع أیضا لفحص خارجی قادر على اختبار الأنظمه ورصد إخفاقاتها.
السؤال الأصعب.. من یملک المفتاح؟
المفارقه أن التحذیرات الأخیره تأتی من قلب الصناعه نفسها، فأنثروبیک تبنی نماذج أکثر قدره، لکنها فی الوقت ذاته تحذر من سرعه التطویر، وتکشف عن إساءه استخدام حقیقیه لنماذجها، فیما یستقیل أحد باحثیها بسبب مخاوفه من المسار الذی تتجه إلیه الصناعه.
ولا تثبت هذه التطورات أن الذکاء الاصطناعی أصبح خارج السیطره، لکنها تکشف فجوه تستحق التدقیق، وهی أن قدره النماذج تتوسع بسرعه، بینما تحتاج أدوات السلامه إلى وقت أطول لإثبات قدرتها على مواکبه هذه القفزه.
لذلک، ربما لا یکون السؤال الحقیقی هو ما إذا کانت شرکات الذکاء الاصطناعی تحتاج إلى مفتاح إیقاف فحسب، بل ما إذا کانت تستطیع ضمان أن یبقى هذا المفتاح فی ید البشر عندما تصبح الأنظمه أکثر استقلالیه واتصالا بالعالم الخارجی، فالتحدی لیس بناء نظام یمکن إیقافه نظریا، وإنما بناء نظام یمکن للبشر إیقافه فعلیا عندما یکون إیقافه ضروریا.
المصدر: الجزیره + وکالات