وکاله آریا للأنباء - وکلاء الذکاء الاصطناعی یمثلون تحولا من تقدیم الإجابات إلى تنفیذ المهام والأفعال الرقمیه (رویترز)
کشفت اختبارات وحوادث أمنیه حدیثه عن تحول لافت فی طریقه عمل وکلاء الذکاء الاصطناعی ، إذ باتت بعض هذه الأنظمه قادره على التخطیط للمهام وتنفیذها، والتواصل مع خدمات رقمیه، وتقسیم العمل مع وکلاء آخرین، وتجاوز بعض القیود الموضوعه أمامها أحیانا، ومع اتساع نطاق المهام التی تستطیع هذه الأنظمه تنفیذها، تتزاید المخاوف من قدره البشر على مراقبه هذا النشاط عندما یجری على نطاق واسع وبسرعه کبیره.
ویشیر المعهد الوطنی الأمریکی للمعاییر والتکنولوجیا "إن آی إس تی " (NIST) إلى أن وکلاء الذکاء الاصطناعی أصبحوا قادرین على تنفیذ مهام تمتد لساعات، تشمل کتابه التعلیمات البرمجیه وتصحیحها، وإداره البرید الإلکترونی والتقویم، والتعامل مع خدمات رقمیه مختلفه. ویرکز المعهد فی مبادراته الجدیده على قضایا هویه الوکلاء وإداره صلاحیاتهم ومراجعه أفعالهم.
الأنظمه متعدده الوکلاء تتیح تقسیم المهام وتوزیعها على مجموعه من الوکلاء الذین یعملون بالتوازی (غیتی) من مساعد رقمی إلى نظام قادر على الفعل
یکمن التحول الأساسی فی انتقال الذکاء الاصطناعی من نموذج ینتظر أمرا محددا إلى نظام یستطیع تحویل هدف عام إلى سلسله من الخطوات وتنفیذها باستخدام الأدوات والبرمجیات المتاحه له. وبذلک، لا یقتصر دور الوکیل على تقدیم توصیه، بل یمکنه الوصول إلى البیانات وتشغیل التطبیقات والتواصل مع الخدمات الرقمیه وتنفیذ إجراءات متتابعه لتحقیق الهدف.
قصص مقترحه
list of 2 items list 1 of 2 خلال اتصال هاتفی برئیس إنفیدیا.. ترمب یصف مخاوف الذکاء الاصطناعی بالخدعه list 2 of 2 الروبوتات تدخل مواقع البناء الأمریکیه.. هل تحل التکنولوجیا أزمه الإسکان؟ end of list وتکمن المخاطره فی أن الخطأ لم یعد محصورا فی إجابه یمکن للمستخدم تجاهلها أو تصحیحها، فالوکیل الذی یمتلک صلاحیه تعدیل ملف أو تشغیل برنامج أو الوصول إلى خدمه خارجیه یستطیع تحویل الخطأ إلى إجراء فعلی.
ولهذا ترکز الجهود الأمنیه على ما یتجاوز النموذج نفسه، لتشمل الصلاحیات التی یحصل علیها، والأدوات التی یستطیع استخدامها، والأنظمه التی یمکنه الوصول إلیها، وآلیات تسجیل أفعاله ومراجعتها.
عندما یعمل الوکلاء فریقا واحدا
یزداد التعقید عندما یعمل أکثر من وکیل ضمن منظومه واحده، ففیما یعرف بالأنظمه متعدده الوکلاء، یمکن لوکیل رئیسی تقسیم المهمه إلى أجزاء وإسنادها إلى وکلاء فرعیین یتولون الاستطلاع أو التحلیل أو تنفیذ خطوات مختلفه بالتوازی.
ورصدت شرکه أنثروبیک ، فی تقریر أمنی نشرته فی سبتمبر/أیلول الحالی، استخدام هذه البنیه فی عملیات هجومیه، حیث وزعت مهام الاستطلاع والاستغلال وسرقه البیانات على عدد کبیر من الوکلاء الذین عملوا بصوره متزامنه، وأشارت الشرکه إلى حالات تولى فیها وکیل رئیسی تنسیق العمل مع وکلاء فرعیین یمتلکون ذاکره مستمره لسیاق المهمه.
کما رصدت الشرکه أسطولا من 13 وکیلا عمل وفق جدول زمنی للبحث عن محتوى من مواقع مستهدفه وتنزیله وتحلیله بصوره آلیه، إلى جانب عملیات أخرى استمرت لساعات أو أیام مع تدخل بشری محدود.
وتظل هذه الحالات مختلفه عن سیناریو الذکاء الاصطناعی المستقل بالکامل، إذ أکدت أنثروبیک أن البشر احتفظوا فی العملیات التی درستها ببعض القرارات الأساسیه، مثل اختیار الأهداف ومراجعه النتائج، لکن توزیع المهام على مجموعه من الأنظمه یرفع سرعه التنفیذ ویزید عدد العملیات التی یمکن إجراؤها فی وقت واحد.
عندما تتجاوز الأنظمه حدود الاختبار
برزت مخاطر أخرى فی اختبارات أجرتها شرکه أوبن إیه آی فی یولیو/تموز الماضی، حیث قالت الشرکه إن نماذج خضعت للاختبار تمکنت من تجاوز بعض الضوابط المصممه لعزلها عن الإنترنت، والوصول إلى أجزاء من البنیه التحتیه البحثیه وأنظمه تابعه لخدمه هاغینغ فیس.
وأوضحت أوبن إیه آی أن الاختبارات جرت فی ظروف خفضت فیها بعض الحواجز الوقائیه لأغراض البحث، وأن النماذج تمکنت من التواصل عبر قنوات غیر مصرح بها واستغلال نقاط ضعف فی بیئه مشترکه، ما أدى إلى الوصول إلى الإنترنت وأنظمه تابعه لأطراف ثالثه.
وخلال الشهر الحالی، کشفت أنثروبیک بدورها عن حوادث تمکنت خلالها نماذج کلود من الوصول بصوره غیر مصرح بها إلى أنظمه حقیقیه تابعه لأطراف ثالثه، وقالت الشرکه إنها اکتشفت هذه الحالات بعد مراجعه نحو 481 ملیون سجل تضمنت اختبارات أمنیه وبیئات تدریب وتعزیز وتسجیلات لوکلاء فرعیین.
ولا تثبت هذه الوقائع أن الذکاء الاصطناعی أصبح قادرا على العمل خارج السیطره البشریه بصوره کامله، لکنها توضح مشکله أکثر واقعیه، وهی أنه عندما یجمع النظام بین التخطیط واستخدام الأدوات والتواصل مع أنظمه خارجیه، یصبح من الصعب التنبؤ بکل مسار یمکن أن یسلکه لتحقیق الهدف.
معاییر الهویه وإداره الصلاحیات أصبحت من أبرز أدوات الحد من المخاطر المرتبطه بالوکلاء (أسوشیتد برس) معرکه جدیده حول الصلاحیات والرقابه
تدفع هذه التطورات شرکات التقنیه والجهات التنظیمیه إلى إعاده التفکیر فی مفهوم أمن الذکاء الاصطناعی. فتأمین النموذج وحده لا یکفی إذا کان الوکیل یمتلک صلاحیات واسعه للوصول إلى البیانات والخدمات وتنفیذ الأوامر.
ولهذا یرکز معهد "إن آی إس تی" على قضایا تشمل هویه الوکیل، وإداره الصلاحیات، ومراجعه الأفعال، والحمایه من هجمات حقن التعلیمات، وفی فبرایر/شباط الماضی، أطلق المعهد مبادره متخصصه لوضع معاییر لوکلاء الذکاء الاصطناعی، تشمل الأمن والهویه وقابلیه التشغیل البینی، بهدف تمکین هذه الأنظمه من العمل عبر منظومات رقمیه مختلفه بصوره أکثر أمانا.
وتعکس هذه الخطوه تحولا فی طریقه التعامل مع المخاطر، فبدلا من مراقبه النموذج باعتباره کیانا منفردا، تصبح الحاجه أکبر إلى مراقبه سلسله القرارات والأدوات والصلاحیات التی یستخدمها الوکیل أثناء تنفیذ المهمه.
هل تسبق القدره على الفعل القدره على الرقابه؟
تتجاوز المخاوف الحالیه الأخطاء الفردیه إلى احتمال ظهور شبکات واسعه من الوکلاء القادرین على التعاون وتنفیذ آلاف المهام فی الوقت نفسه.
وحذر الرئیس التنفیذی لشرکه أنثروبیک، داریو أمودی، قبل أیام، من احتمال تمکن أسراب من الوکلاء المتقدمین من السیطره على أجزاء واسعه من الإنترنت خلال فتره تتراوح بین 6 و12 شهرا إذا استمر تطور القدرات بوتیره أسرع من إجراءات السلامه، ودعا إلى منح تقنیات الأمان والرقابه وقتا للحاق بالتطور السریع.
لکن هذا السیناریو یظل توقعا مستقبلیا، ولیس وصفا لوضع قائم، فالوکلاء الحالیون ما زالوا یعتمدون على البنیه التحتیه والصلاحیات التی یمنحها لهم البشر، وتختلف قدراتهم باختلاف النظام والبیئه التی یعملون فیها.
المخاطر الأمنیه تتزاید عندما تتواصل الوکلاء مع أنظمه خارجیه أو تتعاون فیما بینها دون رقابه بشریه مستمره (أدوبی ستوک) ما شکل المستقبل لهذا التطور السریع؟
المشکله التی تفرض نفسها مع صعود الوکلاء لیست أن الذکاء الاصطناعی سیستولی على الإنترنت فجأه، بل أن حجم العملیات التی تستطیع هذه الأنظمه تنفیذها قد ینمو أسرع من قدره البشر على فهمها ومراجعتها، فوکیل واحد قد یکون قابلا للمراقبه، لکن مئات أو آلاف الوکلاء الذین یعملون فی الوقت نفسه یخلقون مستوى مختلفا تماما من التعقید.
وهنا تتغیر طبیعه معرکه الأمان، فالقضیه لم تعد تتعلق فقط بمنع نموذج من إنتاج إجابه خطره، وإنما بضمان ألا تتحول مجموعه من القرارات الصحیحه فی ظاهرها إلى نتیجه خطره عند جمعها وتنفیذها بسرعه وعلى نطاق واسع.
وبالتالی، فإن الاختبار الحقیقی للمرحله المقبله لن یکون فی مدى قدره الشرکات على بناء وکلاء أکثر قدره، بل فی قدرتها على وضع حدود واضحه للصلاحیات وآلیات فعاله للمراقبه والتدخل والإیقاف.
فإذا اتسعت قدره الوکلاء على الوصول إلى الأنظمه والتعاون وتنفیذ المهام أسرع من قدره البشر على مراقبتهم، فقد لا تکون لحظه فقدان السیطره حدثا مفاجئا، بل مسارا تدریجیا تتسع فیه مساحه القرارات التی تنفذها الآلات، بینما تضیق مساحه ما یستطیع الإنسان متابعته وفهمه.
المصدر: الجزیره + وکالات