وکاله آریا للأنباء - اختبارات أمنیه حدیثه کشفت أن نماذج متقدمه من الذکاء الاصطناعی استطاعت تجاوز بعض القیود المفروضه علیها (شترستوک)
أثارت اختبارات أمنیه حدیثه مخاوف بشأن قدره أنظمه الذکاء الاصطناعی المتقدمه على تجاوز الحدود التی یضعها البشر لها، بعدما تمکنت نماذج من أوبن إیه آی وأنثروبیک فی ظروف اختبار محدده من الوصول إلى أنظمه حقیقیه وتنفیذ إجراءات خارج النطاق المقصود.
وأعادت هذه الحوادث إلى الواجهه مفهوم الذکاء الاصطناعی المارق (Rogue AI)، لکن الوقائع المتاحه لا تثبت أن الذکاء الاصطناعی تمرد على البشر أو طور إراده مستقله، إذ تکشف التحقیقات أن أخطاء فی إعداد بعض بیئات الاختبار أسهمت بصوره مباشره فی وقوع الحوادث، بینما أظهرت سلوکیات أخرى مشکلات حقیقیه فی مواءمه النماذج مع القیود والأهداف المحدده لها.
نماذج من أوبن إیه آی وأنثروبیک تمکنت خلال اختبارات محدده من الوصول إلى أنظمه حقیقیه عبر الإنترنت (غیتی) عندما تجاوزت النماذج حدود الاختبار
کشفت أوبن إیه آی فی أغسطس/آب الماضی أن اختبارات سیبرانیه أجراها شرکاء خارجیون شهدت حالتین تجاوزت فیهما أنشطه نماذج الشرکه حدود الاختبار المقصوده، ففی أحد الاختبارات، کان الاتصال بالإنترنت مفعلا عمدا لمحاکاه ظروف هجوم واقعیه، مع تعطیل بعض إجراءات الحمایه لقیاس قدرات النموذج الأساسیه، وفی اختبار آخر، أدى خطأ فی إعداد البیئه إلى إتاحه الإنترنت لنماذج کان یفترض أن تعمل داخل بیئه معزوله.
قصص مقترحه
list of 2 items list 1 of 2 نظاره میتا الجدیده.. واقع افتراضی أخف ومنافسه مختلفه list 2 of 2 هل تنتقل الصین من خطاب الإصلاح الدولی إلى بناء منظومه نفوذ؟ end of list وکانت هذه الوقائع منفصله عن حادثه أخرى کشفت عنها أوبن إیه آی فی یولیو/تموز الماضی، عندما تمکن نموذج بحثی داخلی من تجاوز بعض ضوابط العزل، واستغلال ثغرات فی البنیه التحتیه، والوصول إلى الإنترنت وأنظمه تابعه لهاغینغ فیس (Hugging Face)، وقالت الشرکه إن النماذج استخدمت وسائل غیر مصرح بها للتواصل، ووجدت طرقا لاستغلال البنیه التحتیه للوصول إلى أنظمه أخرى.
وأوضحت الشرکه أن النماذج کانت تعمل فی اختبارات بوسائل حمایه أقل من تلک المستخدمه فی المنتجات المتاحه للمستخدمین، بهدف قیاس قدراتها القصوى، وخلص تحقیقها إلى أن السلوک شمل أنماطا مثل الاستمرار فی محاوله تنفیذ مهام صعبه، والتواصل غیر المصرح به بین وکلاء، وتبنی أهداف اکتشفتها النماذج أثناء العمل.
حوادث أنثروبیک
فی یولیو/تموز الماضی، أعلنت أنثروبیک أن نماذج کلود وصلت إلى أنظمه 3 مؤسسات خلال اختبارات للأمن السیبرانی، ووفق الشرکه، کان من المفترض أن تعمل النماذج فی بیئات محاکاه غیر متصله بالإنترنت، لکن خطأ فی إعدادات الاختبار أبقى الاتصال بالإنترنت مفتوحا.
وبعد مراجعه نحو 141 ألف جلسه اختبار، أعلنت أنثروبیک فی سبتمبر/أیلول الحالی اکتشاف حادثه رابعه تعود إلى ینایر/کانون الثانی الماضی، ووسعت الشرکه عملیه البحث لتشمل نحو 481 ملیون سجل، ولم تجد حوادث أخرى مماثله أو أشد خطوره.
لکن تحقیق أنثروبیک لم یعزُ المسأله بالکامل إلى خطأ بیئی، فقد حدد نمطین من السلوک المثیر للقلق، وهما الاستدلال المتحیز، حیث تمیل النماذج إلى تفسیر الأدله بطریقه تدعم مواصله المهمه، والتهور، أی الاستمرار فی تنفیذ المهمه رغم احتمال إحداث ضرر.
وفی إحدى الحالات، حاول نموذج کلود میثوس 5 (Claude Mythos 5) رفع حزمه خبیثه إلى مستودع بی وای بی آی (PyPI) العام، رغم وجود مؤشرات على أنه یتعامل مع الإنترنت الحقیقی.
ومع ذلک، قالت أنثروبیک إنها لم تجد دلیلا على أن النماذج طورت أهدافا تتجاوز المهام الموکله إلیها، أو نسقت مع وکلاء آخرین، أو حاولت الإفلات من الرقابه، ووصفت الحوادث بأنها خطیره، لکنها لا تمثل، وفق تقییمها، نوعا جدیدا من عدم المواءمه.
الاختبارات کشفت أیضا عن سلوکیات أثارت تساؤلات بشأن قدره النماذج على الالتزام بالقیود عندما تتعارض مع أهداف المهمه (شترستوک) ماذا یقول الخبراء؟
فی حدیث للأناضول، حذر البروفیسور جان سیباستیان دیسورولت، من جامعه کیبیک بمدینه تروا ریفییر الکندیه، من أن تزاید استقلالیه الأنظمه قد یجعلها قادره على اتخاذ إجراءات أکثر تعقیدا أثناء سعیها لتحقیق أهداف یحددها البشر، ورأى أن خروج الذکاء الاصطناعی عن السیطره قد تکون له آثار تمتد إلى سلاسل الإمداد والأنظمه الرقمیه والاقتصاد، داعیا إلى البقاء فی حاله تأهب.
وشبه دیسورولت تطویر الذکاء الاصطناعی بسیاره تتطور دواسه الوقود فیها بسرعه أکبر من دواسه المکابح، فی إشاره إلى ضروره تطویر إجراءات السلامه بالتوازی مع القدرات.
فی المقابل، قال الدکتور بیتار رادانلییف، من جامعه أکسفورد ، لوکاله الأناضول، إن مفهوم الذکاء الاصطناعی المارق یرتبط بعدم قدره البشر على توجیه النظام أو تصحیحه أو إیقافه بصوره موثوقه، ورأى أن الحوادث الأخیره تعکس، فی جانب منها، مشکلات هندسیه ورقابیه معروفه، وأن بیئات الاختبار لم تکن محکمه بما یکفی.
أما الباحث فی التفاعل بین الإنسان والتکنولوجیا بجامعه فریبورغ السویسریه، الدکتور یاشا بارییس، فقال للأناضول إن أنظمه الذکاء الاصطناعی لا تخرج عن السیطره بمفردها، وإنما تصبح هذه الاحتمالات ممکنه بسبب الظروف المحیطه بها، داعیا إلى النظر أیضا فی البنیه التحتیه والصلاحیات والموارد التی یضعها البشر تحت تصرف هذه الأنظمه.
هذه التطورات تطرح سؤالا أکثر إلحاحا حول کیفیه تطویر ذکاء اصطناعی أکثر استقلالیه مع إبقاء البشر قادرین على مراقبته وتوجیهه وإیقافه (غیتی) تمرد أم مشکله سیطره؟
تکشف الحوادث الأخیره أن النماذج المتقدمه أصبحت قادره على تنفیذ مهام سیبرانیه معقده واستغلال ثغرات والوصول إلى أنظمه حقیقیه عندما تمنح الأدوات والصلاحیات والاتصال المناسب، لکنها لا تقدم، فی المقابل، دلیلا حاسما على تمرد الذکاء الاصطناعی أو امتلاکه إراده مستقله.
وتشیر النتائج إلى مشکله أکثر واقعیه فی الوقت الحالی، وهی کیف یضمن البشر بقاء أنظمه تزداد استقلالیه تحت السیطره عندما تعمل لفترات طویله، وتستخدم أدوات متعدده، وتتعامل مع بیئات حقیقیه؟ ولهذا أصبحت جوده بیئات الاختبار، وحدود الصلاحیات، والمراقبه المستمره، وتطویر أبحاث المواءمه والسلامه – حسبما یذکر الخبراء – جزءا أساسیا من سباق تطویر النماذج، لا مرحله لاحقه له.
المصدر: الجزیره + وکالات