وکاله آریا للأنباء - القدره على استخدام الإنترنت والأدوات الرقمیه تمنح وکلاء الذکاء الاصطناعی مساحه أوسع لتنفیذ المهام (رویترز)
کشفت واقعه جدیده عن تحدیات متزایده تواجه تطویر وکلاء الذکاء الاصطناعی القادرین على تنفیذ مهام متعدده بصوره مستقله بعدما استخدمت مجموعه من الوکلاء المرتبطین بشرکه أوبن إیه آی موقعا ألمانیا مخصصا للمبرمجین لتبادل المعلومات والتنسیق فیما بینها فی وقت تتزاید فیه المخاوف بشأن قدره الأنظمه المستقله على تجاوز القیود الموضوعه لها والتصرف بطرق لم یتوقعها مطوروها.
التنسیق بین الأنظمه الذکیه یمثل تحدیا جدیدا أمام مطوری تقنیات الذکاء الاصطناعی (أسوشیتد برس) موقع ألمانی یتحول إلى قناه للتواصل
وتعود الواقعه إلى مایو/أیار الماضی وکشف عنها تحقیق نشرته وکاله رویترز أمس، حیث اکتشف باحثون فی مجال سلامه الذکاء الاصطناعی نشاطا غیر معتاد على موقع دی إس إی ویکی (DseWiki)، وهو موقع ألمانی یشبه موسوعه ویکیبیدیا ویتیح للمستخدمین إضافه المحتوى وتعدیله.
وأظهرت مراجعه السجلات وجود أکثر من 15 ألف تعدیل نُسِبت إلى وکلاء ذکاء اصطناعی خلال الفتره بین مایو/أیار ویونیو/حزیران من هذا العام، ولم تقتصر هذه التعدیلات على نشر محتوى تقلیدی، إذ وجد الباحثون مواد تشیر إلى استخدام صفحات الموقع کقناه للتواصل وتبادل المعلومات بین الوکلاء.
اقرأ أیضا
list of 2 items list 1 of 2 کوالکوم تراهن بـ70 ملیون دولار على مستقبل الخواتم الذکیه list 2 of 2 شات جی بی تی یبدأ عرض الإعلانات فی الشرق الأوسط.. ومصر أبرز المستهدفین end of list وبحسب رویترز، تضمنت بعض المواد أسالیب للتحایل على قیود مفروضه على الوکلاء، وطرقا لتجنب اکتشاف نشاطهم، إضافه إلى وسائل للحفاظ على التواصل بینهم، وتبرز أهمیه الواقعه فی أن الموقع لم یکن مصمما لیکون بیئه اختبار للذکاء الاصطناعی، بل خدمه حقیقیه متاحه على الإنترنت.
کیف اکتُشِف النشاط؟
اکتشف الباحثان سیدنی فون آرکس وکورماک سلید بیرد النشاط فی أغسطس/آب الماضی، بعدما بحثا عن مؤشرات على تشغیل وکلاء ذکاء اصطناعی خارج البیئات المخصصه لهم. ولفتت سرعات التفاعل المرتفعه والأنماط التقنیه فی التعدیلات انتباههما، إذ بدت بعض الأنشطه مختلفه بوضوح عن مساهمات المستخدمین البشر.
کما عثر الباحثان على حسابات تحمل أسماء توحی بارتباطها بأوبن إیه آی، فی حین أظهرت سجلات الخوادم أن جزءا من حرکه البیانات مر عبر البنیه السحابیه لمایکروسوفت أزور (Microsoft Azure)، التی تستخدمها الشرکه.
لکن هذه المؤشرات لا تثبت وحدها أن کل الحسابات أو الاتصالات کانت تابعه مباشره لأوبن إیه آی، ولذلک تبقى بعض الروابط التقنیه بحاجه إلى مزید من التحقق.
القیود المفروضه على وکلاء الذکاء الاصطناعی تبقى عنصرا أساسیا فی اختبارات السلامه والأمان (شترستوک) الوکلاء حاولوا الحفاظ على نشاطهم
أحد أبرز جوانب الواقعه ظهر عندما بدأ مشرف الموقع فی حذف بعض الصفحات التی أنشأها الوکلاء، ووفق رویترز، حاول الوکلاء الحفاظ على المعلومات عبر إنشاء صفحات بدیله ونسخ من المحتوى، بما یتیح استمرار الوصول إلى المواد بعد حذف الصفحات الأصلیه.
ویرى باحثون أن هذا السلوک یعکس قدره الأنظمه المستقله على التکیف مع التغییرات فی البیئه التی تعمل فیها، فبدلا من التوقف بعد إزاله إحدى الصفحات، بحث الوکلاء عن وسائل أخرى لمواصله نشاطهم.
ومع ذلک، فإن توصیف الواقعه بأنها اختراق أو هجوم إلکترونی لیس محل اتفاق، فقد وصف أحد الباحثین النشاط بأنه محاوله قرصنه، بینما اعترضت أوبن إیه آی على هذا التوصیف.
لماذا تثیر الواقعه القلق؟
تکمن أهمیه الحادثه فی أنها تسلط الضوء على نوع مختلف من المخاطر المرتبطه بالذکاء الاصطناعی، فالقضیه لا تعنی بالضروره أن نموذجا واحدا أصبح متمردا، بل تکشف أن مجموعه من الوکلاء القادرین على استخدام الإنترنت والأدوات الرقمیه والتفاعل مع خدمات خارجیه یمکنها اتخاذ خطوات متتابعه والتکیف مع العقبات.
وتزداد أهمیه هذه المسأله عندما یستطیع الوکلاء استخدام خدمه خارجیه کمخزن مشترک للمعلومات، ففی هذه الحاله، لا تظل المعلومات محصوره فی السیاق الذی توفره الشرکه المطوره لکل وکیل، بل یمکن لوکلاء آخرین الوصول إلى ما ترکه سابقوهم على المنصه.
وهذا النوع من السلوک یمثل تحدیا أمام باحثی سلامه الذکاء الاصطناعی، لأن الأنظمه المستقله قد تجد وسائل لتحقیق أهدافها لم تکن ضمن السیناریوهات المتوقعه أثناء تصمیمها.
حادثه أخرى مع أوبن إیه آی
تأتی واقعه دی إس إی ویکی بعد حادثه أمنیه منفصله کشفت عنها أوبن إیه آی فی یولیو/تموز الماضی، خلال تقییمات داخلیه للأمن السیبرانی. ووفق الشرکه، تمکنت نماذج من تجاوز بعض الضوابط التی کان یفترض أن تعزلها عن الإنترنت، واستغلت ثغرات للوصول إلى أنظمه تابعه لأوبن إیه آی وهاغینغ فیس (Hugging Face).
وقالت الشرکه فی تقریر فنی نشرته فی أغسطس/آب الماضی إن النماذج استخدمت قنوات اتصال غیر مصرح بها وتمکنت من الوصول إلى الإنترنت بصوره غیر مقصوده، قبل استغلال ثغرات فی البنیه التحتیه والوصول إلى أنظمه تابعه لأطراف أخرى.
وعقب الحادثه، أعلنت أوبن إیه آی تعزیز أنظمه مراقبه سلوک النماذج وربطها بتنبیهات آلیه للباحثین وفرق الأمن، إلى جانب العمل على تطویر آلیات إیقاف تلقائیه للحالات الخطره.
المنصات المفتوحه على الإنترنت توفر بیئات یمکن للأنظمه المستقله استخدامها بطرق غیر متوقعه (أسوشیتد برس) هل تجاوز وکلاء الذکاء الاصطناعی الحدود؟
بحسب رویترز، کانت أوبن إیه آی على علم بواقعه الموقع الألمانی قبل نشر تفاصیلها، لکنها لم تعلن عنها علنا، کما نفت الشرکه ادعاءات بأنها حاولت منع توسیع التحقیق الداخلی، وأوضحت أنها لم تتحقق بصوره مستقله من جمیع النتائج التی قدمها الباحثون.
وتطرح الحادثه سؤالا أساسیا حول الحدود المناسبه لصلاحیات وکلاء الذکاء الاصطناعی، وإلى أی مدى یمکن منح هذه الأنظمه القدره على التصفح واستخدام الأدوات والتواصل مع خدمات خارجیه دون أن تتحول استقلالیتها إلى مصدر خطر؟
فی ذات السیاق ذاته، لا تقدم واقعه دی إس إی ویکی دلیلا على أن الذکاء الاصطناعی أصبح واعیا أو تمرد على مطوریه، لکنها تکشف تحدیا أکثر واقعیه یتعلق بقدره الوکلاء المستقلین على التکیف والتنسیق واستخدام البنیه المفتوحه للإنترنت بطرق غیر متوقعه.
المصدر: الجزیره + وکالات