وکاله آریا للأنباء - معدل حالات الاختراق فی یولیو/تموز إلى ضعف یونیو/حزیران (شترستوک)
شهد یولیو/تموز ارتفاعا فی معدل حالات هرب نماذج الذکاء الاصطناعی وخروجها عن طوع مستخدمیها عبر الکذب والخداع وحتى تجاهل أوامر المستخدمین، فضلا عن محاولتها تحقیق أهدافها بغض النظر عن سلامه الطریقه التی تتبعها، حسب دراسه أجراها مرصد "لوس أوف کنترول ".
ویختص المرصد المنشأ حدیثا بتمویل من معهد أمن الذکاء الاصطناعی التابع للحکومه البریطانیه بتتبع حالات خروج أنظمه الذکاء الاصطناعی ووکلائها عن التعلیمات الأولیه من المستخدمین، إذ بدأ المرصد عمله فی نوفمبر/تشرین الثانی الماضی وفق تقریر صحیفه "غاردیان " عن الأمر.
اقرأ أیضا
list of 2 items list 1 of 2 5 اکتشافات صادمه عن اختراق "أوبن إیه آی".. سرب ضخم وذکاء اصطناعی یزور السجلات list 2 of 2 من المشی إلى التزلج.. "بطه روبوتیه" تتعلم مهاراتها بالذکاء الاصطناعی end of list ومنذ ذلک الوقت، سجل المرصد العدید من الحالات المختلفه مشیرا إلى تضاعف معدل خروج الذکاء الاصطناعی فی یولیو/تموز مقارنه بیونیو/حزیران السابق، إذ وصل إجمالی الحالات إلى 300 حاله.
وکیل ینتحل شخصیه مستخدمه
ویعرف المرصد حالات هروب الذکاء الاصطناعی بأنها الحالات التی یفقد فیها المستخدم البشری سیطرته على وکیل الذکاء الاصطناعی الذی یقوم بتشغیله مع ظهور أدله واضحه على تآمر الوکیل وتخطیطه للخروج عن السیطره.
المرصد یعتمد على بلاغات المستخدمین من خلال منصه "إکس " (غیتی) وفی ذلک السیاق، یکشف تقریر موقع "دیجیتال تریندز " التقنی الأمریکی عن حاله انتحل فیها وکیل ذکاء اصطناعی شخصیه المستخدم البشری وقلّد أسلوبه فی الکتابه لیوجه لنفسه أوامر تمکنه من الخروج عن التعلیمات الأساسیه التی منحها له المستخدم.
من المختبر إلى صاله الألعاب الریاضیه
ومن جانبه، أوضح تومی شافر-شین مدیر السیاسات الأول فی مرکز "لونغ تیرم ریزیلیانس " ضمن حدیثه مع "غاردیان " أن سلوکیات الذکاء الاصطناعی الخبیثه والتآمر للهروب من سیطره المستخدمین البشر لم تعد قاصره على الاختبارات المعملیه والنماذج الاختباریه فقط.
وأضاف: "نرى سلوکیات مقلقه مماثله فی حالات الاستخدام الأخرى، لذا یجب ألا نکون متراخین تجاه احتمالیه حدوث هذه الأشیاء فی العالم الحقیقی ".
المرصد سجل حاله اختراق شخصیه وحیده لوکیل ذکاء اصطناعی اخترق الصاله الریاضیه لمالکه (غیتی) ویأتی تقریر المرصد عقب هروب عده وکلاء ذکاء اصطناعی من بیئه اختباریه تابعه لشرکه " أوبن إیه آی " الأمریکیه، ثم اختراقهم لمنصه "هاغینغ فیس " الأمریکیه لاستضافه نماذج الذکاء الاصطناعی فی یولیو/تموز الماضی.
ولا تعد هذه الحاله الوحیده لهروب نماذج الذکاء الاصطناعی، إذ قامت بذلک أیضا نماذج من شرکه " أنثروبیک " الأمریکیه و "میتا " أیضا، فضلا عن حدوث حاله اختراق وحیده من وکیل ذکاء اصطناعی شخصی لأحد المستخدمین، وفیها اخترق الوکیل نظام الحجز فی صاله ریاضیه لتغییر موقع حجز مالکه وتقدیمه على الآخرین.
لا طریقه لکشف الحالات إلا منصات التواصل
وأفاد تقریر "دیجیتال تریندز " أن المرصد تمکن من تسجیل أکثر من 1600 حاله هذا العام فقط عبر متابعه منصات التواصل الاجتماعی وتحدیدا منصه "إکس "، وذلک فی ظل غیاب آلیه رسمیه لتتبع حالات هروب نماذج الذکاء الاصطناعی بشکل مباشر من الشرکات أو الحکومات.
ویؤکد التقریر الحاجه إلى وجود آلیه مراقبه وتحذیر عالمیه فور ظهور حالات الاختراق بدلا من الاکتشاف العرضی أو الاعتماد على منصات التواصل الاجتماعی لمتابعه مثل هذه الحالات، مشیرا إلى أن العدد الفعلی لحالات الهروب قد یتخطى ما یبلغ عنه المستخدمون فی منصه "إکس ".
المصدر: الجزیره + وکالات