وکاله آریا للأنباء - أظهرت دراسه لمعهد أمن الذکاء الاصطناعی البریطانی أن عدد حالات خروج الذکاء الصطناعی عن سیطره المستخدمین ازداد ازدیادا کبیرا فی یولیو الماضی.
وأشارت الدراسه إلى أن عدد حالات "مخادعه" الذکاء الاصطناعی للمستخدمین وتجاهله للتعلیمات وتحقیق الأهداف بطرق خبیثه وصل فی یولیو الماضی إلى مستوى قیاسی، حیث تجاوز 330 حاله فی الشهر.
ویزید ذلک على مؤشرات الشهر السابق بضعفین على خلفیه التقاریر عن الهجمات السیبرانیه، بما فی ذلک بواسطه أحدث نماذج الذکاء الاصطناعی لشرکتی OpenAI و"أنثروبیک".
بیل غیتس یحذر: العالم غیر مستعد لمواجهه 3 مخاطر کبرى للذکاء الاصطناعی
وکشف الباحثون أیضا عن "حادث مقلق" متعلق بالهجوم على منصه Hugging Face التعلیمیه، حیث واصل أکثر من 700 وکیل للذکاء الاصطناعی بعد خروجها عن السیطره تنسیق أعمالهم بشکل سری فی برناج مغلق لتبادل الرسائل، صممه الذکاء الاصطناعی بنفسه، وتبادلوا الرسائل فی حال الهجمات الناجحه على المنصه المذکوره.
وأشارت الدراسه إلى أن هناک رأیا بأن مثل هذا السلوک الخارج عن السیطره یرصد فقط أثناء التجارب، لکن المعلومات تدل على أن مثل هذه الحوادث المقلقه ممکنه على نطاق أوسع.
یذکر أن معهد أمن الذکاء الاصطناعی الحکومی البریطانی أطلق أعماله لرصد حالات خروج الذکاء الاصطناعی عن سیطره المستخدمین منذ نوفمبر الماضی.
وتشمل الحالات المسجله منذ ذلک الحین تلک التی تظاهرت فیها أنظمه الذکاء الاصطناعی بأنها تتحکم بنفسها بشریا، ووافقت على اتخاذ خطوات تتجاوز القواعد التی تتطلب موافقه بشریه.
المصدر: صحیفه "الغاردیان" البریطانیه