وکاله آریا للأنباء - المنصه اعتمدت على نماذج ذکاء اصطناعی صینیه وأمریکیه لمواجهه الهجوم (شترستوک)
تعرضت منصه "هاغینغ فیس" التی تستضیف نماذج الذکاء الاصطناعی مفتوحه المصدر لهجوم سیبرانی شنه وکیل آلی یعتمد على التقنیه وتمکن من الوصول إلى مجموعات البیانات الداخلیه وبیانات الاعتماد السحابیه الموجوده بالمنصه، وفق تقریر موقع "بی سی ماغازین" التقنی الأمریکی.
وتعد "هاغینغ فیس"، التی تتخذ من مدینه نیویورک مقرا لها، إحدى أکبر المنصات التی توفر خدمات الذکاء الاصطناعی مفتوح المصدر وتضم أکثر من ملیونی نموذج ذکاء اصطناعی من مختلف الشرکات حول العالم بما فیها " أوبن إیه آی "، فضلا عن النماذج الصینیه، وفق التقریر.
اقرأ أیضا
list of 2 items list 1 of 2 السعودیه على أعتاب المجتمع الرقمی.. 99.6% من السکان متصلون بالإنترنت list 2 of 2 المغرب.. هل یصبح بوابه الذکاء الاصطناعی إلى القاره السمراء؟ end of list وأعلنت المنصه عن الاختراق فی الأیام الماضیه فور اکتشافه، ثم کشفت فحوصها الأمنیه اللاحقه آلیه تنفیذه التی تضمنت استخدام وکیل ذکاء اصطناعی نفذ عشرات آلاف الإجراءات المؤتمته داخل أنظمتها الداخلیه.
واستغل المهاجم آلیه رفع البیانات والنماذج فی المنصه، إذ رفع المهاجم مجموعه بیانات خبیثه إلى خوادم الشرکه تستغل ثغره تنفیذ الشیفرات عند تحمیل مجموعات البیانات داخل المنصه، ثم تحرکت الشیفره الخبیثه لتحصل على وصول إلى مستویات متنوعه من البیانات ورموز الوصول وتبدأ فی جمعها، وفق تقریر "بی سی ماغازین".
منصه "هاغینغ فیس" تضم نحو ملیونی نموذج ذکاء اصطناعی مفتوح المصدر (شترستوک) وتمکنت المنصه من إیقاف الهجوم عبر إزاله الشیفره الخبیثه وتعدیل الصلاحیات المختلفه ورموز الوصول التی تسربت من داخلها.
ویکشف تقریر موقع "بی سی ماغازین" أن أسلوب الهجوم الذی تعرضت له المنصه یتطابق مع سیناریو "وکیل الذکاء الاصطناعی المهاجم" الذی حذر منه خبراء الأمن السیبرانی وتوقعوه منذ صعود وکلاء الذکاء الاصطناعی وتطور النماذج فی الآونه الأخیره.
وما تزال الجهه التی تقف وراء الهجوم مجهوله حتى الآن، فضلا عن کون نموذج الذکاء الاصطناعی الذی تم استغلاله لتشغیل الوکیل مجهولا، وذکرت المنصه فی بیانها احتمالیه استخدام المهاجم لنموذج کسرت حمایته أو نموذج دون قیود أمن سیبرانی فعاله، مضیفه أنها ما زالت تجری التحقیقات اللازمه.
وأوضح البیان أن بیانات المستخدمین والنماذج المفتوحه المتاحه للعامه لم تتأثر بالهجوم، ورغم ذلک فإن "هاغینغ فیس" ستتواصل مع أی جهه أو فرد یشتبه فی تأثره بالهجوم بشکل مباشر.
ورغم هذا، نصحت المنصه مستخدمیها بتغییر بیاناتهم الموجوده فی المنصه وتحدیث رموز الوصول إلى النماذج الخاصه لتعزیز أمنهم الشخصی وحمایه النماذج التی یستخدمونها.
ولا یعد هذا الهجوم الأول الذی تتعرض له منصه "هاغینغ فیس"، إلا أنه الأول من نوعه الذی یستغل وکلاء الذکاء الاصطناعی بشکل رئیسی.
الذکاء الاصطناعی یدافع ضد الذکاء الاصطناعی
ویؤکد تقریر "بی سی ماغازین" أن المنصه اعتمدت على نماذج الذکاء الاصطناعی لمواجهه الهجوم واکتشافه وإیقافه فی الوقت المناسب، وذلک رغم أن نماذج الدفاع مقیده بضوابط الأمان، بینما هاجم الوکیل بنموذج مکسور القیود.
ومن بین النماذج التی استخدمتها المنصه، کان نموذج "جی إل إم 5.2" الصینی مفتوح المصدر الذی أحدث ضجه کبیره فی الآونه الأخیره، وهو الذی تمکن من اکتشاف 17 ألف نشاط مشبوه، فضلا عن استخدام نموذج "میثوس" من شرکه أنثروبیک الأمریکیه لمواجهه الهجوم أیضا.
فإن کنت من مستخدمی منصه "هاغینغ فیس" وتعتمد على نماذج الذکاء الاصطناعی المتاحه بها، فهناک مجموعه من الخطوات التی یمکنک القیام بها لحمایه بیاناتک داخل المنصه وخارجها. وتتضمن هذه الخطوات تغییر رموز الوصول سواء کانت کلمات مرور أو رموز وصول برمجیه إلى النماذج المتاحه بالمنصه، خاصه إن کنت تستخدم هذه النماذج فی معالجه بیانات حساسه.
المصدر: الجزیره + وکالات