وکاله آریا للأنباء - أنثروبیک :" جمدنا أکثر من 10% من بیئاتنا الاختباریه للتعلیم المعزز بسبب خلل فی آلیه التدریب (رویترز)
أقرت شرکه " أنثروبیک " الأمریکیه لتقنیات الذکاء الاصطناعی والمسؤوله عن أداه الدردشه "کلود" أن حوادث هروب النماذج من بیئتها الاختباریه تعکس فشلا فی الأمن التشغیلی لبیئات الاختبار الخاصه بها، مؤکده أنها شددت إجراءات الاختبارات الخاصه بها وفق بیان الشرکه.
وأوضحت "أنثروبیک" أنها قامت بتجمید ما یتجاوز 10% من بیئات التعلیم المعزز الاختباریه فی أبریل/نیسان الماضی عقب اکتشافها خللا فی آلیات اختبار النماذج قد یجعلها قادره على إخفاء تفکیرها والخطوات التی اتخذتها للوصول إلى النتیجه النهائیه، واستمر هذا التجمید نحو شهر.
ودفع هذا الشرکه لوصف تقنیاتها بأنها غیر متوافقه تماما مع القیم والأهداف البشریه وفق تقریر صحیفه "غاردیان" عن البیان، مشیره إلى أنها تعمدت اختبار النماذج دون توفیر ضمانات للأمن السیبرانی، وهو ما مکنها من الوصول إلى الإنترنت المفتوح.
وکانت الشرکه فی وقت سابق أقرت أن نماذجها اخترقت ثلاث مؤسسات فی ثلاثه حوادث مختلفه، ولم تستطع الشرکه اکتشاف هذا الاختراق إلا فی یولیو/تموز الماضی، أی بعد حدوثه بنحو ثلاثه أشهر.
لماذا هربت النماذج؟
وتابعت الشرکه حدیثها مبرره ما حدث بأنها کانت تعتمد على طبقه واحده من الدفاعات السیبرانیه، بینما کانت تحتاج إلى أکثر من طبقه لمنع مثل هذه الحوادث.
کما عزت ذلک إلى أن النماذج فسرت قدرتها على الوصول إلى الإنترنت بأنها ما تزال ضمن البیئه الاختباریه ولیست خارجها، وأضافت أن النماذج "کانت مستعده لاتخاذ إجراءات ضاره فی سبیل إنجاز المهمه الضیقه المطلوبه منها".
أنثروبیک قالت أن سبب هروب النماذج کان استعدادها لاتخاذ اجراءات ضاره in سبیل إنجاز المهمه المطلوبه منها (الفرنسیه) ولمنع تکرار هذه الحوادث، أوضحت "أنثروبیک" أنها تنوی وضع المزید من القیود على بیئاتها الاختباریه، ونقل اختبارات الأمن السیبرانی إلى بیئات معزوله بشکل أفضل، وذلک إلى جانب تکلیف 150 مهندسا من فرق المنتجات للعمل على مهام الأمن السیبرانی والموثوقیه والخصوصیه المتعلقه بالنماذج حسب تقریر موقع "دیجیتال تریندز" التقنی الأمریکی.
ومن جانبه، قال أستاذ الأمن السیبرانی بجامعه ساری آلان وودارد فی حدیثه مع صحیفه "غاردیان": "إن أنثروبیک أقرت أن مصنعها یعمل بوتیره تفوق آلیات ضبط الجوده لدیها".
کما جددت "أنثروبیک" فی بیانها الدعوه لاتخاذ إجراءات منسقه وموسعه بین الحکومات وقطاع الذکاء الاصطناعی لضبط وتیره التطور فی هذا القطاع، وذلک عقب تکرار حوادث هروب نماذج الذکاء الاصطناعی من بیئتها الاختباریه.
أزمه فی البیئات الاختباریه
ویأتی بیان "أنثروبیک" فی أعقاب بیان آخر من منافستها الرئیسیه "أوبن إیه آی" الأمریکیه، التی أعلنت عودتها للعمل على تطویر النماذج بعد توقف دام عده أسابیع فی إثر حادثه اختراق منصه "هاغینغ فیس" الأمریکیه.
ومن جانبها، أکدت أنثروبیک أن بیان " أوبن إیه آی " هو ما دفعها إلى البحث فی اختباراتها الأمنیه واکتشاف حوادث الهروب للمره الأولى فی یولیو/تموز الماضی وفق تقریر موقع "ذا ریجستر" البریطانی.
وتتزامن حوادث الهروب هذه مع استعداد کلا الشرکتین للطرح العام فی البورصه الأمریکیه، مع توقعات بتخطی قیمه "أنثروبیک" الأولیه حاجز تریلیونی دولار وفق تقریر "غاردیان".
المصدر: الجزیره + وکالات