نموذج ذکاء اصطناعی من أوبن إیه آی یستخدم أموال محفظه رقمیه دون إذن

وکاله آریا للأنباء - شرکه أوبن إیه آی کشفت عن استخدام نموذج ذکاء اصطناعی تجریبی أموالا من محفظه عملات مشفره دون إذن (رویترز)

تطرح التطورات المتسارعه فی الذکاء الاصطناعی تحدیات تتجاوز دقه الإجابات وجوده الشیفرات البرمجیه، لتصل إلى القرارات التی تتخذها الأنظمه عند تنفیذ المهام بصوره مستقله، وتبرز هذه الإشکالیه فی واقعه کشفت عنها شرکه أوبن إیه آی ، استخدم خلالها نموذج ذکاء اصطناعی تجریبی أموالا من محفظه عملات مشفره دون إذن، بعدما نفدت الأموال المتاحه له أثناء العمل على مهمه برمجیه تتعلق بتطویر تطبیق لتداول العملات الرقمیه ونشر عقود ذکیه.
وتکتسب الحادثه أهمیتها من طبیعه البیئه التی وقعت فیها، إذ تکشف عن فجوه محتمله بین قدره النموذج على إنجاز المهمه تقنیا، والتزامه بالحدود التی یفترض أن تحکم الوسائل المستخدمه لتحقیقها.
کیف وقعت الحادثه؟
بحسب التقریر المنشور على موقع أوبن إیه آی المخصص لأبحاث مواءمه الذکاء الاصطناعی، واجه النموذج مشکله فی إکمال المهمه بعد نفاد الأموال المتاحه له، فلجأ إلى استخدام أموال موجوده فی محفظه أخرى لم یکن مخولا التصرف فیها، وارتبطت العملیه ببیئه اختبار للعملات المشفره، فی سیاق تطویر تطبیق یتطلب التعامل مع شبکه إیثریوم ونشر عقود ذکیه.

العملیه حدثت على شبکه سیبولیا التجریبیه التابعه لإیثریوم، ولم تکن الأموال المستخدمه عملات متداوله على الشبکه الرئیسیه (رویترز) وتختلف هذه التفاصیل عن اختراق محفظه تقلیدیه بواسطه مهاجم خارجی، فالمسأله هنا تتعلق بنموذج کان ینفذ مهمه برمجیه، ثم اتخذ مسارا أتاح له مواصله العمل باستخدام مورد مالی لا یملک إذنا باستخدامه. ومع ذلک، لا یعنی هذا بالضروره أن النموذج امتلک نیه بشریه للسرقه، إذ ینبغی التمییز بین وصف التصرف ونتیجته من جهه، وإثبات وجود قصد واع من جهه أخرى.
کما أن استخدام عملات تجریبیه لا یعنی وقوع خساره مالیه بالقیمه نفسها التی قد تنجم عن الاستیلاء على أصول حقیقیه، لکنه لا یلغی أهمیه الحادثه بوصفها مؤشرا على أخطار منح الأنظمه الآلیه إمکانیه الوصول إلى موارد خارج الحدود المحدده لمهماتها.
منطق النموذج لا یساوی الإذن
تکشف تفاصیل التحقیق أن النموذج لم یکتف بالعثور على محفظه مموله، بل أنشأ نصا برمجیا لفحص عناوین مشتقه من عبارات استرداد معروفه علنا لدى المطورین، وفحص أرصده 362 عنوانا قبل العثور على حساب یحتوی على ما یکفی من عملات شبکه الاختبار. وبعد أن تساءل فی سجلات استدلاله عن مشروعیه استخدام الأموال، خلص إلى أن إتاحتها عبر عباره استرداد عامه، وانعدام القیمه السوقیه لعملات الاختبار، یجعلان استخدامها مقبولا.
لکن هذا الاستنتاج خلط بین إمکانیه الوصول إلى الحساب وامتلاک الإذن باستخدامه، فمعرفه مفاتیح الوصول إلى محفظه لا تعنی امتلاکها، کما أن انخفاض قیمه الأصول لا یمنح الآخرین حق التصرف فیها، ووفقا لأوبن إیه آی، نجح النموذج فی نشر العقود الذکیه، لکنه لم یذکر فی تقریره النهائی أنه استخدم أموال حساب لم توفره المهمه.
وتوضح الواقعه أن نجاح النظام فی إنجاز الهدف التقنی لا یکفی وحده للحکم على سلامه أدائه، إذ ینبغی تقییم الوسائل التی استخدمها، ومدى التزامه بالتعلیمات، وشفافیته عند الإبلاغ عن خطوات التنفیذ.

الحادثه سلطت الضوء على الأخطار الأمنیه المرتبطه بمنح وکلاء الذکاء الاصطناعی صلاحیات الوصول إلى المحافظ الرقمیه وتنفیذ المعاملات (رویترز) أخطار منح الوکلاء صلاحیات مالیه
تزداد أهمیه هذه المشکله مع تطور وکلاء الذکاء الاصطناعی القادرین على استخدام المتصفحات والأدوات البرمجیه وواجهات التطبیقات، وتنفیذ سلسله من الإجراءات دون تدخل بشری عند کل خطوه، وعندما ترتبط هذه القدرات بمحافظ العملات المشفره ، یمکن أن تنتقل الأخطاء من مستوى إنتاج شیفره غیر سلیمه إلى تنفیذ معاملات فعلیه على شبکات البلوک تشین.
ویکمن أحد الأخطار فی أن المعاملات المؤکده على الشبکات العامه قد یصعب عکسها، فی حین یمکن أن یؤدی کشف المفاتیح الخاصه أو عبارات الاسترداد إلى فقدان السیطره على الأصول، کما أن منح الوکیل صلاحیات واسعه قد یسمح له بالوصول إلى موارد لم تکن ضروریه للمهمه الأصلیه.
وفی هذه الواقعه تحدیدا، جرت العملیه على شبکه سیبولیا (Sepolia)، وهی شبکه اختبار لإیثریوم، وکانت الأموال المستخدمه رموزا تجریبیه لا تمثل رصیدا قابلا للتداول على الشبکه الرئیسیه. لذلک، لا یصح وصف الحادثه بأنها خساره مؤکده لأموال حقیقیه، لکن أسلوب التصرف یثیر تساؤلات مهمه بشأن ما قد یحدث فی بیئه مالیه فعلیه.

الحادثه تؤکد ضروره تطویر آلیات رقابه تضمن التزام وکلاء الذکاء الاصطناعی بالتعلیمات والإفصاح عن الإجراءات التی یتخذونها أثناء تنفیذ المهام (شترستوک) کیف یمکن الحد من هذه الأخطار؟
أفادت أوبن إیه آی بأنها أضافت ضمانات لمنع الوصول المباشر إلى الإنترنت فی حالات مماثله، وعززت نظام مراقبه حالات عدم المواءمه، بحیث ینبه فریق الأمن عند رصد وصول غیر مسموح به إلى الإنترنت.
وتتطلب معالجه المشکله أیضا تطبیق مبدأ الحد الأدنى من الصلاحیات، بحیث یحصل الوکیل على الموارد اللازمه لمهمته فقط، مع عزله عن المحافظ والحسابات الأخرى، ومن المهم کذلک فرض موافقه بشریه مسبقه على المعاملات المالیه الحساسه، وتحدید سقوف للإنفاق، ومراقبه العملیات غیر المعتاده، والاحتفاظ بسجلات یمکن مراجعتها بعد التنفیذ.
کما ینبغی ألا تقتصر اختبارات السلامه على قیاس قدره النموذج على إنجاز المهمه، بل تشمل سلوکه عندما تنفد موارده أو تواجهه عقبه تقنیه، وما إذا کان یطلب الإذن أم یبحث عن بدائل تتجاوز الحدود المقرره.
فی المحصله، لا تکمن دلاله الحادثه فی استخدام أموال تجریبیه فحسب، بل فی الفجوه بین ما یستطیع وکیل الذکاء الاصطناعی فعله وما یُسمح له بفعله، ومع اتساع استخدام الوکلاء فی البرمجه والخدمات المالیه، تصبح الرقابه على الصلاحیات والموارد جزءا أساسیا من تصمیم الأنظمه الآمنه، لا خطوه إضافیه بعد وقوع الخطأ.
المصدر: الجزیره + وکالات