وکاله آریا للأنباء - واقعه نشر بیانات مصرفیه عبر وکیل ذکاء اصطناعی تکشف المخاطر الأمنیه المرتبطه بمنح الأنظمه الذکیه صلاحیه الوصول إلى المعلومات الشخصیه (غیتی)
یفتح انتقال الذکاء الاصطناعی من تقدیم الإجابات إلى تنفیذ المهام نیابه عن المستخدمین تحدیات أمنیه جدیده، مع قدره الوکلاء الرقمیین على الوصول إلى الحسابات والملفات والتطبیقات وإرسال الرسائل والتصرف وفق تعلیمات أصحابها، وفی هذه البیئه، قد یؤدی خطأ فی تحدید وجهه الإرسال أو إداره الصلاحیات إلى کشف معلومات حساسه، حتى من دون اختراق الحسابات.
وتسلط واقعه نشر بیانات مصرفیه فی مساحه عمل مشترکه الضوء على هذه المخاطر، ففی تقریر نشره موقع بیزنس إنسایدر الأمریکی قبل أیام، روى الرئیس التنفیذی لشرکه إکس إم تی بی لابز (XMTP Labs) الأمریکیه، شین ماک، أن وکیلا مالیا أنشأه باستخدام غروک بوت (Grok Bot) نشر أرصده حساباته ونفقاته الشخصیه فی قناه تنفیذیه على منصه سلاک، بدلا من إرسالها إلى محادثه خاصه.
قصص مقترحه
list of 2 items وبحسب روایه ماک، کان الوکیل مکلفا بإعداد تقاریر دوریه عن الأرصده والمصروفات والاشتراکات المتکرره، مع صلاحیه الاطلاع على حسابیه الجاری والتوفیر، وأشار إلى أن مراجعه الواقعه کشفت التباسا بین وجهتی إرسال تحملان اسمین متشابهین، وأن إجراء إضافیا أُدخل لاحقا لطلب إذن صریح قبل نقل المعلومات إلى قنوات أخرى.
مخاطر الوکلاء الأذکیاء لا تقتصر على اختراق الحسابات، بل تشمل أیضا إرسال البیانات المشروعه إلى جهات غیر مقصوده (الأوروبیه) عندما تتحول الصلاحیات إلى مصدر للخطر
یحتاج الوکیل المالی إلى الاطلاع على بیانات محدده کی یتمکن من تحلیل الإنفاق أو إعداد تقاریر المیزانیه، لکن منحه صلاحیه الوصول إلى المعلومات لا یضمن اقتصار استخدامها على المهمه المطلوبه، خصوصا عندما تکون مرتبطه بتطبیقات متعدده، مثل البرید الإلکترونی ومنصات المحادثه والخدمات المصرفیه.
وتحذر منظمه أو دبلیو إیه إس بی (OWASP) الأمریکیه، المتخصصه فی أمن تطبیقات الویب، من مخاطر کشف المعلومات الحساسه والاستقلالیه المفرطه فی تطبیقات الذکاء الاصطناعی، ویمکن أن یؤدی ضعف حمایه المخرجات أو منح النظام صلاحیات واسعه إلى مشارکه بیانات خاصه أو تنفیذ إجراءات غیر مقصوده.
ولا یشترط حدوث اختراق مصرفی حتى تتعرض المعلومات للتسریب، فقد یحصل الوکیل على البیانات بصوره مشروعه، ثم یرسلها إلى جهه غیر مقصوده، کما أن صلاحیه القراءه فقط، رغم أنها تمنع إجراء التحویلات أو تعدیل الحساب، لا تحمی من کشف الأرصده وسجل النفقات إذا أُرسلت هذه المعلومات إلى قناه غیر مناسبه.
الصلاحیات الواسعه تضاعف احتمالات الخطأ
تتزاید المخاطر عندما یجمع الوکیل بین الوصول إلى البیانات المالیه والقدره على التواصل عبر منصات العمل، فإذا کان النظام یستطیع قراءه الحساب المصرفی وإرسال الرسائل إلى قناه مشترکه، فإن خطأ فی اختیار المستلم قد ینقل المعلومات من سیاق شخصی إلى بیئه مهنیه.
وفی إرشادات بشأن أمن أنظمه الذکاء الاصطناعی الوکیل، حذرت وکاله الأمن السیبرانی وأمن البنیه التحتیه الأمریکیه (CISA) وشرکاؤها من مخاطر الاستقلالیه والصلاحیات غیر المقیده، وشددوا على أهمیه المراقبه المستمره والدفاع متعدد الطبقات وتقییم الأنظمه أمنیا.
ویعنی ذلک ضروره الفصل بین الحسابات الشخصیه والمهنیه، وعدم منح الوکیل وصولا إلى جمیع الملفات والتطبیقات لمجرد تسهیل عمله. فکلما اتسعت الصلاحیات، ازدادت البیانات التی یمکن أن تتأثر بخطأ واحد، حتى إذا لم یکن النظام مخولا بإجراء معاملات مالیه.
الذکاء الاصطناعی انتقل من تقدیم الإجابات إلى تنفیذ المهام نیابه عن المستخدمین (غیتی) ضوابط تقنیه لحمایه البیانات
تبدأ الحمایه بمبدأ أقل قدر من الصلاحیات، أی منح الوکیل ما یحتاج إلیه لإنجاز المهمه فقط، فإذا کان المطلوب إعداد ملخص للمصروفات، فلا ینبغی أن یمتلک صلاحیه تحویل الأموال أو إرسال البیانات إلى قنوات خارجیه من دون حاجه واضحه.
ومن الإجراءات المهمه اشتراط موافقه المستخدم قبل مشارکه البیانات الحساسه، مع إظهار اسم المستلم أو القناه ومحتوى الرساله قبل إرسالها. ویمکن أیضا تحدید الجهات المسموح لها باستقبال المعلومات، وفصل الاتصالات بین الوکلاء الشخصیین ووکلاء العمل، وتسجیل عملیات الوصول والإرسال لتسهیل مراجعه أی حادثه.
وتدعم توصیات المعهد الوطنی الأمریکی للمعاییر والتقنیه (NIST) هذا النهج من خلال إطار إداره مخاطر الذکاء الاصطناعی التولیدی، الذی یشدد على تقییم المخاطر وحمایه الخصوصیه واختبار الأنظمه ومراقبتها بعد نشرها، وتساعد هذه الإجراءات على اکتشاف مواطن الضعف قبل أن تؤدی إلى کشف البیانات أو إساءه استخدامها.
مسؤولیه مشترکه بین المستخدمین والمطورین
لا تکفی الضوابط التقنیه وحدها لمنع جمیع الأخطاء، لذلک ینبغی الاحتفاظ بالمراجعه البشریه فی الإجراءات الحساسه، مثل إرسال البیانات المصرفیه أو مشارکه الوثائق الشخصیه. ویمکن للوکیل إعداد التقریر وتحلیله، مع اشتراط موافقه المستخدم قبل نشره خارج المساحه الخاصه.
وتقع على المطورین مسؤولیه بناء آلیات تحقق مستقله، لا الاکتفاء بتوجیهات نصیه تطلب من الوکیل التصرف بحذر، ویشمل ذلک التحقق من وجهه الإرسال، ومنع تجاوز الصلاحیات، واختبار السیناریوهات التی تجمع بین الحسابات الشخصیه والمهنیه، وتوفیر وسیله سریعه لإلغاء الوصول عند الضروره.
اشتراط الموافقه البشریه قبل إرسال المعلومات المالیه یساعد على تقلیل احتمالات التسریب (الفرنسیه) أما المستخدمون فعلیهم مراجعه الأذونات قبل ربط الوکلاء بحساباتهم، والتحقق من سیاسات الاحتفاظ بالبیانات ومشارکتها، وتجنب إتاحه معلومات لا تحتاج إلیها المهمه. کما ینبغی معرفه کیفیه إلغاء الصلاحیات ومراجعه سجل نشاط الوکیل.
وتکشف الواقعه، وفق روایه صاحبها، أن مخاطر الوکلاء لا ترتبط فقط بقدرتهم على اختراق الأنظمه، بل أیضا بکیفیه استخدامهم للصلاحیات التی یمنحها لهم أصحاب الحسابات، ومع توسع الاعتماد علیهم، یصبح النجاح الحقیقی مرهونا بإنجاز المهام ضمن حدود واضحه، توازن بین الاستقلالیه والرقابه وتحمی المعلومات من الوصول إلى الجهات غیر المقصوده.
المصدر: الجزیره + وکالات