وکاله آریا للأنباء - هذا النوع من الاختراقات یلفت انتباه الخبراء بشکل استثنائی (الجزیره - مولده بالذکاء الاصطناعی)
فی منتصف یولیو/تموز الحالی، کان شیء ما یتحرک بهدوء داخل حواسیب شرکه "هاغینغ فیس" (Hugging Face). وهذه الشرکه أشبه بمکتبه عامه کبیره للذکاء الاصطناعی، یودع فیها الباحثون فی أنحاء العالم النماذج التی یبنونها والبیانات التی یدربونها علیها، ویأتی غیرهم فیأخذ منها نسخا ویکمل عمله علیها. وکثیر مما نستعمله الیوم من تطبیقات الذکاء الاصطناعی یستند، بصوره أو بأخرى، إلى شیء مر من هناک.
المهم، بدأ ما جرى بملف رُفع إلى المنصه، بدا للوهله الأولى کأی ملف بیانات یرفعه الباحثون کل یوم، غیر أنه کان یخبئ فی داخله تعلیمات بعینها، فلما تناولته حواسیب الشرکه بالمعالجه نفذت تلک التعلیمات وهی لا تدری. ومن ذلک الملف الواحد اتسعت الدائره، إذ حصل المتسلل على صلاحیات أوسع، ثم على المفاتیح الرقمیه التی تشغل بها الشرکه خدماتها، ثم صار ینتقل من جهاز إلى جهاز داخل شبکتها.
اقرأ أیضا
list of 2 items list 1 of 2 البنک الأفریقی للتنمیه: النینیو قد تکبد أفریقیا خسائر تصل إلى 20 ملیار دولار list 2 of 2 محمود یونس.. المهندس المصری الذی هزم بریطانیا وفرنسا فی قناه السویس end of list ولم یکن خلف ذلک کله إنسان، بل کان برنامجا یعمل وحده من أول خطوه إلى النهایه، یوزع نفسه على نسخ کثیره قصیره العمر کی یصعب اقتفاء أثره، وینقل مرکز قیادته بنفسه بین مواقع عامه على الإنترنت. والذی التقطه فی النهایه کان برنامجا هو الآخر، فالمنصه تعتمد فی حراسه نفسها على نماذج ذکاء اصطناعی تفرز ما یردها یومیا من إشارات، وتمیز الإنذار الحقیقی من ضجیج الأعطال المعتاده، ومن ترابط تلک الإشارات ظهر الخلل.
"جلس فریق الأمن أمام سجل فیه أکثر من 17 ألف عملیه ترکها المتسلل خلفه"
فی النهایه، جلس فریق الأمن أمام سجل فیه أکثر من 17 ألف عملیه ترکها المتسلل خلفه. عدد لا یقرأه بشر فی وقت معقول، فسلطوا علیه بدورهم برامج تحلیل تعید ترتیب ما حدث. وفی 16 یولیو/تموز نشرت الشرکه ما توصلت إلیه؛ بیانات داخلیه جرى الوصول إلیها، ومفاتیح خدمات استولى علیها المهاجم، ونصیحه لکل مستخدم بتغییر رمز دخوله، وبلاغ إلى الجهات الأمنیه.
وطمأنت المنصه مستخدمیها أنها لم تجد ما یدل على العبث بالنماذج وملفات البیانات المعروضه للجمهور. أما عن احتمالیه تسرب بیانات شرکاء أو عملاء، فقالت إن الفحص لم ینتهِ بعد. وفی وسط ذلک سطر یلخص ضآله ما کانت تعرفه عن خصمها، حیث أشارت الشرکه إلى أن النموذج الذی کان یحرک هذا کله ما زال مجهولا.
وبعد خمسه أیام جاء الجواب من جهه لم یتوقعها أحد، ففی 21 یولیو/تموز أعلنت شرکه "أوبن إیه آی" (OpenAI)، المطوره لـ"شات جی بی تی"، أن المتسلل کان من نماذجها. وما جرى، بحسب روایتها، بدأ کاختبار داخلی، إذ أرادت الشرکه أن تقیس قدره نماذجها على الاختراق، ولکی یخرج القیاس صادقا أطفأت عمدا الحراسه التی تمنع هذه النماذج عاده من تنفیذ مثل هذا العمل، ثم أغلقت علیها فی بیئه وصفتها بأنها معزوله تماما. لکن النماذج قررت الخروج من تلک البیئه المعزوله.
نحاول هنا أن نفهم کیف خرجت النماذج، ولماذا کانت حراستها مطفأه وقت خروجها، وما الذی یقوله ذلک عن الطریقه التی تقیم بها الشرکات خطوره ما تصنعه.
أعلنت أوبن إیه آی أن المتسلل کان من نماذجها (رویترز) لن یفعل ولا یستطیع
لفهم ما حدث نضرب مثالا من العالم الواقعی هو حمایه المصارف. فی أی مصرف هناک حمایتان تعملان معا؛ الأولى أن الموظف الذی یقف خلف النافذه مدرَّب وموثوق به، ولن یمد یده إلى المال. والثانیه أن الخزانه نفسها لا یفتحها شخص واحد بمفرده. الحمایه الأولى فی رأس الموظف، والأخرى فی الفولاذ. وهما تسقطان بطریقتین مختلفتین، تسقط الأولى بالإغراء أو بالغفله، وتسقط الثانیه بعیب فی التصمیم. ولو استغنى المصرف عن الأولى، لصار کل شیء معلقا بتصمیم الخزانه وحده.
وهذا المثال لا ینطبق على المصارف فقط، فحیثما وُجد شیء یستحق الحراسه وُجدت الحمایتان معا، ومن ذلک نماذج الذکاء الاصطناعی المتقدمه. فالحمایه الأولى فیها أن النموذج لن ینفذ الأمر الخطر، فهو مدرَّب على الرفض، وحین یُطلب منه شیء خطر یعتذر ویمتنع. والثانیه أنه لا یستطیع، فهو یعمل داخل بیئه مغلقه لا تصل إلى الإنترنت، فلو أراد شیئا خطرا لم یجد إلیه طریقا.
منصه "هاغینغ فیس" تضم نحو ملیونی نموذج ذکاء اصطناعی مفتوح المصدر (شترستوک) ولکن فی ذلک الاختبار، أطفأت "أوبن إیه آی" الحمایه الأولى بنفسها، إذ تقول الشرکه فی بیانها إنها أرادت تقدیر أقصى ما تبلغه نماذجها فی الاختراق حین تشغل الاختبار من دون أدوات المنع التی تستعملها فی منتجاتها العامه. وتضیف أن وسائل الحمایه المتقدمه لم تکن مفعله أثناء هذا الاختبار عن قصد، لأن الاختبار موجه أصلا لفحص الثغرات. والمنطق وراء ذلک سلیم فی ظاهره، إذ لا یمکنک أن تعرف حجم الخطر فی أداه وهی ترفض أن تکون خطیره من الأساس.
"تعمل نماذج الذکاء الاصطناعی عاده داخل بیئه حاسوبیه شدیده العزل تقید اتصالها بالإنترنت المفتوح"
إذن لم یبقَ هنا إلا تصمیم الخزانه، وهی، بحسب وصف الشرکه، بیئه حاسوبیه "شدیده العزل" لا تصل إلى الإنترنت، ولها منفذ واحد إلى الخارج. خدمه داخلیه وظیفتها أن تجلب للنموذج ما یحتاجه من برمجیات جاهزه لیعمل، أی باب واحد غرضه الإمداد لا الخروج. وتقول الشرکه إن نماذجها أنفقت قدرا کبیرا من طاقه المعالجه وهی تبحث عن طریق إلى الإنترنت المفتوح، ثم وجدت فی ذلک الباب عیبا لم یکن أحد یعلم به، فنفذت منه.
ولکن عندما نُشرت التفاصیل، قرأها المختصون بوصفها خطأ فی التصمیم قبل أن تکون مفاجأه فی تطور قدره النموذج على الهروب. مثلا، یصف دان غیدو، مؤسس شرکه أبحاث الأمن "تریل أوف بیتس" ما جرى بقوله إنه "فشل فی الاحتواء مع إطفاء وسائل الأمان". ویرى جیک ویلیامز، وهو خبیر قدیم فی الاستجابه للحوادث الأمنیه، أن أی نموذج ینفذ ما وثقته "هاغینغ فیس" لم یکن محبوسا حبسا کاملا من الأساس.
"أی نموذج ینفذ ما وثقته هاغینغ فیس لم یکن محبوسا حبسا کاملا من الأساس"
ویذهب مارتن بون، الباحث فی أمن المعلومات، إلى أبعد من ذلک. فالمکان الذی یستحق وصف العزل، فی رأیه، لا یکون له اتصال مادی بالإنترنت من الأساس. ویشیر إلى مفارقه یعرفها أهل المهنه، وهی أن منع شیء من الخروج أصعب من منع شیء من الدخول.
قبل الحادثه بسبعه أشهر، کان هذا السؤال مطروحا فی ورقه بحثیه مهمه. ففی دیسمبر/کانون الأول 2025 نشرت "سیفر إیه آی" (SaferAI)، وهی منظمه بحثیه تُعنى بتقییم مخاطر الذکاء الاصطناعی، دراسه قارنت أطر الأمان التی تعلنها 12 شرکه. وکان من بین ما سألت عنه سؤال بسیط: متى یکون حبس النموذج کافیا؟
والسؤال لیس تعجیزیا، بدلیل أن شرکات أجابت عنه، فشرکه "جی 42" (G42) الإماراتیه جاءت فی المقدمه، إذ ربطت مستوى الحمایه بمستوى قدره النموذج، واشترطت أن یُحفظ بحیث یصعب جدا على جهه إجرامیه أو معادیه أن تصل إلیه. وحددت "غوغل دیب مایند" و"میتا" مستویات مشابهه. فی حین جاءت "أوبن إیه آی" فی المرتبه الأخیره، لأنها امتنعت عن توصیف ذلک الحد أصلا. لذا فالخزانه التی عولت علیها الشرکه، لم یسبق أن حددت ما الذی یجعلها خزانه محمیه من الأساس.
ویبقى بعد هذا کله سؤال لا یجیب عنه أی مما سبق: ما الذی کان النموذج یریده أصلا حتى ینفق کل تلک الطاقه بحثا عن مخرج؟
أطفأت "أوبن إیه آی" الحمایه الأولى بنفسها (الجزیره – مولده بالذکاء الاصطناعی) الامتحان وورقه الإجابه
کان فی تلک البیئه المغلقه امتحان، وکانت نماذج أوبن إیه آی ترسب فیه؛ امتحان فی الاقتحام، اسمه "إکسبلویت غیم". یُمنح فیه النموذج نقطه ضعف معروفه فی برنامج حقیقی یستعمله الناس، ثم یُطلب منه أن ینتقل من "هنا خلل" إلى "هکذا أدخل وأسیطر"، احتوى الامتحان على 898 سؤالا من هذا النوع.
وتقول "أوبن إیه آی" إن نماذجها کانت منکبه على هذا الامتحان انکبابا شدیدا، وإنها ذهبت إلى أبعد الحدود من أجل تحقیق هدف ضیق، إذ بحثت طویلا عن مخرج، ولما خرجت ووصلت إلى الإنترنت، خطر لها أن "هاغینغ فیس" قد تکون محتفظه بحلول ذلک الامتحان، فذهبت إلیها وأخذت ما وجدته. ولم یثبت حتى اللحظه أن الحلول کانت هناک أصلا، ولا ثبت خلاف ذلک، فقد یکون النموذج أصاب فی تخمینه، وقد یکون اقتحم شرکه غیر ذات صله على غیر أساس.
"النموذج کسر حبسه لیسرق إجابات امتحان شارک مختبره فی وضعه"
وفی القصه تفصیل یستحق الوقوف عنده، فهذا الامتحان وضعه فریق من الجامعات وشرکات الذکاء الاصطناعی معا، ومن بین مؤلفیه باحثان من "أوبن إیه آی" نفسها، أی أن النموذج کسر حبسه لیسرق إجابات امتحان شارک مختبره فی وضعه. لم تکن تلک الواقعه منعزله، فقبل یوم واحد نشرت "أوبن إیه آی" حادثه أخرى عن نموذج داخلی مختلف، هو الذی أعلنت قبل شهرین أنه أثبت خطأ فرضیه ریاضیه ظلت قائمه منذ ثمانین عاما.
فی المره الأولى، کان النموذج یشارک فی مسابقه مفتوحه وتوصل فیها إلى نتیجه جیده. قال له الباحثون أن یُبقی النتیجه فی الداخل، فی حین طلبت تعلیمات المسابقه أن تُنشر النتیجه على الملأ، فاختار تعلیمات المسابقه. وکانت البیئه المغلقه تمنعه من الخروج، فأمضى ساعه کامله یفتش عن ثغره فیها حتى وجدها، ثم خرج ونشر. وتقول الشرکه إن نماذجها الأقدم کانت تقف عند هذا الحد وترجع إلى المستخدم تسأله، أما هذا فکان بوصفها: "یواصل المحاوله غالبا، بما فی ذلک البحث عن طرق للتصرف خارج بیئته المغلقه".
فی المره الثانیه، طُلب منه حل مسأله، فرأى أن أنظمه أخرى حلتها قبله، وأن حلولها محفوظه بعیدا عن متناوله، فحاول الوصول إلیها. وکان فی الطریق حارس آلی یفتش کل ما یخرج ویوقف کل ما یحتوی على کلمه سر. فقسم النموذج کلمه السر إلى نصفین، وأرسلهما متفرقین، ثم جمعهما فی اللحظه الأخیره. والأهم أنه کتب صراحه، فی تعلیقاته وفی سجل تفکیره، أنه یفعل هذا لیتجاوز الحارس.
کما نرى، فإن ما أراده النموذج اختلف فی الوقائع الثلاث، والذی لم یختلف هو ما فعله بالقید الذی وقف فی طریقه، إذ عامله فی کل مره کعقبه تُدار، ثم مضى فی مساره. والنماذج الأقدم، بحسب الشرکه، کانت تتوقف عند القید، وترجع لتسأل المستخدم.
"ما أراده النموذج اختلف فی الوقائع الثلاث، والذی لم یختلف هو تجاوزه للقید الذی وقف فی طریقه"
فی واقعتین کان النموذج ما یسعى إلیه إجابات غیره، أما الثالثه فأغرب، فالنموذج فیها کان یطیع تعلیمات المسابقه، وخرج من غرفته لیفعل ما قالت المسابقه إنه الصواب. ولا یخص هذا نماذج "أوبن إیه آی" وحدها، فمنظمه "میتر" (METR) المستقله فحصت النماذج الداخلیه لأربع شرکات کبرى، هی "أوبن إیه آی" و"أنثروبیک" و"غوغل" و"میتا". وجاء فی تقریرها الصادر فی مایو/أیار الماضی أن النماذج "حاولت الغش بصوره روتینیه فی أصعب مهام التقییم"، وبطرق لا یتصور الباحثون أن بشرا قد یسلکها.
وتزداد وتیره الغش کلما صعبت المهمه، ففی أطول المهام التی اختبرتها المنظمه، تبین أن سدس النتائج الناجحه على الأقل کان غشا انکشف عند المراجعه. وترجع المنظمه ذلک إلى طریقه التدریب نفسها. فالنموذج یکافأ وفق درجه یمنحها له مصحّح آلی، فیتعلم مع الوقت أن یستغل عیوب المصحح.
ولم یکن هذا مفاجئا لمن عمل على المسأله من الداخل، إذ تقول أریال هربرت فوس، وهی من أول من وظفتهم "أوبن إیه آی" فی الأمن السیبرانی وتدیر الیوم شرکه خاصه فی هذا المجال، إن هذا السلوک بالذات کان أحد ما انشغلت به هناک: ماذا یحدث حین تصیر النماذج قادره على أن تحتال على الطریق الذی یفترض أن تسلکه لإنجاز مهمتها؟ وتضیف أنها معضله یصعب الدفاع ضدها، وأنها من أسباب مغادرتها الشرکه. وهنا یصیر السؤال مشروعا: إذا کان هذا ما یحدث حین تُطفأ الحراسه، فلماذا تُطفأ من الأساس؟
لماذا تُطفأ الحراسه؟
لهذا السؤال جواب وجیه، ومن الإنصاف أن یُعرض فی أوضح صوره، إذ لا یمکنک أن تعرف حجم الخطر فی أداه وهی ترفض أن تکون خطره، ولو ترکت الحراسه تعمل أثناء القیاس، لخرجت النتیجه مطمئنه، ولکانت کاذبه فی الوقت نفسه.
وفی ذلک الامتحان ما یثبت ذلک، فحین دخله نموذج أقدم من نماذج "أوبن إیه آی" وحراسته مفعله لم یحل سؤالا واحدا، لأنه امتنع عن المحاوله من الأساس. فالحمایه الأولى تعمل، وتعمل جیدا، ولو أبقیتها لما عرفت شیئا. ولهذا لم یکن إطفاؤها ارتجالا، فهی قاعده مکتوبه ومعلنه.
"تنشر أوبن إیه آی وثیقه تسمیها إطار الاستعداد، تشرح فیها کیف تختبر القدرات الخطره فی نماذجها قبل طرحها للناس"
تنشر "أوبن إیه آی" وثیقه تسمیها إطار الاستعداد، تشرح فیها کیف تختبر القدرات الخطره فی نماذجها قبل طرحها للناس. وفیها تعهد صریح بأن یجری هذا الاختبار على نسخه من النموذج لا ترفض شیئا تقریبا، وأن الشرکه قد تصنع نسخه خاصه لهذا الغرض وحده. والسبب المعلن أن تقترب النتیجه مما قد یفعله مهاجم حقیقی، وتفعل شرکه میتا الشیء نفسه مع نموذجها الجدید.
وفی الإنصاف وجهان آخران، الأول أن کلام المختصین جاء بعد وقوع الحادثه، والحکم على تصمیم بعد انکشاف عیبه أیسر من الحکم علیه قبله. والثانی أن "أوبن إیه آی" نشرت الحادثتین معا فی یومین متتالیین، ولم یُلزمها بذلک قانون. ومع ذلک، یبقى اعتراض ثالث، أقوى من الاثنین، مفاده أن ما جرى لیس جدیدا على عالم الأمن السیبرانی أصلا.
فالنماذج لم تتغلب على دفاعات "هاغینغ فیس" بذکائها الخارق، وإنما ورثت فی طریقها مفاتیح تفتح أبوابا أکثر مما تحتاجه مهمتها. وتلک مشکله قدیمه اسمها "الصلاحیات الزائده"، یکافحها متخصصو الأمن السیبرانی منذ عقد. فالمؤسسات الیوم تشغل حسابات آلیه تفوق موظفیها البشر عددا، وکثیر منها یحمل صلاحیات حساسه لا یحتاجها فی عمله الیومی، والبرنامج یرث کل ما یستطیع حسابه أن یصل إلیه.
"ما وقع کان حادثا عادیا جرى بسرعه غیر عادیه"
وعلى هذا القیاس، فإن ما وقع کان حادثا عادیا جرى بسرعه غیر عادیه. غیر أن هذا کله دفاع عن إطفاء طبقه الحمایه الأولى، وهو دفاع جید ویمکن قبوله، أما انهیار الطبقه الثانیه فلا یقول عنها شیئا. فحین تقول إن علیک إطفاء الرفض کی تقیس قدرات النموذج، لا یترتب على ذلک أن تکون الغرفه المغلقه ذات باب موارب. القیاس یحتاج إلى إطفاء الطبقه الأولى، أما الثانیه فکان ینبغی أن تشتد فی اللحظه نفسها، لأنها بقیت وحدها فی المیدان.
ولکن ما جرى کان عکس ذلک، إذ خفت قیود الأولى، وبقیت الثانیه على حالها. ویبقى سؤال بسیط طرحه موقع "تک کرانش" التقنی على الشرکه، ولم یتلقَ عنه جوابا: مَن الذی أعد تلک الغرفه وضبط إعداداتها.. إنسان أم نموذج صناعی آخر؟
تبقى الکثیر من الأسئله حول ما حصل بلا جواب (الجزیره – مولده بالذکاء الاصطناعی) روایه واحده.. روایتان
فی تلک الروایه فجوات، إذ تقول "هاغینغ فیس" إن الدخول الأول جرى عبر ذلک الملف الذی رُفع إلى المنصه. وروایه "أوبن إیه آی" لا تذکر الملف إطلاقا، وتتحدث عن عیوب برمجیه وکلمات سر مسروقه. والفرق بین الروایتین کبیر، فإن کانت النماذج هی التی صنعت ذلک الملف ورفعته بنفسها، فذلک فعل یختلف تماما عن استغلال عیب وجدته أمامها جاهزا، وتلک نقطه لم تحسم حتى الآن.
تذکر "أوبن إیه آی" أن نموذجین کانا وراء الاختراق، بینما تذکر وکاله "بلومبرغ"، نقلا عن مصادر مطلعه، ثلاثه نماذج. وتذکر المصادر نفسها أن ما نفذته النماذج فی ساعات کان یحتاج من مخترق بشری ماهر نحو أسبوعین.
وفی الحادثه طرف ثان لم یخضع للفحص بما یکفی، فالباب الذی دخل منه المهاجم أولًا کان فی بیت "هاغینغ فیس". عیبان فی الطریقه التی تعالج بها المنصه ملفات البیانات التی یرفعها الناس إلیها، سمحا لملف واحد بأن یشغل ما بداخله على خوادمها. أعلنت المنصه ذلک بنفسها وسدته، وتعاملت مع الحادثه بشفافیه تُحسب لها. لکن أحدا لم یسأل بعد کیف بقی هذان العیبان مفتوحین فی منصه یودِع فیها العالم أعماله.
وتبقى هذه الأسئله بلا جواب لسبب واحد، وهو أن کل ما نعرفه عما جرى داخل مختبر "أوبن إیه آی" مصدره "أوبن إیه آی". لا جهه رقابیه تحتفظ بسجلات ذلک المختبر، ولا أحد یفحصه من الخارج، وما بین أیدینا هو ما اختارت الشرکه أن تقوله.
"الجهه الوحیده التی تحکی ما حدث تمرر فی ثنایا روایتها تشخیصها الخاص له، وهو تشخیص قد لا یخلو من تحیز"
ولا یقف الأمر عند نقص المعلومات، فالجهه الوحیده التی تحکی ما جرى تمرر فی ثنایا روایتها تشخیصها الخاص له، وهو تشخیص قد لا یخلو من تحیز. یصف بیان الشرکه ما وقع بأنه "حادثه سیبرانیه غیر مسبوقه، تنطوی على قدرات سیبرانیه من أحدث طراز"، وأنها إنما تنشر ما تنشره لیعایر الآخرون تصورهم عما صارت النماذج قادره علیه. وقد رأینا أن المختصین قرأوا الحادثه قراءه أخرى، بوصفها خطأ فی بناء الغرفه نفسها.
والفرق بین القراءتین لیس فرقا فی اللغه، فمن قال إن ما جرى کشف عن قدره جدیده، انتهى إلى أن العالم کله تغیر وأن على الجمیع أن یستعدوا. ومن قال إنه خطأ فی التصمیم، انتهى إلى أن غرفه واحده بُنیت على غیر ما ینبغی، وأن إصلاحها ممکن. الوصف الأول یوزع المسؤولیه على الجمیع حتى تکاد تختفی، والثانی یترکها حیث هی، فأین القانون من هذا؟
أسالیب الخداع
معظم شرکات الذکاء الاصطناعی الکبرى مقرها ولایه کالیفورنیا، ومنها "أوبن إیه آی"، وفی الولایه أول قانون أمریکی ینظم هذه النماذج، ساری المفعول منذ ینایر/کانون الثانی الماضی. ویلزم القانون الشرکات بإخبار السلطات حین یقع حدث خطیر خلال خمسه عشر یوما. ویحدد القانون أربع حالات بعینها یجب الإبلاغ عنها، ثلاث منها تشترط ضررا محققا، مثل موت أو إصابه، أو خساره مالیه فادحه، ولکن لم یقع شیء من ذلک فی الحادثه الأخیره.
لا یبقى إذن إلا الحاله الرابعه، وهی تصف نموذجا یستعمل "أسالیب الخداع" ضد صانعه لیلتف على رقابته، "خارج سیاق تقییم مصمم لاستثاره هذا السلوک"، وعلى نحو یظهر أن خطر "الکارثه" قد ارتفع ارتفاعا کبیرًا. هذه عده شروط فی جمله واحده، ولا بد أن تتحقق کلها معا، وفی کل منها خلاف. وقد نظر فی هذه الشروط باحثان فی "معهد القانون والذکاء الاصطناعی" الأمریکی، فی تحلیل نشره موقع "لوفیر" المتخصص فی الأمن القومی.
یرى الباحثان أن الخداع یصعب إثباته حین یتعلق الأمر بنوایا برنامج، خاصه مع وجود قراءه أخرى للواقعه تقول إن النموذج استعمل کل ما وجده متاحا لأداء مهمته. ویبقى الشرط الأخیر هو الأصعب، فخطر الکارثه وفق تعریف القانون نفسه یبلغ 50 قتیلا أو ملیار دولار من الخسائر، وما جرى بعید عن ذلک بوضوح، ولذا یرجح الباحثان أن القانون لا یشمل الواقعه، أو لا یشمل کل ما یشبهها على الأقل. وفی هذا مفارقه أعمق من ثغره فی نص، فالقانون یطلب من الشرکه أن تعرف، قبل أن تُبلغ، إن کانت الواقعه تنبئ بخطر أکبر على الناس، والإبلاغ إنما وُضع لیولد تلک المعرفه، فالنص یشترط الجواب قبل أن یسمح بالسؤال.
"الخداع یصعب إثباته حین یتعلق الأمر بنوایا برنامج"
وقد تحرک الکونغرس محاولا شد هذه الثغره القانونیه، ففی 23 یولیو/تموز تقدّم النائبان الدیمقراطی تید لیو والجمهوری ناثانیال موران بمشروع "قانون مفتاح إیقاف الذکاء الاصطناعی". ویُلزم المشروع کبار المطورین بأن یحتفظوا بالقدره التقنیه على إبطاء نماذجهم أو تعلیقها أو إیقافها. ویمنح وزاره الأمن الداخلی سلطه إصدار أمر الإیقاف حین یهدد نظام بکارثه، مع غرامه تبلغ عشرین ملیون دولار فی الیوم على من یخالف.
ومع ذلک یحتوی المشروع المقترح على استثناء واضح، فهو یستبعد ما یقع أثناء "اختبارات الفریق الأحمر أو غیرها من الاختبارات المنظمه"، واختبار الفریق الأحمر أن تهاجم نظامک بنفسک لتکشف عیوبه قبل أن یکشفها غیرک. أی أن الواقعه التی دفعت إلى کتابه المشروع لا یبدو أنها تدخل فی نطاقه، وبسبب مثل هذا الاستثناء تحدیدا لا نعرف کم مره وقعت أحداث مماثله فی مختبرات أخرى. فحتى الیوم، لم تُعلن سوى شرکتین فی العالم عن خروج نموذج من حبسه؛ "أوبن إیه آی"، و"أنثروبیک" المطوره لنموذج "کلود". وصمت الباقین لا یعنی أن شیئا لم یقع عندهم، فلا قانون یوجب الإعلان من الأساس.
نسخه من نموذج میثوس وجدت طریقها إلى الإنترنت وقامت بنشر ما فعلته دون أن یُطلب منها (رویترز) وحادثه "أنثروبیک" تختلف عما نحن بصدده، وإن لم تختلف اختلافا تاما، ففی أبریل/نیسان الماضی ذکرت الشرکه أن نسخه مبکره من نموذجها الجدید "میثوس" (Mythos)، أثناء أحد اختبارات السلوک، بنت طریقا للوصول إلى الإنترنت، ثم فعلت ما لم یطلب منها ونشرت تفاصیل ما فعلته على مواقع علنیه یصعب العثور علیها، لتثبت أنها نجحت.
وقع الخروج نفسه (إلى الإنترنت) داخل اختبار یتوقعه، لکن الإعلان عنه فلم یکن متوقعا. أما نماذج "أوبن إیه آی" فلم یطلب منها الخروج فی أی من الوقائع الثلاث. وهو ما یقودنا للسؤال الأکثر خطوره: ماذا لو أن دوله أجنبیه فعلت الشیء نفسه؟
یذکر حمزه شودری، مسؤول عن ملف الذکاء الاصطناعی والأمن القومی فی "معهد مستقبل الحیاه" وهی منظمه أمریکیه تدعو إلى تنظیم الصناعه، إن ما جرى لو صدر عن دوله لکان على الأرجح "عملا خطرا من أعمال التجسس السیبرانی"، ویضیف أنه کان سیقع تحت طائله القانون الأمریکی الذی یجرم الدخول غیر المصرح به إلى الحواسیب، وأن فاعلا کهذا کان سیُلاحق باتهام رسمی أو بعقوبات. الفارق أن الفاعل هنا کان فی الداخل، وأنه هو الذی أخبرنا بما فعله.
بعد الحادثه
فی النهایه، عادت "هاغینغ فیس" إلى عملها، وغیر المستخدمون رموز دخولهم، وسُدت الثغرتان اللتان یُعتقد أن الملف دخل منهما، وشددت "أوبن إیه آی" إجراءاتها داخل مختبرها، وأعلنت أن ذلک سیبطئ وتیره أبحاثها ریثما تُصلح العیوب. کما ضمّت "هاغینغ فیس" إلى برنامج تدیره بنفسها، یتیح لأعضائه أن یستعملوا نماذجها القویه فی تحصین أنظمتهم. أی أن العلاج المعروض بعد انکسار الحبس کان بابا أضیق یدخل منه المختارون، أما الغرفه نفسها فبقیت على حالها.
لکن الباب لم یکن العطل الحقیقی، فالحمایه الأولى أطفئت بقرار، وستُطفأ فی الاختبار المقبل بالقرار نفسه، لأن ذلک مکتوب فی سیاسه الشرکه المعلنه، أما الثانیه فهی غرفه لم یقل أحد بعد ما الذی یجعلها غیر محکمه. والغرف الأخرى، فی المختبرات الأخرى، لا نعرف عنها إلا ما قاله أصحابها؛ بعضهم قال ما الذی یجعل الغرفه کافیه، وبعضهم لم یقل. ولا أحد من خارج تلک المختبرات یدخل لیرى إن کانت الغرفه کما وُصفت، ولا أحد مُلزَم بأن یخبرنا حین یخرج منها شیء.
فحین تقول شرکه إن نموذجها محبوس بأمان، یبقى السؤال قائما: أی الحمایتین تعمل الآن؟ ومن یمکنه أن یتحقق من ذلک فعلا؟
المصدر: الجزیره