وکاله آریا للأنباء -
فی الفیلم، یقول عالم الحاسوب والباحث فی الذکاء الاصطناعی بن غیرتزل إن ما یطور الذکاء الاصطناعی من أجله غالبا یمکن تلخیصه فی "القتل والتجسس وغسیل الدماغ". ثم یضرب أمثله بالذکاء الاصطناعی العسکری، ومنظومات المراقبه، وصناعه الإعلانات الموجهه التی تسعى إلى دفع الناس لشراء منتجات بعینها. تبدو العباره مثل تحذیر قاتم، خصوصا حین یتحدث ضیوف آخرون عن ذکاء عام قد یتجاوز البشر أو عن سباق قد ینتهی بسلطه لا یمکن التحکم فیها.
لکن الفیلم لا یحتاج إلى انتظار ولاده آله خارقه کی یضع المشاهد أمام سؤال مقلق: ماذا لو کانت الخوارزمیه قد بدأت بالفعل فی الاقتراب من قراراتنا، لیس بأن تمسک أیدینا وتجبرنا، بل بأن ترتب قبل ذلک ما نراه، وما نغضب منه، وما نمنحه انتباهنا؟
قصص مقترحه
list of 2 items list 1 of 2 خبراء: الضغط الأمریکی على طرفی الصراع لن یوقف حرب السودان list 2 of 2 عون یدعو الولایات المتحده للضغط على إسرائیل لتنفیذ اتفاق وقف إطلاق النار end of list لیست کل توصیه على الهاتف تلاعبا، ولا تعنی معرفه المنصه بعادات المستخدم أنها تتحکم فیه. لکن المسافه بین معرفه ما یشد الانتباه وتصمیم ما یظهر أمامه أصبحت أقصر بکثیر. وهذا هو التحول الذی یستحق التوقف عنده: الخطر لیس فی آله واعیه ترید السیطره على البشر، بل فی مؤسسات تملک بیانات عنهم وخوارزمیات ترتب المحتوى وتستهدف الرسائل على نطاق واسع.
آثار رقمیه
یعرض الفیلم مسارا یبدأ بتفاصیل تبدو عابره: إعجاب على منشور، بحث عن منتج، موقع جغرافی، مقطع توقف المستخدم عنده، أو موضوع یعود إلیه مرارا. ویشرح میشال کوسینسکی، الباحث فی البیانات والسلوک الرقمی الذی یقدمه الفیلم بوصفه "عالم بیانات"، أن هذه الآثار الرقمیه یمکن أن تستخدم لبناء نماذج تحاول استنتاج سمات ومیول وسلوکیات محتمله.
هذه الآثار الرقمیه لا تبقى تفاصیل منفصله، بل یمکن أن تتحول إلى نموذج سلوکی یحاول استنتاج ما یثیر اهتمام الشخص أو ما یرجح أن یدفعه إلى النقر أو البقاء أو الشراء.
هنا لا تتحدث الخوارزمیه مع المستخدم کما یفعل صدیق یعرفه، ولا تحتاج إلى فهم مشاعره بالمعنى البشری. یکفیها أن تختبر: أی عنوان یجذبه؟ أی صوره تستوقفه؟ أی موضوع یجعله یعود؟ ثم تعید التجربه مع ملایین المستخدمین.
بهذا المعنى، لا تبدأ القوه من قرار سیاسی کبیر أو من سلاح ذاتی التشغیل. بل تبدأ من ترتیب بسیط للمحتوى: ما یظهر أولا، ما یتکرر، وما یختفی تحت سیل لا ینتهی من المنشورات والمقاطع والإعلانات.
والسؤال لیس: هل یستطیع الإنسان الاختیار؟ بل: کم من الاختیارات التی یراها قبل أن یختار صممتها منصه لا یعرف منطقها ولا الغایه التی تعمل من أجلها؟
نبوءه کبیره
یحذر ماکس تیغمارک، عالم الفیزیاء ورئیس معهد مستقبل الحیاه کما تعرفه بطاقه الفیلم، من أن الذکاء الاصطناعی قد یکون أفضل ما یحدث للبشریه أو أسوأ ما یحدث لها. ویتخیل إیلیا سوتسکیفر، عالم الحاسوب المتخصص فی التعلم الآلی وأحد مؤسسی أوبن إیه آی ، ذکاء عاما یستطیع أداء أی مهمه ذهنیه یؤدیها الإنسان، ولکن على نحو أفضل وبسرعه أکبر.
غیر أن الخطر القریب لا یحتاج إلى انتظار ذکاء عام. فأنظمه التوصیه والإعلان والتصنیف تعمل الیوم داخل منصات یستخدمها ملیارات الناس، ولذلک لم یعد النقاش محصورا فی کفاءه التقنیه، بل امتد إلى الشفافیه والمساءله.
وفی الاتحاد الأوروبی ، یفرض قانون الخدمات الرقمیه التزامات إضافیه على المنصات ومحرکات البحث الکبیره جدا، تشمل تقییم المخاطر المنهجیه وشرح المعاییر الرئیسه لأنظمه التوصیه. کما یتیح وصول باحثین معتمدین إلى بیانات محدده عندما یتعلق بحثهم بهذه المخاطر. وجود هذه القواعد یکشف أن القضیه لم تعد مجرد نقاش نظری عن هاتف یقترح مقطعا جدیدا، بل مسأله تأثیر اجتماعی یحتاج إلى تدقیق عام.
الانتباه.. سوق
تستعید کارا سویشر، الصحفیه ورئیسه التحریر فی نیویورک میدیا کما تعرفها بطاقه الفیلم، تحولا فی وادی السیلیکون : من وعد بتقنیه توسع المعرفه وتربط الناس، إلى اقتصاد یتنافس على احتجاز الانتباه.
وهنا تظهر المفارقه: کلما صارت المنصه أفضل فی توقع ما یجذب المستخدم، صارت أقدر على إبقائه داخلها. وقد تکون النتیجه مریحه فی حالات کثیره، مثل العثور على موسیقى مناسبه أو معلومه یحتاجها، لکنها تثیر سؤالا آخر حین تدخل السیاسه والصحه والرأی العام: من یقرر ما الذی یستحق أن نراه أکثر من غیره؟
لا یعنی ذلک أن خوارزمیه واحده تصنع قناعه سیاسیه من الصفر، أو أن کل مستخدم بلا إراده. فالأفکار والعلاقات والواقع المعیشی والإعلام کلها تؤثر فی القرار. لکن تخصیص الرسائل یضیف قوه جدیده: القدره على اختبار آلاف الصیغ ومعرفه أیها ینجح فی جذب فئات مختلفه، ثم تکرارها بسرعه وکلفه أقل.
تآکل الخصوصیه
بعد الحدیث عن الانتباه، ینقل الفیلم المشاهد إلى المراقبه: کامیرات، تعرف على الوجوه، وتحلیل فیدیو. ویستخدم روب رایخ، أستاذ العلوم السیاسیه والفلسفه فی جامعه ستانفورد، تشبیه "آله زمن للمراقبه" للتحذیر من أن البیانات قد تخزن الیوم ثم تستعاد لاحقا إذا تغیرت موازین القوه أو صار الشخص موضع اشتباه.
ولا تجعل تصریحات کوسینسکی فی الفیلم عن تآکل الخصوصیه ذلک مصیرا محتوما، لکنها تفتح سؤالا واقعیا عن حجم البیانات التی تجمع وکیف تستخدم ومن یراقب استخدامها. وتفتح هذه الاستخدامات سؤالا واقعیا عن حجم البیانات التی تجمع، وکیف تستخدم، ومن یراقب استخدامها.
الفارق هنا مهم: الکامیرا التقلیدیه تسجل مشهدا. أما حین تقترن بقدرات فرز وتعرف وتحلیل، فهی تفتح إمکان البحث داخل المشهد بسرعه وعلى نطاق أکبر. ولذلک یصبح السؤال الحقوقی لیس فقط: هل توجد کامیرا؟ بل من یملک قاعده البیانات، وکم تبقى، ومن یستطیع استخدامها، وبأی رقابه؟
الحرب.. من یحدد الهدف؟
فی الثلث الأخیر، یعود الفیلم إلى مشروع "مایفن" التابع لوزاره الدفاع الأمریکیه، الذی استخدم تقنیات الذکاء الاصطناعی للمساعده فی تحلیل لقطات المسیرات ورصد الأجسام فیها. ولا یعنی ذلک أن المشروع کان سلاحا ذاتی التشغیل أو أنه منح الآله قرار القتل.
ویظهر روبرت وورک، نائب وزیر الدفاع الأمریکی بین عامی 2014 و2017، فی الفیلم لیشدد على أن الجیش لا یرید لنظام ذکاء اصطناعی أن یقرر أی إنسان یهاجم. ثم ینتقل الفیلم إلى النقاش حول الأسلحه ذاتیه التشغیل وقرار القتل.
وبحسب رویترز، أبلغت غوغل موظفیها فی یونیو/حزیران 2018 أنها لن تجدد عقدها المرتبط بمشروع مایفن بعد انتهاء العقد القائم، فی أعقاب جدل داخلی واعتراضات موظفین على مشارکه الشرکه فی المشروع.
لکن قیمه هذا الجزء لیست فی إعاده سؤال "من یضغط الزر؟" فقط. الفیلم یضعه فی نهایه سلسله تبدأ قبل میدان المعرکه: بیانات عن البشر، ثم نماذج للتعرف والتوقع، ثم قرار تتسع آثاره کلما اقترب من سلطه الدوله والسلاح.
ولا یصح مساواه خوارزمیه تقترح محتوى بسلاح ذاتی التشغیل، فالمیدان والخطر والمسؤولیه القانونیه مختلفه جذریا. لکن الحالتین تلتقیان عند سؤال المساءله: من یحدد الهدف؟ من یراجع الخطأ؟ ومن یملک حق الاعتراض عندما یصبح القرار أسرع من قدره الإنسان على فهمه؟
لیست الآله وحدها
أبرز ما یترکه الفیلم لیس توقعا عن آله تتمرد، بل استنتاجا مفاده أن الذکاء الاصطناعی یضخم أهداف من یملکه. إذا کانت الغایه هی جذب الانتباه، فسیتعلم ما یبقینا أمام الشاشه. وإذا کانت الغایه هی المراقبه، فسیتعلم کیف یفرز الوجوه والحرکات. وإذا کانت الغایه عسکریه، فسیسعى إلى اکتشاف ما یطلب منه اکتشافه.
لذلک لا یبدأ السؤال الحقیقی من: هل الذکاء الاصطناعی خیر أم شر؟ … السؤال هو: من یملک البیانات والخوارزمیه؟ ومن وضع الهدف؟ ومن یملک حق القول إن هذا الهدف نفسه یجب أن یتوقف؟
المصدر: الجزیره