وکاله آریا للأنباء - الأداه تهدف إلى تعزیز الشفافیه وتمکین المستخدمین من معرفه ما إذا کان المحتوى قد أُنشئ بواسطه الذکاء الاصطناعی (رویترز)
فی ظل الانتشار المتسارع لمقاطع الفیدیو والصور المولده بالذکاء الاصطناعی، أعلنت شرکه میتا الأمریکیه عن أداه جدیده تهدف إلى المساعده فی التعرف على المحتوى المصنوع بالذکاء الاصطناعی وتعقبه فی محاوله للحد من انتشار التضلیل الرقمی وتعزیز الشفافیه على منصاتها، خاصه مع تزاید استخدام النماذج التولیدیه القادره على إنتاج محتوى یصعب تمییزه عن الصور ومقاطع الفیدیو الحقیقیه.
وتأتی هذه الخطوه فی وقت أصبحت فیه الصور والفیدیوهات المولده بالذکاء الاصطناعی جزءا من المشهد الرقمی الیومی، سواء فی صناعه المحتوى أو الإعلانات أو حتى حملات التضلیل السیاسی والاحتیال الإلکترونی، ما دفع شرکات التکنولوجیا الکبرى إلى تطویر أدوات قادره على کشف هذا النوع من المحتوى أو الإشاره إلیه بوضوح.
التقنیه تعتمد على تحلیل العلامات الرقمیه والبیانات الوصفیه والإشارات المضمنه داخل الملفات الرقمیه (شترستوک) کیف تعمل الأداه الجدیده؟
تُعرف الأداه الجدیده التی أطلقتها شرکه میتا باسم أداه الکشف المعتمده على نظام الختم الرقمی الخفی (Content Seal)، وتأتی بالتزامن مع إطلاق نموذجها المتطور لتولید الوسائط "میوز إیمیج" (Muse Image)
اقرأ أیضا
list of 2 items list 1 of 2 شراکه انتهت بالمحاکم.. آبل تتهم أوبن إیه آی بسرقه أسرار أجهزه الذکاء الاصطناعی list 2 of 2 من الهواتف القابله للطی إلى النظارات الذکیه.. کل ما یُتوقع من مؤتمر سامسونغ end of list وتعتمد هذه التقنیه على دمج علامه مائیه غیر مرئیه تلقائیا داخل أی محتوى بصری یتم إنشاؤه عبر نماذج الذکاء الاصطناعی الخاصه بمیتا. وتهدف الأداه إلى فحص الصور للتأکد من احتوائها على هذا الختم الرقمی لتحدید هویه المحتوى وما إذا کان مصنوعا بواسطه خوارزمیات الشرکه، حتى وإن تعرضت الصوره لبعض التعدیلات الشائعه مثل الضغط أو تغییر الحجم.
وتهدف هذه التقنیه إلى منح المستخدمین مزیدا من المعلومات حول مصدر المحتوى, بدلا من إزاله الصور أو الفیدیوهات تلقائیا، بحیث یصبح بإمکانهم معرفه ما إذا کان المحتوى حقیقیا أو تم إنتاجه رقمیا، وتندرج هذه الخطوه ضمن جهود أوسع تتبناها میتا لتعزیز الشفافیه فی التعامل مع المحتوى الاصطناعی على منصاتها.
کیفیه الوصول إلیها واستخدامها
یمکن للمستخدمین الوصول إلى الأداه الجدیده عبر موقع إلکترونی مخصص للفحص طرحته میتا بشکل تجریبی، وهو (https://meta.ai/identification).
وعند الدخول إلى الموقع یقوم المستخدم برفع الصوره المراد التحقق منها إلى واجهه الأداه على المتصفح.
تعمل الأداه بدورها على فحص البکسلات والبیانات العمیقه بحثا عن شفره الختم الرقمی الخفی (کونتنت سیل).
کما أن وسوم الشفافیه مثل "صُنع بالذکاء الاصطناعی" (Made with AI) تظهر بشکل تلقائی على منصات فیسبوک وإنستغرام وثریدز عند التعرف على هذه العلامات أو العلامات القیاسیه لشرکات أخرى.
لماذا أصبحت هذه الأدوات ضروریه؟
شهد العامان الأخیران طفره کبیره فی قدرات نماذج تولید الصور والفیدیو، إذ بات بالإمکان إنشاء مشاهد واقعیه للغایه من خلال أوامر نصیه بسیطه، أو تعدیل صور الأشخاص وإنتاج مقاطع فیدیو تحاکی الواقع بدرجه عالیه من الدقه.
هذا التطور فتح الباب أمام استخدامات إبداعیه واسعه، لکنه فی المقابل زاد من مخاطر انتشار الأخبار الکاذبه، وانتحال الشخصیات، والاحتیال المالی، وصناعه مقاطع التزییف العمیق، الأمر الذی دفع الحکومات وشرکات التقنیه إلى البحث عن وسائل تساعد على التحقق من مصدر المحتوى.
وترى میتا أن وضع مؤشرات واضحه على المحتوى المنتج بالذکاء الاصطناعی یمثل أحد الحلول المهمه لمواجهه هذه التحدیات، خصوصا مع اقتراب مواسم الانتخابات والأحداث الکبرى التی ترتفع خلالها احتمالات استغلال الوسائط المزیفه للتأثیر فی الرأی العام.
الأداه لیست معصومه من الخطأ
رغم أهمیه هذه الخطوه، کشفت اختبارات أجرتها وکاله رویترز أن أداه میتا لا تزال تواجه تحدیات تقنیه. فبحسب تحلیل نشرته الوکاله، تمکنت الأداه من التعرف على جمیع الصور المولده بالذکاء الاصطناعی، لکنها فشلت فی اکتشاف نسبه کبیره من الصور نفسها بعد اقتصاصها أو تعدیل حجمها، إذ أدى القص إلى إزاله أو إضعاف العلامه الرقمیه التی تعتمد علیها الأداه فی عملیه الکشف.
واعترفت میتا بأن الأداه لا تزال فی مرحله المعاینه، وأن عملیات التعدیل الکبیره مثل القص أو الضغط أو إعاده الحفظ قد تؤثر فی قدره النظام على اکتشاف العلامات الرقمیه المضمنه داخل الصور.
سباق بین صناع المحتوى والمحتالین
یرى خبراء الأمن السیبرانی أن أدوات الکشف عن المحتوى الاصطناعی ستظل فی سباق دائم مع مطوری أسالیب التحایل، فکلما طورت الشرکات علامات مائیه رقمیه أکثر تطورا، ظهرت فی المقابل تقنیات جدیده لإزالتها أو إخفائها عبر الاقتصاص أو إعاده الضغط أو تحویل الصیغ أو حتى إعاده تولید الصوره بالکامل باستخدام نموذج آخر.
ولهذا السبب یؤکد الباحثون أن الاعتماد على العلامات الرقمیه وحدها لن یکون کافیا، بل یجب دمجها مع تقنیات تحلیل الصوره، واکتشاف الأنماط الاصطناعیه، والتحقق من بیانات المصدر، بالإضافه إلى التوعیه الرقمیه للمستخدمین.
میتا تسعى من خلال الأداه إلى الحد من انتشار التضلیل الإعلامی وعملیات الاحتیال التی تعتمد على الصور والفیدیوهات المزیفه (الجزیره/مولده بالذکاء الاصطناعی) جزء من إستراتیجیه أوسع للذکاء الاصطناعی
تأتی أداه التعقب الجدیده ضمن إستراتیجیه میتا لتوسیع حضورها فی مجال الذکاء الاصطناعی التولیدی، بعد إطلاق نموذج میوز إیمیج، وتطویر أدوات لإنشاء الصور وتحریر الفیدیو، إلى جانب دمج قدرات الذکاء الاصطناعی فی تطبیقات فیسبوک وإنستغرام وواتساب.
کما تعمل الشرکه على توفیر مزید من أدوات الإبداع المعتمده على الذکاء الاصطناعی، مع الترکیز على إضافه وسائل لتمییز المحتوى الاصطناعی عن المحتوى الحقیقی، فی محاوله لتحقیق توازن بین الابتکار وحمایه المستخدمین.
تحدیات مستقبلیه
ورغم التقدم الذی تحققه شرکات التکنولوجیا فی مجال کشف المحتوى المولد بالذکاء الاصطناعی، فإن خبراء یرون أن المهمه ستزداد صعوبه مع تطور النماذج الجدیده التی تنتج صورا وفیدیوهات أکثر واقعیه وأقل اعتمادا على العلامات التقلیدیه.
ومن المتوقع أن تتجه الصناعه خلال السنوات المقبله إلى الاعتماد على معاییر موحده لإثبات مصدر المحتوى، إلى جانب تطویر تقنیات تحقق رقمیه أکثر مقاومه للتلاعب، بحیث یصبح من الممکن تتبع تاریخ إنشاء الصوره أو الفیدیو منذ لحظه إنتاجه وحتى نشره.
المصدر: الجزیره + وکالات