وکاله آریا للأنباء - التحقق البشری یبقى الخطوه الأهم قبل نشر مخرجات الذکاء الاصطناعی أو استخدامها فی قرارات مهمه (فری بیک)
أصبح الذکاء الاصطناعی التولیدی وسیله سریعه للحصول على المعلومات وکتابه النصوص وتحلیل البیانات، لکن سهوله الحصول على الإجابه لا تعنی بالضروره صحتها.
فالنماذج اللغویه الکبیره قد تنتج معلومات خاطئه أو مضلله بصیاغه واثقه، وهی ظاهره تعرف عاده بالهلوسه، حیث یشیر المعهد الوطنی الأمریکی للمعاییر والتکنولوجیا إلى أن هذه المخرجات قد تتضمن حقائق أو استدلالات أو حتى مراجع مختلقه، ما یجعل التحقق البشری خطوه أساسیه، خصوصا فی القرارات المهمه.
اقرأ أیضا
list of 2 items list 1 of 2 الذکاء الاصطناعی فی قلب المعرکه.. کیف تستعد أمریکا لانتخابات مختلفه؟ list 2 of 2 کلود ومنصات التواصل الاجتماعی.. کیف تجعله یکتب منشوراتک ویجدولها بدلا منک؟ end of list ومن أجل ذلک، یجب على المستخدم أن یتبع بعض الخطوات حتى یکون متأکدا من المعلومات التی یعطیها الذکاء الاصطناعی.
ینصح بالعوده إلى المصدر الأصلی للتحقق من المعلومات المهمه قبل اعتمادها (شترستوک) 1. ارجع إلى المصدر الأصلی
أولى خطوات التحقق هی عدم التعامل مع إجابه النموذج باعتبارها مصدرا نهائیا، بل نقطه بدایه للبحث، فإذا ذکر النموذج دراسه علمیه أو تقریرا حکومیا أو تصریحا لمسؤول، ینبغی الوصول إلى الوثیقه الأصلیه وقراءه محتواها، بدل الاکتفاء بما نقله النموذج عنها.
حیث تحذر أوبن إیه آی من أن النماذج قد تختلق اقتباسات أو دراسات أو مراجع غیر موجوده، ولذلک توصی بالتحقق من المعلومات المهمه والاقتباسات والبیانات والمراجع الخارجیه مباشره.
2. قارن المعلومه بأکثر من مصدر موثوق
وجود مصدر واحد لا یکفی دائما، خصوصا عندما تتعلق المعلومه بموضوع خلافی أو خبر عاجل، حیث یمکن إعاده البحث عن الادعاء نفسه فی مصادر مستقله، ومقارنه ما تقوله المؤسسات الرسمیه ووسائل الإعلام الموثوقه والمصادر المتخصصه.
وتکمن أهمیه هذه الخطوه فی اکتشاف الاختلافات أو الأخطاء التی قد تمر دون ملاحظه عند قراءه إجابه واحده، کما یوصی المعهد الوطنی الأمریکی للمعاییر والتکنولوجیا بأن تکون المخرجات قابله للتحقق، وأن تربط الادعاءات الوارده فیها بالمصادر التی تدعمها.
قد تنتج النماذج معلومات مختلقه أو مراجع غیر موجوده فیما یعرف بظاهره الهلوسه (شترستوک) 3. افحص الروابط والمراجع بدل الثقه بها تلقائیا
قد تبدو الإجابه أکثر موثوقیه عندما تحتوی على روابط ومراجع، لکن وجود الاستشهاد لا یثبت أن المعلومه صحیحه، حیث ینبغی فتح الرابط والتأکد من أنه موجود فعلا، ثم معرفه الجهه التی نشرته، وتاریخ النشر، وما إذا کان المصدر یقول بالفعل ما نسبه إلیه النموذج.
وتشیر إرشادات غوغل الخاصه بجیمینای إلى أن ظهور المصادر لا یعنی بالضروره أن الإجابه صحیحه، فقد یفوّت النموذج مصدرا استخدمه، أو یستشهد بمصدر لا یدعم معلومه محدده، بل قد یقدم أحیانا مصدرا مختلقا.
4. تحقق من الأرقام والتواریخ والأسماء بشکل مستقل
الأرقام والتواریخ والأسماء من أکثر التفاصیل التی یمکن اختبارها بسهوله، ولذلک ینبغی التعامل معها باعتبارها نقاط تحقق منفصله، إذا ذکر النموذج قیمه مالیه أو نسبه مئویه أو تاریخ حدث أو اسم دراسه، ابحث عن هذه المعلومه فی قاعده بیانات أو موقع رسمی أو وثیقه أصلیه.
وتنبه أوبن إیه آی إلى أن النماذج قد تقدم تعریفات أو تواریخ أو حقائق غیر صحیحه، کما أن درجه الثقه فی صیاغه الإجابه لا تعکس بالضروره دقتها.
5. انتبه إلى حداثه المعلومات
قد تکون الإجابه صحیحه فی وقت سابق لکنها لم تعد محدثه، وتزداد أهمیه ذلک فی الأخبار والتکنولوجیا والأسواق والقوانین والانتخابات والمنتجات، حیث تتغیر المعلومات بسرعه.
وتوضح أوبن إیه آی أن النماذج لا تتضمن تلقائیا الأحداث التی وقعت بعد نقطه البیانات التی تدربت علیها، ما لم تستخدم أدوات توفر معلومات أحدث، لذلک یجب عند التعامل مع موضوع حدیث تحدید تاریخ المعلومات، ثم الرجوع إلى مصادر محدثه أو استخدام البحث على الویب عندما یکون متاحا.
6. أعد صیاغه السؤال واختبر الإجابه
من الطرق العملیه أیضا طرح السؤال مره أخرى بصیاغه مختلفه، أو مطالبه النموذج بتحدید درجه عدم الیقین والتمییز بین الحقائق والاستنتاجات. ویمکن کذلک طلب الأدله التی یستند إلیها کل ادعاء، ثم اختبارها خارجیا.
هذه الطریقه لا تجعل النموذج حکما على نفسه، لکنها تساعد فی کشف التناقضات، وقد أظهرت اختبارات بحثیه أن النماذج یمکن أن تقدم إجابات مختلفه وخاطئه بثقه، وأن الامتناع عن الإجابه عند عدم الیقین قد یکون أفضل من التخمین.
7. استخدم أدوات التحقق المناسبه لنوع المحتوى
لا تحتاج کل معلومه إلى الطریقه نفسها للتحقق، ففی الحسابات یمکن استخدام آله حاسبه أو أداه تحلیل بیانات، وفی المعلومات العلمیه الرجوع إلى الأوراق الأصلیه وقواعد البیانات المتخصصه، وفی الصور والفیدیوهات یمکن فحص المصدر وبیانات المحتوى أو أدوات إثبات المنشأ.
وتوفر بعض الأدوات الحدیثه مؤشرات تساعد على معرفه مصدر المحتوى الرقمی، فمثلا تستخدم غوغل تقنیات مثل معرف الترکیب (SynthID) وبیانات اعتماد المحتوى (Content Credentials) للتحقق من إشارات مرتبطه بمحتوى أنشأته أو عدلته نماذج الذکاء الاصطناعی، بینما توفر أوبن إیه آی أداه لفحص بعض إشارات منشأ الصور والملفات الصوتیه. لکن غیاب هذه الإشارات لا یعنی تلقائیا أن المحتوى حقیقی أو غیر مولد بالذکاء الاصطناعی.
لا تعنی الإجابه الواثقه التی یقدمها الذکاء الاصطناعی أنها صحیحه بالضروره (أسوشیتد برس) التحقق مسؤولیه المستخدم
القاعده الأهم هی التعامل مع الذکاء الاصطناعی باعتباره مساعدا فی البحث، ولیس مرجعا نهائیا للحقیقه، فالنموذج یستطیع اختصار الوقت، واقتراح الأفکار والکلمات المفتاحیه والمصادر المحتمله، لکنه قد یخطئ حتى عندما تکون إجابته مقنعه.
لذلک یصبح التحقق أکثر أهمیه کلما ارتفعت خطوره المعلومه، فالخطأ فی معلومه ترفیهیه یختلف عن خطأ فی نصیحه طبیه أو رقم مالی أو معلومه قانونیه أو قرار مهنی.
ویؤکد المعهد الوطنی الأمریکی للمعاییر والتکنولوجیا أن مخاطر المخرجات المختلقه تزداد عندما یعتمد الناس علیها فی قرارات ذات آثار حقیقیه.
وبذلک لا یتعلق التعامل الآمن مع الذکاء الاصطناعی برفض مخرجاته أو تصدیقها بالکامل، بل ببناء عاده بسیطه، وهی اسأل، ثم افحص، ثم قارن، ثم ارجع إلى المصدر الأصلی قبل أن تثق بالمعلومه أو تنشرها.
فالإجابه التی تبدو ذکیه ومقنعه لیست بالضروره إجابه صحیحه، والتحقق البشری یظل الحلقه الأساسیه بین قدره النماذج على إنتاج المعلومات وبین الاعتماد علیها فی العالم الحقیقی.
المصدر: الجزیره + وکالات