وکاله آریا للأنباء - الأطباء یرون أن الخطر الأکبر فی نصائح الذکاء الاصطناعی الطبیه هی أنها خفیه عنهم (شترستوک)
تحمل أدوات الذکاء الاصطناعی الحدیثه مخاطر عدیده فی مختلف القطاعات، ولکن قله من هذه المخاطر تهدد حیاه المستخدم بشکل مباشر وفوری مثل الاستخدام الطبی الخاطئ، وهو الذی انتشر بکثره بین مستخدمی تطبیقات الذکاء الاصطناعی.
ولا یقتصر الخطر الذی یمثله الاستخدام الطبی الشخصی لنماذج الذکاء الاصطناعی على النصیحه الخاطئه فقط أو استخدام الأدویه بشکل خاطئ، ولکنه یمتد إلى أن النصیحه التی یسدیها للمستخدمین تظل خفیه عن الأطباء الذین یحاولون علاج المریض بسبب سیاسه الخصوصیه الموجوده فی نماذج الذکاء الاصطناعی والتی تحتفظ بسجلات المحادثه بعیدا عن أیدی الأطباء.
قصص مقترحه
list of 2 items وتحذر دراسه جدیده شارک فیها باحثون من جامعات بینغهامتون وستانفورد وتکساس إیه آند إم وجامعه إندیانا، ونشرت فی مجله "نیتشر هیلث" (Nature Health)، من أن خطر عدم قدره الأطباء على الوصول إلى النصائح التی یقدمها نموذج الذکاء الاصطناعی إلى المستخدمین، أکبر من کون النصائح خاطئه فی حد ذاتها، وفق تقریر نشره موقع "دیجیتال تریندز" التقنی الأمریکی.
نصائح طبیه دون سجلات
وتشیر الدراسه إلى مجموعه متنوعه من المخاطر التی تحملها نصائح الذکاء الاصطناعی الطبیه، بدءا من احتمالیه کون المعلومات خاطئه طبیا أو حتى موجهه بالاعتماد على آلیات حقن الأوامر المختلفه.
ولکن أخطرها على الإطلاق هو أن هذه النصائح تکون خفیه ولا یمکن لأحد أن یراها باستثناء المستخدم والشرکه، وهو ما قد یعیق عمل الأطباء فی إنقاذ المریض إذا ازدادت حالته سوءا، وفق تقریر نشرته صحیفه إندبندنت البریطانیه.
رجل یبلغ من العمر 60 عاما أصیب بتسمم البرومید لأنه استمع لنصیحه "شات جی بی تی" (فری بیک) وتضرب الدراسه مثلا بحاله رجل یبلغ من العمر 60 عاما طلب من "شات جی بی تی" طریقه مناسبه لإزاله الکلورید من طعامه وحمیته الیومیه، لیقترح علیه النموذج استخدام برومید الصودیوم بدلا من ملح الطعام التقلیدی، وبالتالی أصیب الرجل بتسمم البرومید ما جعله یعانی من هلوسات وشکوک مرضیه لینتهی به الأمر فی المستشفى لتلقی العلاج المناسب.
ولکن، لأن النصائح جاءت من حساب "شات جی بی تی" الخاص به، لم یستطع الأطباء الاطلاع علیها والبدء فی علاج تسمم البرومید مباشره، وهو ما أطال فتره العلاج فی محاوله الأطباء العثور على السبب الحقیقی.
وإذا اطلع الأطباء على محادثات المریض مع "شات جی بی تی"، لتمکنوا وقتها من اکتشاف سبب مرضه وبدؤوا فی العلاج مباشره، وفی بعض الحالات قد تزید سرعه العلاج هذه من احتمالیه إنقاذ حیاه المریض ونجاته.
معلومات خاطئه دون استخدام النماذج
وتشیر الدراسه أیضا إلى آلیه أخرى لنشر المعلومات الطبیه الخاطئه باستخدام أدوات الذکاء الاصطناعی، وذلک دون أن یتجه المستخدم إلى إحدى الأدوات أو یطلب منها المساعده.
ویعود السبب فی ذلک إلى أن غالبیه منصات التواصل الاجتماعی الآن تعرض ملخصات للمنشورات باستخدام نماذج الذکاء الاصطناعی، فضلا عن عرض ترجمه معززه بالذکاء الاصطناعی لبعض المنشورات ومقاطع الفیدیو مثلما یحدث فی فیسبوک أو یوتیوب.
وهذه الترجمه إن لم یراجعها مختصون بالترجمه الطبیه، قد تحمل معلومات خاطئه قامت نماذج الذکاء الاصطناعی بتولیدها.
وفی بعض الحالات، قد لا یکتشف المستخدم أو المراجع أن نموذج الذکاء الاصطناعی قد أخطأ فی بعض المعلومات الطبیه إلا بعد فوات الأوان، وهو ما یمثل خطرا أکبر على الحیاه.
حلول متنوعه
واقترحت الدراسه أن تطور شرکات الذکاء الاصطناعی آلیه تجعل الوصول إلى المحادثات التی تضم معلومات طبیه ممکنا لغیر المستخدم ودون الرجوع للشرکه فی الأساس.
وتضمنت الاقتراحات أیضا تطویر آلیه اکتشاف مبکره تکتشف النصائح الطبیه الخاطئه وتبلغ الجهات المختصه بها وتحذر المستخدم من اتباعها.
کما وجهت طلبا إلى السلطات التشریعیه فی مختلف البلدان لتوسیع رقعه قانون الممارسات الطبیه الخاطئه لیشمل أدوات الذکاء الاصطناعی التی تقدم نصائح طبیه خاطئه.
المصدر: الجزیره + وکالات