وکاله آریا للأنباء - الإجراءات الجدیده تشمل أدوات للرقابه الأبویه تساعد العائلات على إداره تجربه استخدام الأبناء للذکاء الاصطناعی (شترستوک)
أعلنت شرکه أوبن إیه آی عن مجموعه جدیده من الإجراءات الأمنیه داخل شات جی بی تی بهدف جعل استخدام المراهقین للذکاء الاصطناعی أکثر أمانا، عبر إضافه أدوات للرقابه الأبویه، وتحسین آلیات اکتشاف عمر المستخدم، وتخصیص تجربه الاستخدام لمن هم دون 18 عاما.
وتأتی هذه الخطوات فی ظل تزاید الجدل العالمی حول تأثیر روبوتات الدردشه المدعومه بالذکاء الاصطناعی على الأطفال والمراهقین، خصوصا فیما یتعلق بالمحتوى غیر المناسب، والاعتماد العاطفی على روبوتات المحادثه، ومخاطر التعامل مع حالات الأزمات النفسیه.
التحدیثات تتضمن فرض ضوابط إضافیه على بعض أنواع المحتوى الحساس الذی قد لا یکون مناسبا للمستخدمین الأصغر سنا (رویترز) نظام لتقدیر عمر المستخدم
تعمل أوبن إیه آی على تطویر أنظمه لتقدیر عمر مستخدم شات جی بی تی اعتمادا على إشارات مرتبطه بطریقه استخدام الحساب، وإن وُجد شک حول عمر المستخدم، یمکن تحویل الحساب إلى تجربه الحمایه الخاصه بمن هم دون 18 عاما.
اقرأ أیضا
list of 2 items list 1 of 2 الصین تؤسس منظمه عالمیه للذکاء الاصطناعی فی تحد جدید للهیمنه الأمریکیه list 2 of 2 من البرمجیات إلى الأجهزه.. "أوبن إیه آی" توسع أعمالها بلوحه مفاتیح ذکیه end of list کما أشارت الشرکه إلى أنها قد تطلب فی بعض الحالات وسائل تحقق إضافیه من العمر، معتبره أن ذلک یمثل توازنا بین حمایه القُصّر والحفاظ على خصوصیه المستخدمین البالغین.
أدوات رقابه للآباء
ویمکن للوالدین الآن تفعیل "وضع الدراسه" فی التطبیق عن بُعد، والذی یرشد الأبناء خلال حل المشکلات خطوه بخطوه بدلا من مجرد تولید الإجابات. وقد أعلنت أوبن إیه آی أنها استعانت بآراء التربویین وخبراء التعلیم لتصمیم النظام، بعد أن أعرب المعلمون عن قلقهم من أن استخدام الطلاب للذکاء الاصطناعی قد یعیق اکتسابهم مهارات التفکیر النقدی، ویجعلهم یعتمدون على هذه التقنیه بشکل مفرط.
وتستند المیزات الجدیده إلى نظام أطلقته الشرکه فی سبتمبر/أیلول الماضی، یُتیح للآباء ربط حساباتهم بحسابات أبنائهم لتحدید حدود زمنیه، وإیقاف خاصیه إنشاء الصور، وتنبیههم عند "وجود مشکله خطیره".
ومن بین الإجراءات الجدیده إرسال إشعارات محدوده للآباء فی حالات معینه ترى فیها الأنظمه أن المراهق قد یحتاج إلى دعم بالغ، مثل بعض الحالات المرتبطه بالسلوک العنیف أو المخاطر العاجله، مع التأکید على أن هذه التنبیهات لا تشمل المحادثات العادیه أو الأسئله التعلیمیه أو النقاشات العامه.
وسیتلقى الوالدان إشعارات إذا قامت أوبن إیه آی بتعطیل حساب طفلهم لسبب معین، غیر أنهم لن یتمکنوا من رؤیه محتوى المحادثات؛ وهو ما تُبرّره الشرکه بأنه حفاظ على خصوصیه المستخدم.
حمایه من المحتوى غیر المناسب
تتضمن تحدیثات شات جی بی تی للمستخدمین الأصغر سنا قیودا إضافیه على أنواع معینه من المحتوى، مع تصمیم الاستجابات بطریقه تتناسب مع الفئه العمریه للمستخدم، خصوصا فی الموضوعات الحساسه.
کما تعمل الشرکه على تعزیز مبادئ التعامل مع المستخدمین تحت سن 18 عاما ضمن قواعد تشغیل نماذج الذکاء الاصطناعی، بحیث تراعی السلامه والشفافیه والتعلیم الرقمی.
نظام التحقق من العمر والرقابه الأبویه یثیر نقاشات حول التوازن بین حمایه القُصّر واحترام الخصوصیه (شترستوک) لماذا تتحرک شرکات الذکاء الاصطناعی الآن؟
تواجه شرکات الذکاء الاصطناعی ضغوطا متزایده من جهات تنظیمیه وأسر ومنظمات حمایه الأطفال لوضع قواعد أکثر وضوحا لاستخدام المراهقین للروبوتات الذکیه، وتترکز المخاوف حول قدره هذه الأنظمه على تقدیم إجابات قد تکون غیر مناسبه أو التأثیر فی المستخدمین الأصغر سنا بطریقه غیر مقصوده.
وتقول أوبن إیه آی إن الهدف لیس منع المراهقین من استخدام الذکاء الاصطناعی، بل توفیر تجربه أکثر أمانا تساعدهم على التعلم والبحث والإبداع مع تقلیل المخاطر المحتمله.
تحدیات الخصوصیه
رغم أهمیه هذه الخطوات، تظل أنظمه التحقق من العمر والرقابه الأبویه محل نقاش واسع، إذ یخشى بعض المدافعین عن الخصوصیه من أن تؤدی إجراءات التحقق الصارمه إلى جمع بیانات حساسه عن المستخدمین.
ویرى خبراء أن التحدی الأساسی أمام شرکات الذکاء الاصطناعی یتمثل فی تحقیق توازن بین حمایه الأطفال، وعدم تحویل أدوات السلامه إلى آلیات مراقبه واسعه تؤثر فی خصوصیه المستخدمین.
المصدر: الجزیره + وکالات