وکاله آریا للأنباء - أوبن إیه آی تعتمد على نظام لتقدیر ما إذا کان مستخدم شات جی بی تی دون 18 عاما بهدف تعزیز حمایه المراهقین (غیتی)
لا یحتاج الذکاء الاصطناعی إلى سؤال المستخدم عن عمره فی کل مره لتحدید التجربه المناسبه له، إذ بدأت أوبن إیه آی تعتمد نظاما لتقدیر ما إذا کان الحساب یعود إلى شخص دون 18 عاما، مستندا إلى مجموعه من المؤشرات المرتبطه بنشاط الحساب وطریقه استخدام الخدمه، ووفقا للشرکه، تهدف هذه الآلیه إلى تفعیل إجراءات حمایه إضافیه للمراهقین، حتى عندما یکون المستخدم قد أدخل تاریخ میلاده عند إنشاء الحساب.
ولا یعتمد النظام على إشاره واحده حاسمه، بل یجمع مؤشرات سلوکیه ومعلومات مرتبطه بالحساب لتقدیر الفئه العمریه المحتمله، وإذا رجح أن المستخدم قاصر، فقد ینقله تلقائیا إلى تجربه شات جی بی تی للمراهقین، والتی تتضمن قیودا إضافیه على بعض أنواع المحتوى والتفاعلات، مع الإبقاء على إمکانات التعلم والإبداع وطرح الأسئله.
تقدیر العمر لا یعتمد على مؤشر واحد حاسم، بل على مجموعه من الإشارات التی تساعد على تحدید الفئه العمریه المحتمله (الجزیره/مولده بالذکاء الاصطناعی) 5 إشارات یعتمد علیها النظام لتقدیر العمر
توضح أوبن إیه آی أن نظامها یستخدم مجموعه من المؤشرات، لکنها لا تنشر أوزانا تفصیلیه لکل مؤشر أو معادله حسابیه تحدد کیف تؤثر هذه الإشارات مجتمعه فی القرار. وبناء على المعلومات التی نشرتها الشرکه فی صفحه المساعده الرسمیه، یمکن تحدید 5 مؤشرات رئیسیه:
قصص مقترحه
list of 2 items الموضوعات العامه التی یناقشها المستخدم
تقول أوبن إیه آی إن النظام قد یأخذ فی الحسبان الموضوعات العامه التی یناقشها المستخدم مع شات جی بی تی، وتدخل هذه الموضوعات ضمن مجموعه من الإشارات التی تساعد على تقدیر الفئه العمریه، لکنها لا تعنی أن مناقشه موضوع معین تثبت أن صاحبه قاصر.
أوقات استخدام الخدمه
ینظر النظام إلى الأوقات المعتاده التی یکون فیها المستخدم نشطا، بما فی ذلک أوقات الیوم التی یلجأ فیها إلى الخدمه، وتقول الشرکه إن هذا المؤشر یستخدم ضمن مجموعه من الإشارات السلوکیه، من دون نشر تفاصیل توضح الأوقات التی قد ترجح عمرا معینا.
أنماط الاستخدام وتکراره بمرور الوقت
تشمل المؤشرات طریقه استخدام الحساب وتوقیت هذا الاستخدام والأنماط التی تظهر بمرور الوقت، ولا توضح الشرکه علنا کیف تفسر هذه الأنماط أو مقدار تأثیرها فی النتیجه النهائیه، لذلک لا یمکن الجزم بأن کثره الاستخدام أو قلته تکشف عمر المستخدم بمفردها.
عمر الحساب ومده إنشائه
تأخذ آلیه التقدیر فی الحسبان المده التی مضت منذ إنشاء الحساب، ویعد هذا مؤشرا مرتبطا بالحساب نفسه، ولیس دلیلا مباشرا على عمر صاحبه، فقد یکون الحساب حدیثا لشخص بالغ أو قدیما لمستخدم صغیر السن.
العمر الذی یذکره المستخدم
یدخل العمر الذی یصرح به المستخدم ضمن المؤشرات التی قد یعتمد علیها النظام، لکن تقدیر العمر یمثل فحصا إضافیا، ولا یتوقف بالضروره على تاریخ المیلاد المدخل عند إنشاء الحساب، إذ یمکن للنظام تصنیف الحساب ضمن فئه المراهقین حتى بعد إدخال تاریخ المیلاد.
ماذا یحدث عندما یقدر شات جی بی تی أن المستخدم دون 18 عاما؟
وفقا لصفحه المساعده الرسمیه لدى أوبن إیه آی، قد یفعل النظام تلقائیا تجربه شات جی بی تی للمراهقین عندما یقدر أن الحساب یعود إلى شخص دون 18 عاما ویکون مؤهلا لهذه التجربه، ویظل الحساب نشطا، مع تطبیق تدابیر حمایه إضافیه وقیود على بعض المحتویات والمیزات.
وتشمل أبرز التغییرات ما یلی:
الحد من المحتوى الحساس : تشدید الحمایه من مشاهد العنف الصریح وإیذاء النفس والتحدیات الخطره، والمحتوى الذی یروّج لمعاییر جمال متطرفه أو حمیات غذائیه غیر صحیه. تقیید بعض التفاعلات : التعامل بحذر أکبر مع لعب الأدوار ذی الطابع الجنسی أو الرومانسی أو العنیف، والحد من التفاعلات التی قد تشجع على الاعتماد العاطفی على الذکاء الاصطناعی. تعزیز أدوات الرقابه الأبویه : تتیح الأدوات المرتبطه بحساب المراهق للوالدین ضبط ساعات الهدوء، والتحکم فی بعض الإعدادات، وتلقی إشعارات فی حالات محدده تنطوی على مخاطر مرتفعه. ولا تمنح هذه الأدوات الوالدین حق الاطلاع على محادثات أبنائهم. توفیر تجربه ملائمه للتعلم : تتضمن تجربه المراهقین أدوات تساعد على فهم المواد الدراسیه وحل المسائل تدریجیا، إلى جانب تذکیرات تشجع على أخذ استراحات من الاستخدام. کما تشیر صفحه المساعده إلى أن الحسابات المؤهله لهذه التجربه لا تُعرض علیها إعلانات.
أوبن إیه آی تتیح للمستخدمین البالغین الذین صنفوا خطأ ضمن فئه المراهقین التحقق من أعمارهم لتصحیح التصنیف (رویترز) هل یمکن تصحیح التقدیر الخاطئ للعمر؟
تقر أوبن إیه آی بأن نظام التقدیر قد یخطئ أحیانا، فإذا کان المستخدم بالغا وصنف ضمن فئه المراهقین، یمکنه مراجعه فئته العمریه من خلال الإعدادات ثم الحساب ثم العمر، ثم التحقق من عمره إذا کان الخیار متاحا.
وتستخدم الشرکه خدمه بیرسونا (Persona) للتحقق من العمر، وقد تطلب صوره شخصیه مباشره أو وثیقه هویه حکومیه بحسب البلد، وتوضح الشرکه أنها لا تتلقى صوره الهویه أو الصوره الشخصیه نفسها، بل المعلومات اللازمه لتحدید التجربه المناسبه، مثل تاریخ المیلاد أو تأکید أن المستخدم بلغ 18 عاما. وتقول بیرسونا إنها تحذف صوره الهویه أو الصوره الشخصیه المرفوعه خلال سبعه أیام من إتمام التحقق.
بین الحمایه والخصوصیه
تکشف آلیه تقدیر العمر عن توجه نحو تطبیق إجراءات حمایه تتناسب مع الفئه العمریه بدل الاعتماد حصریا على تاریخ المیلاد الذی یقدمه المستخدم، لکن فعالیتها ترتبط بمدى دقه المؤشرات المستخدمه وقدره النظام على تجنب التصنیف الخاطئ.
ولا تنشر أوبن إیه آی الأوزان التفصیلیه لهذه المؤشرات أو نسبه دقه النظام، ما یجعل من غیر الممکن تحدید مدى تأثیر کل إشاره على حده. وتقول الشرکه إنها تواصل تحسین آلیه التقدیر، فیما تظل الموازنه بین حمایه المراهقین واحترام خصوصیه المستخدمین ودقه تصنیفهم من أبرز التحدیات التی تواجه هذا النوع من الأنظمه.
المصدر: الجزیره + وکالات