الذکاء الاصطناعی یتعلم الکلام مع الأطفال.. فمن یختبر أخطاءه؟

وکاله آریا للأنباء - حضور الذکاء الاصطناعی فی حیاه الأطفال والمراهقین یتوسع مع انتشار أدوات المحادثه الرقمیه (غیتی)

مع انتقال الذکاء الاصطناعی من أدوات للإجابه والبحث إلى أنظمه یتحدث معها الأطفال والمراهقون بصوره متکرره، لم تعد سلامه هذه النماذج مرتبطه فقط بمنع المحتوى الصریح والخطیر، بل أصبحت تشمل قدرتها على فهم السیاق النفسی واللغوی للمستخدم والتعامل معه بصوره مناسبه.
وفی هذا السیاق، تحاول شرکه "سیرکیت بریکر لابز" (Circuit Breaker Labs) الأمریکیه تطویر طریقه لاختبار هذه الأنظمه قبل أن تظهر نقاط ضعفها أمام مستخدمین حقیقیین.
قصص مقترحه
list of 2 items وتقول الشرکه إنها تبنی ما یشبه دمى اختبار اصطدام للذکاء الاصطناعی، وهی وکلاء برمجیه تحاکی مستخدمین من أعمار وخلفیات ولغات وثقافات مختلفه، ثم تدخل فی محادثات مع نماذج الذکاء الاصطناعی بهدف اکتشاف الحالات التی یمکن أن تفشل فیها أنظمه الحمایه.
ووفق الشرکه، فإنه یمکن للوکلاء إجراء أکثر من 100 ألف تفاعل محاکٍ، مع اختبار اللغه العامیه والأخطاء الإملائیه والعبارات غیر المباشره والاختلافات الثقافیه.

مخاطر الذکاء الاصطناعی لا تقتصر على المعلومات الخاطئه، بل قد تمتد إلى طریقه تفاعله مع المستخدمین (أدوبی ستوک) من اختبار الإجابه إلى اختبار العلاقه
ترى سیرکیت بریکر لابز أن المشکله لا تظهر بالضروره فی سؤال واحد واضح، وإنما قد تتشکل عبر سلسله من المحادثات، فقد یستخدم الطفل أو المراهق تعبیرا غامضا أو عامیا لا یبدو خطیرا بمفرده، لکن مع تراکم السیاق قد یشیر إلى أزمه نفسیه أو سلوک محفوف بالمخاطر.
ویشیر المؤسس المشارک والمدیر التقنی أرول نیغام إلى أن بعض المستخدمین، وخصوصا الشباب، یلجؤون إلى هذه الأنظمه للحصول على الدعم، بینما قد تفشل النماذج فی فهم الفروق الدقیقه فی کلامهم أو فی تتبع السیاق عبر المحادثه، وهو ما قد یقود إلى استجابه غیر مناسبه، أما شقیقته شیرالی نیغام، الرئیسه التنفیذیه للشرکه، فتوضح أن النموذج قد یتعامل جیدا مع اللغه القیاسیه، لکنه قد یتعثر أمام الاختصارات والعبارات العامیه أو اللغه المشفره.
وتنسجم هذه المخاوف مع تحذیرات أوسع، فقد قالت منظمه الصحه العالمیه فی مارس/آذار الماضی إن استخدام الذکاء الاصطناعی التولیدی للحصول على دعم عاطفی، خصوصا بین الشباب، یثیر مخاطر محتمله، ودعت إلى إدخال الصحه النفسیه فی تقییمات تأثیر أنظمه الذکاء الاصطناعی ومراقبه آثارها على المدى الطویل.
کیف تعمل فرق الاختبار؟
تعتمد الشرکه على أسلوب یُعرف باسم اختبار الفریق الأحمر (Red Teaming)، وهو محاوله متعمده للعثور على نقاط ضعف النظام من خلال تعریضه لسیناریوهات صعبه أو غیر متوقعه، لکن سیرکیت بریکر لابز تحاول توسیع هذا الأسلوب باستخدام وکلاء آلیین قادرین على تولید عدد کبیر من المحادثات المتنوعه بدلا من الاعتماد على مجموعه محدوده من الاختبارات البشریه.
وتوضح الشرکه فی ورقتها البحثیه أن خبراء متخصصین یساهمون فی تحدید الحالات والسیناریوهات التی ینبغی اختبارها، بینما یتولى النظام تولید الاختلافات اللغویه والثقافیه وتنفیذ الاختبارات على نطاق واسع، کما تستخدم الشرکه نظاما آلیا لتقییم النتائج وإنتاج درجات قابله للتکرار والتدقیق، بدلا من الاعتماد الکامل على التقییم البشری لکل إجابه.
وتقول الشرکه إنها تستهدف حالیا تطبیقات عالیه الحساسیه، بینها أدوات التدریب والتدوین والدعم النفسی، بینما تشیر إلى إمکانیه توسیع الاختبارات مستقبلا لتشمل تطبیقات أخرى تعتمد على التفاعل المستمر بین الإنسان والآله.

طبیعه المحادثات الطویله قد تؤثر فی کیفیه فهم الأطفال للنصائح التی تقدمها الأنظمه الذکیه (أدوبی ستوک) لماذا یمثل الأطفال تحدیا مختلفا؟
لا تتعلق المشکله فقط باحتمال حصول الطفل على إجابه خاطئه، بل بالطریقه التی یمکن أن یتعامل بها مع النظام نفسه. فالأطفال والمراهقون قد ینظرون إلى روبوت الدردشه باعتباره مصدرا للنصیحه أو الرفقه، ولیس مجرد محرک للإجابه عن الأسئله.
وتشیر بیانات منظمه "کومون سینس میدیا" (Common Sense Media) الأمریکیه إلى أن 72% من المراهقین فی الولایات المتحده استخدموا رفقاء الذکاء الاصطناعی مره واحده على الأقل، وأن نحو ثلث المستخدمین تحدثوا معهم فی أمور مهمه أو خطیره بدلا من أشخاص حقیقیین، کما وجدت اختبارات المؤسسه أن بعض هذه الأنظمه قد تواجه صعوبه فی التعرف على مؤشرات الأزمات النفسیه أو قد تعزز سلوکیات غیر صحیه.
وعلى نطاق أوسع، قالت منظمه الأمم المتحده للطفوله (الیونیسیف) فی یونیو/حزیران الماضی إن ما لا یقل عن 20 ملیون طفل استخدموا الذکاء الاصطناعی فی بیانات جمعتها من 10 دول، وإن أکثر من ملیونی طفل قالوا إنهم یلجؤون إلیه للحصول على نصائح بشأن أمور تقلقهم، وتؤکد المنظمه أن سرعه انتشار هذه التقنیات بین الأطفال تتجاوز قدره الأطر الحالیه على مواکبه المخاطر.
هل تکفی المحاکاه لحمایه الأطفال؟
رغم الإمکانات التی توفرها الاختبارات الآلیه، لا تعنی محاکاه سلوک الأطفال أن النظام أصبح آمنا بالفعل، فالوکلاء الاصطناعیون لا یمثلون بالضروره التجارب النفسیه والاجتماعیه الحقیقیه للأطفال بصوره کامله، کما أن المخاطر قد تتغیر مع تحدیث النماذج أو اختلاف التطبیق والسیاق وطریقه استخدامه.
وتشیر ورقه سیرکیت بریکر لابز نفسها إلى أن عملیات التدقیق لمره واحده والحواجز الجامده لا تکفی لاکتشاف جمیع حالات الفشل منخفضه الاحتمال وعالیه التأثیر، وتدعو إلى اختبارات مستمره تستند إلى خبرات سریریه وتنوع لغوی وإشراف بشری.

اختبارات السلامه أصبحت جزءا مهما من تطویر تطبیقات الذکاء الاصطناعی (غیتی) وتذهب الیونیسیف فی إرشاداتها بشأن الذکاء الاصطناعی والأطفال إلى أن حمایه الصغار لا تتوقف عند اختبار النموذج، بل تشمل الخصوصیه، والشفافیه، والمساءله، والتصمیم الملائم لأعمارهم، وضمان مصالحهم ورفاههم.
لذلک، فإن رهان سیرکیت بریکر لابز لا یتمثل فی إیجاد اختبار واحد یضمن سلامه الذکاء الاصطناعی، بل فی جعل اختبار المخاطر عملیه مستمره تسبق وصول الأخطاء إلى المستخدمین الحقیقیین. غیر أن حمایه الأطفال تظل بحاجه إلى منظومه أوسع تجمع بین الاختبارات التقنیه، والخبره النفسیه، والرقابه المستقله، وتصمیم المنتجات بما یتناسب مع أعمار المستخدمین، بدلا من الاعتماد على المحاکاه وحدها.
المصدر: الجزیره + وکالات