وکاله آریا للأنباء - لم تعد المسأله متعلقه بما إذا کانت الآله تشعر بالعاطفه، بقدر ما تتعلق بما إذا کان السیاق العاطفی قادرا على تغییر أفعالها (بیکسل)
لطالما کانت العاطفه أحد العوامل التی تؤثر فی قرارات الإنسان، فیما ارتبطت الآله بصوره النظام الذی لا تحکمه الانفعالات، فالإنسان قد یشتری ما لا یحتاجه لأنه قلق، أو یتخذ قرارا متسرعا لأنه غاضب، أو یرى العالم من زاویه مختلفه عندما یکون تحت الضغط. أما الآله، فکان یفترض أن تظل بمنأى عن هذه التقلبات، وألا ینتقل أثر یوم سیئ إلى قرار تتخذه.
لکن الحدود بین الاثنین بدأت تصبح أقل وضوحا، فالآله لا تحتاج إلى قلب ینبض حتى یتغیر سلوکها تحت تأثیر السیاق العاطفی. یکفی أن تتلقى إشارات عن الضغط أو القلق، أو أن تبنی صوره عن الشخص الذی تتصرف نیابه عنه، حتى یتغیر ما تفعله. القرار قد یبقى أمامها بالخیارات نفسها، والمهمه قد تبقى هی نفسها، لکن الطریق الذی تسلکه للوصول إلى القرار یمکن أن یتغیر.
قصص مقترحه
list of 2 items وتصبح هذه المفارقه أکثر أهمیه مع انتقال الذکاء الاصطناعی من مرحله الإجابه إلى مرحله الفعل، ومن نموذج یقترح علیک ما تشتری، إلى وکیل یشتریه، ومن أداه تنفذ تعلیماتکَ، إلى وکیل یحاول أن یتصرف بالطریقه التی یعتقد أنک کنت ستتصرف بها.
فی هذه المنطقه تحدیدا، لم تعد المسأله متعلقه بما إذا کانت الآله تشعر بالعاطفه، بقدر ما تتعلق بما إذا کان السیاق العاطفی قادرا على تغییر أفعالها.
تجربه تسوق أظهرت محاکاه أن تعریض وکلاء الذکاء الاصطناعی لسردیات تستحضر القلق دفعهم إلى اختیار سلال غذائیه أقل صحه، رغم بقاء المهمه وقیودها دون تغییر (بیکسابی) حین یصبح السیاق جزءا من القرار
هذه لیست مجرد استعاره عن آله تتصرف کالبشر، بل سلوک بدأ یظهر فی التجارب على نماذج الذکاء الاصطناعی، ففی دراسه حدیثه نشرت فی مجله "إن بی جیه الذکاء الاصطناعی" (npj Artificial Intelligence) التابعه لمجموعه "نیتشر" (nature)، اختبر باحثون کیف یمکن للسیاق العاطفی المحیط بالمهمه أن یغیر سلوک وکلاء الذکاء الاصطناعی، إذ وضع الباحثون هؤلاء الوکلاء أمام مهمه تسوق فی بیئه تجزئه محاکاه، طُلب منهم خلالها اختیار مواد غذائیه ضمن میزانیه محدده.
بعد تنفیذ المهمه فی سیاق محدد، أعیدت التجربه بعد تعریض الوکلاء لسردیات شخصیه صُممت لاستحضار حاله من القلق، من دون تغییر المهمه الأساسیه أو قیودها. وأجریت الدراسه عبر ثلاثه نماذج للغه بإجمالی 2250 تجربه. وعندما تغیر السیاق، اتجهت السلال التی کونوها إلى خیارات غذائیه أقل صحه مقارنه بالحاله المحایده، وهو ما ظهر بصوره متسقه عبر النماذج التی اختبرتها الدراسه.
بهذا المعنى، لم یظهر أثر السیاق العاطفی فی الکلمات التی استخدمها الوکیل فحسب، بل امتد إلى القرار الذی أخذه داخل بیئه التسوق. وتتعامل الدراسه مع هذا بوصفه تغیرا سلوکیا مُرتبطا بالسیاق، لا دلیلا على أن النموذج اختبر القلق أو شعر به بالمعنى الإنسانی.
حین لا تکفی التعلیمات
إذا کان السیاق العاطفی قادرا على تغییر سلوک الوکیل، فإن المسأله تصبح أکثر تعقیدا عندما یکون السیاق متعلقا بالشخص الذی یفترض أن یتصرف النظام نیابه عنه. فالوکلاء لا یعملون بالضروره وفق التعلیمات بمعزل عن السیاق المحیط بها، بل یتزاید اعتمادهم على المعلومات الشخصیه التی تساعدهم على فهم ما یریده المستخدم واتخاذ القرارات بالنیابه عنه.
وهذا التحول واضح فی أنظمه استخدام الحاسوب التی تتیح للوکلاء تنفیذ أفعال مباشره، مثل فتح صفحات الویب، وتسجیل الدخول إلى البرید الإلکترونی. وبحسب بهادا یون، الباحث فی التفاعل بین الإنسان والذکاء الاصطناعی وطالب الدکتوراه فی المعهد الفیدرالی السویسری للتکنولوجیا فی زیورخ (ETH Zurich)، فإن منح الوکیل هذه الدرجه من الاستقلالیه یفترض أن یمتلک قدرا من المعرفه بقیم المستخدم وسیاقه الشخصی، وإلا فقد ینتهی به الأمر إلى تمثیله بصوره غیر صحیحه.
ولا تأتی هذه المعرفه بالضروره فی صوره معلومات یکتبها المستخدم للوکیل بصوره مباشره، ویلفت یون فی هذا السیاق إلى مفهوم "التعلم ضمن السیاق" (In-Context learning)، حیث یستطیع النموذج استخدام المعلومات المتاحه أمامه لفهم المطلوب وتحدید الطریقه المناسبه لإنجاز المهمه. لکن السیاق، بحسبه، "لیس بالضروره أن یکون مقصودا أو مباشرا".
وهذا یفتح الباب أمام نوع آخر من المعرفه، وهی تلک المعلومات التی یستنتجها النظام بدلا من أن یتلقاها صراحه. ویشیر یون، فی حدیثه للجزیره نت، إلى أبحاث أظهرت قدره نماذج اللغه الکبیره على استنتاج معلومات شخصیه ضمنیه من منشورات المستخدمین، حتى عندما لا یصرح أصحابها بها مباشره.
وبذلک، فإن الصوره التی یبنیها الوکیل عن الشخص الذی یمثله قد لا تتکون فقط من التفضیلات التی اختار المستخدم مشارکتها، بل أیضا من أنماط الکتابه والمعلومات المتناثره والسیاق الذی یحیط بها. ولهذا یرى یون أن فهم الوکیل لقیم المستخدم وسیاقه الشخصی "یمکن أن یغیر بشکل جوهری القرارات التی یتخذها"، حتى عندما تکون تلک المعلومات ضمنیه أو مستنتجه من معلومات محدوده أو غامضه.
یون یرى أن امتلاک الوکیل معرفه بقیم المستخدم وسیاقه الشخصی أمر أساسی لاتخاذ قرارات تمثّله بصوره صحیحه، لکنه قد یستنتج هذه المعرفه من معلومات لم یشارکها المستخدم صراحه (حساب یون على لینکد إن) النموذج لیس الوکیل
لکن لفهم کیف یمکن لهذه المعلومات أن تدخل فی عملیه اتخاذ القرار، یرى یون ضروره التمییز بین نموذج اللغه وبین النظام الأوسع الذی یعمل بداخله. فنموذج اللغه یمکن النظر إلیه باعتباره نظاما یتنبأ بما یأتی بعد ذلک استنادا إلى السیاق، لکن الوکیل الذی یتصرف نیابه عن الإنسان یتکون من أکثر من النموذج نفسه.
ویشرح یون أن ما یسمى "هارنس" (Harness) یمثل الإطار أو البیئه التی یعمل فیها النموذج، بما یشمل مصادر البیانات وآلیات تحدیثها والذاکره وغیرها من المکونات. ومن هذه الزاویه یصبح نموذج اللغه مجرد جزء من منظومه أکبر، بینما توجد طبقه أخرى تحتفظ بالسیاق والمعلومات التی یمکن أن یعتمد علیها الوکیل عند اتخاذ قراراته.
وهذا التمییز مهم لأن التأثیر فی سلوک الوکیل قد لا یأتی من النموذج اللغوی وحده، وإنما من المعلومات التی تحیط به والذاکره التی یستطیع الوصول إلیها والأدوات التی یسمح له باستخدامها. کما أن جعل النظام یتقمص شخصیه مستخدم أو شخص ینتمی إلى سیاق معین یمکن أن یؤدی، بحسب یون، إلى تغیر واضح فی نوعیه الاستجابات والقیم التی یعبر عنها.
لکن هذا التأثیر لا یبقى بالضروره فی المنطقه المحایده، إذ یرى یون أن تغییر القرارات استنادا إلى فهم قیم المستخدم وسیاقه یمکن أن یُنظر إلیه أیضا باعتباره نوعا من انحیاز النموذج إذا حدث بطریقه سلبیه أو غیر متوقعه، ومن هنا تظهر مسأله الخصوصیه.
لکی یمثلک علیه أن یعرفک
بالنسبه إلى یون، فإن زیاده کمیه المعلومات المتاحه للوکیل، وتحسین نوعیتها ومصدرها، یمکن أن ترفع من قابلیه التنبؤ بسلوکه وموثوقیته، فالإنسان لا یحتاج شرح کل خلفیه طلبه لشخص یعرفه جیدا، إذ یمکن لسیاق مشترک أن یجعل عباره قصیره أو غامضه کافیه لفهم المقصود.
لکن هذه المیزه لها حدود. فالطریقه التی یتحدث بها الشخص مع نموذج لغوی لیست بالضروره الطریقه التی یرید التحدث بها مع أطفاله، أو مع مدیره، أو مع أشخاص آخرین فی حیاته. ولهذا یؤکد یون أن "المسأله تظل سیاقیه"، وأن امتلاک سجل طویل عن المستخدم قد یساعد الوکیل على فهمه بصوره أفضل، لکنه لا یعنی بالضروره أنه أصبح قادرا على تمثیله فی کل موقف.
فلیس المطلوب أن یعرف النظام ما یقوله المستخدم فقط، بل أن یفهم کیف یختلف سلوکه باختلاف الأشخاص والمواقف.
یون یرى أن الوکیل لا یتکون من نموذج اللغه وحده، بل من منظومه تشمل الذاکره ومصادر البیانات والأدوات التی یمکن أن تؤثر فی قراراته وتمثیله للمستخدم (بیکسل) تمثیل للإنسان أم اختزاله؟
کلما اقترب الوکیل من التصرف نیابه عن الإنسان، ازدادت حاجته إلى معرفه هذا الإنسان. ویرى یون أنه إذا امتلک النظام سجلا طویلا من المعلومات التی قدمها المستخدم، فقد یصبح قادرا، فی بعض المهام، على الاقتراب من الطریقه التی کان المستخدم نفسه سیتعامل بها مع المهمه.
أما إذا اقتصر الأمر على فتح "شات جی بی تی" أو "کلود" وطلب کتابه رساله برید إلکترونی نیابه عن المستخدم، فقد تکون النتیجه مختلفه. ویقول یون إن المستخدم قد ینتهی به إلى الظهور "مثل أی شخص آخر تقریبا" یستخدم الذکاء الاصطناعی لکتابه رسائله.
وهنا تظهر المفارقه، فإذا أردنا من الوکیل أن یمثلنا بأمانه، فلا بد أن نعطیه قدرا کبیرا من السیاق عنا. لکن کلما ازداد هذا السیاق، ازدادت کمیه التفاصیل الشخصیه التی یحتاج النظام إلى معرفتها والاحتفاظ بها.
ویختصر یون هذه المعضله فی سؤالین متلازمین: کیف یمکن توفیر السیاق الذی یحتاجه الوکیل بطریقه تحافظ على الخصوصیه؟ وکیف یمکن فعل ذلک من دون "تسطیح الفروق الدقیقه " فی شخصیه الإنسان؟ فالطریقه التی یتصرف بها الشخص فی موقف معین قد لا تکون الطریقه نفسها التی یتصرف بها فی موقف آخر، وهذه الفروق الدقیقه یصعب جمعها أو اختزالها فی مجموعه ثابته من البیانات.
ولهذا، لا یرى یون أن التحدی یقتصر على منح الوکلاء مزیدا من الاستقلالیه، بل یمتد إلى فهم حدود معرفتهم بالإنسان الذی یمثلونه، وکیف یمکن لهذه المعرفه أن تکون کافیه لجعل قراراتهم أکثر دقه، من دون أن تتحول إلى صور مبسطه أو ناقصه عن صاحبه.
حین تتدخل العاطفه فی الحکم
ولا یبدو أن تأثیر السیاق العاطفی یقتصر على قرارات الشراء. ففی دراسه بعنوان "هل تؤثر المشاعر فی الحکم الأخلاقی لنماذج اللغه الکبیره؟" (Do Emotions Influence Moral Judgment in Large Language Models)، نشرت ضمن "فایندینغ أوف إیه سی إل 2026" (Findings of ACL 2026)، اختبر الباحثون ما إذا کان إدخال مشاعر فی مواقف أخلاقیه یمکن أن یغیر الأحکام التی تصدرها نماذج اللغه الکبیره.
لیس المطلوب أن یعرف النظام ما یقوله المستخدم فقط، بل أن یفهم کیف یختلف سلوکه باختلاف الأشخاص والمواقف (بیکسابی) وأظهرت النتائج أن إدخال المشاعر أدى إلى تغیرات فی تقییم النماذج لمدى مقبولیه الأفعال، إذ ارتبطت المشاعر الإیجابیه بزیاده القبول الأخلاقی، بینما ارتبطت المشاعر السلبیه بانخفاضه. وفی بعض الحالات، کان التأثیر کافیا لقلب الحکم الأخلاقی الثنائی للنموذج، ووصل إلى 20% من الحالات.
کما وجدت الدراسه أن بعض المشاعر لم تتصرف بالطریقه التی یمکن توقعها من کونها إیجابیه أو سلبیه، إذ أدى الندم مثلا فی بعض الحالات إلى زیاده تقبل الفعل.
وتزداد أهمیه هذه النتیجه لأن الدراسه لم تجد لدى البشر التحولات المنهجیه نفسها التی ظهرت لدى النماذج، وهو ما وصفه الباحثون بأنه فجوه فی المحاذاه بین استجابات النماذج واستجابات البشر.
الشعور لیس هو المعیار
لکن تغیر سلوک النموذج تحت تأثیر سیاق عاطفی لا یحسم مسأله امتلاکه للعاطفه. ففی ورقه بحثیه حدیثه بعنوان "نماذج اللغه الکبیره لا تملک مشاعر" (Large language models do not have emotions)، نشرتها مجله "نیتشر هیومن بیهافیور" (Nature Human Behaviour)، یناقش الباحثون مسأله العواطف لدى نماذج اللغه الکبیره من منظور وظیفی، ویرون أن غیاب التجربه الشعوریه الواعیه لا یکفی وحده معیارا للحکم على وجود العاطفه، لأن العواطف تؤدی وظائف تتعلق بکیفیه تفسیر العالم والاستجابه له.
ومع ذلک فإن تغیر السلوک یظل أمرا یمکن رصده وقیاسه، بصرف النظر عن السؤال المتعلق بوجود تجربه شعوریه داخل النموذج. ففی تجربه التسوق، أدى تغییر السیاق إلى تغیر فی اختیارات الوکلاء، وفی دراسه الأحکام الأخلاقیه أدى إدخال حالات عاطفیه إلى تغیر فی أحکام النماذج.
ولا تثبت هذه النتائج أن النماذج اختبرت القلق أو الندم کما یختبرها الإنسان، لکنها تظهر أن السیاق العاطفی یمکن أن یدخل فی الطریقه التی تتخذ بها النماذج قراراتها.
بحث نشرته مجله "نیتشر هیومن بیهافیور" ناقش العواطف لدى نماذج اللغه من منظور وظیفی، مشیرا إلى أن غیاب التجربه الشعوریه الواعیه لا یکفی وحده للحکم على وجود العاطفه (بیکسابی) من الفهم إلى السلطه
کلما اتسعت قدره الوکیل على معرفه الإنسان، لم تعد خصوصیه البیانات وحدها هی القضیه. فالمعلومات التی یجمعها عن عاداتنا وتفضیلاتنا وحالاتنا النفسیه وتناقضاتنا قد تتحول إلى سیاق یدخل مباشره فی القرارات التی یتخذها نیابه عنا. وما یبدو الیوم وسیله لجعل الوکیل أکثر فهما للمستخدم، قد یتحول غدا إلى قدره على التنبؤ بما سیختاره، وربما التأثیر فی اختیاره.
وربما أکثر ما یثیر القلق أن الآله قد تعرف عنا أشیاء لم نقصد یوما أن نقولها، وربما أشیاء لم نکن نعرف أنها تکشفنا. ومع تراکم هذه المعرفه، تتحول المشکله من قدره الآله على محاکاه مشاعرنا، إلى قدرتها على قراءه دوافعنا ونقاط ضعفنا، ثم تحویل هذه المعرفه إلى أساس تتخذ علیه قرارات تمس حیاتنا. فالخطر لیس أن تصبح الآله شبیهه بالإنسان، بل أن تصبح بارعه إلى الحد الذی یجعلها تفهم الإنسان أکثر مما ینبغی.
المصدر: الجزیره