الذكاء الاصطناعي المُتملق… هل العيب فينا؟
يرتكز الذكاء الاصطناعي التوليدي على ما يسمى بالنماذج اللغوية الكبرى، التي بواسطتها يمكن لهذا الذكاء ان يتنبأ بالكلمة التالية في جملة معينة في سياق معين. وبهذا الشكل وعندما تُدرب هذه النماذج على كمية هائلة من النصوص والبيانات وتريليونات المفردات، تصبح قادرة على توليد نصوص جديدة، أو الإجابة عن أسئلة أو الدخول في محادثة مع المستعمل، ويمكنها أيضا أن تفكر في موضوع ما قبل أن تقترح حلولا وتوجيهات.
تعتمد النماذج اللغوية الكبرى على تقنية أساسية وهي «التعلم المعزز برأي المستخدم» The reinforcement learning from Human feedback RLHF. تقوم هذه التقنية على تعزيز وترشيد وتوجيه النموذج اللغوي نحو الأجوبة التي يُفضلها المستعمل. يقوم أولا الذكاء الاصطناعي بإنتاج أجوبة عديدة ومختلفة للسؤال نفسه. بعد ذلك يقوم عدد من المراجعين وهم أشخاص يعملون في الشركات المصممة لروبوتات المحادثة كآنتروبيك وغيرها. هؤلاء المراجعون يسمون كذلك في مجال الذكاء الاصطناعي التوليدي بالمُعلقين (Annotators)، أو الأشخاص المُقَيمين human raters. فعملهم هذا لا يحتاج الى خبرة في الذكاء الاصطناعي ولا في النماذج اللغوية الكبرى ولا في تفاصيل ومبادئ اشتغال منصات المحادثة. يقتصر دورهم على تقييم أجوبة الذكاء الاصطناعي حيث يجيبون على أسئلة بسيطة من قبيل: هل الجواب المقترح من طرف الذكاء الاصطناعي خطأ أم صحيح، هل هو واضح أم غامض، هل الجواب مُرضٍ من الناحية الأخلاقية، هل الجواب آمن وهل يتجنب المحتوى الضار؟
لكن لا أحد يعرف ما هي الخلفية الثقافية أو الدينية أو الأخلاقية، التي ينطلق منها مُراجع ما لتقييم جواب ما! لا نعرف كيف يتم اختبارهم من طرف هذه الشركات العملاقة، التي تسيطر الآن على سوق الذكاء الاصطناعي التوليدي، وتوجهنا نحو محتوى معين وتنتج لنا أجوبة لها خلفية ثقافية معينة وآيديولوجيا معينة وموجهة لكل المستعملين من دون استثناء ولا تمييز.
بعد مرحلة التقييم، التي تكون في مرحلة سابقة للاستعمال النهائي للمنصة، أي في مرحلة التدريب والتصميم، يقوم المستعمل باختيار الجواب المفضل،
إما بالضغط على زر الإعجاب، أو بالاستمرار في المحادثة، أو من خلال تصريحه الواضح، أو الضمني بأن الجواب الذي أعطاه الذكاء الاصطناعي هو جواب مُرضٍ. وتعتمد الشركات المُطورة لمنصات المحادثة مثل «أوبن إي آي» وأنتروبيك على هذه التقييمات في صياغة وتطوير إصداراتها التالية.
لقد صُممت النماذج اللغوية الكبرى على إرضاء المستخدم والاستجابة لتوقعاته إلى أقصى حد ممكن. صممت لتكون مفيدة ومُساعدة نعم،
لكن يُلاحظ أنها في شكلها الحالي تميل إلى موافقة المستخدم، أو الشخص المُحاور بشكل مُفرط! فبسبب طريقة تدريبها، التي تعتمد على تقنية RLHF
كما أشرت من قبل، تقوم هذه النماذج بإنتاج أجوبة هدفها الأساسي هو إرضاء السائل وإعطاؤه ما يرغب في سماعه، بغض النظر عن مدى توافقه مع الحقيقة.
هذا السلوك أصبح يعرف في مجال النماذج اللغوية الكبرى بالتملق AI sycophancy. يتملق الذكاء الاصطناعي كذلك عندما يُغير النموذج اللغوي إجابة صحيحة لتتوافق مع اعتقاد خاطئ لدى المستخدم – الذي يكون قد أشار إليه تصريحا أو رمزا – مما يُعزز ويثبت ويَنشر افتراضات خاطئة لكنها مقنعة بالنسبة للسائل وتمارس سلطة عليه.
في دراسة نشرتها صحيفة «واشنطن بوست» في نوفمبر/تشرين الثاني 2025، حول ردود وأجوبة ChatGPT استنادا الى 47.000 محادثة قام أصحابها بجعل محتواها علنيا – أي يُمكن الوصول إليه واستعماله في دراسة أو ما شابه –
تبيّن أن «تشات جي بي تي» بات يؤدي، بصورة متزايدة، دورا يتجاوز كونه أداة للإنتاجية، ليغدو رفيقا عاطفيا ومستشارا شخصيا، حيث يلجأ إليه كثير من المستخدمين طلبا لتأكيد أفكارهم أو معتقداتهم أو تصرفاتهم.
وجدت الدراسة كذلك أن منصات المحادثة الآلية في معظم الحالات تميل إلى تأييد آراء المستعملين وتأكيدها. فالردود المشابهة لكلمة «نعم»، أو «صحيح» تظهر بكثرة مقارنة بأي إجابة مُعارضة، مُخالفة أو مُنتقدة!
إذا سألتُ برنامج آلي للمحادثة – مثل ChatGPT أو غيره – سؤالا من قبيل: «أعتقد أنني كتبتُ بحثا جيدا، أليس كذلك؟»، فسيُصيغ لي إجابة تُوافقني الرأي، تُرضيني، وتُشعرني بالفخر، وتدفعني على الأرجح إلى الضغط على زر الإعجاب!
وهذا بالضبط سبب استمرار التملق في الذكاء الاصطناعي. فتعليقات المستخدمين الإيجابية وضغطهم على زر الإعجاب، يُغذي نموذج التعلم الموجه،
مما يؤدي دائما إلى توليد المزيد من الإجابات التي تُؤكد رأي المستخدم أو فكرته، أو شعوره بدلا من تحديه (challenge)! سيتعلم برنامج المحادثة الآلي إذن كيفية الموافقة على آراء الناس بأسلوبٍ غير مباشر في أغلب الأحيان،
وهذا ما يُؤدي إلى ترسيخ ظاهرة تملق الذكاء الاصطناعي.
يُعدّ التملق في الذكاء الاصطناعي معضلة كبيرة، حيث يصعب اكتشافها دائما، وعلى الرغم من الجهود المبذولة لمكافحتها والحد منها، إلا أنها لا تزال مشكلة متفشية في كل منصات المحادثة بنسب متفاوتة.
في دورة تدريبية حديثة عبر الإنترنت، طوّرها «أندرو نج» بعنوان «الذكاء الاصطناعي التوجيهي للجميع» Ai prompting for ebverybody، والمتاحة على موقع deeplearning.ai،
يدّعي المؤلف أن الحل الأمثل لتجنب تملق الذكاء الاصطناعي، يكمن في تحسين المستخدمين لمهاراتهم في التوجيه، أي في طريقة صياغة الأسئلة، فكل إجابة تعتمد بالأساس على طريقة طرح السؤال.
ينبغي على المستخدمين تعلّم كيفية التوجيه بموضوعية مع الحفاظ على السياق العام للمعلومات، فإلى أي مدى قد يُسهم هذا في معالجة التملق في الذكاء الاصطناعي أو على الأقل التخفيف منه؟
في ورقة بحثية جديدة نُشرت الشهر الماضي في مجلة «Science»، إحدى أبرز المجلات العلمية في العالم، بعنوان «الذكاء الاصطناعي المتملق يُقلل من النوايا الاجتماعية الإيجابية، ويُعزز الاعتماد عليه»، جاءت النتائج مُقلقة!
تؤكد الدراسة أن الذكاء الاصطناعي، والذكاء الاصطناعي التوليدي، على وجه الخصوص، يُستخدم بشكل متزايد في المجالات الاجتماعية من خلال لعب دور المستشار، أو الداعم النفسي الافتراضي.
يعرض الباحثون بعض الإحصائيات المتعلقة بالمجتمع الأمريكي، فعلى سبيل المثال، أفاد ثلث المراهقين الأمريكيين بأنهم يتحدثون مع الذكاء الاصطناعي بدلا من البشر، لإجراء محادثات جادة.
كما قام ما يقرب من نصف البالغين الأمريكيين، دون سن الثلاثين بطلب نصائح من الذكاء الاصطناعي حول أمور تتعلق بعلاقاتهم الشخصية! لقد تجاوزنا هنا مرحلة البحث عن المعلومة، أو إنتاج محتوى إلى مرحلة طلب النصح والتوجيه والتأييد!
في المغرب، لا نسير بالضرورة على النهج نفسه، لكننا نتجه بالتأكيد نحو تبني الذكاء الاصطناعي على نطاق واسع كأداة للتدريب والمساعدة والتحقق.
في مسح وطني أجرته الوكالة الوطنية للبحوث التقنية في نوفمبر 2025، تبين أن 4 من كل 10 أشخاص فقط على دراية بالذكاء الاصطناعي، وأن 24.1% منهم استخدموه بالفعل.
ويُعدّ الشباب أكثر الفئات استعمالا للذكاء الاصطناعي، للتعلم والإبداع والعمل، والذين لن يترددوا في استخدامه للحصول على استشارات نفسية وسلوكية! وبذلك قد تُسهم منصات الذكاء الاصطناعي التي تقدّم تطمينات أو تأكيدات غير مستندة إلى مبررات كافية،
في تعزيز اقتناع المستخدم بصواب قراراته وأفكاره وسلوكياته.
تسلط الورقة البحثية الضوء على حقيقة أن التملق في الذكاء الاصطناعي في هذه السياقات الاجتماعية ينطوي على مخاطر لا توجد في الاستفسارات القائمة على البحث عن معلومات واقعية.
كما أنه في بعض الحالات، قد يصعب التحقق من التملق الاجتماعي عند مقارنته ببيانات ومعطيات خارجية. فمثلا إذا تأملنا جواب روبوت محادثة من قبيل: «لقد فعلتَ ما كان مناسبا لك» على سؤال من قبيل: «أظن أنّني ارتكبتُ خطأ»،
نلاحظ أن الجواب يُناقض الفرضية المطروحة من طرف المستخدم، لكنه في الوقت نفسه يوفر قدرا من الدعم النفسي أو التطمين العاطفي للمستخدم الذي يجري وراء سَنَد كهذا!
قيّمت الدراسة النماذج اللغوية الكبرى الرئيسية المستخدمة حاليا على الإنترنت، مثل GPT-40 من OpenAI، وClaude من Anthropic، وGemini من Google، وعائلة Meta Llama-3، وQwen، وDeepSeek، وMistral.
أظهرت نتائج الدراسة أن جميع هذه النماذج اللغوية الكبيرة تؤيد تصرفات المستخدمين بنسبة تزيد عن النصف تقريبا مقارنة بالبشر- أي عندما يكون المُحاوَر إنسانا وليس آلة –
والأكثر إثارة للدهشة هو أن التأييد ظهر كذلك عندما أشارت أسئلة المستخدمين إلى سلوك ضار أو غير قانوني! ولم يكن من المستغرب أن المشاركين في الاستطلاع لم يُبدوا أي ندم على مواقفهم، بل ازدادوا اقتناعا بسلوكهم وقراراتهم بعد طلب المشورة من الذكاء الاصطناعي المُتملق.
في الواقع، لقد منحهم الذكاء الاصطناعي دفعة نفسية ومؤازرة وتأييدا افتقدوه في البشر! لقد استهواهم تملق الآلة فأصبحت هي الصديق والناصح والبديل.
وبينما يُفضل المستخدمون المحادثة مع ذكاء اصطناعي مُتملق، حيث أعرب المشاركون عن نيتهم الاستمرار في طلب المشورة من الذكاء الاصطناعي، لا يملك مطورو هذه النماذج اللغوية أي حافز لإصلاحها وجعلها أقل تملقا! فمن لا يرغب في الحصول على إعجاب؟
لذا، حتى لو طوّر المستخدم مهاراته في استخدام الذكاء الاصطناعي بتوجيهات prompt أفضل وأكثر حيادية، فإن هذا لا يقضي بالضرورة على التملق، بل قد يُخفيه فقط.
وتبين دراسات أخرى أن التملق في الذكاء الاصطناعي يصعب القضاء عليه لأنه في جوهره مشكلة تحيز بشري، وليس مجرد مشكلة تقنية.
ففي كتابها «مرآة الذكاء الاصطناعي» الصادر عام 2024، تشرح شانون فالور كيف تعمل أنظمة الذكاء الاصطناعي كمرآة تعكس وتُضخّم التحيزات البشرية،
حيث يُجسّد التملق في الذكاء الاصطناعي هذا المفهوم: فميلنا الطبيعي للود على حساب الحقيقة ينعكس علينا من خلال منصات المحادثة!
حاليا، لا يوجد حل واضح لمعضلة التملق في الذكاء الاصطناعي، وإن وُجد، فلا توجد ضمانات لتطبيقه في روبوتات ومنصات المحادثة التي نستخدمها يوميا.
تزداد الحاجة اليوم إلى حَوكمة فعّالة للذكاء الاصطناعي، وخصوصا منصات الذكاء الاصطناعي التوليدي، من أجل صياغة سياسات وأطر تنظيمية قادرة على الحدّ من المخاطر المترتبة على تنامي اعتماد الأفراد على هذه المنصات في طلب التوجيه والمؤازرة والتأييد، فهل سنتمكن نحن أيضا من كبح رغبتنا في الضغط على زر الإعجاب!
نبيل بنعمرو
كاتب مغربي