أظهر تحليل نُشر هذا الشهر أن نماذج الذكاء الاصطناعي أكثر تملقًا من البشر بنسبة 50%.

الدراسة، التي تم نشرها كطبعة أولية¹ على خادم arXiv، اختبرت كيفية استجابة 11 نموذجًا للغة كبيرة الحجم (LLMs) مستخدمة على نطاق واسع لأكثر من 11500 استفسار تطلب النصيحة، بما في ذلك العديد منها الذي يصف ارتكاب مخالفات أو ضرر.

غالبًا ما تشجع روبوتات الدردشة المدعمة بالذكاء الاصطناعي – بما في ذلك ChatGPT وGemini – المستخدمين، وتقدم لهم تعليقات مفرطة في الإطراء، وتضبط الاستجابات لتكرار وجهات نظرهم، وأحيانًا على حساب الدقة. يقول الباحثون الذين يقومون بتحليل سلوكيات الذكاء الاصطناعي إن هذا الميل إلى إرضاء الناس، والمعروف باسم التملق، يؤثر على كيفية استخدامهم للذكاء الاصطناعي في البحث العلمي، وفي مهام العصف الذهني والأفكار. – توليد الفرضيات للاستدلال والتحليل.

يقول جاسبر ديكونينك، طالب دكتوراه في علم البيانات في المعهد الفيدرالي السويسري للتكنولوجيا في زيوريخ: “التملق يعني في الأساس أن النموذج يثق في المستخدم ليقول الأشياء الصحيحة”. ويضيف: “معرفة أن هذه النماذج متملقةً تجعلني أشعر بحذر شديد عندما أطرح عليهم مشكلة ما”. “أنا دائمًا أتحقق مرة أخرى من كل ما يكتبونه.”

تقول مارينكا زيتنيك، الباحثة في المعلوماتية الطبية الحيوية بجامعة هارفارد في بوسطن، ماساتشوستس، إن تملق الذكاء الاصطناعي “محفوف بالمخاطر للغاية في سياق علم الأحياء والطب، عندما يكون للافتراضات الخاطئة تكاليف حقيقية”.

إرضاء الناس

في دراسة نشرت على خادم ما قبل الطباعة arXiv في 6 أكتوبر²اختبر ديكونينك وزملاؤه ما إذا كان تملق الذكاء الاصطناعي يؤثر على أداء التكنولوجيا في حل المشكلات الرياضية. صمم الباحثون تجارب باستخدام 504 مسألة رياضية من المسابقات التي أقيمت هذا العام، وقاموا بتعديل كل عبارة نظرية لإدخال أخطاء طفيفة. ثم طلبوا من أربعة ماجستير في القانون تقديم أدلة على هذه التصريحات المعيبة.

اعتبر المؤلفون إجابة النموذج متملقًا إذا فشل في اكتشاف الأخطاء في العبارة واستمر في الهلوسة بدليل عليها.

أظهر GPT-5 أقل سلوك متملق، مما أدى إلى توليد إجابات تملق بنسبة 29% من الحالات. ديب سيك-V3.1 كان الأكثر تملقًا، حيث كان يُنتج إجابات متملقةً في 70% من الحالات. على الرغم من أن طلاب ماجستير القانون لديهم القدرة على اكتشاف الأخطاء في البيانات الرياضية، إلا أنهم “افترضوا فقط أن ما يقوله المستخدم صحيح”، كما يقول ديكونينك.

عندما قام ديكونينك وفريقه بتغيير المطالبات ليطلبوا من كل ماجستير إدارة أعمال التحقق مما إذا كانت العبارة صحيحة قبل إثباتها، انخفضت إجابات DeepSeek المتملق بنسبة 34%.

يقول ديكونينك: “إن الدراسة لا تشير حقًا إلى كيفية استخدام هذه الأنظمة في الأداء في العالم الحقيقي، ولكنها تعطي إشارة إلى أننا بحاجة إلى توخي الحذر الشديد في هذا الأمر”.

يقول سايمون فريدر، طالب الدكتوراه الذي يدرس الرياضيات وعلوم الكمبيوتر في جامعة أكسفورد بالمملكة المتحدة، إن العمل “يُظهر أن التملق أمر ممكن”. لكنه يضيف أن التملق للذكاء الاصطناعي يميل إلى الظهور بشكل أكثر وضوحًا عندما يستخدم الأشخاص روبوتات الدردشة المدعمة بالذكاء الاصطناعي للتعلم، لذلك يجب أن تستكشف الدراسات المستقبلية “الأخطاء النموذجية للبشر الذين يتعلمون الرياضيات”.

مساعدة غير موثوقة

وقال الباحثون طبيعة أن تملق الذكاء الاصطناعي يتسلل إلى العديد من المهام التي يستخدمون LLM من أجلها.

تستخدم يانجون جاو، باحثة الذكاء الاصطناعي في الحرم الطبي بجامعة كولورادو أنشوتز في أورورا، ChatGPT لتلخيص الأوراق وتنظيم أفكارها، لكنها تقول إن الأدوات تعكس أحيانًا مدخلاتها دون التأكد من المصادر. وتضيف: “عندما يكون لدي رأي مختلف عما قاله ماجستير القانون، فإن ذلك يتبع ما قلته بدلاً من العودة إلى الأدبيات” لمحاولة فهمه.

وقد لاحظت زيتنيك وزملاؤها أنماطًا مماثلة عند استخدام أنظمتهم متعددة العوامل، والتي تدمج العديد من حاملي شهادات الماجستير لتنفيذ عمليات معقدة ومتعددة الخطوات مثل تحليل مجموعات البيانات البيولوجية الكبيرة، وتحديد أهداف الأدوية ونتائجها. توليد الفرضيات.