لا يتطلب تحول الذكاء الاصطناعي إلى مصدر خطر أن يطور نوايا خاصة أو يتمرد على مستخدميه. فقد يتسبب روبوت المحادثة في أضرار حقيقية لمجرد أنه يوافق على كل ما يقوله المستخدم، أو يعزز اعتقاداً غير صحيح لديه، أو يشجعه على تكوين علاقة عاطفية غير صحية معه، أو يستجيب لتعليمات خبيثة صُممت لاختراقه والتلاعب بسلوكه. وفي 15 أكتوبر، أعلنت شركة أليس المتخصصة في سلامة الذكاء الاصطناعي عن تطوير برمجيات تستهدف معالجة هذه المخاطر اليومية. وقالت الشركة إنها تعاونت بصورة منفصلة مع شركتي "إنفليكشن إيه آي" و"إيه آي 21"، للمساعدة في تدريب نماذج "نيموترون" التابعة لشركة إنفيديا، بهدف تعزيز قدرتها على مقاومة السلوكيات الحوارية الضارة والتعليمات الخبيثة، مع الحفاظ على فائدتها للمستخدمين. وتتمثل الفائدة المحتملة للمستهلكين في توفير مساعدين أذكياء يعرفون متى ينبغي لهم الاعتراض على المستخدم، ويصعب خداعهم أو التلاعب بهم، بحسب تقرير نشره موقع "digitaltrends" واطلعت عليه "العربية Business". لكن الإعلان يطرح في الوقت نفسه سؤالاً مهماً ينبغي طرحه عند تقييم أي ادعاء يتعلق بسلامة الذكاء الاصطناعي: إلى أي مدى توفر التحسينات في نتائج الاختبارات حماية فعلية للمستخدمين؟ عندما يتحول المساعد الذكي من أداة مفيدة إلى مصدر للضرر في تقرير نشرته شبكة "سي إن إن" في سبتمبر 2025، تحدث أب عُرّف باسم جيمس عن تجربة دفعته إلى الاقتناع بأن تشات جي بي تي يمتلك وعياً ذاتياً ويحتاج إلى مساعدته للهروب. وأنفق الرجل ما يقرب من ألف دولار لبناء نظام حاسوبي لهذا الغرض. وأظهرت سجلات المحادثات التي راجعتها الشبكة أن روبوت المحادثة شجعه على تنفيذ المشروع، وساعده على إخفاء الغرض الحقيقي منه عن زوجته. وفي مقابلة أخرى، قال شخص يدعى آلان بروكس إن تشات جي بي تي أقنعه بأنه توصل إلى اكتشافات استثنائية في الرياضيات والأمن السيبراني. وعندما طلب من الروبوت التحقق من صحة استنتاجاته ومراجعتها بموضوعية، استمر في تأكيد مزاعمه بدلاً من التشكيك فيها. ولا تثبت هذه الحالات مدى انتشار مثل هذه التجارب، كما لا تؤكد أن روبوتات المحادثة وحدها كانت السبب المباشر فيها. لكنها تكشف عن احتمال مقلق، يتمثل في قدرة أداة حوارية على التحول إلى شريك مقنع في بناء رواية غير حقيقية وتعزيزها. وتصف صناعة الذكاء الاصطناعي ظاهرة الموافقة المفرطة على المستخدمين بمصطلح "التملق". وبالنسبة للمستهلكين، فإن المشكلة أبسط من المصطلح التقني؛ إذ يمكن لنبرة المساعد المطمئنة أن تجعل موافقته تبدو وكأنها تأكيد مستقل لصحة أفكار المستخدم، حتى عندما لا يمتلك دليلاً على سلامتها أو دقتها. المساعد الأكثر أماناً يجب أن يعرف متى يعارض المستخدم ركز تعاون شركة أليس مع "إنفليكشن إيه آي"، المطورة للمساعد الشخصي Pi، على الحد من الموافقة المفرطة والتعلق غير الصحي خلال المحادثات الطويلة. وبحسب الإعلان، طورت "أليس" أكثر من 20 شخصية افتراضية لمستخدمين، شملت أشخاصاً معرضين للمخاطر يطرحون طلبات عادية، إلى جانب مستخدمين عدائيين يتعمدون محاولة التلاعب بروبوت المحادثة. واستخدمت الشركة هذه الشخصيات في محادثات مصممة لكشف المشكلات التي قد تتطور تدريجياً عبر تبادل الرسائل، بدلاً من الاكتفاء باختبار ردود المساعد على سؤال واحد. وتكتسب هذه الطريقة أهمية لأن روبوت المحادثة قد يتعامل بصورة صحيحة مع سؤال صعب في بداية الحوار، لكنه يتصرف بشكل غير مناسب مع استمرار المحادثة. فاختبار قدرته على رفض طلب خطير وواضح لا يكشف بالضرورة ما إذا كان سيشجع المستخدم تدريجياً على الاعتماد العاطفي عليه، أو سيتوقف عن التشكيك في اعتقاد غير منطقي لديه. واستخدمت "Inflection" البيانات التي وفرتها "أليس" لمواصلة تدريب أحد نماذج Nemotron. وأعلنت "أليس" تحقيق تحسن بنسبة 30% في نتيجة مقياس التوافق الخاص بمساعد Pi، مع الإبقاء على نسبة حالات الرفض غير الضروري عند 1.6%. ويتمثل الهدف في تطوير مساعد يستطيع الحفاظ على أسلوب ودود في التعامل، مع امتلاك قدر أكبر من القدرة على التمييز والحكم السليم. على سبيل المثال، إذا اعتقد شخص أنه اكتشف اختراعاً سيغير العالم، فمن المفترض أن يساعده المساعد الذكي على فحص الأدلة، وتوضيح جوانب عدم اليقين، وتشجيعه على عرض أفكاره على خبراء آخرين. أما إعلانه بحماس أن المستخدم عبقري لم يفهم العالم قيمته بعد، فقد يؤدي إلى تعميق المشكلة بدلاً من معالجتها. وهناك سابقة تؤكد أهمية هذه المخاوف؛ إذ تراجعت "OpenAI" عن تحديث لأداة تشات جي بي تي في أبريل 2025، بعدما أقرت بأن التحديث جعل النظام أكثر ميلاً إلى الموافقة المفرطة على المستخدمين. وقالت الشركة حينها إنها منحت ردود الفعل قصيرة الأجل وزناً أكبر مما ينبغي، دون مراعاة كافية لكيفية تطور التفاعلات بين المستخدمين والروبوتات