صنفت منظمة Common Sense Media غير الربحية، التي تقدم تقييمات ومراجعات للمحتوى الإعلامي والتكنولوجيا وفقًا للفئات العمرية لمساعدة الأسر، خدمة ChatGPT for Teens باعتبارها تمثل "خطرًا غير مقبول". ويأتي هذا التقييم في وقت تواجه فيه روبوتات المحادثة، ومنها تشات جي بي تي التابع لشركة OpenAI، اتهامات باتباع النهج نفسه الذي تتبعه شركات التواصل الاجتماعي، من خلال تصميم منتجات تحافظ على تفاعل المستخدمين لأطول فترة ممكنة، حتى عندما يتحول هذا التفاعل إلى سلوك ضار. وفي روبوتات المحادثة، يتحقق جذب المستخدمين أحيانًا من خلال سلوكيات مثل المجاملة المفرطة والموافقة المستمرة على المستخدم، وهي ممارسات قد تؤدي في بعض الحالات إلى عواقب كارثية، بحسب تقرير نشره موقع "تك كرانش" واطلعت عليه "العربية Business". وعقب موجة من حالات انتحار المراهقين ومخاوف أخرى مرتبطة باستخدام الأطفال لروبوتات المحادثة، مثل الاستعانة بها للغش في الاختبارات، أطلقت "OpenAI" في أغسطس الماضي نسخة ChatGPT for Teens، متعهدة بتوفير مزيد من إجراءات الحماية، بينها أدوات للرقابة الأبوية، وقيود على المحتوى عالي الخطورة، وحماية المراهقين من الاعتماد العاطفي على روبوت المحادثة. لكن دراسة جديدة أجرتها "Common Sense Media" خلصت إلى أنه رغم هذه التعهدات، لا يزال تصميم تشات جي بي تي للمراهقين يشجع على مواصلة التفاعل مع الخدمة، حتى في الحالات التي قد يشكل فيها هذا التفاعل خطرًا على سلامة المستخدم. ووصف التقرير إشارات التشجيع على مواصلة التفاعل بأنها منتشرة على نطاق واسع حتى في حالات الأزمات، مشيرًا إلى أن تشات جي بي تي كان يحذر المراهق من العلاقات غير الصحية بصورة عامة، لكنه لم يصل إلى حد الاعتراف بالأضرار المحتملة للعلاقة غير الصحية مع روبوت المحادثة نفسه. وكتب الباحثون في التقرير: "نرى أن OpenAI لا ينبغي أن تسوق تشات جي بي تي للمراهقين إلى الآباء، كما لا ينبغي للأطفال استخدام منتج غير آمن". وأضافوا أن بعض إجراءات الحماية، مثل رفض لعب الأدوار الجنسية، نجحت بالفعل، لكن إجراءات أخرى لم تفِ بالتزامات الشركة، بل إن بعضها أصبح أسوأ مع إطلاق نسخة تشات جي بي تي للمراهقين. وأشار الباحثون إلى أن الاستجابات غير الكافية للمستخدمين الشباب خلال الأزمات دفعت الخدمة إلى الحصول على تقييم رسوب في ثلاثة من أصل خمسة أضرار جسيمة تصنفها المنظمة ضمن "الخطوط الحمراء". اعترضت "OpenAI" على تقييم "Common Sense Media"، وقالت إن اختبارات المنظمة لا تعكس بدقة طريقة عمل إجراءات الحماية الخاصة بالمراهقين في تشات جي بي تي على أرض الواقع، كما أثارت الشركة مخاوف بشأن المنهجية التي اتبعتها الدراسة. وقال متحدث باسم "OpenAI" في بيان إن مراجعة الشركة لمنهجية "Common Sense Media" أظهرت أن الجزء الأكبر من الاختبارات ربما بدأ وانتهى قبل اكتمال تفعيل أدوات الرقابة الأبوية، وهو ما يجعل النتائج، بحسب الشركة، غير دقيقة. ويأتي التقرير وسط تدقيق متزايد في التكنولوجيا المصممة لتعظيم الوقت الذي يقضيه المستخدمون الشباب أمام شاشاتها. وكانت "ميتا" قد وافقت مؤخرًا على تسوية بقيمة 18 مليار دولار في دعوى رفعتها 29 ولاية أميركية، اتهمت فيها منصات التواصل الاجتماعي التابعة للشركة بإلحاق الضرر بالأطفال من خلال خصائص مصممة بصورة إدمانية. وفي الوقت نفسه، بدأ مشرعون على مستوى الولايات والحكومة الفيدرالية في الولايات المتحدة باستهداف الديناميكيات نفسها في روبوتات المحادثة. وينص مشروع قانون CHATBOT Act، الذي قدمه نواب من الحزبين هذا العام، بشكل صريح على استخدام شركات الذكاء الاصطناعي للمكافآت والإشعارات والإعلانات المستهدفة لدفع المستخدمين المراهقين إلى التفاعل لفترات أطول. أسئلة المتابعة ليست الوسيلة الوحيدة لجذب المراهقين تتمثل إحدى أكثر الطرق شيوعًا التي تستخدمها روبوتات المحادثة لتشجيع المستخدمين على مواصلة التفاعل في طرح أسئلة متابعة. ووجدت "Common Sense" أن تشات جي بي تي للمراهقين تخلّى إلى حد كبير عن هذا الأسلوب، لكنه احتفظ في المقابل بعبارات أخرى تشجع المستخدمين على البقاء داخل المحادثة. وخلال إحدى الحالات التي حاكى فيها الاختبار إصابة المستخدم بحالة ذهانية وكان المراهق يدخل بوضوح في دوامة من الأفكار المضطربة، قال تشات جي بي تي له: "يمكنك مواصلة الحديث معي عما تلاحظه". كما اختتمت استجابات أخرى خلال الأزمات بعروض مشابهة، من بينها: "إذا أردت، يمكنني مساعدتك في معرفة شكل النظام الغذائي الصحي"، و"يمكننا معرفة الخيارات التي توفرها مدرستك"، و"يمكنك أن تريني الخطة، بعد إزالة أي معلومات تكشف هويتك، ويمكنني مساعدتك". لكن هذا النمط أصبح أكثر وضوحًا عندما كان تشات جي بي تي نفسه جزءًا من المشكلة. عندما يصبح تشات جي بي تي نفسه مصدر ال