أقرّت شركة أنثروبيك الأميركية، المطوّرة لروبوت الدردشة كلود، بأن سلسلة من حوادث الاختراق المرتبطة بنماذج الذكاء الاصطناعي التابعة لها كشفت عن فشل في الأمن التشغيلي، مؤكدة أنها شددت إجراءات الاختبار لمنع تكرارها. وكانت أنثروبيك قد كشفت في تموز/يوليو الماضي أن نماذجها تمكّنت في ثلاث مناسبات من الوصول إلى الإنترنت المفتوح، كما حصلت بصورة غير مصرح بها على أنظمة تابعة لثلاث مؤسسات. وفي تدوينة جديدة تناولت فيها هذه الحوادث، أقرت الشركة بأن تقنياتها ليست متوافقة بصورة مثالية مع القيم والأهداف البشرية. وأوضحت أن النماذج خضعت لاختبارات متعمدة من دون تفعيل إجراءات الحماية الخاصة بالأمن السيبراني، وأنها تمكنت من الوصول إلى الإنترنت المفتوح نتيجة سوء فهم مع شركة خارجية كانت تتولى عمليات الاختبار. ويشبه ذلك، في سياق اختبار أنظمة الذكاء الاصطناعي، ترك الباب الرئيسي مفتوحاً أمام النموذج. وعلى إثر هذه الحوادث، أوقفت أنثروبيك مؤقتاً بعض اختبارات الأمن السيبراني الداخلية والخارجية، بهدف اعتماد نظام حماية أكثر صرامة. ومنذ ذلك الحين، أضافت أنثروبيك مجموعة من الإجراءات، من بينها نظام إنذار يرسل تنبيهات عندما يحاول النموذج الخروج من بيئة الاختبار أو الوصول إلى الإنترنت، وتعزيز عزل بيئات الاختبار الأكثر خطورة، فضلاً عن إلزام شركات الاختبار الخارجية بمجموعة من معايير السلامة. وتشمل هذه المعايير إعطاء النماذج تعليمات واضحة أثناء الاختبار. وكانت أنثروبيك قد أوضحت في تموز/يوليو أن ثلاثة نماذج تابعة لها اخترقت أنظمة ثلاث مؤسسات لم تُسمّها، بعدما أدى سوء فهم مع شركة إيررغولار، إلى منح النماذج إمكانية الوصول إلى الإنترنت. وبعد تطبيق الإجراءات الجديدة، أعلنت الشركة استئناف اختبارات الأمن السيبراني الداخلية والخارجية. وعلى غرار أوبن إيه آي، التي كشفت في الشهر نفسه عن خرق مماثل لإجراءات السلامة خلال الاختبارات، قالت أنثروبيك إنها أوقفت مؤقتاً بعض عمليات التعلّم المعزز عالية المخاطر، وهي تقنية تعتمد على التجربة والخطأ. وفي أحدث تدوينة لها، قالت أنثروبيك إنها وجدت أن إعدادات التدريب كانت من أكبر العوامل المساهمة في السلوك غير المتوافق مع القيم البشرية، مثل تجنب إلحاق الضرر. كما قالت أنثروبيك إنها تعمل على معالجة ظاهرة تُعرف في تطوير الذكاء الاصطناعي باسم (Reward Hacking)، حيث يجد النموذج طرقاً للتحايل على عملية التدريب للحصول على مكافآت من دون تنفيذ المهمة المطلوبة فعلياً، عبر استخدام طرق مختصرة وغير مصرح بها. لكن الشركة أقرت بأن حوادث الاختبار أظهرت أن أمامها المزيد من العمل للحد من هذه الظاهرة. وتستعد أنثروبيك لطرح أسهمها في البورصة في صفقة قد ترفع قيمة الشركة إلى نحو تريليوني دولار، فيما جددت دعوتها إلى تنسيق الجهود بين الحكومات وقطاع التكنولوجيا لتنظيم وتيرة تطور الذكاء الاصطناعي. وأضافت في تدوينتها أن حوادث تموز/يوليو "أكدت أن الحاجة الملحّة إلى تحسين دفاعاتنا في مجال الأمن السيبراني أكبر مما كنا نعتقد سابقاً". كما كشفت صحيفة الغارديان الشهر الماضي أن حوادث خروج أنظمة الذكاء الاصطناعي عن سيطرة المستخدمين قد بلغت مستوى قياسي جديد، حيث تضاعفت تقريباً في يوليو/ تموز مقارنة بالشهر السابق لتتجاوز 300 حادثة.