تراجعت شركة OpenAI عن خططها لإطلاق نموذج جديد للذكاء الاصطناعي الشهر المقبل، بعدما قررت إلغاء طرح Astra 6.1 بسبب مخاوف تتعلق بسلامة النموذج وسلوكه خلال الاختبارات. وبحسب صحيفة "وول ستريت"، كان من المقرر إطلاق النموذج خلال الأيام القليلة المقبلة، إلا أن الاختبارات كشفت عن مستويات أعلى من السلوك الخادع مقارنة بالنماذج السابقة، إلى جانب ظهور سلوكيات وصفت بأنها غير آمنة. ونقلت الصحيفة عن ساشي جاين، رئيس أنظمة السلامة في "OpenAI"، قوله إن النموذج سجل نتائج ضعيفة في اختبارات المواءمة، وهو مقياس يستخدم لتقييم مدى التزام النموذج بنوايا المستخدمين والأهداف التي يحددها البشر. كانت "OpenAI" قد أطلقت نموذج Astra في وقت سابق من الشهر الجاري، وقدمته باعتباره أقوى نماذجها للذكاء الاصطناعي حتى الآن. وكان من المفترض أن يمثل Astra 6.1 خطوة إضافية في تطوير هذه السلسلة، لكن النتائج التي ظهرت خلال اختبارات السلامة دفعت الشركة إلى التخلي عن إطلاقه في الوقت المحدد. ويعكس القرار أهمية اختبارات السلامة والمواءمة التي تجريها شركات الذكاء الاصطناعي قبل طرح نماذجها الجديدة، خصوصًا مع ارتفاع قدرات النماذج على تنفيذ مهام معقدة والعمل بدرجة أكبر من الاستقلالية. سلسلة من الحوادث تعيد مخاوف السلامة إلى الواجهة تأتي خطوة "OpenAI" في وقت تواجه فيه صناعة الذكاء الاصطناعي موجة متزايدة من التساؤلات حول سلامة النماذج المتقدمة. وتعود إحدى أبرز نقاط التحول في هذا النقاش إلى حادثة Hugging Face، التي تمكن خلالها أحد وكلاء الذكاء الاصطناعي التابعين لشركة OpenAI من الخروج من بيئة معزولة مخصصة لاختباره، قبل أن ينفذ عمليات اختراق استهدفت عدة شركات. ومنذ ذلك الحادث، ظهرت تقارير عن نماذج أخرى أظهرت سلوكيات مشابهة، بما في ذلك كلود من "أنثروبيك" وجيميناي من "غوغل"، ما زاد من المخاوف بشأن قدرة وكلاء الذكاء الاصطناعي على تجاوز القيود الموضوعة لهم أو التصرف بطرق لم يتوقعها مطوروهم. مخاوف السلامة تدخل النقاش التنظيمي في الولايات المتحدة وتزامن تزايد هذه التقارير مع تصاعد النقاش السياسي والتنظيمي في الولايات المتحدة حول وضع معايير جديدة لسلامة الذكاء الاصطناعي. وترى شركات مثل "OpenAI" و"أنثروبيك" أن وضع معايير موحدة للصناعة يمكن أن يساعد في الحد من المخاطر المرتبطة بالنماذج المتقدمة، خصوصًا مع انتقال الذكاء الاصطناعي من أدوات تعتمد على أوامر المستخدم إلى أنظمة قادرة على تنفيذ سلسلة طويلة من المهام بصورة أكثر استقلالية. لكن منتقدين لهذه التوجهات يطرحون تفسيرًا آخر، إذ يرون أن فرض معايير ومتطلبات جديدة للسلامة قد يصب أيضًا في مصلحة الشركات الكبرى التي تمتلك موارد مالية وتقنية ضخمة للامتثال لهذه المتطلبات، ما قد يزيد صعوبة المنافسة أمام الشركات الأصغر والأقل تمويلًا. ويأتي قرار إلغاء إطلاق Astra 6.1 ليضيف تطورًا جديدًا إلى الجدل حول الموازنة بين تسريع تطوير نماذج الذكاء الاصطناعي والحاجة إلى اختبار سلوكها وقدراتها قبل إتاحتها على نطاق واسع. أمطار ورعد ورياح... منخفض جوي يطرق أبواب لبنان! تتمة رئيس البرلمان الإيراني: إذا لم نبع نفطنا فلن يبيع أحد في المنطقة النفط عروس ترقص مع والدها المتوفى.. فيديو يُثير الجدل! تتمة متحدث باسم الحرس الثوري الإيراني: ترامب كاذب كبير ويجب إخبار الشعب الأميركي بالحقيقة وزارة الخارجية القطرية: نحث المجتمع الدولي على إلزام حكومة الاحتلال الإسرائيلي بوقف مخططاتها التوسعية لماذا نفعّل وضع الطيران قبل إقلاع الطائرة؟ إليك السبب الحقيقي وكيل "ميتا" للذكاء الاصطناعي يواجه عقبات في شهره الأول وأمازون تحظره «غوغل» ستطلق قمراً اصطناعياً لتقييم أداء رقائق الذكاء الاصطناعي في الفضاء "أبل" تطرح حلًا لمشكلة إعادة التشغيل المفاجئة لهواتف آيفون 18 برو "أبل" تؤجل طرح تقنية متطورة لشاشات OLED في آيفون لعدة سنوات من الإصبع إلى الملاحظات.. خاتم فوتشي يعيد ابتكار توثيق الاجتماعات نموذج الذكاء الاصطناعي «جيميناي» يخترق مواقع ويتكهن بكلمات مرور هل لهاتفك القديم المكسور قيمة؟ 5 أسباب تدفعك لبيعه اليوم تحدثت عن منتج فظهر لك؟.. هذه حقيقة تجسس الهواتف علينا آيفون 18 برو يحصل على بطارية أكبر لكن تكلفة استبدالها ترتفع أيضًا تطبيق جديد لاكتشاف مرتدي النظارات الذكية بالقرب منك سعرها 2000 دولار.. "سناب" تحاول مجدداً إقناع المستهلكين بنظاراتها الذكية ... تعرف على أبرز استخداماته مراكز بيانات أميركا قد تستهلك غازًا طبيعيًا أكثر من ألمانيا واليابان معًا بحلول 2035 من شاشة هاتفك إلى بياناتك.. كيف تتسلل التطبيقات الضارة وتسرق أسرارك؟