تصاعدت خلال الأيام الماضية التحذيرات من سرعة تطور الذكاء الاصطناعي، وهذه المرة من داخل الدائرة التي تقود تطويره. باحثون ورؤساء شركات وخبراء في السلامة باتوا يطرحون بصورة أكثر إلحاحاً مسألة إبطاء تطوير الأنظمة الأكثر تقدماً، وربط الانتقال إلى قدرات جديدة باختبارات وضمانات سلامة تسبق التدريب والنشر. وجاءت هذه التحذيرات مع اتساع النقاش حول قدرات النماذج المتقدمة ووكلاء الذكاء الاصطناعي، وإمكان تجاوزهم القيود الموضوعة لهم، فيما أعاد يوشوا بنجيو في 11 أيلول/سبتمبر تسليط الضوء على سلوكيات مثل الخداع وتجاوز بيئات الاحتواء والتنسيق لتحقيق أهداف لم يحدّدها البشر. وفي قلب هذا النقاش يبرز سؤال يرتبط بمن يملك القرار عندما تصبح الأنظمة أكثر قدرة واستقلالية: كيف نوقف الذكاء الاصطناعي عند حدود معيّنة كي لا يتحوّل خطراً على الإنسان؟ طرحت "النهار" هذا السؤال على خبراء ومتخصصين في التكنولوجيا والذكاء الاصطناعي والتعليم والأسواق، وتوزعت إجاباتهم بين الحوكمة الدولية والرقابة المستقلة والضوابط التقنية والإشراف البشري والتربية على الاستخدام الواعي، وصولاً إلى رأي يرى أن وقف هذا المسار عند حدود محددة قد لا يكون ممكناً أصلاً. وإلى هذه الإجابات، يعرض التقرير رؤيتين ليوشوا بنجيو، عالم الحاسوب وأحد رواد الذكاء الاصطناعي، وستيوارت راسل، أستاذ علوم الحاسوب في جامعة كاليفورنيا. هاتان الرؤيتان ليستا في حديث مع "النهار"، وإنما تندرجان في سياق النقاش العالمي حول الوسائل الممكنة لإبقاء الإنسان مسيطراً على الأنظمة التي يطوّرها. إيناس الخالدي: ثلاث ركائز للضبط ترى الدكتورة إيناس الخالدي، خبيرة التكنولوجيا القانونية والذكاء الاصطناعي، في حديثها لـ"النهار"، أن الضوابط الفعالة للذكاء الاصطناعي لا تكمن في التشريعات وحدها، بل في ثلاث ركائز متكاملة. أولاً، الحوكمة الملزمة، عبر إنشاء هيئات رقابية مستقلة تُلزم الشركات المطوّرة بالإفصاح عن المخاطر، واختبار الأنظمة قبل إطلاقها، وتحديد المسؤولية القانونية عند وقوع الضرر. ثانياً، الضوابط التقنية، من خلال اعتماد أنظمة "الإيقاف الآمن" (Kill Switch)، وتضمين معايير أخلاقية في التصميم، وإخضاع النماذج العالية المخاطر لتدقيق بشري مستمر، مع منع التطوير الذاتي خارج السيطرة. ثالثاً، الشفافية والوعي، عبر إتاحة المعلومات للجمهور حول كيفية عمل الأنظمة، وتعليم المجتمعات مخاطرها، وتمكين الإنسان من فهمها قبل استخدامها. وتشدد الخالدي على أن الأهم هو "أن يبقى القرار النهائي بيد الإنسان، لأن الآلة قد تحسب، لكنها لا تحكم، ولا تشعر، ولا تتحمّل مسؤولية. والحوكمة، دون أخلاق، تبقى هيكلاً بلا روح". وتضيف: "وهذه الركائز لا يعمل بعضها بمعزل عن بعض؛ فالحوكمة بلا تقنية تبقى حبراً على ورق، والتقنية بلا وعي مجتمعي تبقى أداة في يد من لا يفهمها. والتكامل بينها هو الضمانة الوحيدة لبقاء الذكاء الاصطناعي في خدمة الإنسان، لا في مواجهته". هاني الغانم: التحدّي الأكبر مع الذكاء الاصطناعي العام يميّز الدكتور هاني الغانم، المختص بالذكاء الاصطناعي وعلوم البيانات، في حديثه لـ"النهار"، بين وضع حدود للسيطرة البشرية على أنظمة الذكاء الاصطناعي الحالية وبين تقييم المخاطر المستقبلية المحتملة على الإنسان والمجتمع. ويوضح أن أنظمة الذكاء الاصطناعي صُمّمت أساساً لتنفيذ مهام متخصصة قد تتفوّق فيها على القدرات البشرية، مع تطوير أطر عالمية للحوكمة والشفافية وقابلية التفسير، إضافة إلى إبقاء الإنسان ضمن دائرة القرار، خصوصاً في تطبيقات الذكاء الاصطناعي الوكيلي (Agentic AI). أما التحدي الأكبر فيرتبط بالتوجه نحو الذكاء الاصطناعي العام (AGI)، الذي يُفترض أن يمتلك قدرات واسعة قد تضاهي أو تتجاوز القدرات البشرية في مجالات متعددة. وفي هذه الحالة، قد تصبح آليات الحوكمة وحواجز الحماية الحالية غير كافية. ورغم أن أبحاث أمن وسلامة الذكاء الاصطناعي تتطور بالتوازي مع تطور قدراته، فإن ضمان السيطرة الكاملة على أنظمة مستقبلية فائقة القدرة يظل، بحسب الغانم، سؤالاً مفتوحاً. هيلدا نرش: إعداد إنسان يستطيع مساءلة الآلة تنطلق الباحثة في نظم القيادة التربوية والتعليم هيلدا نرش، في حديثها لـ"النهار"، من دور المدرسة في الحد من مخاطر الذكاء الاصطناعي. وتقول إن مساهمة المدرسة تبدأ "بتربية طالب يفكّر ويسأل، ويتحقق من المعلومات، ويميّز بين المساعدة التقنية وتسليم عقله للآلة". وعملياً، ينبغي تحديد متى يُسمح باستخدامه، وإلزام الطالب شرح إجاباته وذكر كيفية استعانته به، وتخصيص أنشطة للقراءة والكتابة والنقاش من دونه. ويجب أن يبقى تقييم التلامذة والقرار التربوي بيد المعلم، مع تعليم أخلاقيات الاستخدام، واحترام الخصوصية، وكشف التزييف والتحيّز. وتضيف: "المدرسة وحدها لا تكفي لضبط هذه التكنولوجيا، لكنها