يعمل باحثون على تطوير أنظمة ذكاء اصطناعي أكثر قوة، فيما يحذّر بعضهم من أن هذه التكنولوجيا نفسها قد تقتل البشر. هذا التناقض هو محور تحليل نشره موقع "Business Insider"، تناول الأسباب التي قد تدفع مطوري الذكاء الاصطناعي إلى مواصلة عملهم رغم هذه المخاوف، وطرح أربعة تفسيرات محتملة لذلك. ويأتي هذا السؤال في وقت تتسارع فيه قدرات النماذج. أكبر نماذج "أوبن إيه آي" باتت قادرة على تدريب نماذج أخرى أصغر، وفق المديرة المالية للشركة سارة فراير، ما يساعد على توفير جزء من التكاليف الضخمة لتدريب هذه الأنظمة. ويضع التحليل هذا التطور في سياق "التحسين الذاتي التكراري" (RSI)، حيث يصبح الذكاء الاصطناعي قوياً إلى درجة يستطيع معها إنشاء النظام التالي، الأكثر قوة، بنفسه. وهناك إدراك، بحسب التحليل، أن هذه المرحلة إما بدأت بالفعل أو باتت قريبة جداً، مع احتمال أن تصبح أنظمة الذكاء الاصطناعي أكثر قوة بسرعة كبيرة. ويضاف إلى ذلك انتشار وكلاء الذكاء الاصطناعي عبر الإنترنت وقيامهم بأمور مفيدة وأخرى مقلقة، بينها الخروج من بيئات الاختبار المعزولة "Sandbox"، ما دفع بعض أجزاء مجتمع الذكاء الاصطناعي إلى حالة وصفها التحليل بأنها ذعر شديد. ويظهر حجم الانقسام في المواقف بوضوح. إيفان هوبينغر، مسؤول علم المواءمة في "أنثروبيك"، أكد أنهم يعتقدون بجدية أن الذكاء الاصطناعي قد يقتل جميع البشر، مقدراً شخصياً احتمال حدوث ذلك بأكثر من 10 في المئة خلال العقد المقبل. وعلى الطرف الآخر، وصف براد غيرستنر من "Altimeter Capital"، المستثمر في "أنثروبيك" و"أوبن إيه آي"، فكرة أن يقتل الذكاء الاصطناعي البشر بأنها "هراء". وسط هذا الانقسام، يبرز السؤال الذي يحاول التحليل الإجابة عنه: لماذا يواصل أشخاص تطوير الذكاء الاصطناعي إذا كان بعضهم يعتقد أن التكنولوجيا التي يعمل عليها قد تقتل البشر؟ ويعرض "Business Insider" أربعة تفسيرات محتملة. يرتبط التفسير الأول بالمال. يعتمد نجاح "أنثروبيك" و"أوبن إيه آي" على تطوير ذكاء اصطناعي أفضل وبيعه، ما يدفع الشركتين إلى مواصلة العمل، فيما يستمر الموظفون أيضاً حتى إذا كان بعضهم يشعر بالسوء حيال احتمال أن تكون التكنولوجيا التي يطورونها خطرة. يقوم التفسير الثاني على اعتقاد بعض الباحثين، وخصوصاً في "أنثروبيك"، أنهم الوحيدون الذين يمكن الوثوق بهم للحفاظ على سلامة هذه التكنولوجيا، ولذلك يرون ضرورة الاستمرار في التقدم على الآخرين. وإذا توقفت "أنثروبيك" بينما واصلت "أوبن إيه آي" أو المختبرات الصينية التقدم، فإنهم يعتبرون النتيجة أسوأ، لأنهم لا يثقون بهذه الجهات الأخرى في التعامل مع ذكاء اصطناعي قوي. ولخّص صموئيل ماركس، مسؤول الإشراف القابل للتوسع في "أنثروبيك"، السببين الأول والثاني بمزيج من الحوافز التجارية والاعتقاد بأن المطورين في سباق مع جهات أقل مسؤولية قد تسيء استخدام التكنولوجيا أو تطورها بطريقة أقل أماناً. يتعلق التفسير الثالث بطريقة استقطاب الباحثين. يأتي باحثو الذكاء الاصطناعي عادة من الأوساط الأكاديمية وليس من عالم الأعمال، ويركزون بدرجة كبيرة على القيام بعمل مفيد. وبحسب التحليل، لا تستطيع شركة مثل "أنثروبيك" أن تقدم مهمتها لهم باعتبارها مجرد بناء أقوى آلة مولّدة للأرباح في التاريخ ستجعلهم أثرياء جداً. ويمكن بدلاً من ذلك تقديم العمل على أساس أن التكنولوجيا شديدة الخطورة إلى درجة تستدعي العمل على سلامة الذكاء الاصطناعي ومواءمته بهدف "إنقاذ العالم". ويرى التحليل أن هذا الطرح أسهل على الباحثين لتقبّله، ويجعلهم يشعرون بذنب أقل حيال تحقيق الثروة من تطوير الذكاء الاصطناعي، كما يجعلهم أكثر ميلاً إلى إصدار توقعات قاتمة عن مستقبل كارثي. يأتي التفسير الرابع من كيلان غيبس، الرئيس التنفيذي لشركة الذكاء الاصطناعي الناشئة "Inworld"، الذي يربط موجة التشاؤم المتطرف بشأن الذكاء الاصطناعي بتنامي الشعور بفقدان القدرة على التأثير. ومع ازدياد قوة الذكاء الاصطناعي بصورة كبيرة، يتركز التحكم في تطويره في أيدي عدد قليل من المختبرات، وقد يشعر حتى الباحثون داخل هذه الشركات بأن تأثيرهم في اتجاهه محدود. ويترك ذلك لديهم وعياً مرتفعاً بالمخاطر في مقابل قدرة محدودة على التحكم في النتيجة. وبحسب غيبس، تغذي الفجوة بين الوعي والقدرة على التأثير القلق، الذي يظهر في صورة تحذيرات علنية من المخاطر الوجودية. ويتقاطع هذا الطرح مع ما قاله سام ألتمان في بودكاست في وقت سابق من العام عن حاجة الناس إلى القدرة على التأثير وتقرير مصيرهم والمشاركة، إلى جانب بقية المجتمع، في رسم المستقبل.