ليس من الصعب عادةً التعرّف على رسالة بريد إلكتروني مشبوهة تستخدم أساليب بدائية لانتحال صفة مؤسسة موثوقة، أو تحاول استدراجك بعرض يصعب تصديقه، بهدف سرقة هويتك. لكن، قد لا يمتلك وكيل الذكاء الاصطناعي الذي تستخدمه القدرة ذاتها على التمييز. وفي منشور جديد، تحذر شركة برمجيات الأمن السيبراني "Malwarebytes" من أن المساعدين المعتمدين على الذكاء الاصطناعي قد يقعون ضحية لما يُعرف بـ "هجمات حقن الأوامر"؛ وهي رسائل خبيثة يدرج فيها القراصنة -أو ربما وكلاء ذكاء اصطناعي مارقون- تعليماتٍ مخفيةً مصممةً للتأثير على نظام الذكاء الاصطناعي الخاص بالضحية، بحسب تقرير لموقع "فيوتشريزم" المتخصص في أخبار التكنولوجيا والعلوم، اطلعت عليه "العربية Business". وتوضح "Malwarebytes" أن هذه التعليمات غالبًا ما تُخفى بطريقة تجعلها غير مقروءة للبشر، بينما تظل متاحةً ليقوم نظام الذكاء الاصطناعي بمعالجتها. ولحل هذه المشكلة، لا يكفي أن تطلب من المستخدمين "توخي المزيد من الحذر عند فحص رسائل البريد الإلكتروني"؛ بل يتعين على الشركات مراجعة كيفية قيام مساعدي الذكاء الاصطناعي بمسح البيانات واستخراج المعلومات ذات الصلة من تلك الرسائل. وقال أبولو راينز، مطور خدمة "ShipItClean" لمراجعة أكواد الذكاء الاصطناعي، لـ"Malwarebytes": "الخلل الحقيقي هو أن النموذج لا يستطيع التمييز بين النص الذي يُفترض أن يقرأه والتعليمات التي يُفترض أن يتبعها"، مضيفًا: "من المفيد إزالة المحتوى المخفي قبل وصوله إلى النموذج، وينبغي لكل مزوّد للخدمة أن يفعل ذلك". وبناءً على ذلك، ينبغي للأشخاص الذين يتوخون الحذر بالفعل من رسائل البريد الإلكتروني المشبوهة أن يتعلموا أيضًا "عدم الثقة بمساعد الذكاء الاصطناعي"، وفقًا لراينز. كان من المعروف منذ سنوات أن نماذج الذكاء الاصطناعي عرضة لهجمات حقن الأوامر. لكن مع ظهور أدوات مساعدة شائعة للذكاء الاصطناعي، مثل "ميوز" من شركة ميتا، قد يصل هذا الخطر إلى أقصى مداه، إذ يمكن للوكلاء المستقلين تنفيذ سلسلة من المهام من دون أي إشراف بشري. وقد واجه الباحثون بالفعل هذا الخلل في متصفحات الذكاء الاصطناعي، والتي لم تحقق حتى الآن انتشارًا حقيقيًا. لكن مع بدء استخدام ملايين الأشخاص حول العالم لمساعدي الذكاء الاصطناعي المتطورين، قد يصبح خطر وقوع أحدها في فخ هجمات مخفية داخل رسائل التصيد الاحتيالي أكبر بكثير من أي وقت مضى. وفي مواجهة هذا الخطر، توصي "Malwarebytes" بالإبقاء على الإشراف البشري في الوقت الحالي. وذكرت الشركة في منشور المدونة: "لا تحتاج إلى التخلي عن أدوات الذكاء الاصطناعي التي تساعدك في التعامل مع البريد الإلكتروني، لكن عليك التفكير فيما تثق بها لإنجازه والصلاحيات التي تمنحها إياها". وتوصي الشركة، خصوصًا فيما يتعلق بالإجراءات ذات التأثير الكبير، مثل المدفوعات وتغيير بيانات الدفع الخاصة بالمورّدين، باشتراط "موافقة بشرية". ويُعتبر هذا الوقت محفوفًا بالمخاطر، إذ يبدي عدد لا يحصى من المستخدمين استعدادهم لمنح وكلاء الذكاء الاصطناعي -الذين تديرهم شركات اشتهرت بتسريب بيانات شخصية- صلاحية الوصول إلى بيانات اعتماد بريدهم الإلكتروني ومعلومات بطاقاتهم الائتمانية. ومع ازدياد تطور هذه التقنية، يحصل المحتالون على أفضلية كبيرة في "سباق تسلح"، إذ وصف راينز الوضع قائلًا إن "كل حيلة ترميز جديدة تمثل ثغرة جديدة".