الذكاء الاصطناعي المتقدم والمخاطر السيبرانية

بقلم Jonas Osman Abdelghafour.

أصدرت الجهات الرقابية الأوروبية تحذيرًا مشتركًا في عام 2026 بشأن المخاطر السيبرانية النظامية المرتبطة بنماذج الذكاء الاصطناعي المتقدم (Frontier AI)، وكانت صياغته مقصودة: فالمخاوف لا تتعلق بنوع جديد من الهجمات، بل بتغيّر في اقتصاديات الهجوم نفسه. فالقدرات التي كانت تتطلب سابقًا مشغِّلًا ماهرًا ووقتًا معتبرًا باتت الآن تتطلب مجرد أمر توجيهي (prompt) وبضع دقائق. وحين تنخفض التكلفة الحدّية لهجوم متطور بمقدار رتبة كاملة، يتغيّر كل من الحجم ومجموعة الأهداف.

ما الذي يتغيّر فعليًا بالنسبة للبنك

الهندسة الاجتماعية على نطاق واسع وبجودة عالية. التصيّد الاحتيالي البليغ لغويًا، والدقيق سياقيًا، والمُخصَّص انطلاقًا من بيانات عامة، والمُقدَّم بلغة الهدف نفسها، يزيل الإشارات اللغوية والتنسيقية التي يعتمد عليها التدريب على التوعية. كما يوسّع استنساخ الصوت المشكلة لتشمل عمليات التحقق عبر الاتصال الهاتفي وإجراءات اعتماد المدفوعات التي تعتمد على التعرّف على صوت زميل.

دورات استغلال أسرع. يُقلّص تحليل الأكواد الآلي الفترة الفاصلة بين الإفصاح عن ثغرة ما وتحويلها إلى أداة هجوم، مما يُقلّص نافذة التصحيح التي تفترضها البنوك في اتفاقيات مستوى الخدمة الخاصة بإدارة الثغرات. ومعيار الإصلاح خلال ثلاثين يومًا، المُعايَر على سرعة الاستغلال التاريخية، قد يكون اليوم سياسة للتعرّض للاختراق في موعده المحدد.

هجمات على طبقة النموذج نفسها. تكتسب المؤسسات التي تنشر الذكاء الاصطناعي أسطح هجوم لم تُصمَّم أطر أمنها لمواجهتها: حقن الأوامر (prompt injection) عبر مستندات أو رسائل بريد إلكتروني يُطلَب من عميل ذكي معالجتها، وتسميم مكتبات الاسترجاع، واستخراج معلومات حساسة مُضمَّنة في السياق، وإساءة استخدام العملاء الذين يستخدمون أدوات ويملكون صلاحيات نظام حقيقية. فالعميل الذي يملك حق الوصول إلى قاعدة بيانات وحدود ثقة ساذجة هو بمثابة موظف داخلي موثَّق بلا أي حكم تمييزي.

التركّز. يدعم عدد صغير من مزوّدي النماذج حصة متنامية من ذكاء القطاع المالي الاصطناعي. وأي عيب أو اختراق أو انقطاع في تلك الطبقة ينتشر في آنٍ واحد عبر المؤسسات — وهي مشكلة الترابط نفسها الموجودة في تركّز الحوسبة السحابية، لكن في مرحلة نضج مبكرة.

ضوابط تستجيب للاقتصاديات الجديدة

يظل التدريب على التوعية ضروريًا لكنه لم يعد كافيًا، لأنه يعتمد على قابلية اكتشاف الطُّعم. وينبغي أن تتحوّل الضوابط نحو تصميم عمليات لا تعتمد على التعرّف البشري:

• التحقق خارج القناة المعتادة (out-of-band) لتغييرات المدفوعات وبيانات الاعتماد، دون استثناءات للمنصب أو للاستعجال.
• مصادقة مقاومة للتصيّد الاحتيالي، بحيث لا يستطيع مستخدم مخدوع بإقناع تسليم بيانات اعتماد قابلة لإعادة الاستخدام.
• تقصير دورات التصحيح للثغرات المكشوفة على الإنترنت وعالية الخطورة، مع عملية استثناء ذات فعالية حقيقية.
• تطبيق مبدأ الحد الأدنى من الصلاحيات وبوابات موافقة بشرية على عملاء الذكاء الاصطناعي الذين يملكون صلاحية الكتابة أو تنفيذ المعاملات، ومعاملة كل المحتوى المُسترجَع باعتباره مُدخلًا غير موثوق.
• التحقق من صحة المُدخلات والمُخرجات حول أنظمة الذكاء الاصطناعي، بما في ذلك ضوابط تتبّع مصدر مصادر الاسترجاع.
• ضبط أدوات الكشف لالتقاط السلوك الداخلي غير الطبيعي، لا الاكتفاء بتوقيعات المحيط الخارجي فقط.

الحوكمة والارتباط بالأطراف الثالثة

تقع مخاطر الذكاء الاصطناعي المتقدم السيبرانية عند تقاطع المرونة التشغيلية، ومخاطر الأطراف الثالثة، ومخاطر النموذج، وهو ما يجعلها كثيرًا ما تسقط بين ثلاث لجان مختلفة. وهي تحتاج إلى مالك واحد مُساءَل، وموقع صريح في تصنيف المخاطر، وتقارير تربط التهديد بالخدمات التجارية الحرجة لا بالأصول التقنية فحسب.

أما بالنسبة للمزوّدين، فأسئلة العناية الواجبة محدَّدة: ما الضمانات القائمة ضد إساءة استخدام النموذج؟ وما الضوابط الأمنية التي تحمي النموذج والبيانات المُرسَلة إليه؟ وما الإشعار الذي يُعطى عند حدوث تغييرات جوهرية؟ وماذا يحدث للأوامر التوجيهية والمُخرجات؟ وكيف ستعمل المؤسسة إذا سُحبت الخدمة؟ وتُعد حقوق التدقيق التعاقدية وإشعار التغيير الحد الأدنى العملي.

الاختبار

ينبغي أن يشمل اختبار السيناريوهات مسار هجوم مُمكَّن بالذكاء الاصطناعي — اختراق بوساطة عميل ذكي، أو احتيال في التفويض باستخدام صوت اصطناعي، أو مصدر استرجاع مُسمَّم — وأن يختبر التعافي حين تكون الأدوات المُستخدَمة في الاستجابة نفسها متدهورة. وتمنح تمارين الفريق الأحمر التي تستخدم القدرات نفسها المتاحة للمهاجمين قراءة أكثر صدقًا من قائمة تحقق ضوابط تقليدية.

النقطة الاستراتيجية بسيطة. فالدفاعات المُعايَرة على تكلفة الهجوم في العقد الماضي أصبحت الآن مُعايَرة على رقم خاطئ. وإعادة معايرتها قرار من قرارات المرونة التشغيلية، ومكانه في جدول أعمال مجلس الإدارة إلى جانب خطط المؤسسة نفسها لتبنّي الذكاء الاصطناعي.

المصادر الأساسية: دعم الهيئات الرقابية الأوروبية الثلاث (ESAs) لتحذير المجلس الأوروبي للمخاطر النظامية (ESRB) بشأن المخاطر السيبرانية النظامية الناجمة عن نماذج الذكاء الاصطناعي المتقدم، يوليو 2026؛ متطلبات المرونة التشغيلية بموجب DORA؛ أعمال مجلس الاستقرار المالي (FSB) بشأن تبنّي الذكاء الاصطناعي والاستقرار المالي.