EU AI Act 2026: واجبات الشفافية

بقلم Jonas Osman Abdelghafour.

يُطبَّق EU AI Act بشكل أفقي، وهذا بالضبط ما يجعله مربكًا للمؤسسات المالية: فالالتزامات ترتبط بالدور الذي تلعبه المؤسسة تجاه النظام — مزوّد، أو جهة نشر، أو مستورد، أو موزّع — لا بالنشاط الخاضع للرقابة الذي تمارسه. فالبنك الذي يشتري أداة فحص هو جهة نشر؛ أما البنك الذي يُعدّل ويسوّق أداة فيصبح أقرب إلى مزوّد. وتصنيف ذلك بشكل خاطئ هو أكثر الأخطاء تكلفةً، لأنه يحدد مجموعة الالتزامات بأكملها.

التصنيف هو الضابط الرقابي الأول

سؤالان يقودان العمل. أولًا، هل النظام مشمول أصلًا كذكاء اصطناعي بموجب تعريف القانون؟ ثانيًا، ما فئة المخاطر المنطبقة؟ بالنسبة للخدمات المالية، الفئات ذات الأثر هي الممارسات المحظورة (ضيقة لكنها مطلقة)، والاستخدامات عالية المخاطر — وأبرزها تقييم الجدارة الائتمانية للأشخاص الطبيعيين، وتقييم المخاطر والتسعير في تأمين الحياة والصحة — وطبقة الشفافية المنطبقة على الأنظمة التي تتفاعل مع الأشخاص أو تُنتج محتوى.

وكل ما يلي ذلك يعتمد على هذا التصنيف، لذا ينبغي أن يكون سمة مُسجَّلة في جرد النماذج لها مالك وتاريخ مراجعة، لا في جدول امتثال منفصل.

الشفافية في الممارسة العملية

توصف واجبات الشفافية عادةً بأنها "إخبار الناس أنهم يتحدثون مع آلة". لكن الواقع التشغيلي أوسع من ذلك. فالأنظمة التي تتفاعل مباشرة مع الأفراد يجب أن توضح ذلك في لحظة التفاعل، في الواجهة نفسها، لا في سياسة مدفونة بعد ثلاث نقرات. ويحتاج المحتوى الاصطناعي أو المُعدَّل إلى وسم قابل للقراءة الآلية. وتحمل استخدامات استنتاج المشاعر وتصنيف السمات البيومترية واجبات إفصاح خاصة بها، وهي مقيَّدة بشدة في سياقات التوظيف.

بالنسبة لبنك تجزئة، المخرج العملي غير برّاق: واجهات محادثة تُعرِّف بنفسها، ونصوص مراكز اتصال تُفصح عن المعالجة الآلية، ومسارات إنتاج محتوى تسويقي تضع وسومًا على الأصول المُولَّدة، وسجل أدلة يوضح متى نُفِّذ كل إفصاح.

واجبات المخاطر العالية تتطابق مع ضوابط تملكها المؤسسات أصلًا

عندما يقع استخدام ضمن فئة المخاطر العالية — التصنيف الائتماني للمستهلكين، وتسعير التأمين في الخطوط المذكورة — تبدو المتطلبات كإطار جيد لإدارة مخاطر النماذج مع أوراق إضافية: نظام إدارة مخاطر يغطي دورة الحياة كاملة، وحوكمة بيانات تشمل التمثيلية والتحيّز، ووثائق تقنية، وتسجيل آلي، وإشراف بشري مُدمَج في سير العمل، ودقة ومتانة وأمن سيبراني يتناسبان مع الاستخدام.

والاستجابة الفعّالة هي الربط لا التكرار. متطلبات حوكمة البيانات تُطابق ضوابط تتبّع وجودة البيانات القائمة أصلًا. والتوثيق التقني يُطابق وثائق تطوير النماذج، مع إضافة الحقول الخاصة بالقانون. والإشراف البشري يُطابق تصميم آليات التجاوز والتصعيد التي ينبغي أن يختبرها التحقق أصلًا. والتسجيل الآلي يُطابق متطلبات مسار التدقيق. والمؤسسات التي تبني حزمة امتثال موازية خاصة بـ EU AI Act تنتهي بالاحتفاظ بوصفين لنفس النموذج، يتباعدان خلال عام.

كما تحمل جهات النشر واجبات خاصة بها: استخدام النظام وفق تعليمات المزوّد، وضمان ملاءمة بيانات الإدخال، وتعيين إشراف بشري كفء، ومراقبة التشغيل، وفي عدة حالات إبلاغ الأفراد المتأثرين. ولا يمكن للبنك أن يُحيل هذه الواجبات إلى المزوّد.

النماذج عامة الغرض وسلسلة التوريد

معظم المؤسسات تستهلك نماذج عامة الغرض بدلًا من بنائها. ويتحمل المزوّد التوثيق، وفوق عتبة المخاطر النظامية، التزامات إضافية؛ لكن جهة النشر لا تزال بحاجة إلى معلومات كافية للوفاء بواجباتها الخاصة. وهذا يجعل الوصول التعاقدي إلى الوثائق التقنية، والإشعار بالتغييرات الجوهرية في النموذج، والأدلة الداعمة لادعاءات الاستخدام المقصود، متطلبًا في المشتريات لا رفاهية إضافية. وحيثما يرفض المزوّد توفير ذلك، ينبغي أن تفترض المؤسسة حاجتها إلى اختبارات تعويضية، وأن تُدرج ذلك في قرار البناء مقابل الشراء.

ما يجب فعله خلال الربعين القادمين

• وسم كل نظام ذكاء اصطناعي في الجرد بالدور وفئة المخاطر والأساس القانوني، ومراجعة ذلك التصنيف بشكل مستقل.
• سد فجوات الشفافية في القنوات الموجهة للعملاء أولًا؛ فهي مرئية، ورخيصة الإصلاح، والأسهل رصدًا في المخالفات.
• ربط متطلبات المخاطر العالية بمخرجات إدارة مخاطر النماذج القائمة، وسد الفجوات بدلًا من كتابة وثائق جديدة.
• تعديل نماذج المشتريات بحيث تصبح الوثائق، والإشعار بالتغييرات، وحقوق التدقيق معايير قياسية.
• إدراج واجبات محو الأمية في الذكاء الاصطناعي ضمن تدريب الموظفين الذين يُشغّلون هذه الأنظمة أو يشرفون عليها.

المؤسسات التي ستجد EU AI Act قابلًا للإدارة هي تلك التي تُنتج حوكمة نماذجها الأدلة عند الطلب أصلًا. فبالنسبة لها، الأمر مجرد تمرين تصنيف وإفصاح. أما بالنسبة لتلك التي تفتقر إلى توثيق أصول الذكاء الاصطناعي لديها، فهو أولًا تمرين اكتشاف — والاكتشاف تحت مهلة تنظيمية هو أغلى طريقة لمعرفة ما تملكه.

المصادر الأساسية: اللائحة (EU) 2024/1689 (AI Act)؛ إرشادات مكتب خدمة AI Act التابع للمفوضية الأوروبية بشأن واجبات الشفافية في المادة 50.