نسب البيانات مقابل سلامة البيانات: ما يحتاج كل فريق ذكاء اصطناعي إلى معرفته

لقد أُغلقت نافذة الامتثال. إليك ما تحتاج إليه الآن.

دخلت متطلبات قانون الذكاء الاصطناعي الأوروبي (AI Act) الخاصة بأنظمة الذكاء الاصطناعي عالية المخاطر حيّز التطبيق في أغسطس 2026. ويتعيّن الآن على المؤسسات التي تنشر أنظمة ذكاء اصطناعي عالية المخاطر في سوق الاتحاد الأوروبي الامتثال لكامل الالتزامات الواردة في الفصل الثالث، الباب الثالث من القانون.

هذه ليست مرحلة تحضيرية. فسلطات مراقبة السوق باتت الآن جاهزة من الناحية التشغيلية، ونظام تقييم المطابقة الذي ينص عليه القانون أصبح نافذًا.

تغطي قائمة التحقق التالية الحد الأدنى من متطلبات الامتثال للذكاء الاصطناعي عالي المخاطر. وقد صُمّمت لمسؤولي الامتثال والفرق القانونية ومديري منتجات الذكاء الاصطناعي الذين يحتاجون إلى تقييم وضعهم الحالي وتحديد أولويات المعالجة.

نظام إدارة المخاطر (المادة 9)

يجب أن يكون لكل نظام ذكاء اصطناعي عالي المخاطر نظام مستمر لإدارة المخاطر طوال دورة حياته. قائمة التحقق:

• [ ] توثيق عملية إدارة المخاطر وتطبيقها
• [ ] تحديد المخاطر المعروفة والمتوقعة على الصحة والسلامة والحقوق الأساسية
• [ ] تقييم المخاطر المتبقية على أنها مقبولة
• [ ] اختبار نظام إدارة المخاطر في مواجهة سوء الاستخدام المتوقَّع بشكل معقول
• [ ] تطبيق تدابير مناسبة للحد من المخاطر
• [ ] تحديث نظام إدارة المخاطر بصورة مستمرة بعد النشر

يجب أن يكون نظام إدارة المخاطر متناسبًا مع فئة المخاطر والغرض المقصود من نظام الذكاء الاصطناعي. فهو ليس إجراءً يُنفَّذ مرة واحدة - بل متطلب تشغيلي مستمر.

حوكمة البيانات (المادة 10)

متطلبات حوكمة البيانات الخاصة بمجموعات بيانات التدريب والتحقق والاختبار:

• [ ] وجود ممارسات موثقة لحوكمة البيانات وإدارتها
• [ ] تحديد مجموعات بيانات التدريب والتحقق والاختبار وفهرستها
• [ ] تقييم مدى الملاءمة والتمثيلية والخلو من الأخطاء لكل مجموعة بيانات
• [ ] وجود تحقق تشفيري من السلامة أو ما يعادله لإثبات أن مجموعات البيانات لم تُعدَّل
• [ ] توثيق أوجه التحيز والثغرات في مجموعات البيانات والتخفيف منها
• [ ] تطبيق إجراءات معالجة الفئات الخاصة من البيانات (الفقرة 5 من المادة 10) عند الاقتضاء
• [ ] إتاحة وثائق حوكمة البيانات لمراجعة الجهة التنظيمية

هذه عادةً أكبر ثغرة في برامج امتثال الذكاء الاصطناعي لدى المؤسسات. فاشتراط إثبات أن مجموعات البيانات لم تُعدَّل هو متطلب تقني لا تستطيع ضوابط الوصول وحدها الوفاء به - إذ يتطلب تحققًا تشفيريًا من السلامة أو آليات مكافئة تكشف أي تلاعب.

تعالج منصة سلامة البيانات من ROOTKey متطلب السلامة الوارد في المادة 10 بشكل مباشر. راجع دليلنا المفصّل حول متطلبات حوكمة البيانات في قانون الذكاء الاصطناعي الأوروبي للاطلاع على التحليل التقني الكامل.

التوثيق التقني والشفافية (المواد 11 و13 و14)

يجب أن تستوفي أنظمة الذكاء الاصطناعي عالية المخاطر متطلبات واسعة في مجال التوثيق والشفافية:

التوثيق التقني (المادة 11):

• [ ] إعداد الوثائق التقنية قبل الطرح في السوق
• [ ] تشمل وصف النظام وبيانات التدريب والبنية والغرض المقصود ومقاييس الأداء
• [ ] الحفاظ على الوثائق وتحديثها طوال دورة الحياة

تعليمات الاستخدام (المادة 13):

• [ ] تقديم تعليمات واضحة وبلغة بسيطة إلى الجهات القائمة على النشر
• [ ] توثيق الغرض المقصود والأداء والقيود ومتطلبات الإشراف البشري
• [ ] تحديث التعليمات عند تغيّر النظام

الإشراف البشري (المادة 14):

• [ ] دمج تدابير الإشراف البشري منذ التصميم
• [ ] تحديد موظفين مؤهلين للإشراف على النظام
• [ ] إتاحة قدرات التجاوز والتدخل واختبارها

بالنسبة لأنظمة الذكاء الاصطناعي التي تتفاعل مباشرة مع الأفراد، تنطبق التزامات شفافية إضافية بموجب المادة 52 - إذ يجب إعلام الأفراد بأنهم يتفاعلون مع نظام ذكاء اصطناعي.

تقييم المطابقة والتسجيل (المواد 16 و43 و49)

قبل طرح نظام ذكاء اصطناعي عالي المخاطر في سوق الاتحاد الأوروبي:

تقييم المطابقة (المادة 43):

• [ ] استكمال إجراء تقييم المطابقة (تقييم ذاتي أو عبر هيئة مُخطَرة، بحسب نوع نظام الذكاء الاصطناعي)
• [ ] إعداد إعلان المطابقة الأوروبي وتوقيعه
• [ ] وضع علامة CE عند الاقتضاء

التسجيل (المادة 49):

• [ ] تسجيل النظام في قاعدة بيانات قانون الذكاء الاصطناعي الأوروبي (التي يديرها المكتب الأوروبي للذكاء الاصطناعي)
• [ ] دقة معلومات التسجيل وتحديثها

الرصد بعد الطرح في السوق (المادة 72):

• [ ] وجود خطة للرصد بعد الطرح في السوق
• [ ] جاهزية إجراء الإبلاغ عن الحوادث الخطيرة (يجب الإبلاغ عن الحوادث إلى السلطات الوطنية)

أما المؤسسات التي تنشر أنظمة ذكاء اصطناعي عالية المخاطر تابعة لأطراف ثالثة (بصفتها «جهات قائمة على النشر» لا «جهات مزوّدة») فتقع عليها التزاماتها الخاصة بموجب المادة 29 - بما في ذلك حصر الاستخدام في الغرض المقصود، وتدريب الموظفين، وتطبيق الإشراف.

للحصول على دعم شامل لوضع امتثالك لـ NIS2 وقانون الذكاء الاصطناعي الأوروبي، يوفّر مركز الامتثال المؤسسي من ROOTKey أدوات وإرشادات تغطي الإطارين كليهما. ابدأ تقييم الامتثال المجاني.