مقدمة
أصبحت بطاقات النماذج (Model Cards) ممارسة معيارية لأسباب وجيهة: فهي تُلزم الفرق بأن تدوّن الغرض من النموذج، والبيانات التي دُرِّب عليها، وحدوده المعروفة، وكيفية تقييمه. وهذا الانضباط قيّم. لكنه في حد ذاته غير قابل للتحقق. فبطاقة النموذج وثيقة تكتبها المؤسسة نفسها المطلوب منها أن تقدّم حسابًا عن النموذج - وكأي وثيقة قائمة على الإفصاح الذاتي، قد تكون ناقصة أو قديمة أو خاطئة ببساطة، من دون أن يملك القارئ أي وسيلة مستقلة لمعرفة أيٌّ من ذلك هو الحال.
ما الذي تُثبته بطاقة النموذج فعلًا
في أفضل الأحوال، بطاقة النموذج ادعاء منظَّم جيدًا: هذا ما نعتقده بشأن بيانات تدريب هذا النموذج واستخدامه المقصود وحدوده، حتى تاريخ كتابة هذه الوثيقة. إنها ليست إيصالًا. فهي لا تُثبت أن بيانات التدريب الموصوفة هي بيانات التدريب المستخدمة فعلًا، ولا أن البيانات لم تتغير منذ ذلك الحين، ولا أن نتائج التقييم المُبلَّغ عنها تعكس إصدار النموذج المستخدم حاليًا في بيئة الإنتاج لا إصدارًا سابقًا لم تُحدَّث البطاقة قط لتعكس ما تلاه. ومع تزايد التدقيق التنظيمي - وفي مقدمته متطلبات التوثيق في المادتين 10 و11 من قانون الذكاء الاصطناعي الأوروبي - فإن الفجوة بين ادعاء محكم الصياغة وادعاء قابل للإثبات هي بالضبط الموضع الذي تتركز فيه مخاطر الإنفاذ.
الفجوات الثلاث التي بدأت الجهات التنظيمية تتعلّم السؤال عنها
أولًا، الحداثة: هل حُدِّثت بطاقة النموذج هذه عندما أُعيد تدريب النموذج أو خضع للضبط الدقيق، أم أنها تصف إصدارًا سابقًا؟ ثانيًا، التحقق من المصدر: هل توجد أي وسيلة لتأكيد أن بيانات التدريب الموصوفة هي فعلًا ما استُخدم، بمعزل عمّا تؤكده الوثيقة نفسها؟ ثالثًا، اكتشاف التغييرات: لو عُدِّلت بيانات التدريب الأساسية بعد كتابة بطاقة النموذج، فهل سيعلم أحدٌ - بما في ذلك الفريق الذي كتبها - بذلك بالضرورة؟
إثبات المصدر طبقة منفصلة، لا بطاقة نموذج أفضل
إن سدّ هذه الفجوات لا يعني كتابة بطاقات نماذج أكثر تفصيلًا، بل يعني إضافة طبقة تحت الوثائق قادرة على التحقق بشكل مستقل مما تدّعيه الوثائق: الإرساء التشفيري لمجموعة بيانات التدريب الفعلية لحظة استخدامها، بحيث يصبح منشأ البيانات وأي تغيير لاحق عليها قابلين للإثبات بدل أن يكونا مجرد وصف. وبطاقة النموذج المقترنة بهذا النوع من السجلات القابلة للتحقق تكفّ عن كونها ادعاءً يتعيّن على المدقق أن يثق به، وتصبح ادعاءً يستطيع المدقق التحقق منه.
- توثّق بطاقات النماذج النية وقرارات التصميم - وهي ليست مصممة لإثبات أي شيء بشكل مستقل
- تتراجع فائدة بطاقة النموذج كدليل في اللحظة التي يُعاد فيها تدريب النموذج من دون تحديث مقابل لها
- الإرساء التشفيري لبيانات التدريب يسدّ الفجوة بين ما تدّعيه بطاقة النموذج وما يمكن التحقق منه فعلًا
- تميّز الجهات التنظيمية بشكل متزايد بين التوثيق والإثبات - وينبغي للمؤسسات أن تستعد لهذا التمييز الآن، لا بعد أن يكشفه تدقيق
يصف التوثيق ما ينبغي أن يكون عليه النموذج، ولا يمكن إلا لإثبات المصدر القابل للتحقق أن يُثبت ما هو عليه فعلًا. اكتشف كيف ترسي ROOTKey بيانات تدريب الذكاء الاصطناعي بحيث يمكن التحقق من ادعاءات التوثيق بشكل مستقل.