ISO 42001 face au NIST AI RMF : où se situe vraiment la lacune en matière d'intégrité des données

Les deux référentiels vous demandent de gouverner les données de votre IA. Aucun ne vous dit comment prouver, de manière indépendante, que vous l'avez réellement fait.

AuteurROOTKey
7 min de lectureConformité · Technologie
Bannière de l'article de blog : ISO 42001 face au NIST AI RMF : où se situe vraiment la lacune en matière d'intégrité des données

Introduction

L'ISO 42001 et le NIST AI Risk Management Framework sont devenus les deux points de référence autour desquels se construisent la plupart des programmes de gouvernance de l'IA en entreprise. Ils sont complémentaires plutôt que concurrents : le NIST AI RMF offre un socle conceptuel pour identifier et gérer les risques liés à l'IA, tandis que l'ISO 42001 fournit une structure de système de management formelle et certifiable - le processus auditable, et pas seulement la philosophie. De nombreuses organisations utilisent l'un pour réfléchir et l'autre pour passer à l'opérationnel. Ce qu'aucun des deux référentiels ne précise, en termes concrets, c'est la manière exacte dont une organisation prouve que les contrôles de gouvernance des données exigés par les deux fonctionnent réellement comme décrit, de façon continue et pas seulement au moment de la certification.

Ce que chaque référentiel exige réellement

NIST AI RMF : gouverner, cartographier, mesurer, gérer

Le référentiel du NIST s'articule autour de quatre fonctions appliquées en continu tout au long du cycle de vie d'un système d'IA : gouverner la posture de risque globale, cartographier le contexte et les impacts potentiels, mesurer le risque au moyen de métriques et de tests appropriés, et gérer les risques identifiés par l'atténuation et la surveillance. Il est volontairement non prescriptif quant à la mise en œuvre - un atout pour l'adaptabilité, et une lacune pour les organisations qui cherchent un contrôle précis d'intégrité des données sur lequel s'appuyer.

ISO 42001 : un système de management de l'IA certifiable

L'ISO 42001 reprend les mêmes préoccupations de fond et les formalise dans un système de management auditable, selon le même schéma structurel que l'ISO 27001 pour la sécurité de l'information : politiques documentées, rôles et responsabilités définis, méthodologie d'appréciation des risques et cycle d'amélioration continue, autant d'éléments qu'un organisme de certification peut auditer de manière indépendante. C'est là que les orientations conceptuelles du NIST deviennent quelque chose qu'un tiers peut vérifier point par point - mais cette vérification, dans la plupart des mises en œuvre actuelles, repose encore largement sur l'examen de la documentation plutôt que sur une vérification technique indépendante des données sous-jacentes.

La lacune que les deux référentiels laissent ouverte

Les deux référentiels exigent d'une organisation qu'elle gouverne ses données d'entraînement et ses données opérationnelles - évaluer leur qualité, gérer leurs risques, documenter leur traitement. Aucun ne précise de mécanisme permettant de prouver de manière indépendante que cette gouvernance a réellement lieu, en continu, au lieu d'être simplement affirmée dans un document de politique revu une fois par an. Un audit de certification au titre de l'ISO 42001, comme la plupart des audits de systèmes de management, échantillonne des preuves à un instant donné ; il ne vérifie pas en continu - et ne le peut pas structurellement, sans un autre type de contrôle technique sous-jacent - que chaque jeu de données alimentant chaque modèle reste exactement conforme à ce que décrit sa documentation, chaque jour entre deux audits.

Combler la lacune sans remplacer l'un ou l'autre référentiel

La solution n'est pas d'abandonner l'ISO 42001 ou le NIST AI RMF au profit d'autre chose - tous deux restent les bons points de référence structurels pour un programme de gouvernance de l'IA. La solution consiste à les associer à une couche technique qui rend les contrôles de gouvernance des données qu'ils exigent vérifiables en continu plutôt que documentés périodiquement : ancrage cryptographique des jeux de données, registres de modifications dont toute altération est détectable et piste d'audit qu'un organisme de certification ou un régulateur peut vérifier de manière indépendante, plutôt qu'une piste qui repose sur la propre attestation de l'organisation entre deux cycles d'audit.

  • NIST AI RMF : conceptuel, continu, non prescriptif - solide sur ce à quoi il faut réfléchir, muet sur la manière de le prouver
  • ISO 42001 : formelle, certifiable, auditable - solide sur la structure de gouvernance, tributaire de l'examen périodique de la documentation
  • La lacune commune : aucun des deux ne prévoit de vérification technique continue et indépendante des données sous-jacentes
  • La solution : associer l'un ou l'autre référentiel à des contrôles cryptographiques de provenance et d'intégrité des données qui rendent les affirmations de gouvernance vérifiables de manière indépendante

L'ISO 42001 et le NIST AI RMF vous disent à quoi ressemble une bonne gouvernance de l'IA. Prouver qu'elle est réellement appliquée, chaque jour, exige un autre type de contrôle. Découvrez comment ROOTKey fournit des preuves d'intégrité des données continues et vérifiables de manière indépendante, en complément de votre référentiel de gouvernance de l'IA existant.

Partager LinkedIn X
Tous les articles

Restez informé

Recevez des analyses de
cyber-résilience dans votre boîte mail.

Des conseils pratiques et prêts pour l’audit sur l’intégrité des données, la conformité et la continuité, au fil de nos publications.