Introduction
L’affinage d’un modèle à usage général sur les données internes de l’entreprise est désormais une tâche d’ingénierie courante, et non un projet de recherche. On extrait l’archive du support client, la base de connaissances interne et les historiques de décisions, on lance la tâche d’affinage, on met en production le modèle amélioré. Une question au réel poids réglementaire est pourtant rarement posée dans ce pipeline : ces données internes ont-elles elles-mêmes déjà été vérifiées, ou leur a-t-on simplement fait confiance parce que ce sont les nôtres ?
Des données internes ne sont pas automatiquement des données fiables
Une hypothèse tacite traverse la plupart des pipelines d’affinage : les données externes doivent être contrôlées, pas les données internes, puisqu’elles proviennent de nos propres systèmes. Cette hypothèse ignore la manière dont les données internes s’accumulent réellement au fil des années - corrections manuelles jamais revalidées, enregistrements modifiés par des collaborateurs partis depuis et dont l’accès a été révoqué, entrées historiques copiées depuis des systèmes qui ont depuis été retirés ou migrés avec perte de données et, dans le cas le plus hostile, modifications effectuées en interne qui n’ont jamais été conçues pour être détectées. Aucun de ces modes de défaillance ne nécessite un attaquant externe. Tous peuvent finir par s’ancrer dans le comportement d’un modèle affiné.
Pourquoi cela devient un problème de conformité, et pas seulement d’ingénierie
En vertu de l’article 10 de l’AI Act de l’UE, les obligations de gouvernance des données s’appliquent aux données d’entraînement, de validation et de test, que ces données soient d’origine interne ou externe - le règlement ne fait aucune distinction selon la source des données, uniquement selon l’usage qui est fait du système qui en résulte. Un modèle interne affiné déployé dans un contexte à haut risque hérite du même niveau d’exigence en matière de gouvernance des données qu’un modèle entraîné sur des données de tiers, et « nous avons toujours fait confiance à ces données » n’est pas une réponse défendable lorsqu’un auditeur demande comment l’intégrité des données a été vérifiée avant leur entrée dans le pipeline d’entraînement.
Ce qu’exige réellement la vérification des données internes
Vérifier des données internes en vue d’un affinage ne signifie pas les recollecter à partir de zéro. Cela signifie être en mesure de démontrer, pour le jeu de données précis extrait pour une exécution d’affinage donnée, quand chaque enregistrement a été créé ou modifié pour la dernière fois, par quel processus, et s’il a changé depuis un état connu comme sain. La plupart des entrepôts de données d’entreprise peuvent répondre en partie à cette question pour l’activité récente grâce aux journaux de modifications standard, mais rares sont ceux qui peuvent y répondre avec une confiance cryptographique remontant sur l’ensemble des années d’historique accumulé qui alimentent généralement un jeu de données d’affinage.
- Soumettre les données internes extraites pour l’affinage au même examen de provenance que les données de tiers - la source seule ne confère pas la fiabilité
- Établir, pour tout jeu de données, une référence connue comme saine et ancrée cryptographiquement avant son entrée dans un pipeline d’affinage
- Documenter et vérifier qui disposait d’un accès en écriture aux systèmes sources sur tout l’historique couvert par le jeu de données, et pas seulement sur l’activité récente
- Traiter chaque exécution d’affinage comme un événement nécessitant son propre instantané du jeu de données et son propre enregistrement de vérification, et non comme une nouvelle extraction depuis une source active et modifiable

L’affinage sur des données internes n’exempte pas une entreprise de ses obligations de gouvernance des données - il rend simplement la lacune plus facile à négliger. Découvrez comment ROOTKey établit une référence vérifiable pour les données d’entreprise avant leur entrée dans un pipeline d’entraînement.
