Affinage de LLM sur des données d’entreprise non vérifiées : le risque de conformité que personne n’assure

Toute entreprise qui affine un modèle sur ses données internes formule une affirmation implicite sur l’intégrité de ces données. La plupart n’ont pas vérifié si cette affirmation est vraie.

AuteurROOTKey
6 min de lectureSécurité · Entreprises
Bannière de l’article de blog : Affinage de LLM sur des données d’entreprise non vérifiées : le risque de conformité que personne n’assure

Introduction

L’affinage d’un modèle à usage général sur les données internes de l’entreprise est désormais une tâche d’ingénierie courante, et non un projet de recherche. On extrait l’archive du support client, la base de connaissances interne et les historiques de décisions, on lance la tâche d’affinage, on met en production le modèle amélioré. Une question au réel poids réglementaire est pourtant rarement posée dans ce pipeline : ces données internes ont-elles elles-mêmes déjà été vérifiées, ou leur a-t-on simplement fait confiance parce que ce sont les nôtres ?

Des données internes ne sont pas automatiquement des données fiables

Une hypothèse tacite traverse la plupart des pipelines d’affinage : les données externes doivent être contrôlées, pas les données internes, puisqu’elles proviennent de nos propres systèmes. Cette hypothèse ignore la manière dont les données internes s’accumulent réellement au fil des années - corrections manuelles jamais revalidées, enregistrements modifiés par des collaborateurs partis depuis et dont l’accès a été révoqué, entrées historiques copiées depuis des systèmes qui ont depuis été retirés ou migrés avec perte de données et, dans le cas le plus hostile, modifications effectuées en interne qui n’ont jamais été conçues pour être détectées. Aucun de ces modes de défaillance ne nécessite un attaquant externe. Tous peuvent finir par s’ancrer dans le comportement d’un modèle affiné.

Pourquoi cela devient un problème de conformité, et pas seulement d’ingénierie

En vertu de l’article 10 de l’AI Act de l’UE, les obligations de gouvernance des données s’appliquent aux données d’entraînement, de validation et de test, que ces données soient d’origine interne ou externe - le règlement ne fait aucune distinction selon la source des données, uniquement selon l’usage qui est fait du système qui en résulte. Un modèle interne affiné déployé dans un contexte à haut risque hérite du même niveau d’exigence en matière de gouvernance des données qu’un modèle entraîné sur des données de tiers, et « nous avons toujours fait confiance à ces données » n’est pas une réponse défendable lorsqu’un auditeur demande comment l’intégrité des données a été vérifiée avant leur entrée dans le pipeline d’entraînement.

Ce qu’exige réellement la vérification des données internes

Vérifier des données internes en vue d’un affinage ne signifie pas les recollecter à partir de zéro. Cela signifie être en mesure de démontrer, pour le jeu de données précis extrait pour une exécution d’affinage donnée, quand chaque enregistrement a été créé ou modifié pour la dernière fois, par quel processus, et s’il a changé depuis un état connu comme sain. La plupart des entrepôts de données d’entreprise peuvent répondre en partie à cette question pour l’activité récente grâce aux journaux de modifications standard, mais rares sont ceux qui peuvent y répondre avec une confiance cryptographique remontant sur l’ensemble des années d’historique accumulé qui alimentent généralement un jeu de données d’affinage.

  1. Soumettre les données internes extraites pour l’affinage au même examen de provenance que les données de tiers - la source seule ne confère pas la fiabilité
  2. Établir, pour tout jeu de données, une référence connue comme saine et ancrée cryptographiquement avant son entrée dans un pipeline d’affinage
  3. Documenter et vérifier qui disposait d’un accès en écriture aux systèmes sources sur tout l’historique couvert par le jeu de données, et pas seulement sur l’activité récente
  4. Traiter chaque exécution d’affinage comme un événement nécessitant son propre instantané du jeu de données et son propre enregistrement de vérification, et non comme une nouvelle extraction depuis une source active et modifiable
Schéma abstrait montrant des données internes alimentant un pipeline d’affinage, avec une lacune non vérifiée mise en évidence.
Interne ne veut pas dire vérifié. Les pipelines d’affinage héritent de toutes les lacunes d’intégrité qui existent déjà dans les données de l’entreprise.

L’affinage sur des données internes n’exempte pas une entreprise de ses obligations de gouvernance des données - il rend simplement la lacune plus facile à négliger. Découvrez comment ROOTKey établit une référence vérifiable pour les données d’entreprise avant leur entrée dans un pipeline d’entraînement.

Partager LinkedIn X
Tous les articles

Restez informé

Recevez des analyses de
cyber-résilience dans votre boîte mail.

Des conseils pratiques et prêts pour l’audit sur l’intégrité des données, la conformité et la continuité, au fil de nos publications.