ISO 42001 frente a NIST AI RMF: dónde está realmente la brecha en la integridad de los datos

Ambos marcos le piden que gobierne los datos de su IA. Ninguno le dice cómo demostrar, de forma independiente, que realmente lo ha hecho.

AutorROOTKey
7 min de lecturaCumplimiento · Tecnología
Banner del artículo del blog: ISO 42001 frente a NIST AI RMF: dónde está realmente la brecha en la integridad de los datos

Introducción

ISO 42001 y el NIST AI Risk Management Framework se han convertido en los dos puntos de referencia en torno a los cuales se construyen la mayoría de los programas de gobernanza de la IA en las empresas. Son complementarios, no competidores: el NIST AI RMF ofrece una base conceptual para identificar y gestionar el riesgo de la IA, mientras que ISO 42001 proporciona una estructura de sistema de gestión formal y certificable - el proceso auditable, no solo la filosofía. Muchas organizaciones utilizan uno para pensar y el otro para llevarlo a la práctica. Lo que ninguno de los dos marcos especifica, en términos concretos, es cómo demuestra exactamente una organización que los controles de gobernanza de datos que ambos exigen funcionan realmente tal como se describen, de forma continua y no solo en el momento de la certificación.

Qué exige realmente cada marco

NIST AI RMF: gobernar, mapear, medir, gestionar

El marco del NIST se organiza en torno a cuatro funciones que se aplican de forma continua a lo largo del ciclo de vida de un sistema de IA: gobernar la postura global de riesgo, mapear el contexto y los posibles impactos, medir el riesgo mediante métricas y pruebas adecuadas, y gestionar los riesgos identificados mediante mitigación y supervisión. Es deliberadamente no prescriptivo en cuanto a la implementación - una fortaleza en términos de adaptabilidad y una carencia para las organizaciones que buscan un control concreto de integridad de los datos al que poder remitirse.

ISO 42001: un sistema de gestión de la IA certificable

ISO 42001 toma esas mismas preocupaciones de fondo y las formaliza en un sistema de gestión auditable, siguiendo el mismo patrón estructural que ISO 27001 para la seguridad de la información: políticas documentadas, funciones y responsabilidades definidas, una metodología de evaluación de riesgos y un ciclo de mejora continua, todo lo cual puede auditar de forma independiente un organismo de certificación. Es aquí donde las orientaciones conceptuales del NIST se convierten en algo que un tercero puede comprobar punto por punto - pero esa comprobación, en la mayoría de las implementaciones actuales, sigue apoyándose en gran medida en la revisión documental y no en la verificación técnica independiente de los datos subyacentes.

La brecha que ambos marcos dejan abierta

Ambos marcos exigen que una organización gobierne sus datos de entrenamiento y operativos - evaluar su calidad, gestionar su riesgo, documentar su tratamiento. Ninguno especifica un mecanismo para demostrar de forma independiente que esa gobernanza se está produciendo realmente, de forma continua, en lugar de afirmarse en un documento de política que se revisa una vez al año. Una auditoría de certificación según ISO 42001, como la mayoría de las auditorías de sistemas de gestión, toma muestras de evidencias en un momento determinado; no verifica de forma continua - y estructuralmente no puede hacerlo, sin un tipo diferente de control técnico subyacente - que cada conjunto de datos que alimenta cada modelo sigue siendo exactamente lo que describe su documentación, todos los días entre auditorías.

Cerrar la brecha sin sustituir ninguno de los dos marcos

La respuesta no es abandonar ISO 42001 o el NIST AI RMF en favor de otra cosa - ambos siguen siendo los puntos de referencia estructurales adecuados para un programa de gobernanza de la IA. La respuesta es combinarlos con una capa técnica que haga que los controles de gobernanza de datos que exigen sean verificables de forma continua en lugar de documentarse periódicamente: anclaje criptográfico de los conjuntos de datos, registros de cambios que permiten detectar cualquier manipulación y una pista de auditoría que un organismo de certificación o un regulador pueda comprobar de forma independiente, en lugar de una que dependa de la propia declaración de la organización entre ciclos de auditoría.

  • NIST AI RMF: conceptual, continuo, no prescriptivo - sólido en lo que hay que tener en cuenta, no dice nada sobre cómo demostrarlo
  • ISO 42001: formal, certificable, auditable - sólida en la estructura de gobernanza, dependiente de la revisión documental periódica
  • La brecha común: ninguno especifica una verificación técnica continua e independiente de los datos subyacentes
  • La solución: combinar cualquiera de los dos marcos con controles criptográficos de procedencia e integridad de los datos que permitan comprobar de forma independiente las afirmaciones de gobernanza

ISO 42001 y el NIST AI RMF le dicen cómo es una buena gobernanza de la IA. Demostrar que realmente se está produciendo, todos los días, requiere otro tipo de control. Descubra cómo ROOTKey proporciona evidencias de integridad de los datos continuas y verificables de forma independiente, junto al marco de gobernanza de la IA que ya utiliza.

Compartir LinkedIn X
Todos los artículos

Manténgase al día

Reciba insights de
ciberresiliencia en su correo electrónico.

Orientación práctica y lista para auditoría sobre integridad de datos, cumplimiento y continuidad, a medida que los publicamos.