ISO 42001 versus NIST AI RMF: onde está realmente a lacuna na integridade dos dados

Ambos os referenciais pedem-lhe que governe os seus dados de IA. Nenhum lhe diz como provar, de forma independente, que o fez de facto.

AutorROOTKey
7 min de leituraConformidade · Tecnologia
Banner do artigo do blog: ISO 42001 versus NIST AI RMF: onde está realmente a lacuna na integridade dos dados

Introdução

A ISO 42001 e o NIST AI Risk Management Framework tornaram-se os dois pontos de referência em torno dos quais é construída a maioria dos programas de governação de IA nas empresas. São complementares e não concorrentes: o NIST AI RMF oferece uma base concetual para identificar e gerir o risco de IA, enquanto a ISO 42001 fornece uma estrutura de sistema de gestão formal e certificável - o processo auditável, e não apenas a filosofia. Muitas organizações usam um para pensar e o outro para operacionalizar. O que nenhum dos referenciais especifica, em termos concretos, é exatamente como uma organização prova que os controlos de governação de dados exigidos por ambos estão de facto a funcionar conforme descrito, de forma contínua e não apenas no momento da certificação.

O que cada referencial exige realmente

NIST AI RMF: governar, mapear, medir, gerir

O referencial do NIST organiza-se em torno de quatro funções aplicadas continuamente ao longo do ciclo de vida de um sistema de IA: governar a postura global de risco, mapear o contexto e os potenciais impactos, medir o risco através de métricas e testes adequados, e gerir os riscos identificados através de mitigação e monitorização. É deliberadamente não prescritivo quanto à implementação - uma força em termos de adaptabilidade, e uma lacuna para as organizações que procuram um controlo de integridade dos dados concreto que possam apresentar.

ISO 42001: um sistema de gestão de IA certificável

A ISO 42001 retoma as mesmas preocupações de fundo e formaliza-as num sistema de gestão auditável, seguindo o mesmo padrão estrutural da ISO 27001 para a segurança da informação: políticas documentadas, funções e responsabilidades definidas, uma metodologia de avaliação de riscos e um ciclo de melhoria contínua, tudo isto passível de ser auditado de forma independente por um organismo de certificação. É aqui que as orientações concetuais do NIST se transformam em algo que um terceiro pode verificar ponto por ponto - mas essa verificação, na maioria das implementações atuais, continua a assentar fortemente na revisão de documentação e não na verificação técnica independente dos dados subjacentes.

A lacuna que ambos os referenciais deixam em aberto

Ambos os referenciais exigem que uma organização governe os seus dados de treino e operacionais - avaliar a sua qualidade, gerir o respetivo risco, documentar o seu tratamento. Nenhum especifica um mecanismo para provar de forma independente que essa governação está realmente a acontecer, de forma contínua, em vez de ser apenas afirmada num documento de política revisto uma vez por ano. Uma auditoria de certificação segundo a ISO 42001, como a maioria das auditorias a sistemas de gestão, recolhe amostras de evidências num determinado momento; não verifica de forma contínua - e estruturalmente não consegue fazê-lo, sem um tipo diferente de controlo técnico subjacente - que cada conjunto de dados que alimenta cada modelo se mantém exatamente como a sua documentação o descreve, todos os dias entre auditorias.

Fechar a lacuna sem substituir nenhum dos referenciais

A resposta não é abandonar a ISO 42001 ou o NIST AI RMF em favor de outra coisa - ambos continuam a ser os pontos de referência estruturais certos para um programa de governação de IA. A resposta é combiná-los com uma camada técnica que torne os controlos de governação de dados que exigem continuamente verificáveis, em vez de periodicamente documentados: ancoragem criptográfica dos conjuntos de dados, registos de alterações que tornam qualquer adulteração detetável e uma pista de auditoria que um organismo de certificação ou um regulador possa verificar de forma independente, em vez de uma que dependa da declaração da própria organização entre ciclos de auditoria.

  • NIST AI RMF: concetual, contínuo, não prescritivo - forte no que se deve ter em conta, omisso quanto à forma de o provar
  • ISO 42001: formal, certificável, auditável - forte na estrutura de governação, dependente da revisão periódica de documentação
  • A lacuna comum: nenhum dos dois especifica uma verificação técnica contínua e independente dos dados subjacentes
  • A solução: combinar qualquer um dos referenciais com controlos criptográficos de proveniência e integridade dos dados que tornem as afirmações de governação verificáveis de forma independente

A ISO 42001 e o NIST AI RMF dizem-lhe como é uma boa governação de IA. Provar que ela está realmente a acontecer, todos os dias, exige um tipo diferente de controlo. Veja como a ROOTKey fornece evidências de integridade dos dados contínuas e verificáveis de forma independente, a par do referencial de governação de IA que já utiliza.

Partilhar LinkedIn X
Todos os artigos

Fique a par

Receba insights de
ciber-resiliência no seu email.

Orientação prática e pronta para auditoria sobre integridade de dados, conformidade e continuidade - à medida que publicamos.