ISO 42001 与 NIST AI RMF:数据完整性缺口究竟在哪里

两个框架都要求您治理 AI 数据,但都没有告诉您如何独立证明您确实做到了。

作者ROOTKey
7分钟阅读合规 · 技术
博客文章横幅:ISO 42001 与 NIST AI RMF:数据完整性缺口究竟在哪里

引言

ISO 42001 与 NIST AI 风险管理框架(NIST AI Risk Management Framework)已成为大多数企业 AI 治理计划所依托的两个参考基准。二者是互补而非竞争关系:NIST AI RMF 为识别和管理 AI 风险提供了概念基础,而 ISO 42001 则提供了一套正式、可认证的管理体系结构,也就是可审核的流程,而不仅仅是理念。许多组织用前者来思考,用后者来落地实施。但这两个框架都没有具体规定:组织究竟应如何证明两者所要求的数据治理控制确实在按描述持续运行,而不只是在获得认证的那一刻。

两个框架各自的实际要求

NIST AI RMF:治理、映射、测量、管理

NIST 框架围绕四项职能构建,并在 AI 系统的整个生命周期中持续应用:治理整体风险态势,映射背景和潜在影响,通过适当的指标和测试来测量风险,以及通过缓解和监控来管理已识别的风险。它在实施层面刻意不作具体规定:这在适应性方面是一种优势,但对于希望找到一项具体数据完整性控制作为依据的组织来说,则是一个缺口。

ISO 42001:可认证的 AI 管理体系

ISO 42001 将同样的底层关切形式化为一套可审核的管理体系,沿用了 ISO 27001 在信息安全领域的结构模式:成文的方针、明确的角色和职责、风险评估方法论以及持续改进循环,所有这些都可以由认证机构独立审核。正是在这里,NIST 的概念性指导被转化为第三方可以逐项核对的内容。但在当前的大多数实施中,这种核对仍在很大程度上依赖文件审查,而不是对底层数据进行独立的技术验证。

两个框架共同留下的缺口

两个框架都要求组织治理其训练数据和运营数据:评估其质量、管理其风险、记录其处理方式。但两者都没有规定一种机制,用以独立证明这种治理确实在持续进行,而不只是写在一份每年审阅一次的政策文件中。与大多数管理体系审核一样,ISO 42001 认证审核是在某个时间点对证据进行抽样;它不会持续验证(而且如果没有另一种底层技术控制,从结构上也无法持续验证)为每个模型提供数据的每个数据集,在两次审核之间的每一天,是否始终与其文档描述完全一致。

在不替换任何一个框架的前提下弥合缺口

答案并不是放弃 ISO 42001 或 NIST AI RMF 而改用其他东西,两者仍然是 AI 治理计划正确的结构性参考基准。答案是将它们与一个技术层相结合,使它们所要求的数据治理控制能够被持续验证,而不只是定期记录在案:对数据集进行密码学锚定,采用篡改可被发现的变更记录,并建立一条认证机构或监管机构可以独立核查的审计追踪,而不是一条在审核周期之间依赖组织自我声明的审计追踪。

  • NIST AI RMF:概念性、持续性、非规定性;擅长指出应考虑什么,却未说明如何证明
  • ISO 42001:正式、可认证、可审核;擅长治理结构,但依赖定期的文件审查
  • 共同的缺口:两者都未规定对底层数据进行持续、独立的技术验证
  • 解决之道:将任一框架与数据溯源和完整性方面的密码学控制相结合,使治理声明能够被独立核查

ISO 42001 和 NIST AI RMF 告诉您良好的 AI 治理应当是什么样子。而要证明它每天都在切实进行,则需要另一种控制。了解 ROOTKey 如何与您现有的 AI 治理框架配合,提供持续且可独立验证的数据完整性证据。

共享 LinkedIn X
所有文章

保持关注

在您的邮箱中获取
网络韧性洞见。

关于数据完整性、合规与业务连续性的实用、可直接用于审计的指南,发布即送达。