引言
模型卡之所以成为标准做法，自有其充分理由：它迫使团队把模型的用途、训练所用的数据、已知的局限以及评估方式写下来。这种规范很有价值。但仅凭其本身，它也是无法验证的。模型卡是由被要求对该模型作出说明的同一家组织撰写的文档；和任何自我申报的文档一样，它可能不完整、已经过时，或者干脆就是错的，而读者没有任何独立的方法来判断属于哪种情况。
模型卡真正能确立的是什么
在最好的情况下，模型卡是一份条理清晰的声明：截至本文档撰写之日，这是我们对该模型的训练数据、预期用途和局限性的认识。它不是收据。它无法证明所描述的训练数据就是实际使用的训练数据，无法证明数据此后未被更改，也无法证明所报告的评估结果反映的是当前投入生产的模型版本，而不是某个早期版本（因为模型卡此后从未相应更新）。在日益严格的监管审查之下，尤其是欧盟《人工智能法》第 10 条和第 11 条的文档要求，一份写得好的声明与一份可证明的声明之间的差距，恰恰是执法风险集中之处。
监管机构正在学会追问的三个缺口
第一，时效性：模型重新训练或微调时，这份模型卡是否随之更新，还是描述的仍是早期版本？第二，来源验证：除了文档自身的陈述之外，是否有任何方法可以确认所描述的训练数据确实就是实际使用的数据？第三，变更检测：如果底层训练数据在模型卡撰写之后被更改，是否必然会有人知道，包括撰写它的团队在内？
溯源是独立的一层，而不是更好的模型卡
弥补这些缺口，并不意味着撰写更详尽的模型卡，而是要在文档之下增加一层，能够独立验证文档所声称的内容：在实际训练数据集被使用的那一刻对其进行密码学锚定，使数据的来源以及此后的任何变更都可以被证明，而不只是被描述。配有此类可验证记录的模型卡，便不再是审计人员不得不信任的声明，而成为审计人员可以核查的声明。
- 模型卡记录的是意图和设计决策，其设计初衷并不是独立证明任何事情
- 一旦模型重新训练而模型卡未相应更新，模型卡作为证据的价值就会随之下降
- 对训练数据进行密码学锚定，可以弥合模型卡所声称的内容与实际可验证内容之间的差距
- 监管机构越来越多地区分文档与证明：企业应当现在就为这一区分做好准备，而不是等到审计将其暴露之后
文档描述的是模型应该是什么样子。只有可验证的溯源才能证明它实际上是什么。了解 ROOTKey 如何锚定人工智能训练数据，使文档中的声明能够被独立验证。