Introducción
Las fichas de modelo (model cards) se convirtieron en una práctica habitual por buenas razones: obligan a los equipos a dejar por escrito para qué sirve un modelo, con qué datos se entrenó, cuáles son sus limitaciones conocidas y cómo se evaluó. Esa disciplina es valiosa. Pero, por sí sola, también es inverificable. Una ficha de modelo es un documento redactado por la misma organización a la que se pide que rinda cuentas sobre el modelo - y, como cualquier documento autodeclarado, puede estar incompleta, desactualizada o ser sencillamente errónea, sin que el lector tenga ninguna forma independiente de saber cuál de esos casos se da.
Lo que una ficha de modelo establece realmente
En el mejor de los casos, una ficha de modelo es una afirmación bien organizada: esto es lo que creemos sobre los datos de entrenamiento, el uso previsto y las limitaciones de este modelo, a la fecha en que se redactó este documento. No es un justificante. No demuestra que los datos de entrenamiento descritos sean los datos de entrenamiento realmente utilizados, que los datos no hayan cambiado desde entonces, ni que los resultados de evaluación comunicados reflejen la versión del modelo que está actualmente en producción y no una anterior, porque la ficha nunca se actualizó para reflejarla. Ante un escrutinio regulatorio cada vez mayor - con los requisitos de documentación de los artículos 10 y 11 del AI Act de la UE a la cabeza - la brecha entre una afirmación bien redactada y una afirmación demostrable es exactamente donde se concentra el riesgo sancionador.
Las tres brechas sobre las que los reguladores están aprendiendo a preguntar
Primero, la vigencia: ¿se actualizó esta ficha de modelo cuando el modelo se reentrenó o se sometió a ajuste fino, o describe una versión anterior? Segundo, la verificación del origen: ¿hay alguna forma de confirmar que los datos de entrenamiento descritos son realmente los que se utilizaron, con independencia de lo que afirme el propio documento? Tercero, la detección de cambios: si los datos de entrenamiento subyacentes se alteraran después de redactarse la ficha de modelo, ¿alguien - incluido el equipo que la redactó - lo sabría necesariamente?
La procedencia es una capa aparte, no una ficha de modelo mejor
Cerrar estas brechas no significa redactar fichas de modelo más detalladas. Significa añadir, por debajo de la documentación, una capa capaz de verificar de forma independiente lo que la documentación afirma: el anclaje criptográfico del conjunto de datos de entrenamiento realmente utilizado, en el momento en que se utiliza, de modo que el origen de los datos y cualquier cambio posterior sean demostrables en lugar de simplemente descritos. Una ficha de modelo acompañada de este tipo de registro verificable deja de ser una afirmación en la que el auditor tiene que confiar y pasa a ser una afirmación que el auditor puede comprobar.
- Las fichas de modelo documentan la intención y las decisiones de diseño - no están concebidas para demostrar nada de forma independiente
- La utilidad de una ficha de modelo como prueba se degrada en el momento en que un modelo se reentrena sin una actualización que lo refleje
- El anclaje criptográfico de los datos de entrenamiento cierra la brecha entre lo que afirma una ficha de modelo y lo que realmente puede verificarse
- Los reguladores distinguen cada vez más entre documentación y prueba - las empresas deberían prepararse para esa distinción ahora, no después de que una auditoría la ponga de manifiesto
La documentación describe lo que un modelo debería ser. Solo una procedencia verificable puede demostrar lo que realmente es. Descubra cómo ROOTKey ancla los datos de entrenamiento de IA para que las afirmaciones de la documentación puedan verificarse de forma independiente.