Caso: una evaluación de impacto antes del lanzamiento
Un banco estaba a semanas de lanzar un sistema de IA para marcar solicitudes de préstamo a revisión. Técnicamente funcionaba bien. Bajo ISO 42001, antes del despliegue, ejecutaron una evaluación de impacto — y pararon.
La evaluación hacía preguntas llanas que la fase de construcción no había hecho: a quién afectan las decisiones de este sistema, cómo podría equivocarse, y quién asume el coste cuando lo hace. El modelo, se vio, había aprendido de decisiones históricas que arrastraban sesgo histórico. Sin examinar, habría automatizado y escalado ese sesgo, marcando a algunos solicitantes de forma desproporcionada mientras vestía la autoridad de las matemáticas objetivas.
Para esto existe exactamente la evaluación de impacto: atrapar el daño antes del lanzamiento, cuando es barato de arreglar, y no después, cuando es un escándalo y una demanda. El equipo reentrenó con datos corregidos, añadió monitorización del impacto dispar y mantuvo una decisión humana en cada marca.
El lanzamiento se retrasó seis semanas. Ese retraso fue el seguro más barato que el banco compró en todo el año. La gobernanza antes del despliegue no es fricción — es la diferencia entre una herramienta y un pasivo.