EFQM and Strategy Assessors

Caso: la gobernanza del dato como cimiento

La IA de previsión de demanda de un retailer llevaba meses degradándose en silencio. Las previsiones derivaban, las decisiones de stock empeoraban, y nadie lo notó hasta que las pérdidas asomaron en el inventario. El modelo no se había roto. Sus datos sí.

Un proveedor había cambiado aguas arriba cómo se codificaba una categoría. El modelo, entrenado con la codificación antigua, siguió produciendo con confianza respuestas erróneas a partir de entradas recién carentes de sentido. Nadie vigilaba los datos que alimentaban el sistema, porque la gobernanza se había centrado por completo en el modelo y trataba sus entradas como un hecho dado.

ISO 42001 vuelve una y otra vez a la gobernanza del dato porque los sistemas de IA solo son tan fiables como lo que fluye hacia ellos. Un modelo perfecto sobre datos que derivan es un mentiroso seguro de sí mismo. El fallo rara vez es dramático; es silencioso, gradual e invisible hasta que resulta caro.

Instauramos monitorización de calidad del dato en las entradas del modelo — comprobaciones de esquema, alertas de distribución, un dueño por cada alimentación crítica. El siguiente cambio aguas arriba disparó una alerta en un día, no en un trimestre. Gobernar la IA, resulta, es sobre todo gobernar los datos que tiene debajo. Todo lo demás se apoya en ese cimiento.