Caso: el sistema de IA que nadie había listado
Una aseguradora mediana empezó su camino ISO 42001 convencida de que usaba IA en dos sitios: un chatbot y un modelo de precios. El ejercicio de inventario encontró nueve.
Los otros siete se habían colado sin que nadie lo notara. Un equipo de marketing usando una herramienta generativa sobre datos de clientes. Una macro de hoja de cálculo silenciosamente ascendida a plugin de machine learning. Un filtro de selección incrustado en una plataforma de RRHH, cribando candidatos con criterios que nadie había revisado. Cada uno adoptado localmente, por buenas razones, sin gobernanza y sin nadie responsable.
ISO 42001 empieza, como la mayoría de los sistemas de gestión, por saber qué tienes. No puedes gobernar, evaluar ni supervisar sistemas de IA que no sabes que existen — y la IA en la sombra prolifera precisamente porque estas herramientas son fáciles de encender e invisibles una vez en marcha.
El filtro de selección fue la llamada de atención: resultó estar perjudicando en silencio a un colectivo protegido, una exposición legal y ética que nadie había elegido. Construir el inventario no fue burocracia. Fue el momento en que la organización pudo por fin ver, y gobernar, lo que ya estaba haciendo.