EFQM and Strategy Assessors

حالة: نظام الذكاء الاصطناعي الذي لم يُدرجه أحد

بدأت شركة تأمين متوسطة رحلة ISO 42001 واثقةً أنها تستخدم الذكاء الاصطناعي في موضعين: روبوت محادثة ونموذج تسعير. وجد تمرين الحصر تسعة.

تسلّلت السبعة الأخرى دون ملاحظة. فريق تسويق يستخدم أداة توليدية على بيانات العملاء. وماكرو جداول رُقّي بهدوء إلى إضافة تعلّم آلي. ومرشّح توظيف مضمّن في منصّة موارد بشرية، يفرز المرشّحين بمعايير لم يراجعها أحد. كلٌّ تُبنّي محلياً، لأسباب وجيهة، بلا حوكمة ولا مسؤول.

تبدأ ISO 42001، كمعظم أنظمة الإدارة، بمعرفة ما لديكم. لا يمكنكم حوكمة أو تقييم أو الإشراف على أنظمة ذكاء اصطناعي لا تعرفون بوجودها — ويتكاثر «الذكاء الاصطناعي الظلّي» تحديداً لأن هذه الأدوات سهلة التشغيل وخفيّة بعده.

كان مرشّح التوظيف صيحة التنبيه: تبيّن أنه يُضعِف بهدوء فرص فئة محميّة، انكشاف قانوني وأخلاقي لم يختره أحد. لم يكن بناء الحصر بيروقراطية. بل كان اللحظة التي استطاعت فيها المؤسسة أخيراً أن ترى، وتحوكم، ما كانت تفعله أصلاً.