الوزيرة السغروشني: بناء الثقة الرقمية يمر عبر تقنين الذكاء الاصطناعي ومواجهة مخاطره الهيكلية

الخط :
إستمع للمقال
حذّرت وزيرة الانتقال الرقمي وإصلاح الإدارة، أمل الفلاح السغروشني، في كلمتها خلال المناظرة الوطنية الأولى حول الذكاء الاصطناعي اليوم الثلاثاء 1 يوليوز 2025، من مغبة التعامل مع الذكاء الاصطناعي كأداة محايدة، معتبرة أنه ليس مجرد تكنولوجيا، بل نظام معرفي وسلطة جديدة تعيد تشكيل موازين القوة داخل المجتمعات، وفي العلاقة بين المواطن والدولة، وبين الدول فيما بينها.
وأكدت الوزيرة أن الذكاء الاصطناعي يحمل في طياته وعودا كبرى بتحقيق قفزات نوعية في الإنتاجية وجودة الخدمات العمومية، إلا أنه بالمقابل لا يخلو من تحديات هيكلية معقدة. ومن بين أبرز هذه التحديات، ذكرت الوزيرة مخاطر التحيّز الخوارزمي الذي قد يُعيد إنتاج أنماط الإقصاء والتمييز، خاصة تجاه الفئات الهشة، إلى جانب غياب آليات مؤسساتية للمساءلة الخوارزمية، خصوصا عند استخدام تقنيات الذكاء الاصطناعي في اتخاذ قرارات إدارية أو مالية تمس الأفراد بشكل مباشر.
كما نبّهت الوزيرة إلى خطر تحوّل مراكز اتخاذ القرار السياسي إلى طبقات رقمية غير مرئية، ما من شأنه أن يُضعف الشفافية ويهدد أسس الحكامة الرشيدة المبنية على المساءلة والمسؤولية. وأشارت أيضا إلى النقص المسجَّل في الكفاءات الرقمية داخل القطاع العام، وهو ما يُدخل بعض الإدارات في علاقة تبعية تقنية ومعرفية مع الفاعلين الخارجيين.
وانطلاقا من هذه التحديات، شددت الوزيرة السغروشني على أن الذكاء الاصطناعي يطرح أسئلة عميقة على مستوى الحوكمة. وتساءلت قائلة: "كيف يمكن للذكاء الاصطناعي أن يخدم قيمنا ويقلّص الفوارق؟ كيف نضمن أن تبقى سلطة القرار في يد المؤسسة، لا في يد الخوارزمية؟ وكيف نبني توازنا ذكيا بين الابتكار والانضباط، وبين السرعة والمراقبة، في إطار قيمي واضح؟"
وفي سياق تعزيز ما سمّته ب"الثقة الرقمية"، كشفت الوزيرة عن إعداد مشروع قانون جديد حول الرقمنة، يُعد بتنسيق وثيق مع عدد من المؤسسات الوطنية المعنية، وعلى رأسها اللجنة الوطنية لحماية المعطيات الشخصية (CNDP)، والمديرية العامة لأمن نظم المعلومات (DGSI)، والمديرية العامة للأمن الوطني (DGSN)، والوكالة المغربية للتنمية الرقمية (ADD).
وأكدت أن هذا النص القانوني المرتقب لا يُفترض فيه أن يكون مجرد إطار تنظيمي، بل يمثل لبنة تأسيسية ل"عقد اجتماعي رقمي جديد"، يُعيد تعريف العلاقة بين التكنولوجيا، والمؤسسات، والمواطنين. وسيشمل هذا المشروع القانوني أحكاما دقيقة تؤطر إدماج الذكاء الاصطناعي في المساطر الإدارية، مع ضمان احترام عدد من المبادئ الأساسية.
ومن بين هذه المبادئ الأساسية، يظهر تعزيز شفافية الخوارزميات الإدارية، من خلال إلزام الإدارات بالكشف عن منطق اتخاذ القرار الخوارزمي، وضمان حق المواطن في الفهم والاعتراض، حتى لا تتحول الخوارزميات إلى سلطات صامتة تبتّ في القضايا دون محاسبة، علاوة على فرض التزام أخلاقي في استعمال أنظمة الذكاء الاصطناعي، يراعي مبادئ العدالة والإنصاف وعدم التمييز، بعيدا عن منطق الفعالية التقنية فقط.
فيما شددت السغروشني على أن حماية المجتمع من مخاطر الذكاء الاصطناعي لا تتأتى بالتحفظ أو المنع، بل بتطوير بنية قانونية وأخلاقية تحصن الانتقال الرقمي، وتضمن أن تبقى التكنولوجيا في خدمة المواطن لا العكس.
الوسوم
أمل الفلاح السغروشني الذكاء الاصطناعي تقنين مخاطر