سيادة القانون في مواجهة "الصندوق الأسود"

لم تعد الخوارزميات مجرد أدوات تقنية مساعدة، بل تحولت إلى بنية سلطة موازية تمارس تأثيرا يوميا على الهاتف الحقوق والحريات، دون أن تخضع في كثير من الحالات لرقابة قانونية فعالة أو مساءلة واضحة المعالم، ففي الوقت الذي ينشغل فيه الخطاب القانوني بضمانات المحاكمة العادلة وقرينة البراءة وحماية المعطيات الشخصية، تنتج أنظمة مؤتمتة قرارات قد تمس السمعة المهنية، وفرص التوظيف، والجدارة الائتمانية، بل وأحيانا الحرية الفردية، استنادا إلى معايير خوارزمية لا نعلم من صاغها، ولا كيف تعمل، ولا من يتحمل مسؤوليتها القانونية.

جوهر الإشكال لا يكمن في التقنية ذاتها، بل في اختلال ميزان القوة الذي تخلقه حين تدار في بيئة مغلقة، فالقرار الإداري أو القضائي التقليدي يخضع لمبدأ التعليل، وقابلية الطعن، ورقابة المشروعية، أما القرار الخوارزمي، فيصدر غالبا داخل «صندوق أسود» تحجبه السرية التجارية وتعقيد النماذج الحسابية. وهنا ينتقل مركز السلطة من الفضاء العمومي الخاضع للمساءلة إلى بنية تقنية شبه معزولة عن الرقابة المجتمعية.

في منصات التواصل الكبرى، تحدد الخوارزميات ما يرى وما يحجب، من ينتشر صوته ومن يدفن في الهامش. هذا ليس شأنا تقنيا محضا؛ إنه إعادة تشكيل للمجال العام. فترتيب المحتوى وتضخيم بعض الخطابات أو تقييدها يؤثران في تشكيل الرأي العام، وفي فرص الوصول المتكافئ إلى الجمهور. وعندما تدار هذه العمليات وفق معايير سرية تصنف كممتلكات فكرية، يصبح الطعن في قرارات الحجب أو تقييد الوصول مسارا معقدا يفتقر إلى الشفافية الإجرائية التي يفترضها منطق دولة القانون.

الأخطر هو انتقال الخوارزميات إلى مجالات سيادية تمس الحقوق الأساسية بصورة مباشرة: التوظيف، الإقراض، التأمين، والعدالة الجنائية. أنظمة الفرز الآلي للسير الذاتية قد تقصي مرشحين بناء على بيانات تاريخية تعكس تحيزات اجتماعية سابقة، فتعيد إنتاجها تحت غطاء "الموضوعية الحسابية". وأنظمة التقييم الائتماني قد تحمل فئات أو مناطق بأكملها تصنيفات مخاطر يصعب تفكيك منطقها أو مناقشته. وفي بعض التجارب المقارنة، استخدمت أدوات تنبؤية لتقدير احتمالات العودة إلى الجريمة، بما يؤثر على قرارات الإفراج أو تحديد العقوبة. هنا نحن أمام قرارات تمس مبدأ المساواة أمام القانون وقرينة البراءة، دون أن تتوافر دائما ضمانات المواجهة وحق الاطلاع على الأساس الذي بني عليه التقييم.

صحيح أن هناك محاولات تنظيمية مهمة، خاصة في التجربة الأوروبية، التي أرست قيودا على القرارات المؤتمتة ذات الأثر القانوني الجوهري، وأقرت حقوقا في الوصول والتصحيح والمحو، إلى جانب إطار تشريعي قائم على تصنيف المخاطر في أنظمة الذكاء الاصطناعي. غير أن هذه الأطر، رغم أهميتها المعيارية، تصطدم بتحديات عملية: بطء الإنفاذ مقارنة بسرعة التطور التقني، تفاوت القدرات الرقابية بين الدول، وصعوبة التدقيق في نماذج تعتمد على التعلم العميق وتحديثات مستمرة.

في السياق العربي، تبدو الفجوة أوضح. كثير من تشريعات حماية البيانات حديثة العهد أو تفتقر إلى تفعيل مؤسساتي فعال، والهيئات الرقابية تعاني محدودية الموارد والخبرات التقنية. في معظم الحالات، لا يعلم الأفراد أنهم خضعوا أصلا لقرار مؤتمت، فضلا عن أن تتاح لهم آلية واضحة وفعالة للاعتراض أو طلب التفسير. وهكذا يتحول الخضوع للخوارزميات إلى واقع صامت لا يثير مساءلة.

المطلوب ليس شيطنة التقنية، بل إخضاعها لمبادئ الشرعية ذاتها التي تحكم كل ممارسة للسلطة. أولا، يجب تكريس مبدأ واضح: لا يجوز أن ينتج قرار مؤتمت أثرا قانونيا جوهريا دون حق بشري فعلي في المراجعة والتدخل. ثانيا، إلزام الجهات العامة والخاصة بإجراء تقييمات أثر خوارزمية قبل اعتماد الأنظمة عالية الخطورة، مع نشر خلاصات مفهومة تتيح نقاشا عموميا واعيا. ثالثا، تمكين الهيئات الرقابية من صلاحيات تدقيق فعالة توازن بين الشفافية وحماية الأسرار التجارية، بما يضمن عدم تحول هذه الأخيرة إلى درع يحجب المساءلة. وأخيرا، تطوير آليات تقاض فعالة تمكن الأفراد من طلب الإنصاف والتعويض عند ثبوت الضرر أو التمييز.

الخوارزميات ليست شرا مطلقا، لكنها ليست محايدة أيضا. إنها تعكس اختيارات بشرية كامنة في تصميمها وبياناتها وأهدافها. وإذا كان القانون وجد لضبط موازين القوة وحماية الفرد من تعسف السلطة، فإن ترك المجال الخوارزمي دون إطار صارم للشفافية والمساءلة هو تخلي عن هذه الوظيفة الجوهرية. المعركة اليوم ليست بين الإنسان والآلة، بل بين سيادة القانون ومنطق «الصندوق الأسود». ومن دون تدخل تشريعي ومؤسساتي جاد، سنجد أنفسنا نعيش في فضاء تدار فيه مصائر الأفراد بقرارات لا تفهم ولا تراجع ولا تحاكم.