تشغل هذه البرمجيات مكانة أساسية ولكنها غير مرئية اذ عليها اتخاذ قرارات من تلقاء نفسها. فهذه البرمجيات تبحث عن روابط مهما كانت ضعيفة في كميات هائلة من البيانات التي تسمح لها بإدارة التعاملات المالية ومواءمة تكلفة التأمين حسب الحالة أو إجراء تشخيصات طبية وشراء تذاكر السفر. في وسائل الإعلام وشبكات التواصل الاجتماعي، تقوم الخوارزميات بترتيب النتائج على محركات البحث، وتدير تغذية الأخبار على فيسبوك وتفرض رقابة على المحتوى غير المرغوب به (مثل المحتوى العنصري والمواد الإباحية ، والعنف …) وتوصي بمشاهدة مقاطع فيديو أو قراءة مقالات. وهكذا توكل مهام معقدة وحساسة أحيان ا إلى هذه الأنظمة التي تعمل بصورة مستقلة على نحو متزايد، وتتصرف بما يشبه “صناديق سوداء” تطور ذكاءها الاصطناعي من خلال البيانات التي نغذيها بها. تقول مارغريت فيستاجر، المفوضة الأوروبية للمنافسة، “يمكن أن ترشدنا الخوارزميات عبر الكم الهائل من المعلومات المتاحة على الإنترنت”. لكن “الخطر في أن نرى فقط ما تختار أن تظهره لنا هذه البرامج – والشركات التي تستخدمها”. من خلال إعادة تنظيم المحتوى عبر الإنترنت، ت نشئ الخوارزميات م رش حات تقوم بفرز الأخبار أو ما يسمى “فقاعات التصفية” التي تعزلنا عن الآراء المختلفة. خلال الانتخابات الأميركية عام 2016، اتهم فيسبوك بأنه يساعد المرشح دونالد ترامب من خلال السماح لنشطاء بتعميم معلومات غير صحيحة في كثير من الأحيان ضد هيلاري كلينتون ما يجعل مؤيدي هذه الاخبار يفكرون بالنمط نفسه. تميل الخوارزميات أيضا إلى جعل وجهات النظر المتطرفة “أكثر بروزا ” وفق ما تقول لورينا جايمي-بالاسي مؤسسة جمعية “مراقبة الخوارزميات” (الغوريذم ووتش) غير الحكومية. ومع ذلك، لفتت إلى صعوبة قياس تأثيرها على المستخدمين، مؤكدة أنه لا يمكن أن ي عزى إلى هذه الخوارزميات وحدها على سبيل المثال صعود القومية في أوروبا. إن الهدف الرئيسي من خوارزميات الشبكات الاجتماعية هو تعميم المحتوى الأكثر شعبية دون الحكم على صحته، ولهذا السبب تتسبب في تضخيم تأثير الأخبار الملفقة. على موقع يوتيوب على وجه الخصوص تحظى الآلاف من مقاطع الفيديو التي تدافع عن مسائل تدخل في خانة أطروحات المؤامرة بانتشار أوسع نظرا لأنه “يوصى بها” أكثر بكثير من المحتوى الخاضع للتدقيق، وفق ما يقول غيوم شاسلو وهو مهندس سابق في هذه المنصة التي تملكها غوغل. هذه الأشرطة التي يمكن أن تزعم على سبيل المثال أن النزول على القمر كذبة وكذلك مشكلة الاحترار العالمي، تحظى بمشاهدات وتعليقات أكبر وتبقي المشاهدين وقتا أطول على المنصة وتتسبب وفق شاسلو بإضعاف مصداقية وسائل الإعلام التقليدية. يعتقد بعض المراقبين أنه يمكن برمجة الخوارزميات “لخدمة الحرية الإنسانية” في حين يطالب العديد من الجمعيات غير الحكومية بشفافية أكبر بكثير. تقول جايمي-بالاسي، “لا تكشف شركة كوكا كولا عن خلطتها، لكن منتجاتها تخضع للاختبار لدراسة تأثيرها على صحتنا”، مؤكدة على الحاجة إلى تشريعات واضحة. أوصت هيئة حماية الخصوصية الفرنسية العام الماضي بأن تشرف الدولة على الخوارزميات وبالعمل بجدية على تثقيف الناس “حتى يفهموا كيف تعمل آلة (تكنولوجيا المعلومات)”. وتسمح قواعد حماية البيانات الأوروبية الجديدة للناس بالطعن في قرار الخوارزمية و”المطالبة بتدخل بشري” في حالة تعارض الآراء. وبدأت بعض شركات الإنترنت العملاقة من تلقاء نفسها بالعمل على المسالة: لقد شرع فيسبوك بمحاولة لتصنيف الرسائل المشبوهة تلقائيا ، بينما يعزز يوتيوب “عناصر التحكم البشرية” في ما يخص مقاطع الفيديو التي تستهدف الأطفال. ومع ذلك، فقد حذ ر عاملون سابقون في سيليكون فالي أنشأوا “مركز التكنولوجيا البشرية” غير الحكومي لمحاربة تجاوزات التكنولوجيا، من “أننا لا نستطيع أن نتوقع أن تقوم شركات تعتمد أساسا على اقتصاد جذب الانتباه مثل يوتيوب وفيسبوك وسنابتشات أو تويتر بالتغيير لأنه يتعارض مع خطة عملها التجارية”.
