Le 26 février, de nombreux utilisateurs d'Instagram ont été confrontés à des vidéos violentes et inappropriées sur leur fil de Reels. Ces contenus incluaient des scènes de violence extrême, des images explicites de souffrance humaine et animale, ainsi que des vidéos à caractère sexuel. Malgré l'activation du contrôle des contenus sensibles, ces vidéos ont été visibles, ce qui a alarmé la communauté. Certains témoignages relayés par CNBC et Reddit mentionnent des scènes particulièrement perturbantes, comme des images de corps mutilés ou encore des actes criminels filmés en direct. Cette situation a soulevé des questions sur la fiabilité de l'algorithme de recommandation d'Instagram et sur les dangers psychologiques d'une telle exposition pour les utilisateurs. Meta réagit et tente de rassurer Face à l'ampleur du problème, Meta a rapidement réagi en publiant un communiqué officiel. Un porte-parole a affirmé que l'entreprise avait identifié et corrigé une « erreur » ayant conduit à la diffusion de ces contenus inappropriés. Meta a également précisé que cet incident n'était pas lié aux récentes modifications de sa politique de modération, qui visent à accorder une plus grande liberté d'expression sur ses plateformes. Toutefois, cet incident met en lumière les failles du système de modération automatisée d'Instagram et soulève des inquiétudes sur la protection des utilisateurs face à du contenu potentiellement traumatisant. Un défi de modération pour Meta Instagram, comme d'autres plateformes de Meta, doit jongler entre la liberté d'expression et la nécessité de protéger ses utilisateurs contre les contenus dangereux. Avec la montée des critiques sur la gestion des contenus sensibles, cet incident risque d'alimenter le débat sur la responsabilité des géants du numérique. En attendant, la confiance des utilisateurs d'Instagram pourrait être ébranlée, notamment au Maroc, où la plateforme est très populaire. Meta devra prouver qu'elle est capable de mieux contrôler ses algorithmes pour éviter qu'une telle situation ne se reproduise.
