Durant la pandémie de coronavirus, Facebook fait de plus en plus appel à l'intelligence artificielle notamment pour détecter les « memes » qui véhiculent des messages de haine. Et pour cause, l'algorithme comprend seulement les mots ainsi, les messages sont plus difficiles à être décelés. Selon le groupe américain, « l'IA détecte désormais, de façon proactive, 89 % des contenus haineux que nous retirons, contre 80 % au trimestre précédent ». Et d'ajouter : « Rien qu'au premier trimestre 2020, nous avons agi sur 9,6 millions de contenus qui enfreignaient nos règles en la matière, soit 3,9 millions de plus ». Du côté d'Instagram, la tâche est plus compliquée puisque ledit taux de détection proactive tombe à 44 % sur la plateforme. Les équipes de Facebook ont ainsi mis en place une base de données de 10.000 memes qu'ils proposent à des chercheurs, pour qu'ils développent des algorithmes capables de repérer les messages problématiques. Grâce à l'outil d'IA SimSearchNet de Facebook, il est possible de reconnaître les copies d'une image originale, et ce malgré de potentielles modifications pour la détourner de son sens initial et donc éviter la détection automatique. Concernant le côté linguistique, les algorithmes de la plateforme ont la capacité dorénavant de « comprendre » de mêmes messages dans différentes langues.
