Twitter souhaite combattre les biais inconscients de ses algorithmes qui exposent des contenus qui divisent ou qui maintiennent des discriminations. Le réseau social a annoncé mercredi les travaux en cours afin de rendre plus éthiques les algorithmes de l'application. Cela permettra d'accorder plus de contrôle aux utilisateurs. Twitter souhaite améliorer ses algorithmes de « machine learning » c'est-à-dire une technique d'intelligence artificielle (IA) qui permet aux ordinateurs d'«apprendre» automatiquement en se basant sur des données. La société californienne, par le biais de systèmes d'IA, parvient à déduire selon la navigation d'un utilisateur s'il préfère par exemple des vidéos de chiens ou de chats. Cependant, la société admet que lorsque «Twitter utilise le « machine learning », cela peut avoir des conséquences pour des centaines de millions de tweets par jour, et parfois un système peut se comporter différemment de l'intention selon laquelle il a été conçu». Ces derniers temps, les algorithmes des réseaux sociaux, tels que Twitter, Facebook et d'autres sont accusés de laisser passer trop facilement sur les comptes de milliards d'utilisateurs des contenus clivants qui diffusent des « fake news » ou des messages de haine. Pour rappel, en début d'année, Twitter était sous le feu des critiques à cause de son système de recadrage automatique d'image. Un recadrage de photos qui pose problème En effet, si deux visages sont présents, alors l'algorithme choisira de mettre en avant l'individu à la peau plus claire. «Nous avons mené des tests sur les biais avant de livrer ce modèle et nous n'avons trouvé aucune preuve de biais raciste ou de genre lors de nos tests, mais il est clair que nous devons pousser les analyses», avait alors expliqué Liz Kelley, porte-parole de Twitter. Le responsable du design, Dantley Davis, avait également reconnu : «C'est 100% de notre faute. Personne ne devrait dire le contraire. Maintenant, la prochaine étape est de corriger cela». Pour pallier ce problème, une équipe est chargée de publier des études sur des possibles biais racistes ou sexistes de l'algorithme qui recadre les photos avant la publication. L'équipe IA va aussi se pencher sur les «recommandations de contenus pour différentes idéologies politiques dans 7 pays», pour garantir que les algorithmes ne mettent pas en avant certains courants politiques aux dépens des autres. Pour l'heure, le patron de Twitter, Jack Dorsey, souhaite accorder plus de pouvoir aux utilisateurs. En effet, la société a affirmé mercredi que «le choix algorithmique donnera plus de contrôle aux utilisateurs pour façonner le Twitter qu'ils veulent. Nous sommes à un stade exploratoire sur ce sujet».
