Dans une tentative de mieux gérer le contenu créé par l'Intelligence Artificielle (IA) sur sa plateforme, YouTube a récemment dévoilé une série de nouvelles politiques. Celles-ci mettent l'accent sur la divulgation responsable et introduisent de nouveaux outils permettant aux utilisateurs de signaler et demander la suppression de deepfakes, parmi d'autres contenus synthétiques. Les nouvelles exigences de divulgation s'adressent spécifiquement aux créateurs de contenu. Ils devront désormais informer les spectateurs lorsque leur contenu altéré ou synthétique semble réaliste, notamment s'il est généré par des outils d'IA. Cette divulgation vise à fournir aux spectateurs un contexte essentiel, en particulier lorsque le contenu aborde des sujets sensibles tels que les élections ou les conflits en cours. Bien que YouTube ait déjà des politiques interdisant les médias manipulés, l'essor de l'IA a conduit à la nécessité de règles plus spécifiques. La société a souligné l'importance de cette mesure pour éviter de tromper les téléspectateurs qui pourraient ne pas être conscients de l'altération ou de la création synthétique d'une vidéo. Dans le domaine de la création de contenu généré par l'IA, YouTube prévoit le lancement de sa nouvelle fonctionnalité appelée « Dream Screen » début de l'année prochaine. Cette fonctionnalité d'IA générative permettra aux utilisateurs de créer des vidéos ou des images d'arrière-plan en tapant simplement ce qu'ils veulent voir. Tous les contenus générés par l'IA sur YouTube seront automatiquement étiquetés comme altérés ou synthétiques, offrant ainsi une transparence accrue aux spectateurs. YouTube a averti aussi que les créateurs ne respectant pas correctement et de manière constante les nouvelles exigences de divulgation concernant l'utilisation de l'IA pourraient être soumis à des mesures sévères, y compris la suppression du contenu, la suspension du Programme Partenaire YouTube, ou d'autres sanctions. La société travaillera en collaboration avec les créateurs pour garantir une compréhension approfondie des nouvelles règles avant la diffusion. Cependant, cet avertissement intervient après un assouplissement récent de la politique de sanctions de YouTube. En août, la plateforme a annoncé des moyens pour que les créateurs puissent effacer leurs avertissements avant qu'ils ne deviennent des sanctions entraînant la suppression de leur chaîne. Cette modification pourrait permettre aux créateurs de contourner soigneusement les règles de YouTube, mais la société a précisé que des contenus générés par l'IA, même étiquetés, pourraient être supprimés s'ils sont utilisés de manière choquante, en particulier pour montrer une « violence réaliste ». La question de la désinformation reste une préoccupation, et la fréquence à laquelle les règles de divulgation de l'IA doivent être enfreintes avant des mesures punitives n'est pas claire. YouTube, tout en encourageant la créativité, cherche un équilibre pour éviter la propagation de la désinformation sur sa plateforme.
