Modération et recommandations sur Youtube : polémique sur sa participation involontaire aux réseaux pédophiles

La polémique sur la politique de modération des commentaires à caractère pédophile sur Youtube vient d’être relancée cette semaine par un blogueur américain qui met également en cause le système de recommandations de vidéos similaires. Suite à l’ampleur des réactions, certaines marques ont décidé de boycotter la plateforme.

Modération peu efficace et recommandations limites

Un blogueur américain, Matt Watson, a publié cette semaine une vidéo de vingt minutes mettant en cause la plateforme vidéo dans son rôle joué au sein des réseaux pédophiles.  Ayant analysé des centaines de commentaires publiés sous des vidéos d’enfants dans des scènes tout à fait anodines (cours de gym ou de yoga par exemple), le blogueur américain a constaté la non modération de propos (parfois d’émojis) à caractère pédophiles. Plus frappant encore, certains commentaires contiendraient des liens directs vers des sites pédophiles, le blogueur accusant ainsi la plateforme de favoriser indirectement la mise en relation au sein des réseaux.

Avec près de 2,5 millions de vues, la vidéo de Matt Watson est venue relancer le débat sur la capacité de modération et de contrôle des contenus diffusés par Youtube, deux ans après une première polémique et qui avait abouti à la suppression de 150 000 vidéos d’enfants par la plateforme.

Des recommandations très limites

Dans l’analyse qu’il a mené du fonctionnement de la plateforme, Matt Watson a également constaté que le système de recommandations de Youtube, basé sur un algorithme complexe, menait à suggérer des vidéos d’enfants ou d’adolescents de plus en plus nombreuses et parfois limites. Le blogueur affirme ainsi avoir trouvé des dizaines de vidéos d’enfants dans des poses suggestives.

Côté Youtube, on ne nie pas le problème. Mais le porte-parole de la plateforme a rappelé que l’algorithme reposait sur une intelligence artificielle qui ne pouvait identifier que des éléments de contextes : or, dans le cas des vidéos problématiques évoquées par Matt Watson, il s’agit de scènes tout à fait ordinaire dont le caractère malsain ne peut être identifié que par l’humain.

Près de 10 000 employés seraient chargés chez Youtube de surveiller le contenu publié. Un nombre qui risque d’être insuffisant comparé à la masse astronomique de contenus mis en ligne chaque jour : 400 heures de vidéos seraient ainsi publiés par minute dans le monde.

Le boycott de certaines marques pour leur campagne publicitaire

L’économie de Youtube repose en grande partie sur la monétisation de ses contenus via les publicités. Or, certaines des vidéos évoquées par le blogueur et contenant des commentaires à caractère pédophile étaient accompagnées de publicités en début de vidéo ou sur le côté.

En réaction à la polémique, certaines marques axées sur une cible enfant-adolescent ont ainsi entamé un boycott de Youtube. Selon la presse américaine, le groupe Epic Games (producteur du jeu Fortnite), Nestlé, Disney et McDonald’s notamment auraient ainsi stoppé la diffusion de leur campagne sur la plateforme. En 2017, AT&T et Procter & Gamble avaient déjà retiré leurs publicités de la plateforme après qu’il était apparu que certains contenus antisémites, incitant à la haine ou faisant l’apologie du terrorisme étaient adossées à certaines vidéos monétisées.