Instagram frappé par un afflux soudain de contenus choquants

Meta a fait son mea-culpa mercredi. Le groupe californien, propriétaire d'Instagram, s'est excusé auprès des utilisateurs de son célèbre réseau social après qu'un certain nombre d'entre eux a signalé dans le monde entier avoir été exposé à un afflux soudain de contenus violents dans leur flux de courtes vidéos Reels. Des personnes ont affirmé avoir vu de tels contenus particulièrement dérangeants, étiquetés «contenu sensible» — mais pas toujours —, parmi lesquels des meurtres, des accidents mortels ou des mutilations. Cela arrivait même lorsque le paramètre de «Contrôle du contenu sensible» était réglé à son niveau de modération le plus élevé.

«Nous avons corrigé une erreur qui a conduit certains utilisateurs à voir dans leur flux Instagram Reels des contenus qui n'auraient pas dû être recommandés. Nous nous excusons pour cette erreur», a déclaré un porte-parole de l'entreprise dans un communiqué transmis à différents médias.

Ce problème de recommandation de contenus survient après que Meta a récemment déclaré que le groupe allait modifier la manière dont il modère les publications sur sa plateforme afin de réduire la censure et de favoriser la liberté d'expression. Selon les informations publiées sur son site, il utilise une technologie comprenant de l'IA et des outils d'apprentissage automatique, ainsi qu'une équipe de 15'000 évaluateurs pour détecter les images dérangeantes. Ce dispositif doit permettre de «supprimer la grande majorité des contenus violents avant même que les utilisateurs ne les signalent».