Le National Center for Missing and Exploited Children (NCMEC) a annoncé une nouvelle plate-forme conçue pour aider à supprimer les images sexuellement explicites de mineurs d’Internet. Meta a révélé dans un article de blog qu’il avait fourni un financement initial pour créer l’outil gratuit “Take It Down” du NCMEC, qui permet aux utilisateurs de signaler et de supprimer de manière anonyme “des images ou des vidéos nues, partiellement nues ou sexuellement explicites” de les personnes mineures trouvées sur les plateformes participantes et empêcher le partage du contenu incriminé à nouveau.
Facebook et Instagram ont signé pour intégrer la plate-forme, tout comme OnlyFans, Pornhub et Yubo. Take It Down est conçu pour que les mineurs rapportent eux-mêmes des images et des vidéos ; cependant, les adultes qui sont apparus dans un tel contenu alors qu’ils avaient moins de 18 ans peuvent également utiliser le service pour le signaler et le supprimer. Les parents ou d’autres adultes de confiance peuvent également faire un signalement au nom d’un enfant.
Une FAQ pour Take It Down indique que les utilisateurs doivent avoir l’image ou la vidéo signalée sur leur appareil pour utiliser le service. Ce contenu n’est pas soumis dans le cadre du processus de signalement et, en tant que tel, reste privé. Au lieu de cela, le contenu est utilisé pour générer une valeur de hachage, une empreinte numérique unique attribuée à chaque image et vidéo qui peut ensuite être fournie aux plateformes participantes pour la détecter et la supprimer sur leurs sites Web et applications, tout en minimisant le nombre de personnes qui voient le contenu réel.
« Nous avons créé ce système parce que de nombreux enfants sont confrontés à ces situations désespérées », a déclaré Michelle DeLaune, présidente et chef de la direction du NCMEC. « Notre espoir est que les enfants prennent conscience de ce service et qu’ils se sentent soulagés que des outils existent pour aider à supprimer les images. Le NCMEC est là pour vous aider.
Le service Take It Down est comparable à StopNCII, un service lancé en 2021 qui vise à empêcher le partage non consensuel d’images pour les personnes de plus de 18 ans. StopNCII utilise également des valeurs de hachage pour détecter et supprimer le contenu explicite sur Facebook, Instagram, TikTok, et Bourdon.
Meta a taquiné la nouvelle plate-forme en novembre dernier parallèlement au lancement de nouvelles fonctionnalités de confidentialité pour Instagram et Facebook
En plus d’annoncer sa collaboration avec le NCMEC en novembre de l’année dernière, Meta a déployé de nouvelles fonctionnalités de confidentialité pour Instagram et Facebook qui visent à protéger les mineurs utilisant les plateformes. Il s’agit notamment d’inviter les adolescents à signaler les comptes après avoir bloqué des adultes suspects, de supprimer le bouton de message sur les comptes Instagram des adolescents lorsqu’ils sont consultés par des adultes ayant des antécédents de blocage et d’appliquer des paramètres de confidentialité plus stricts par défaut pour les utilisateurs de Facebook de moins de 16 ans (ou 18 dans certains pays).
D’autres plateformes participant au programme ont pris des mesures pour empêcher et supprimer les contenus explicites représentant des mineurs. Yubo, une application française de réseautage social, a déployé une gamme d’outils d’intelligence artificielle et de modération humaine capables de détecter du matériel sexuel représentant des mineurs, tandis que Pornhub permet aux particuliers d’émettre directement une demande de retrait pour un contenu illégal ou non consensuel publié sur sa plateforme.
Toutes les plateformes participantes ont déjà été critiquées pour ne pas avoir protégé les mineurs contre l’exploitation sexuelle
Les cinq plateformes participantes ont déjà été critiquées pour ne pas avoir protégé les mineurs contre l’exploitation sexuelle. Un rapport de la BBC News de 2021 a révélé que les enfants pouvaient facilement contourner les systèmes de vérification de l’âge d’OnlyFans, tandis que Pornhub a été poursuivi par 34 victimes d’exploitation sexuelle la même année, alléguant que le site avait sciemment profité de vidéos illustrant le viol, l’exploitation sexuelle d’enfants, la traite et autres contenu sexuel non consensuel. Yubo – décrit comme “Tinder pour les adolescents” – a été utilisé par des prédateurs pour contacter et violer des utilisateurs mineurs, et le NCMEC a estimé l’année dernière que le plan de Meta d’appliquer un cryptage de bout en bout à ses plates-formes pourrait effectivement dissimuler 70% de l’enfant matériel d’abus sexuel actuellement détecté et signalé sur sa plateforme.
“Lorsque les entreprises technologiques mettent en œuvre un cryptage de bout en bout, sans mesures préventives intégrées pour détecter le matériel connu d’abus sexuel d’enfants, l’impact sur la sécurité des enfants est dévastateur”, a déclaré DeLaune au Comité judiciaire du Sénat plus tôt ce mois-ci.
Un communiqué de presse pour Take It Down mentionne que les plates-formes participantes peuvent utiliser les valeurs de hachage fournies pour détecter et supprimer des images sur des “sites et applications publics ou non cryptés”, mais il n’est pas clair si cela s’étend à l’utilisation par Meta de bout en bout. chiffrement sur des services comme Messenger. Nous avons contacté Meta pour confirmation et mettrons à jour cette histoire si nous recevons une réponse.
