De par sa nature même, TikTok est plus difficile à modérer que de nombreuses autres plateformes de médias sociaux, selon Cameron Hickey, directeur de projet à l’Algorithmic Transparency Institute. La brièveté des vidéos et le fait que beaucoup peuvent inclure des éléments audio, visuels et textuels rendent le discernement humain encore plus nécessaire pour décider si quelque chose enfreint les règles de la plate-forme. Même les outils d’intelligence artificielle avancés, comme l’utilisation de la synthèse vocale pour identifier rapidement les mots problématiques, sont plus difficiles « lorsque l’audio avec lequel vous traitez est également accompagné de musique », explique Hickey. “Le mode par défaut pour les personnes qui créent du contenu sur TikTok consiste également à intégrer de la musique.”
Cela devient encore plus difficile dans les langues autres que l’anglais.
“Ce que nous savons généralement, c’est que les plateformes réussissent mieux à traiter les contenus problématiques là où elles sont basées ou dans les langues dans lesquelles parlent les personnes qui les ont créées”, déclare Hickey. “Et il y a plus de gens qui fabriquent de mauvaises choses qu’il n’y a de personnes dans ces entreprises qui essaient de se débarrasser des mauvaises choses.”
De nombreux éléments de désinformation trouvés par Madung étaient du «contenu synthétique», des vidéos créées pour ressembler à une ancienne émission de nouvelles, ou elles utilisent des captures d’écran qui semblent provenir d’organes de presse légitimes.
“Depuis 2017, nous avons remarqué qu’il y avait une tendance naissante à l’époque à s’approprier les identités des marques de médias grand public”, explique Madung. “Nous constatons une utilisation généralisée de cette tactique sur la plate-forme, et elle semble fonctionner exceptionnellement bien.”
Madung s’est également entretenu avec l’ancien modérateur de contenu de TikTok, Gadear Ayed, pour mieux comprendre les efforts de modération de l’entreprise de manière plus générale. Bien qu’Ayed n’ait pas modéré les TikToks du Kenya, elle a dit à Madung qu’on lui demandait souvent de modérer du contenu dans des langues ou des contextes qu’elle ne connaissait pas, et qu’elle n’aurait pas eu le contexte pour dire si un média avait été manipulé.
“Il est courant de trouver des modérateurs à qui l’on demande de modérer des vidéos dans des langues et des contextes différents de ce qu’ils ont compris”, a déclaré Ayed à Madung. “Par exemple, j’ai dû à un moment modérer des vidéos qui étaient en hébreu alors que je ne connaissais ni la langue ni le contexte. Tout ce sur quoi je pouvais compter était l’image visuelle de ce que je pouvais voir, mais je ne pouvais pas modérer tout ce qui était écrit.
Un porte-parole de TikTok a déclaré à WIRED que la société interdit la désinformation électorale et la promotion de la violence et s’engage à protéger l’intégrité de [its] plate-forme et ont une équipe dédiée travaillant pour protéger TikTok pendant les élections au Kenya. Le porte-parole a également déclaré qu’il travaillait avec des organisations de vérification des faits, dont l’Agence France-Presse au Kenya, et prévoyait de déployer des fonctionnalités pour connecter sa “communauté avec des informations faisant autorité sur les élections kenyanes dans notre application”.
Mais même si TikTok supprime le contenu incriminé, Hickey dit que cela peut ne pas suffire. “Une personne peut remixer, duo, repartager le contenu de quelqu’un d’autre”, explique Hickey. Cela signifie que même si la vidéo originale est supprimée, d’autres versions peuvent continuer à vivre sans être détectées. Les vidéos TikTok peuvent également être téléchargées et partagées sur d’autres plateformes, comme Facebook et Twitter, c’est ainsi que Madung a rencontré certaines d’entre elles pour la première fois.
Plusieurs des vidéos signalées dans le rapport de la Fondation Mozilla ont depuis été supprimées, mais TikTok n’a pas répondu aux questions de savoir s’il avait supprimé d’autres vidéos ou si les vidéos elles-mêmes faisaient partie d’un effort coordonné.
Mais Madung soupçonne qu’ils pourraient l’être. “Certains des hashtags les plus flagrants étaient des choses que je trouverais en recherchant des campagnes coordonnées sur Twitter, puis je penserais, et si je cherchais cela sur TikTok?”
