Twitter et son nouveau propriétaire, Elon Musk, ont récemment promis de sévir contre les bots. Mais le flot de spams pour les utilisateurs chinois ces dernières semaines a souligné les défis auxquels l’entreprise est confrontée pour contrôler les activités frauduleuses et inauthentiques, en particulier dans les langues étrangères qui ont traditionnellement été plus vaguement contrôlées par les grandes plateformes de médias sociaux américaines.
Pour de nombreux Chinois qui se sont tournés vers la plate-forme alors que les manifestations contre les restrictions de Covid-19 étaient devenues politiques et généralisées – plus que toutes les manifestations là-bas depuis des décennies – l’expérience d’utilisation de l’application semblait capturer une réalité différente.
Une grande partie du spam est liée à des réseaux de robots commerciaux qui ont opéré sur Twitter en langue chinoise avant le début des manifestations le 25 novembre, selon une analyse du New York Times de milliers de tweets, d’entretiens avec des personnes derrière certains des robots. témoignages et un rapport d’un chercheur de l’université de Stanford.
Le Times a recherché sur Twitter 10 villes chinoises, comme “北京” (“Pékin”), et a examiné les résultats pour le spam. Les robots étaient actifs tout au long de l’analyse, même pour les villes où aucune manifestation n’a eu lieu. Lorsqu’elles ont été contactées, deux entreprises qui sont apparues dans des tweets de spam ont déclaré qu’elles avaient acheté les tweets en utilisant des services publicitaires.
Le Times a également recherché six noms de villes en dehors de la Chine en utilisant l’anglais et le chinois simplifié. Seules les recherches en anglais étaient exemptes de spam bots.
L’analyse du Times correspond aux conclusions publiées lundi par David Thiel, le technologue en chef de l’Observatoire Internet de Stanford. M. Thiel a examiné des millions de tweets en recherchant 30 villes chinoises et a découvert que les bots étaient actifs avant le début des manifestations et se sont poursuivis après leur déclin. Twitter a suspendu de nombreux comptes, mais le spam a continué alors que d’autres robots continuaient à tweeter, a-t-il écrit dans le rapport.
M. Musk, qui a repris Twitter un mois avant le début des manifestations, a déclaré que le contrôle des robots était une “priorité absolue”. Mais dans les semaines qui ont suivi l’acquisition de la société, il a réduit de moitié les effectifs de Twitter. Il a également dissous le Trust and Safety Council de l’entreprise, un groupe consultatif formé en 2016 pour lutter contre les discours de haine et d’autres problèmes sur Twitter.
Dans un e-mail interne concernant la décision de mettre fin au Trust and Safety Council, la société a déclaré qu’elle “agirait plus rapidement et de manière plus agressive” pour rendre Twitter plus sûr, mais n’a fourni aucun détail sur ses plans. La société et M. Musk n’ont pas répondu à une demande de commentaire.
“J’ai presque l’impression que c’est le Far West”, a déclaré Eirliani Rahman, un ancien membre du Trust and Safety Council, dans une interview. Dans une lettre publiée sur Twitter annonçant sa démission ce mois-ci, elle a écrit que “la sécurité et le bien-être” des utilisateurs de Twitter étaient en déclin, ajoutant que “tirer de la hanche n’est pas la façon dont vous modérez le contenu”.
Dans un récent chat en direct, M. Musk a suggéré que la société était trop agressive pour interdire les bots, suspendant certains comptes légitimes dans le processus. Pourtant, parmi les contenus en langue chinoise sur Twitter, les bots semblent maintenir une présence significative.
Remarque : les coordonnées du compte ont été masquées.
Certains chiens de garde d’Internet ont suggéré que le gouvernement chinois était derrière les robots de spam. Le New York Times et M. Thiel de l’Université de Stanford n’ont trouvé aucune preuve à l’appui de cette idée.
Les campagnes publicitaires partagent une certaine ressemblance avec les campagnes de propagande du gouvernement chinois, qui ont tendance à utiliser des essaims de bots pour submerger les publications authentiques dans les résultats de recherche. Mais ces campagnes utilisent généralement des hashtags politiques et font écho à des messages soutenus par l’État.
Les bots publiant du contenu pendant la manifestation ne se sont pas concentrés sur les hashtags associés ; au lieu de cela, ils ont inclus des termes plus larges comme les noms des villes chinoises à côté du contenu pour adultes.
En Chine, la prostitution et le contenu pornographique sont illégaux, et de puissants censeurs mènent une bataille sans fin pour réduire la publicité de ces services. Ainsi, ces entreprises affluent souvent vers des plateformes comme Twitter et Instagram, qui disposent de beaucoup moins de ressources dédiées à la surveillance et à la maintenance du contenu partagé en chinois.
Les estimations du nombre de bots sur Twitter varient. La société a déclaré dans des déclarations publiques que les bots représentaient moins de 5% de sa base d’utilisateurs. En 2017, des chercheurs de l’Université de l’Indiana et de l’Université de Californie du Sud ont estimé que ce nombre était plus proche de 15 %.
Yoel Roth, l’ancien responsable de la sécurité et de l’intégrité de Twitter qui a démissionné le mois dernier, a critiqué les efforts visant à contrôler l’activité des bots sur Twitter, écrivant en 2020 que les comptes automatisés pourraient être un “outil puissant” pour le service client et d’autres cas similaires. Il a ajouté que l’entreprise avait plutôt concentré son attention sur la limitation de “l’utilisation malveillante de l’automatisation” qui vise à manipuler les conversations.
Alors que Twitter et les plateformes de médias sociaux ont donné la priorité à l’élimination des activités frauduleuses, les experts en désinformation affirment que les entreprises ont largement échoué à contrôler les publications qui ne sont pas en anglais. L’analyse du Times a révélé que l’activité des bots pour les recherches sur #Beijing apparaissait bien pire dans les recherches en chinois par rapport aux recherches en anglais.
À la recherche de “北京”
Recherche de “Pékin”
Une recherche sur Twitter pour “Pékin” en chinois simplifié
fait apparaître tweet après tweet de spam…
… mais la recherche de “Beijing” en anglais a montré
aucune activité de bot ou de spam parmi les meilleurs tweets.
Recherche de “北京”
Recherche de “Pékin”
Une recherche sur Twitter pour “Beijing” dans
le chinois simplifié a fait apparaître un tweet après
tweet de spam…
… mais en cherchant “Beijing” en anglais
n’a montré aucune activité de bot ou de spam parmi
les meilleurs tweets.
Recherche de “北京”
Une recherche sur Twitter pour “Beijing” dans
le chinois simplifié a fait apparaître un tweet après
tweet de spam…
Recherche de “Pékin”
… mais en cherchant “Beijing” en anglais
n’a montré aucune activité de bot ou de spam parmi
les meilleurs tweets.
M. Thiel, le chercheur de Stanford, a collecté des millions de tweets sur plusieurs semaines pour suivre les campagnes de bots. Il a trouvé des centaines de milliers de comptes avec des marqueurs clairs de l’activité des bots, comme le fait de tweeter à plusieurs reprises le même contenu avec une combinaison différente de hashtags et de photos. Il a souvent fallu des jours à Twitter pour suspendre les comptes non authentiques, ce qui est typique du réseau social, a déclaré M. Thiel. Cela a permis à leur contenu de dépasser les résultats de recherche pendant des jours jusqu’à ce que l’entreprise agisse – juste à temps pour que de nouveaux comptes soient créés et continuent le rythme du spam.
“Il y a toujours de nouvelles campagnes de spam, de nouvelles méthodes d’évasion, de nouveaux comptes créés”, a déclaré M. Thiel dans une interview.
De nombreux comptes analysés par The Times fournissent des informations de contact dans leur profil ou leurs tweets. Un employé d’une entreprise répertoriée dans un tweet de spam a déclaré dans un chat en ligne qu’elle fournissait des services d’escorte et n’avait aucun lien avec le gouvernement. L’employé, qui a refusé de donner un nom, a déclaré que l’entreprise menait également des campagnes publicitaires sur Facebook et Instagram.
Publicité robotisée sur Twitter
Une entreprise répertoriée sur certains tweets de spam a confirmé qu’elle dirigeait une entreprise de publicité utilisant des bots. Ce guide tarifaire décrit les prix et les services offerts.
Présentation de l’activité des publicités Twitter
Le guide des prix indique le nombre de comptes de bot pouvant être achetés ainsi que le prix quotidien, la remise mensuelle et le prix mensuel.
• Nous fournissons tous les comptes utilisés pour publier des annonces
• Chaque compte tweete au moins 150 fois par jour (une publication toutes les 5 à 10 minutes)
• Nous pouvons permettre aux clients de vérifier les noms des comptes qui publient des annonces
• Nous fournissons des services gratuits de conception d’images et de vidéos
• La durée minimale est de 3 jours et le nombre minimal de comptes est de 50.
Présentation de l’activité des publicités Twitter
Le guide des prix indique le nombre de comptes de bot pouvant être achetés ainsi que le prix quotidien, la remise mensuelle et le prix mensuel.
• Nous fournissons tous les comptes utilisés pour publier des annonces
• Chaque compte tweete au moins 150 fois par jour (une publication toutes les 5 à 10 minutes)
• Nous pouvons permettre aux clients de vérifier les noms des comptes qui publient des annonces
• Nous fournissons des services gratuits de conception d’images et de vidéos
• La durée minimale est de 3 jours et le nombre minimal de comptes est de 50
Présentation de l’activité des publicités Twitter
Le guide des prix indique le nombre de comptes de bot pouvant être achetés ainsi que le prix quotidien, la remise mensuelle et le prix mensuel.
• Nous fournissons tous les comptes utilisés pour publier des annonces
• Chaque compte tweete au moins 150 fois par jour (une publication toutes les 5 à 10 minutes)
• Nous pouvons permettre aux clients de vérifier les noms des comptes qui publient des annonces
• Nous fournissons des services gratuits de conception d’images et de vidéos
• La durée minimale est de 3 jours et le nombre minimal de comptes est de 50
Dans un autre chat en ligne, un fournisseur de publicité pour les services d’escorte et de jeu a déclaré que l’entreprise était responsable de certains des tweets de spam. La personne a fourni une grille tarifaire pour la publicité en ligne via des bots, qui facture 9 600 renminbi, soit environ 1 400 dollars, par mois pour une campagne publicitaire sur Twitter impliquant 200 comptes de bot qui tweeteront au moins 150 fois par jour. L’entreprise propose également la conception de photos et de vidéos.
Les comptes de spam peuvent également être achetés et réutilisés par les gouvernements à partir de marchés de robots, ce qui rend difficile de dire si une campagne est commerciale ou politique, selon un ancien employé de Twitter qui a travaillé dans son groupe de sécurité et d’intégrité et a analysé les opérations d’influence soutenues par l’État. L’ancien employé a parlé sous couvert d’anonymat en raison des termes d’un accord de licenciement avec l’entreprise.
“Compte tenu de son efficacité à noyer d’autres personnes, je ne serais pas surpris si un gouvernement quelconque essayait d’utiliser cette technique à l’avenir”, a déclaré M. Thiel.
