L’ancien responsable de la sécurité de Twitter, Peiter “Mudge” Zatko, affirme que la fonctionnalité Spaces du réseau social manque de modération. Zatko a fait cette affirmation dans une plainte explosive de lanceur d’alerte obtenue pour la première fois par CNN et le Washington Post.
Dans la plainte, Zatko dit qu’un dirigeant de Twitter a dit à tort au personnel et aux membres du conseil d’administration en décembre 2021 que la fonctionnalité était modérée de manière appropriée. Cependant, Zatko dit avoir découvert que “environ la moitié du contenu de Spaces signalé pour examen était dans une langue que les modérateurs ne parlaient pas, et il n’y avait que peu ou pas de modération”, selon sa plainte de lanceur d’alerte datée du 6 juillet, qui a été déposée auprès de la Securities and Exchange Commission (SEC) des États-Unis, la Federal Trade Commission (FTC) et le ministère de la Justice.
La plainte du dénonciateur note qu’entre autres responsabilités, Zatko a travaillé avec Twitter Service, le nom interne de la société pour la division chargée de l’application opérationnelle de la modération mondiale du contenu.
La plainte fait suite à un rapport du Washington Post publié l’année dernière selon lequel Twitter savait que Spaces pourrait être utilisé à mauvais escient en raison d’un manque de modération. Le rapport indique que les employés qui se sont plaints du manque de modération ont été mis à l’écart par l’entreprise, car certains se sont demandé comment le réseau social prévoyait de s’assurer que l’offre ne se transforme pas en une plate-forme de discours de haine et d’appels à la violence.
Le rapport indique que les dirigeants de Twitter étaient conscients du potentiel d’abus mais ont refusé de ralentir le déploiement, bien que la fonctionnalité soit largement utilisée par les nationalistes blancs, les partisans des talibans et les militants anti-vaccins publiant des informations erronées sur le COVID-19. Les employés qui ont fait part de leurs inquiétudes concernant les projets de Twitter de rendre les espaces disponibles plus largement auraient été informés que la technologie nécessaire pour modérer correctement les espaces n’existait pas et que son petit nombre de modérateurs humains n’était pas en mesure d’écouter des dizaines de milliers de conversations se déroulant dans plusieurs langues. en temps réel.
Twitter a lancé sa fonctionnalité Espaces de type Clubhouse en décembre 2020, car l’audio social ne cessait de gagner en popularité. L’intérêt pour l’audio social est devenu de plus en plus populaire au plus fort de la pandémie, alors que les gens du monde entier étaient confinés chez eux. En octobre 2021, Twitter a déployé la possibilité pour tout le monde d’héberger un espace, ouvrant l’outil à toutes sortes de groupes et de personnes malgré un manque de modération appropriée.
Zatko a également accusé son ancien employeur de négligence en matière de cybersécurité. Pendant son séjour dans l’entreprise, Zatko dit avoir été témoin de “lacunes flagrantes, de négligence, d’ignorance volontaire et de menaces à la sécurité nationale et à la démocratie”, malgré ses tentatives de signaler les failles de sécurité auprès du conseil d’administration de Twitter, qui ont été ignorées.
Twitter a recruté Zatko, un hacker et chercheur en sécurité renommé, fin 2020 à la suite d’une brèche qui a permis aux pirates de détourner très publiquement les comptes Twitter de comptes de haut niveau, dont Joe Biden et Elon Musk.
Zatko a été licencié de l’entreprise en janvier 2022 avec le CISO Rinki Sethi.
Il convient de noter que la plainte pourrait avoir un impact sur la lutte juridique en cours de Twitter avec le PDG de Tesla, Elon Musk, qui tente de se retirer d’un accord de 44 milliards de dollars pour acheter le réseau social. Zatko dit que les dirigeants de Twitter n’ont pas les ressources nécessaires pour comprendre pleinement le nombre réel de bots sur la plate-forme et n’étaient pas motivés pour le faire.
La porte-parole de Twitter, Madeline Broas, a déclaré à TechCrunch dans une déclaration passe-partout :
M. Zatko a été licencié de son poste de cadre supérieur chez Twitter en janvier 2022 pour leadership inefficace et mauvaise performance. Ce que nous avons vu jusqu’à présent est un faux récit sur Twitter et nos pratiques en matière de confidentialité et de sécurité des données qui est truffé d’incohérences et d’inexactitudes et manque de contexte important. Les allégations et le timing opportuniste de M. Zatko semblent conçus pour attirer l’attention et nuire à Twitter, à ses clients et à ses actionnaires. La sécurité et la confidentialité sont depuis longtemps des priorités à l’échelle de l’entreprise chez Twitter et continueront de l’être.
