À l’intérieur de Safe City, la dystopie de surveillance de l’IA à Moscou

“Depuis [an] d’un point de vue technique, c’est très intéressant de travailler avec : c’est très difficile », dit-il.

Après la sortie de FindFace, NTechLab a commencé à vendre sa technologie de reconnaissance faciale aux petites entreprises, telles que les centres commerciaux qui pourraient l’utiliser pour attraper les voleurs à l’étalage ou voir combien de personnes reviennent dans certains magasins. Mais NTechLab travaillait également avec le Département des technologies informatiques de Moscou (DIT), le département gouvernemental chargé de construire l’infrastructure numérique de Moscou. En 2018, lorsque la Russie a accueilli la Coupe du monde de football, la technologie de reconnaissance faciale de NTechLab était connectée à plus de 450 caméras de sécurité autour de Moscou, et sa technologie aurait aidé la police à détenir 180 personnes que l’État considérait comme des “criminels recherchés”.

À sa création, le système de reconnaissance faciale de Moscou était alimenté par des listes de surveillance officielles, comme la base de données des personnes recherchées. Le système utilise ces listes pour informer la police lorsqu’une personne sur la liste est détectée, mais les forces de l’ordre peuvent également télécharger une image et rechercher l’endroit où une personne est apparue. Au fil des ans, les agences de sécurité et d’application de la loi ont compilé une base de données des dirigeants de l’opposition politique et d’éminents militants, selon Sarkis Darbinyan, cofondateur du groupe de défense des droits numériques Roskomsvoboda, qui fait campagne pour la suspension de la technologie. On ne sait toujours pas qui est chargé d’ajouter des militants et des manifestants aux listes de surveillance.

En mars 2019, à la suite du succès du procès de la Coupe du monde – certaines des personnes « les plus recherchées » de Russie ont été arrêtées alors qu’elles tentaient d’assister à des matchs – le ministère des Transports de Moscou, qui exploite le métro de la ville, a lancé son propre système de surveillance, Sfera. En octobre 2019, 3 000 des 160 000 caméras de la ville étaient équipées d’une technologie de reconnaissance faciale, selon le ministre de l’Intérieur Vladimir Kolokoltsev.

NTechLab était l’une des nombreuses entreprises à construire une multitude de systèmes qui seraient plus tard appelés Safe City. Des entreprises internationales, des entreprises technologiques américaines telles que Nvidia, Intel et Broadcom au fabricant de caméras sud-coréen Samsung et chinois Hikvision, ont travaillé aux côtés d’entreprises locales telles que HeadPoint, Netris et Rostelecom qui ont développé divers composants des systèmes de surveillance. Selon les documents d’approvisionnement cités par la BBC du Royaume-Uni, trois sociétés en plus de NTechLab ont créé une technologie de reconnaissance faciale pour l’appareil de surveillance en pleine croissance de Moscou, notamment Tevian, Kipod et VisionLabs. Le département des transports de Moscou a déclaré dans des publications sur les réseaux sociaux que Sfera avait été construit à l’aide de la technologie VisionLabs, bien que l’entreprise minimise son implication.

NtechLab affirme qu’il opère conformément aux lois locales et n’a pas accès aux données des clients ou aux flux vidéo des caméras. Nvidia et Intel disent avoir quitté la Russie en 2022, Nvidia ajoutant qu’il ne crée pas de logiciels ou d’algorithmes de surveillance. Broadcom et Samsung ont également déclaré avoir cessé de faire des affaires en Russie après l’invasion. VisionLabs affirme ne fournir au métro de Moscou que son système de paiement par reconnaissance faciale. Les autres entreprises n’ont pas répondu aux demandes de commentaires. Le DIT et le ministère des Transports de Moscou n’ont pas répondu aux demandes de commentaires.

Fin 2018, alors que la Russie sévissait davantage contre la dissidence politique en ligne et dans la rue, le DIT a commencé à changer, explique un ancien employé qui a demandé à rester anonyme pour des raisons de sécurité. Selon Andrey Soldatov, journaliste d’investigation et expert des services de sécurité russes, le département n’était auparavant que les “gars techniques” fournissant une assistance aux services de sécurité, le gouvernement de Moscou recrutant des informaticiens hautement rémunérés pour rendre les systèmes les plus efficaces possibles. Mais selon l’ancien employé, le DIT commençait à refléter le penchant autoritaire du Kremlin.

commentaires

LAISSER UN COMMENTAIRE

S'il vous plaît entrez votre commentaire!
S'il vous plaît entrez votre nom ici

Le plus populaire