Application de la loi indienne commence à accorder une grande importance à la technologie de reconnaissance faciale. La police de Delhi, cherchant à identifier les personnes impliquées dans des troubles civils dans le nord de l’Inde au cours des dernières années, a déclaré qu’elle considérerait une précision de 80% et plus comme une correspondance “positive”, selon des documents obtenus par l’Internet Freedom Foundation via un dossier public. demande.
L’arrivée de la reconnaissance faciale dans la région de la capitale indienne marque l’expansion des forces de l’ordre indiennes utilisant les données de reconnaissance faciale comme preuve de poursuites potentielles, sonnant l’alarme parmi les experts de la vie privée et des libertés civiles. Le seuil de précision de 80% suscite également des inquiétudes, ce qui, selon les critiques, est arbitraire et bien trop bas, compte tenu des conséquences potentielles pour ceux qui sont marqués comme correspondants. L’absence d’une loi complète sur la protection des données en Inde rend les choses encore plus préoccupantes.
Les documents indiquent en outre que même si une correspondance est inférieure à 80%, elle serait considérée comme un “faux positif” plutôt que comme un négatif, ce qui rendrait cet individu “soumis à une vérification appropriée avec d’autres preuves corroborantes”.
“Cela signifie que même si la reconnaissance faciale ne leur donne pas le résultat qu’ils ont eux-mêmes décidé d’être le seuil, ils continueront à enquêter”, déclare Anushka Jain, conseillère politique associée pour la surveillance et la technologie auprès de l’IFF, qui a demandé cette information. . “Cela pourrait conduire au harcèlement de l’individu simplement parce que la technologie dit qu’il ressemble à la personne recherchée par la police.” Elle a ajouté que cette décision de la police de Delhi pourrait également entraîner le harcèlement de personnes issues de communautés qui ont été historiquement ciblées par les responsables de l’application des lois.
En réponse à la demande d’enregistrements de l’IFF, la police a déclaré qu’elle utilisait des photographies de condamnés et des photographies de dossier pour exécuter la reconnaissance faciale. Ils ont ajouté que ceux-ci pourraient être utilisés comme preuves, mais ont refusé de partager plus de détails. Ils ont toutefois précisé qu’en cas de correspondance positive, les responsables de la police mèneraient une “enquête empirique” plus approfondie avant d’engager toute action en justice. La police de Delhi n’a pas répondu aux demandes de commentaires envoyées par WIRED par courrier électronique.
Divij Joshi, qui a passé du temps à rechercher la légalité des systèmes de reconnaissance faciale, affirme que le seuil d’une correspondance de 80 % n’a pratiquement aucun sens. Joshi explique que les chiffres de précision dépendent fortement des conditions de test des modèles de technologie de reconnaissance faciale par rapport à des ensembles de données de référence particuliers.
“La précision normale des systèmes de reconnaissance faciale ou d’apprentissage automatique est déterminée en comparant un modèle développé sur des données de formation et des données de validation avec un ensemble de données de référence”, explique Joshi, doctorant à l’University College London. “Une fois les données de formation modifiées, elles doivent être comparées à un ensemble de données tiers ou à un ensemble de données légèrement différent.” Cette analyse comparative, dit-il, est ce qui est généralement utilisé pour calculer le pourcentage de précision prédictive.
Les preuves de préjugés raciaux dans les modèles de reconnaissance faciale ont longtemps rendu problématique l’utilisation de la technologie. Et bien que de nombreuses variables affectent la précision des systèmes de reconnaissance faciale, l’utilisation généralisée par la police d’un système avec un seuil de précision global de 80 % semble très inhabituelle. Une étude de 2021 du National Institute of Standards and Technology des États-Unis a révélé que les systèmes utilisés pour faire correspondre un seul scan des visages des voyageurs à une base de données contenant leurs photos avaient un taux de précision de 99,5 % ou plus. D’autres études, cependant, ont trouvé des taux d’erreur aussi élevés que 34,7% lorsqu’ils sont utilisés pour identifier les femmes au teint plus foncé.
