Une autre variable, « partenaire présumé », est utilisée pour déterminer si quelqu’un a une relation cachée, puisque les célibataires reçoivent plus d’avantages. Cela implique de rechercher des données sur les liens entre les bénéficiaires de l’aide sociale et d’autres résidents danois, par exemple s’ils ont vécu à la même adresse ou élevé des enfants ensemble.
« L’idéologie qui sous-tend ces systèmes algorithmiques, et [the] la surveillance et le contrôle très intrusifs des personnes qui reçoivent l’aide sociale, est une profonde méfiance à l’égard des pauvres », explique Victoria Adelmant, directrice du Digital Welfare and Human Rights Project.
Pour tous les complexité des modèles d’apprentissage automatique, et de toutes les données amassées et traitées, il y a toujours une personne qui a une décision à prendre à l’extrémité dure des contrôles de fraude. C’est la sécurité intégrée, soutient Jacobsen, mais c’est aussi le premier endroit où ces systèmes entrent en collision avec la réalité.
Morten Bruun Jonassen est l’un de ces coffres-forts. Ancien officier de police, il dirige l’équipe de contrôle de Copenhague, un groupe de fonctionnaires chargés de s’assurer que les habitants de la ville sont enregistrés à la bonne adresse et reçoivent les bons paiements de prestations. Il travaille pour le département des services sociaux de la ville depuis 14 ans, assez longtemps pour se souvenir d’une époque avant que les algorithmes ne prennent une telle importance – et assez longtemps pour avoir observé le changement de ton dans la conversation nationale sur l’aide sociale.
« Qu’est-ce qu’une violation du citoyen, vraiment ? Est-ce une violation que vous soyez dans l’estomac de la machine, en train de courir là-dedans ? »
Annika Jacobsen, responsable de l’exploration de données et de la détection des fraudes, Administration danoise des prestations publiques
Alors que la guerre contre la fraude à l’aide sociale reste politiquement populaire au Danemark, Jonassen affirme que seul un “très petit” nombre des cas qu’il rencontre impliquent une véritable fraude. Malgré tout l’investissement qu’il y a investi, l’unité d’exploration de données n’est pas sa meilleure source de pistes, et les cas signalés par le système de Jacobsen ne représentent que 13 % des cas sur lesquels son équipe enquête, soit la moitié de la moyenne nationale. Depuis 2018, Jonassen et son unité ont assoupli leur approche par rapport à d’autres unités au Danemark, qui ont tendance à être plus sévères contre la fraude, dit-il. Dans une affaire documentée en 2019 par DR, le radiodiffuseur public danois, une bénéficiaire de l’aide sociale a déclaré que les enquêteurs avaient parcouru ses réseaux sociaux pour voir si elle était en couple avant de l’accuser à tort de fraude à l’aide sociale.
Alors qu’il rend hommage à l’unité d’exploration de données de Jacobsen pour avoir tenté d’améliorer ses algorithmes, Jonassen n’a pas encore vu d’amélioration significative pour les cas qu’il traite. « Fondamentalement, ça n’a pas été mieux », dit-il. Dans une enquête menée en 2022 auprès des villes danoises par l’unité, les fonctionnaires ont noté leur satisfaction à son égard, en moyenne, entre 4 et 5 sur 7.
Jonassen affirme que les personnes qui demandent des prestations devraient obtenir ce qui leur est dû, ni plus, ni moins. Et malgré l’ampleur de la bureaucratie automatisée de Jacobsen, il lance plus d’enquêtes basées sur les conseils des écoles et des travailleurs sociaux que sur les cas signalés par la machine. Et, surtout, dit-il, il travaille dur pour comprendre les personnes qui demandent des prestations et les situations difficiles dans lesquelles elles se trouvent. “Si vous regardez les statistiques et regardez simplement l’écran”, dit-il, “vous ne voyez pas il y a des gens derrière.
Reportage supplémentaire de Daniel Howden, Soizic Penicaud, Pablo Jiménez Arandia et Htet Aung. Le reportage a été soutenu par la bourse de responsabilité AI du Pulitzer Center et le Center for Artistic Inquiry and Reporting.
