De l’exterieur, L’algorithme de bien-être de Rotterdam semble complexe. Le système, qui a été initialement développé par le cabinet de conseil Accenture avant que la ville ne reprenne le développement en 2018, est formé sur les données collectées par le service social de Rotterdam. Il attribue des scores de risque aux personnes en fonction de 315 facteurs. Certains sont des faits objectifs, comme l’âge ou l’identité de genre. D’autres, comme l’apparence d’une personne ou son caractère extraverti, sont subjectifs et basés sur le jugement des travailleurs sociaux.
À Hoek van Holland, une ville à l’ouest de Rotterdam qui fait administrativement partie de la ville, Pepita Ceelie tente de comprendre comment l’algorithme l’a classée comme à haut risque. Ceelie a 61 ans, est fortement tatouée et a une coupe rose vif. Elle aime parler anglais et va vite à l’essentiel. Au cours des 10 dernières années, elle a vécu avec une maladie chronique et de l’épuisement, et elle utilise un scooter de mobilité chaque fois qu’elle quitte la maison.
Ceelie a fait l’objet d’une enquête à deux reprises par l’équipe de fraude sociale de Rotterdam, d’abord en 2015 et à nouveau en 2021. Les deux fois, les enquêteurs n’ont trouvé aucun acte répréhensible. Dans le cas le plus récent, elle a été sélectionnée pour enquête par l’algorithme de notation des risques de la ville. Ceelie dit qu’elle a dû expliquer aux enquêteurs pourquoi son frère lui avait envoyé 150 € (180 $) pour son soixantième anniversaire, et qu’il leur a fallu plus de cinq mois pour clore l’affaire.
Assise dans sa maison en blocs des années 1950, décorée de photographies de son jardin, Ceelie tapote sur un ordinateur portable. Elle entre ses coordonnées dans une reconstruction du système de notation des risques sociaux de Rotterdam créé dans le cadre de cette enquête. L’interface utilisateur, construite sur l’algorithme et les données de la ville, montre comment le score de risque de Ceelie a été calculé et suggère quels facteurs auraient pu l’amener à faire l’objet d’une enquête pour fraude.
Les 315 facteurs du système de notation des risques sont initialement définis pour décrire une personne imaginaire avec des valeurs «moyennes» dans l’ensemble de données. Lorsque Ceelie personnalise le système avec ses propres détails, son score commence à changer. Elle commence avec un score par défaut de 0,3483 – plus le score d’une personne est proche de 1, plus elle est considérée comme un risque de fraude élevé. Lorsqu’elle dit au système qu’elle n’a pas de plan en place pour trouver du travail, le score augmente (0,4174). Il baisse quand elle entre qu’elle vit dans sa maison depuis 20 ans (0,3891). Vivre en dehors du centre de Rotterdam le repousse au-dessus de 0,4.
Changer son sexe d’homme à femme fait passer son score à 0,5123. “C’est fou”, dit Ceelie. Même si son fils adulte ne vit pas avec elle, son existence, selon l’algorithme, la rend plus susceptible de commettre une fraude à l’aide sociale. « Qu’est-ce qu’il a à voir avec ça ? » elle dit. Le divorce de Ceelie augmente à nouveau son score de risque, et elle termine avec un score de 0,643 : risque élevé, selon le système de Rotterdam.
« Ils ne me connaissent pas, je ne suis pas un numéro », dit Ceelie. “Je suis un être humain.” Après deux enquêtes sur la fraude à l’aide sociale, Ceelie s’est fâchée contre le système. “Ils se sont seulement opposés à moi, m’ont poussé à des pensées suicidaires”, dit-elle. Tout au long de ses enquêtes, elle a entendu les histoires d’autres personnes, se tournant vers un groupe de soutien Facebook mis en place pour les personnes ayant des problèmes avec le système de protection sociale des Pays-Bas. Ceelie dit que les gens ont perdu des avantages pour des infractions mineures, comme ne pas déclarer les paiements d’épicerie ou l’argent reçu de leurs parents.
« Ils ne me connaissent pas, je ne suis pas un numéro. Je suis un être humain.”
Pepita Ceelie, résidente de Rotterdam
“Il y a beaucoup de choses qui ne sont pas très claires pour les gens lorsqu’ils reçoivent l’aide sociale”, explique Jacqueline Nieuwstraten, une avocate qui a traité des dizaines d’appels contre les sanctions sociales de Rotterdam. Elle dit que le système a été rapide pour punir les gens et que les enquêteurs ne tiennent pas correctement compte des circonstances individuelles.
Les Pays-Bas adoptent une position ferme sur la fraude sociale, encouragée par les politiciens populistes de droite. Et de toutes les régions du pays, Rotterdam sévit le plus durement contre la fraude sociale. Sur les quelque 30 000 personnes qui reçoivent des prestations de la ville chaque année, environ un millier font l’objet d’une enquête après avoir été signalées par l’algorithme de la ville. Au total, Rotterdam enquête sur jusqu’à 6 000 personnes par an pour vérifier si leurs paiements sont corrects. En 2019, Rotterdam a émis 2 400 sanctions en matière d’avantages sociaux, qui peuvent inclure des amendes et une réduction complète des avantages sociaux. En 2022, près d’un quart des appels parvenus à la plus haute juridiction du pays provenaient de Rotterdam.
