A le rassis selfie qui vous sert de photo de profil depuis un peu trop longtemps sans rafraîchissement ? Vous avez probablement vu des amis utiliser l’application Lensa AI pour créer des images de dessins animés colorées et personnalisées d’eux-mêmes en tant que fées éthérées ou astronautes sévères. Prisma Labs, la société à l’origine de Lensa, est devenue virale en 2016 avec une application similaire (bien que moins puissante) qui transformait les photos des smartphones en peintures.
La sortie de la fonctionnalité “avatars magiques” de Lensa est un succès mondial pour l’entreprise. Les progrès récents de l’intelligence artificielle générative permettent à l’application de produire des résultats plus impressionnants et variés que son prédécesseur. Selon les estimations préliminaires fournies par Sensor Tower, plus de 4 millions de personnes dans le monde ont téléchargé l’application au cours des cinq premiers jours de décembre. Au cours de la même période, les utilisateurs ont dépensé plus de 8 millions de dollars dans l’application.
Cependant, les images de profil générées par l’IA ont toujours soulevé des questions sur la confidentialité numérique. Si vous êtes curieux de savoir si c’est une bonne idée d’utiliser Lensa, voici ce que vous devriez considérer avant de dépenser de l’argent et de télécharger vos selfies.
Lisez toujours la politique de confidentialité
Avant de plonger, prenez une minute pour parcourir la politique de confidentialité et les conditions d’utilisation pour mieux comprendre ce que l’application fait avec vos données. « Nous devons toujours être conscients lorsque nos données biométriques sont utilisées à quelque fin que ce soit. Ce sont des données sensibles. Nous devons être extrêmement prudents quant à la manière dont ces données sont utilisées », déclare David Leslie, directeur de la recherche sur l’éthique et l’innovation responsable à l’Institut Alan Turing et professeur à l’Université Queen Mary de Londres.
Andrey Usoltsev, PDG et cofondateur de Prisma Labs, a affirmé que la société travaillait à mettre à jour la politique de confidentialité dans un e-mail à WIRED. « Lensa utilise une copie du modèle de diffusion stable et lui apprend à reconnaître le visage sur les images téléchargées dans chaque cas particulier. Cela signifie qu’il existe un modèle distinct pour chaque utilisateur individuel », écrit Usoltsev. « Les photos de l’utilisateur sont supprimées de nos serveurs dès que les avatars sont générés. Les serveurs sont situés aux États-Unis.
Bien qu’il soit impossible de savoir exactement comment une entreprise utilise et stocke vos données sans une évaluation indépendante, cette déclaration va dans la bonne direction. Dans cet esprit, cependant, les téléchargements ne sont qu’une petite partie de l’équation plus large.
Les implications de sécurité au-delà de vos photos téléchargées
Bien que la biométrie puisse être votre première préoccupation, il est également crucial de comprendre la quantité de données supplémentaires automatiquement collectées à partir de votre smartphone. Lensa peut utiliser des analyses tierces, des informations de fichiers journaux, des identifiants d’appareils et des informations d’utilisateurs enregistrés pour collecter des données sur vous. Rendez-vous à la section 3 de la politique de confidentialité pour la consulter en détail.
Tout utilisateur peut refuser cette collecte de données en contactant la société à privacy@lensa-ai.com. Si vous utilisez un appareil iOS, vous avez la possibilité de vous désinscrire en accédant à vos paramètres de confidentialité. Pour être juste, il n’y a pas que Lensa : chaque application sur votre téléphone collecte probablement plus de données que vous ne le pensez. Même si vous décidez de faire confiance à Lensa avec vos données personnelles, il est tout à fait possible que les données changent de mains si l’entreprise est acquise à l’avenir. “Cela se produit particulièrement lorsqu’il s’agit de grandes entreprises qui sont beaucoup plus aptes à raconter des conneries sur la façon dont elles en parlent”, explique Ben Winters, responsable des projets sur l’IA et les droits de l’homme au Centre d’information sur la confidentialité électronique.
N’importez pas de photos d’enfants ou de nudité
Il est contraire aux conditions d’utilisation d’insérer des images d’enfants ou de nudité pour générer des images sur Lensa. Mais même si vous ne saisissez pas de nus, les femmes peuvent recevoir des résultats hypersexuels ; “L’application génère non seulement des nus, mais attribue également à leurs images des caractéristiques sexualisées de manière caricaturale, comme des poses sensuelles et des seins gigantesques. Par exemple, j’ai reçu plusieurs résultats entièrement nus malgré le téléchargement de photos à la tête », écrit Olivia Snow, contributrice de WIRED. L’application a généré des images dérangeantes lorsque Snow a téléchargé ses photos d’enfance, transformant ce qui aurait été des souvenirs stylisés en images déshumanisantes. “Étant donné que la fonctionnalité n’est pas conçue pour les mineurs, nous déconseillons d’utiliser des images d’enfants”, écrit Usoltsev.
Lensa peut également produire des images sexuelles d’adultes sans leur consentement. « C’est un cas potentiel où une prévoyance insuffisante a été consacrée à la protection de la dignité des individus », déclare Leslie. “Lorsque les technologies peuvent nuire, nous sommes tenus de faire tout ce que nous pouvons pour anticiper ces impacts.”
Soyez prêt pour des résultats étranges ou offensants
Ce ne sont pas seulement des doigts funky et des secondes têtes, vous pouvez également recevoir des résultats racistes ou sexistes lorsque vous interagissez avec l’IA générative. “Internet est rempli de nombreuses images qui pousseront les générateurs d’images d’IA vers des sujets qui pourraient ne pas être les plus confortables, qu’il s’agisse d’images sexuellement explicites ou d’images qui pourraient déplacer les portraits d’IA des gens vers des caricatures raciales”, déclare Grant Fergusson, un Equal Boursier Justice Works à l’EPIC.
Considérez l’impact plus important pour les vrais artistes
Certains artistes adoptent le potentiel de l’IA générative pour produire des résultats fascinants. D’autres sont beaucoup plus hésitants quant aux répercussions potentielles de la technologie. « La commercialisation de ces générateurs d’images aura un impact sur la capacité des artistes à continuer à subvenir à leurs besoins à long terme », explique Leslie.
Bien qu’il s’agisse d’un itinéraire plus coûteux, ceux qui en sont capables devraient envisager de demander à de plus petits artistes de créer des pièces numériques pour leur nouvelle photo de profil, fond d’écran de téléphone ou portrait. Instagram et Twitter regorgent d’artistes qui travaillent dans une variété de styles que vous ne pourriez jamais obtenir de l’IA générative, et beaucoup d’entre eux sont avides de commandes. Pour une somme modique, vous pouvez obtenir quelque chose de vraiment unique et personnel. Vous pouvez même vous renseigner auprès de votre centre d’art communautaire et soutenir un artiste local.
Essayez de supprimer l’application par la suite
Disons que vous avez considéré tout ce qui précède et que vous avez quand même décidé de dépenser quelques dollars pour obtenir un pack “d’avatars magiques”. Après avoir enregistré les créations colorées, découvrez les capacités de retouche photo et vidéo de Lensa. Est-ce quelque chose que vous voulez utiliser souvent ou est-ce juste une autre application qui collectera la poussière numérique sur votre smartphone ? “Contrôlez les paramètres, supprimez-les après utilisation et exercez tous les droits qu’ils vous offrent”, recommande Winters à toute personne préoccupée par la collecte de données.
