Agrandir / C’est John. Il n’existe pas. Mais l’IA peut facilement mettre une photo de lui dans n’importe quelle situation que nous voulons. Et le même processus peut s’appliquer à de vraies personnes avec seulement quelques vraies photos tirées des médias sociaux.
Benj Edwards / Ars Technica
Si vous faites partie des milliards de personnes qui ont publié des photos d’elles-mêmes sur les réseaux sociaux au cours de la dernière décennie, il est peut-être temps de repenser ce comportement. La nouvelle technologie de génération d’images de l’IA permet à quiconque de sauvegarder une poignée de photos (ou d’images vidéo) de vous, puis de former l’IA pour créer de fausses photos réalistes qui vous montrent en train de faire des choses embarrassantes ou illégales. Tout le monde n’est peut-être pas à risque, mais tout le monde devrait le savoir.
Les photographies ont toujours fait l’objet de falsifications, d’abord dans des chambres noires avec des ciseaux et de la colle, puis via Adobe Photoshop à travers des pixels. Mais il a fallu beaucoup d’habileté pour réussir de manière convaincante. Aujourd’hui, créer des contrefaçons photoréalistes convaincantes est devenu presque trivial.
Une fois qu’un modèle d’IA apprend à rendre quelqu’un, son image devient un jouet logiciel. L’IA peut en créer des images en quantités infinies. Et le modèle d’IA peut être partagé, permettant à d’autres personnes de créer également des images de cette personne.
John : Une étude de cas sur les réseaux sociaux
Lorsque nous avons commencé à écrire cet article, nous avons demandé à un volontaire courageux si nous pouvions utiliser ses images de médias sociaux pour tenter de former un modèle d’IA pour créer des contrefaçons. Ils ont accepté, mais les résultats étaient trop convaincants et le risque de réputation s’est avéré trop grand. Au lieu de cela, nous avons utilisé l’IA pour créer un ensemble de sept photos simulées sur les réseaux sociaux d’une personne fictive que nous appellerons “John”. De cette façon, nous pouvons vous montrer les résultats en toute sécurité. Pour l’instant, supposons que John est un vrai gars. Le résultat est exactement le même, comme vous le verrez ci-dessous.
Publicité
Dans notre scénario fictif, “John” est un enseignant du primaire. Comme beaucoup d’entre nous, au cours des 12 dernières années, John a publié des photos de lui sur Facebook au travail, en train de se détendre à la maison ou en se déplaçant.
Agrandir / Ces images inoffensives de “John” sur les réseaux sociaux ont été utilisées comme données d’entraînement que notre IA a utilisées pour le placer dans des positions plus compromettantes.
Ars Technica
En n’utilisant que ces sept images, quelqu’un pourrait former l’IA pour générer des images qui donnent l’impression que John a une vie secrète. Par exemple, il aimerait peut-être prendre des selfies nus dans sa classe. La nuit, John peut aller dans des bars déguisés en clown. Le week-end, il pouvait faire partie d’un groupe paramilitaire extrémiste. Et peut-être qu’il a purgé une peine de prison pour une accusation de drogue illégale, mais l’a caché à son employeur.
-
La nuit, “John” s’habille comme un clown et va dans les bars.
Ars Technica
-
“John” à côté d’une femme nue dans un bureau. Il est marié et ce n’est pas sa femme.
Ars Technica
-
“John” passe du temps le week-end à s’entraîner dans le cadre d’un groupe paramilitaire.
Ars Technica
-
John se détend torse nu dans sa classe après l’école.
Ars Technica
-
John a purgé une peine de prison pour trafic de drogue il y a quelques années à peine et n’en a jamais parlé au système scolaire.
Ars Technica
-
John souffrait beaucoup, ou faisait peut-être autre chose. Nous avons recadré les parties opératives.
Ars Technica
Nous avons utilisé un générateur d’images AI appelé Stable Diffusion (version 1.5) et une technique appelée Dreambooth pour apprendre à l’IA comment créer des images de John dans n’importe quel style. Bien que notre John ne soit pas réel, quelqu’un pourrait reproduire des résultats similaires avec cinq images ou plus de n’importe quelle personne. Ils peuvent être extraits d’un compte de réseau social ou même pris comme images fixes d’une vidéo.
