Agrandir / Des images photoréalistes générées par l’IA comme celle-ci peuvent déformer notre sens de l’histoire. Google veut résoudre ce problème.
À mi-parcours
Mercredi, lors de Google I/O 2023, Google a annoncé trois nouvelles fonctionnalités conçues pour aider les gens à repérer les fausses images générées par l’IA dans les résultats de recherche, rapporte Bloomberg. Les fonctionnalités identifieront les origines connues d’une image, ajouteront des métadonnées aux images IA générées par Google et étiquetteront d’autres images générées par IA dans les résultats de recherche.
Grâce aux modèles de synthèse d’images de l’IA comme Midjourney et Stable Diffusion, il est devenu trivial de créer des quantités massives de contrefaçons photoréalistes, et cela peut affecter non seulement la désinformation et la propagande politique, mais aussi notre conception du dossier historique comme de grandes quantités de faux artefacts médiatiques. entrer en circulation.
Pour tenter de contrer certaines de ces tendances, le géant de la recherche introduira de nouvelles fonctionnalités dans son produit de recherche d’images “dans les mois à venir”, selon Google :
Selon une étude Poynter de 2022, 62 % des personnes pensent rencontrer de la désinformation quotidiennement ou hebdomadairement. C’est pourquoi nous continuons à créer des outils et des fonctionnalités faciles à utiliser sur la recherche Google pour vous aider à repérer les informations erronées en ligne, à évaluer rapidement le contenu et à mieux comprendre le contexte de ce que vous voyez. Mais nous savons aussi qu’il est tout aussi important d’évaluer le contenu visuel que vous rencontrez.
La première fonctionnalité, “À propos de cette image”, permettra aux utilisateurs de cliquer sur trois points sur une image dans les résultats de Google Images, de rechercher une image ou une capture d’écran dans Google Lens, ou de balayer vers le haut dans l’application Google pour en savoir plus sur l’historique d’une image, y compris le moment où l’image (ou des images similaires) a été indexée pour la première fois par Google, où l’image a pu apparaître pour la première fois et où l’image a été vue en ligne (c’est-à-dire, des sites d’actualités, sociaux ou de vérification des faits).
Plus tard cette année, Google indique qu’il permettra également aux utilisateurs d’accéder à cet outil en cliquant avec le bouton droit ou en appuyant longuement sur une image dans Chrome sur ordinateur et mobile.
Publicité
Ce contexte supplémentaire sur une image peut aider à déterminer sa fiabilité ou indiquer si elle mérite un examen plus approfondi. Par exemple, en utilisant la fonction “À propos de cette image”, les utilisateurs ont pu découvrir qu’une image illustrant un alunissage fabriqué a été signalée par les médias comme étant générée par l’IA. Cela pourrait également la placer dans un contexte historique : cette image existait-elle dans le dossier de recherche avant que l’impulsion pour la simuler ne se produise ?
Agrandir / Un exemple d’une personne utilisant “À propos de cette image” pour obtenir du contexte sur une image via la recherche Google.
La deuxième fonctionnalité concerne l’utilisation croissante des outils d’IA dans la création d’images. Alors que Google commence à déployer des outils de synthèse d’images, il prévoit d’étiqueter toutes les images générées par ses outils d’IA avec un “balisage” spécial ou des métadonnées, stockées dans chaque fichier qui indique clairement ses origines d’IA.
Et troisièmement, Google dit qu’il collabore également avec d’autres plates-formes et services pour les encourager à ajouter des étiquettes similaires à leurs images générées par l’IA. Midjourney et Shutterstock ont adhéré à l’initiative ; chacun intégrera des métadonnées dans ses images générées par l’IA que Google Image Search lira et affichera aux utilisateurs dans les résultats de recherche.
Agrandir / Un exemple de ce à quoi ressembleront les annotations d’images générées avec l’IA, selon Google.
Ces efforts ne sont peut-être pas parfaits puisque les métadonnées peuvent ensuite être supprimées ou potentiellement modifiées, mais ils représentent une tentative notable de grande envergure pour affronter le problème des deepfakes en ligne.
Au fur et à mesure que de plus en plus d’images sont générées ou augmentées par l’IA au fil du temps, nous pourrions constater que la frontière entre “vrai” et “faux” commence à s’estomper, influencée par l’évolution des normes culturelles. À ce stade, notre décision quant à l’information à laquelle nous fier comme un reflet fidèle de la réalité (indépendamment de la façon dont elle a été créée) peut dépendre, comme cela a toujours été le cas, de notre foi en la source. Ainsi, même au milieu d’une évolution technologique rapide, la crédibilité d’une source reste primordiale. En attendant, des solutions technologiques comme celles de Google peuvent nous aider à évaluer cette crédibilité.
