Quand Aparna Pappu, vice-présidente et directrice générale de Google Workspace, a pris la parole à Google I/O le 10 mai, elle a présenté une vision de l’intelligence artificielle qui aide les utilisateurs à parcourir leur boîte de réception. Pappu a montré comment l’IA générative peut chuchoter à votre oreille des résumés de longs fils de discussion, extraire des données pertinentes de fichiers locaux pendant que vous salez ensemble à travers des messages non lus et vous plonger au sol en suggérant un texte insérable. Bienvenue dans la boîte de réception du futur.
Bien que les détails de son arrivée restent flous, l’IA générative est sur le point de modifier fondamentalement la façon dont les gens communiquent par e-mail. Un sous-ensemble plus large d’IA, appelé apprentissage automatique, effectue déjà une sorte de danse de la sécurité longtemps après votre déconnexion. “L’apprentissage automatique a été un élément essentiel de ce que nous avons utilisé pour sécuriser Gmail”, a déclaré Pappu à WIRED.
Quelques clics errants sur un e-mail suspect peuvent faire des ravages sur votre sécurité, alors comment l’apprentissage automatique aide-t-il à détourner les attaques de phishing ? Neil Kumaran, chef de produit chez Google qui se concentre sur la sécurité, explique que l’apprentissage automatique peut examiner la formulation des e-mails entrants et la comparer aux attaques passées. Il peut également signaler des modèles de message inhabituels et détecter toute bizarrerie émanant des métadonnées.
L’apprentissage automatique peut faire plus que simplement signaler les messages dangereux lorsqu’ils apparaissent. Kumaran souligne qu’il peut également être utilisé pour suivre les personnes responsables d’attaques de phishing. Il dit : « Au moment de la création du compte, nous faisons des évaluations. Nous essayons de déterminer : “Ce compte semble-t-il être utilisé à des fins malveillantes ?” » En cas d’attaque de phishing réussie sur votre compte Google, l’IA est également impliquée dans le processus de récupération. L’entreprise utilise l’apprentissage automatique pour décider quelles tentatives de connexion sont légitimes.
“Comment pouvons-nous extrapoler les renseignements à partir des rapports des utilisateurs pour identifier les attaques dont nous ne sommes peut-être pas au courant, ou au moins commencer à modéliser l’impact sur nos utilisateurs ?” demande Kumaran. La réponse de Google, comme la réponse à de nombreuses questions en 2023, c’est plutôt l’IA. Cette instance d’IA n’est pas un chatbot séduisant qui vous taquine avec de longs échanges tard dans la nuit ; c’est un videur costaud qui donne un coup de pied aux agitateurs avec ses bras algorithmiques croisés.
À l’inverse, qu’est-ce qui déclenche encore plus d’attaques de phishing sur votre boîte de réception ? Je vais vous donner une hypothèse. Première lettre “A”, dernière lettre “I”. Pendant des années, les experts en sécurité ont mis en garde contre le risque que les attaques de phishing générées par l’IA submergent votre boîte de réception. “Il est très, très difficile de détecter l’IA à l’œil nu, que ce soit via le dialecte ou via l’URL”, déclare Patrick Harr, PDG de SlashNext, une société de sécurité de messagerie. Tout comme lorsque les gens utilisent des images et des vidéos générées par l’IA pour créer des deepfakes assez convaincants, les attaquants peuvent utiliser du texte généré par l’IA pour personnaliser les tentatives de phishing d’une manière difficile à détecter pour les utilisateurs.
Plusieurs entreprises axées sur la sécurité des e-mails travaillent sur des modèles et utilisent des techniques d’apprentissage automatique dans le but de protéger davantage votre boîte de réception. « Nous prenons le corpus de données qui nous parvient et faisons ce qu’on appelle un apprentissage supervisé », explique Hatem Naguib, PDG de Barracuda Networks, une société de sécurité informatique. Dans l’apprentissage supervisé, quelqu’un ajoute des étiquettes à une partie des données de l’e-mail. Quels messages sont susceptibles d’être sûrs ? Lesquels sont suspects ? Ces données sont extrapolées pour aider une entreprise à signaler les attaques de phishing grâce à l’apprentissage automatique.
C’est un aspect précieux de la détection du phishing, mais les attaquants restent à l’affût des moyens de contourner les protections. Une escroquerie persistante à propos d’un cadeau inventé Yeti Cooler a échappé aux filtres l’année dernière avec un type inattendu d’ancrage HTML.
Les cybercriminels resteront déterminés à pirater vos comptes en ligne, en particulier votre messagerie professionnelle. Ceux qui utilisent l’IA générative peuvent être en mesure de mieux traduire leurs attaques de phishing en plusieurs langues, et les applications de type chatbot peuvent automatiser certaines parties des messages de va-et-vient avec les victimes potentielles.
Malgré toutes les attaques de phishing possibles permises par l’IA, Aparna Pappu reste optimiste quant au développement continu de protections de sécurité meilleures et plus raffinées. “Vous avez réduit le coût de ce qu’il faut pour potentiellement attirer quelqu’un”, dit-elle. “Mais, d’un autre côté, nous avons développé de plus grandes capacités de détection grâce à ces technologies.”
