Benj Edwards/Snap, Inc.
Lundi, Snapchat a annoncé un chatbot conversationnel expérimental alimenté par l’IA appelé “My AI”, alimenté par la technologie de type ChatGPT d’OpenAI. Mon IA sera disponible pour 3,99 $ par mois pour les abonnés Snapchat + et se déploie “cette semaine”, selon un article de presse de Snap, Inc.
Les utilisateurs pourront personnaliser le bot AI en lui donnant un nom personnalisé. Les conversations avec le modèle d’IA se dérouleront dans une interface similaire à une conversation régulière avec un humain. “La grande idée est qu’en plus de parler à nos amis et à notre famille tous les jours, nous allons parler à l’IA tous les jours”, a déclaré le PDG de Snap, Evan Spiegel, à The Verge.
Mais comme ses cousins alimentés par GPT, ChatGPT et Bing Chat, Snap dit que My AI est sujette aux “hallucinations”, qui sont des mensonges inattendus générés par un modèle d’IA. Sur ce point, Snap inclut un avertissement assez long dans son article d’annonce My AI :
“Comme avec tous les chatbots alimentés par l’IA, Mon IA est sujette aux hallucinations et peut être amenée à dire à peu près n’importe quoi. Soyez conscient de ses nombreuses lacunes et désolé d’avance ! Toutes les conversations avec Mon IA seront stockées et pourront être examinées pour améliorer l’expérience du produit. S’il vous plaît, ne partagez aucun secret avec My AI et ne comptez pas sur elle pour obtenir des conseils.”
Parmi les chercheurs en apprentissage automatique, “hallucination” est un terme qui décrit le moment où un modèle d’IA fait des inférences inexactes sur un sujet ou une situation qui n’est pas couvert dans son ensemble de données de formation. C’est un inconvénient bien connu des grands modèles de langage actuels tels que ChatGPT, qui peuvent facilement inventer des faussetés convaincantes, telles que des articles universitaires qui n’existent pas et des biographies inexactes.
Publicité
Malgré la forte clause de non-responsabilité de Snap concernant la tendance de My AI à inventer des choses, la société affirme que son nouveau bot Snapchat sera épinglé au-dessus des conversations avec des amis dans son propre onglet dans l’application Snapchat et “recommandera des idées de cadeaux d’anniversaire pour votre BFF, planifiera un voyage de randonnée pour un long week-end, suggérez une recette pour le dîner, ou même écrivez un haïku sur le fromage pour votre copain obsédé par le cheddar.”
Snap ne réconcilie pas la façon dont le même bot qui ne peut pas être “rel[ied] pour obtenir des conseils” peut également planifier un “voyage de randonnée pour un long week-end” précis et sûr. Les détracteurs du déploiement galopant de l’IA générative se sont emparés de ce type de dissonance pour montrer que peut-être ces chatbots ne sont pas prêts pour une utilisation généralisée, surtout lorsque présenté comme une référence.
Alors que les gens ont tenté de contourner les solutions de contournement de ChatGPT et de Bing Chat, Snap aurait entraîné son modèle GPT à ne pas discuter de sexe, de jurons, de violence ou d’opinions politiques. Ces restrictions peuvent être particulièrement nécessaires pour éviter le comportement déséquilibré que nous avons vu avec Bing Chat il y a quelques semaines.
Et doublement, car “Mon IA” peut avoir quelque chose de puissant sous le capot : le grand modèle de langage de nouvelle génération d’OpenAI. Selon The Verge, Snap utilise un nouveau plan d’entreprise OpenAI appelé “Foundry” qu’OpenAI a discrètement déployé plus tôt ce mois-ci. Il offre aux entreprises un accès cloud dédié aux modèles GPT-3.5 et “DV” d’OpenAI. Plusieurs experts en intelligence artificielle ont émis l’hypothèse que « DV » pourrait être équivalent à GPT-4, la suite supposée puissante de GPT-3.
En d’autres termes, les “hallucinations” mentionnées par Snap dans son communiqué de presse peuvent arriver plus rapidement et être plus détaillées que ChatGPT. Et compte tenu de la nature très convaincante des autres modèles GPT, les gens peuvent simplement y croire, malgré les avertissements. C’est quelque chose à surveiller dans les mois à venir alors que de nouveaux services commerciaux alimentés par GPT seront mis en ligne.
